L'integrale è in $dt$, quindi x va considerato come una costante. Cosa faresti se al suo posto ci fosse un numero?
- Indicando i metri con m e i centimetri con cm, si ha m=100 cm. Quindi 5 centimetri equivalgono a metri m=100*5=500.
- E' disonesto che un disonesto si comporti in modo onesto (R. Powell)
Quindi $sin(tx)$ è una primitiva di $xcos(tx)$ e questo dovrebbe risolvere il tuo problema, essendo l'integrale indefinito l'insieme delle primitive della funzione.
L'errore tuo iniziale era un classico
$int cos(tx) = -sin (tx)$ cioè hai fatto una "specie" di derivata (più che non c'era la costante additiva, e non era derivato l'argomento).