Immer im Auge behalten, was gesucht ist. Nennen wir das gesuchte Integral mal \(I\), dann steht da: \(I=-\cos x\sin nx +n\sin x\cos nx +n^2\cdot I\). Umstellen nach \(I\) bringt das gewünschte. Das ist meist der Trick beim zweimaligen partiellen Integrieren....

Beim zweiten sind ja nur die Grenzen eingesetzt worden.

Du bringst das Integral bei der partiellen Integration auf die rechte Seite (zweite Zeile). Dann hast du dort \(1-n^2\) mal das Integral stehen. Dann dividierst du durch \(1-n^2\), so dass du für das Integral die Gleichung hast. Rechts hast du ja nun kein Integral mehr. Nun erweiterst du den Bruch, der dadurch entsteht mit \(-1\), so dass du im Nenner dann \(n^2-1\) stehen hast.

Am Ende setzt du dir Grenzen in das Integral ein. Da fällt einiges weg, denn \(\cos(\frac{\pi}{2})=0\) und \(\sin(\frac{\pi}{2})\). Für die Grenze 0 kommt 0 raus, da \(\sin(0)=0\). 

Hilft dir das so schon weiter?