Man hat als Ziel, im Nenner irgendwie auf \(u^2+1\) zu kommen, also wählt man \(u\) so, dass man vorher auf \(9u^2\) kommt, um im Nenner die \(9\) auszuklammern. Wir wollen also \((x-2)^2=9u^2\) und das liefert uns \(u=\frac{x-2}{3}\) (nach Division durch 9 und Wurzelziehen). 

Zur Substitution allgemein: Häufig testet man auch einfach verschiedene Substitutionen und schau, was funktioniert und was nicht. Wenn man allerdings weiß, wo man hin möchte, kann man sehr gut rückwärts rechnen, wie ich es hier gerade skizziert habe. 

Du möchtest dahin im Integral den Bruch \(\dfrac{1}{u^2+1}\) zu erhalten weil davon der \(\arctan\) die Stammfunktion ist. Du schreibst also wie folgt um: 

\(\dfrac{1}{(x-2)^2+9}=\dfrac{1}{9\cdot \left(\frac{(x-2)^2}{9}+1\right)}=\dfrac{1}{9} \cdot \dfrac{1}{\frac{(x-2)^2}{3^2}+1}=\dfrac{1}{9}\cdot \dfrac{1}{\left(\frac{x-2}{3}\right)^2+1}\)

Nun kannst du \(u=\dfrac{x-2}{3}\) substituieren und kommst auf den gewünschten Bruch, welcher die Ableitung der Arcustangensfunktion ist. Das \(\dfrac{1}{9}\) zieht man lediglich vor das Integral und es kürzt sich mit der 3 aus der Substitution zu \(\dfrac{1}{3}\) weg. 

Hoffe das hilft weiter.