@mathe24
Bist du dir bei deinem Ansatz wirklich sicher, dass das nicht vielleicht auf eine Kreisgleichung hinausläuft.
Ich sehe nicht, dass du bei deiner Zeichnung die geforderte Spiegeleigenschaft berücksichtigt hättest. Es müsste doch \(\alpha = 180^\circ-2\cdot\beta\) sein!

Die DGL von mathe24 ist zwar richtig, hat aber eine ziemlich unschöne Form. Man kann sich die DGL etwas leichter herleiten: Man kann zeigen, dass das Dreieck zwischen ausfallendem Lichtstrahl und der Tangente gleichschenklig ist mit der Schenkellänge $\sqrt{x^2+y^2}$. Wenn man den Einfallswinkel und Ausfallwinkel mit $\alpha$ bezeichnet, kann man außerdem sehen, dass der Steigungswinkel der Tangente $180^\circ-\alpha$ beträgt. Durch die Gleichschenkligkeit des oben genannten Dreiecks lässt sich zeigen, dass $\tan(\alpha)=\frac{y}{\sqrt{x^2+y^2}-x}$ ist (man zeichne einfach das passende rechtwinklige Dreieck ein). Damit ergibt sich für die DGL dann $$y'=\tan(180^\circ-\alpha)=\tan(-\alpha)=-\tan(\alpha)=\dots$$