Was auch immer du zeigen sollst, die Gleichung, die du hier gepostet hast, ist falsch. Wähle $z=i$. Dann ist $z^2=i^2=-1\neq \overline{z}=-i$.

So wie Du rechnest, willst Du die Gleichung lösen. Das passt aber nicht zu der von Dir genannten Aufgabenstellung (genauer: das ist sprachliches Durcheinander - es ist immer besser die Aufgabenstellung im Original zu posten (wenn Du uns die Arbeit erleichtern willst und damit schneller passende Hilfe bekommen willst).
Deine Umformung sind soweit richtig. Nun beachte: Zwei komplexe Zahlen sind genau dann gleich, wenn Realteil und Imaginärteil jeweils übereinstimmen. Das liefert Dir zwei Gleichungen mit zwei Unbekannten, dieses System ist zu lösen.