Ich würde so vorgehen: Sei \(R\) der gesuchte Spiegelungspunkt auf \(E\).  Setze \[v=\begin{pmatrix}5\\-2\\3\end{pmatrix}.\] Dann haben wir \(E=\{u\in\mathbb{R}^3|\langle u,v\rangle=23\}\) und \(v\) ist ein Normalenvektor von \(E\) (\(\langle\cdot,\cdot\rangle\) ist das Skalarprodukt).  Sei weiter \(S\) die Spiegelung von \(Q\) an \(E\).  Dann gibt es \(\alpha\in\mathbb{R}\), so dass die folgenden Gleichungen gelten (warum?): \(Q-S=\alpha v\), \(\left\langle\frac12(Q+S),v\right\rangle=23\).  Daraus kannst Du \(S\) und schließlich \(R\) berechnen (wie?).
Hilft das?