Dein Fehler liegt darin, dass du die Varianz nicht nur mit \(\mathbb{E}(X^2)\) bestimmst. Es gilt:
\(Var(X)=\mathbb{V}(X)=\mathbb{E}(X^2)-(\mathbb{E}(X))^2\neq \mathbb{E}(X^2)\).
Der Erwartungswert der Exponentialverteilung ist \(\mathbb{E}(X)=\dfrac{1}{\lambda}\).
Du erhälst für deine Rechnung durch zweimalige partielle Integration:
\(\displaystyle{\int_0^{\infty} x^2\cdot \lambda^{-\lambda x} dx =\underset{=0}{\underbrace{\left[x^2\cdot \left(-e^{-\lambda x}\right)\right]_0^{\infty}}} -\int_0^{\infty} 2x\cdot \left(-e^{-\lambda x}\right) dx=\int_0^{\infty} 2x\cdot e^{-\lambda x} dx=\underset{=0}{\underbrace{\left[2x\cdot \left(-\dfrac{1}{\lambda} e^{-\lambda x}\right)\right]_0^{\infty}}} -\int_0^{\infty} 2\cdot \left(-\dfrac{1}{\lambda} e^{-\lambda x}\right) dx=\int_0^{\infty} \dfrac{2}{\lambda} e^{-\lambda x} dx =\ldots =\dfrac{2}{\lambda^2}}\)

Ich würde dir empfehlen auf die Notation zu achten, also berechne die Wert in den eckigen Klammern separat und vergiss das \(dx\) am Ende des Integrals nicht ;)

Wenn du nun noch den Erwartungswert \(\mathbb{E}(X)=\dfrac{1}{\lambda}\) einer exponentialverteilten Zufallsvariable \(X\) mit hinzuziehst, erhälst du ein dein gewünschtes Ergebnis durch:
\(Var(X)=\mathbb{E}(X^2)-(\mathbb{E}(X))^2=\dfrac{2}{\lambda^2}- \left(\dfrac{1}{\lambda}\right)^2=\boxed{\dfrac{1}{\lambda^2}}\)


Hoffe das hilft weiter.