Zu a)

Du kannst dir ja überlegen wie sich die Oberfläche des Quaders zusammensetzt. Diese setzt sich aus 2 mal der Grundfläche und den 4 Seitenflächen zusammen. Da die Grundfläche quadratisch ist sind die Seitenflächen gleich groß. Es gilt:

O = 2a^2 +4*a*h = 10 ==> h(a) = (10 - 2a^2)/(4a)

Zu b)

Es gilt allgemein für Volumen von Quadern V = a*b*h. Hier ist a=b. Daher
V= a^2*h(a)= a^2 * (10 - 2a^2)/(4a) = (10a - 2a^3)/4

Nun musst du den Hochpunkt bestimmen, also V(a) nach a ableiten und die Nullstelle bestimmen (notwendige Bedingung). Dann die hinreichende Bedingung überprüfen (VZW oder zweite Ableitung).

Zu c)
negative a sind logischerweise nicht möglich. Zudem musst du die Nullstelle von h(a) ermitteln, um eine Obergrenze für a zu finden (wenn h positiv und a positiv ist das Volumen positiv).