Im Prinzip gehst du ja in der Summe von dem Unteren Wert der Summe, bis zum oberen Wert der Summe alle Zahlen einmal durch.

In diesem Fall musst du eben für jede Zahl der äußeren Summe (also jeden verschiedenen Wert von i) die komplette innere Summe (also j von 0 bis i) durchgehen,

Für 2) wäre das folgendermaßen:

i = 0; j = 0:        (0 + 2*0)² = 0    (da j nur von 0 bis i geht, und i bereits 0 ist, gibt es für den Wert i = 0 nur einen Schritt)
i = 1; j = 0;        (1 + 2*0)² = 1   
i = 1; j = 1;        (1 + 2*1)² = 9
i = 2; j = 0         (2 + 2*0)² = 4
i = 2; j = 1         (2 + 2*1)² = 16
i = 2; j = 2         (2 + 2*2)² = 36
So, damit hast du alle Schritte der Summen errechnet. Da es eine "Summe" ist, werden nun alle errechneten Werte aufsummiert:
Ergibt also am Ende:           66

Hoffentlich hast du die Erklärung soweit verstanden. Damit solltest du dann Aufgabe 3) selbst lösen können.
Falls du noch Fragen hast, sag Bescheid 

Hallo,

anbei ersteinmal ein paar Videos dazu. Falls du danach immer noch nicht weiterkommst, kannst du gerne nochmal schreiben, dann helfen wir dir.

VG

Feynman