Infatti devi risolverlo in polari, alla fine sono un po' di conti brutti che con pazienza si fanno.
Con le polari centrate in zero ottieni infatti che l'insieme d'integrazione diventa $\Omega=\{-\pi/2 \le\theta \le \pi/2 , 0\le \rho \le 2\sqrt{2} \sin2\theta\}$ e l'integrale diventa $\int_\Omega \rho^3(\cos \theta - \sin\theta}d\rho d\theta$ , integrando per forza prima rispetto a $\rho$ arrivi all'integrale $\int_{-\pi/2}^{\pi/2} 2^4 (\cos\theta-\sin\theta)\sin^4\theta d\theta=\int_{-\pi/2}^{\pi/2} 2^4 \cos\theta\sin^4\theta d\theta-\int_{-\pi/2}^{\pi/2} 2^4 \sin^5\theta d\theta$ essendo il seno una funzione dispari , allora è dispari anche ogni sua potenza dispari, ed essendo l'integrale simmetrico rispetto all'origine, hai che il secondo integrale vale zero. Ti resta da risolvere il primo integrale, ma basta ricordare che $\sin^2\theta=1-\cos^2\theta$ e otterrai che l'integrale diventa la somma di 3 integrali di potenze del coseno, che con calma ti risolvi, o vai a guardare sulle tabelle, inoltre il coseno è pari quindi volendo puoi fare solo l'integrale fra zero e pi greco mezzi e moltiplicare per due l'integrale. Spero di esserti stato utile
"In matematica non si capiscono le cose. Semplicemente ci si abitua ad esse."
[John von Neumann]