Ciao! Dunque dato $G=ZZ_4 xx ZZ_4$ un omomorfismo $G to G$ ha la forma
$f(n,m) = (a(n,m),b(n,m))$
e si vede facilmente che $a(n,m)=na(1,0)+ma(0,1)$ e $b(n,m)=nb(1,0)+mb(0,1)$ quindi in realtà l'anello degli endomorfismi di $G$ (è un anello con somma e composizione) è isomorfo all'anello delle matrici $2 xx 2$ a coefficienti in $ZZ//4ZZ$.
Ora è chiaro che \( \displaystyle Aut(G) = U(End(G)) \) (dove $U$ indica "il gruppo moltiplicativo degli elementi invertibili di"). Quindi $Aut(G)$ è il gruppo delle matrici $2 xx 2$ invertibili a coefficienti in $ZZ//4ZZ$. Chiaro che in questo contesto invertibili significa che ammette matrice inversa a coefficienti in $ZZ//4ZZ$ e si vede facilmente che questo significa che il determinante dev'essere invertibile, cioè $1$ o $-1$ (non può essere $2$ perché $2$ non è invertibile in $ZZ//4ZZ$).
Uno potrebbe voler calcolarne l'ordine, esiste un sottogruppo normale di ordine 16 interessante, il nucleo della riduzione modulo 2, e una volta ridotto hai una matrice di $GL(2,2)$ che ha 6 elementi quindi $Aut(ZZ_4 xx ZZ_4)$ ha ordine $16*6 = 96$.
Ora sono sicuro che il caso generale che proponi si può fare generalizzando questi concetti, e so che ne avevamo parlato
qui ma al momento non riesco a risponderti completamente.
Le persone che le persone che le persone amano amano amano.