È chiaro dalla figura che l'angolo $theta$ può soltanto variare da $0$ a $\pi$ , essendo appunto il vincolo unilatero, non può assumere valori superiori a $\pi$ oppure negativi, visto come sono orientati gli assi. Ti rendi conto?
non sto riuscendo a capire come fa ad arrivare alle coordinate del baricentro dell'asta OA
La densità dell'asta non è costante rispetto alla lunghezza, varia da $0$ nell'estremo O a $m/l$ nell'estremo A . Perciò , la massa totale si ottiene sommando (ovvero, integrando) tutte le masse elementari $dm = \rho*ds = (ms)/l^2ds $ da $0$ a $2l$ , poiché $OA = 2l$ . E così si ottiene la massa dell'asta OA .
Per trovare il baricentro, si deve calcolare il momento statico di tutte le masse elementari rispetto ad $O$ , che vale l'integrale di questa roba : $s*dm = (ms*s)/l^2*ds$ , esteso da $0$ a $2l$ , e dividere il risultato dell'integrale per la massa totale $2m$ prima calcolata :
$OG = (\int_0^(2l) (ms^2)/l^2 ds )/(2m) = 4/3l $
questo perché l'asta non è omogenea, appunto.
Così si fa in generale : "coordinata baricentro = momento statico / massa".Questa è geometria delle masse.
Certo, $cos \theta = 0$ per $\theta = +-\pi/2$ , ma ho chiarito che per il vincolo unilatero il valore $-\pi/2$ non devi considerarlo. Quindi devi prendere solo $\theta = \pi/2$ .
Infine, dalla (2) , che è la derivata di $U$ rispetto a $\theta$ , hai che ci sono soluzioni anche per : $(\lambda - sen\theta) = 0$ .
Quindi, fermo restando che deve essere $\lambda <=1$ perché altrimenti non può essere uguale a $sen\theta$ , i due valori $\theta_2$ e $\theta_3$ sono supplementari : dato un valore del seno , in questo caso positivo per il vincolo unilatero, ci sono
due angoli tra loro supplementari che hanno quel valore come seno.