Un rettangolo ha 4 lati i quali però sono uguali a due a due quindi le incognite sono solo 2.
L'area del rettangolo si calcola moltiplicando un lato per l'altro ovvero nel nostro caso, chiamando un lato $a$ e l'altro $b$, abbiamo $36=a xx b$ da cui si ricava, simbolicamente, un lato dall'altro ovvero, per esempio, $a=36/b$.
Il perimetro non è che la somma delle lunghezze dei lati quindi, nel tuo caso, abbiamo $25=a+b+a+b=2(a+b)$
Ora, avendo ricavato $a$ dalla formula dell'area, la sostituiamo nella formula del perimetro, così $25=2(36/b+b)$.
Questa è un'equazione di secondo grado (anche se non ti sembra, lo è) che si risolve con il metodo usuale.