Esistono interi corsi universitari e manuali che cercano di rispondere alla tua domanda. Un post su un forum è certamente non sufficiente per fornire una risposta sufficiente. In linea di massima ti scrivi l'equazione di ricorrenza e usi uno dei vari metodi esistenti per risolvere tale equazione. Se l'equazione di ricorrenza è risolvibile tramite il
Teorema principale/Master theorem sei fortunatə. In caso contrario puoi più che altro basarti sull'esperienza su quale sia la strategia migliore (ci sono tecniche più avanzate e qualcuna abbastanza generica ma non credo facciano parte del tuo corso).
Il modo migliore per imparare è probabilmente provare a calcolare la complessità temporale e spaziale di diversi algoritmi.