In generale, se hai un gruppo \(G\) che agisce su uno spazio geometrico \(M\) (un insieme con qualche struttura: topologica, differenziabile, Riemanniana ... ) allora la formula di cui sopra definisce una rappresentazione di \(G\) come gruppo di operatori lineari sullo spazio delle funzioni \(f\colon M\to \mathbb C\). Se \(M\) non è un insieme finito allora uno non considera tutto lo spazio di funzioni ma qualche sottospazio con delle proprietà aggiuntive, come ad esempio lo spazio delle funzioni a quadrato integrabile (ovvero, tali che \(\int_M |f(x)|^2\, dV(x)<\infty\) - questo richiede che su \(M\) sia definita una nozione di integrale).
Questa rappresentazione si può usare per dare un significato geometrico alle funzioni speciali della fisica matematica. È un argomento affascinante che non ho mai usato e che mi piacerebbe trovare l'occasione di studiare. Se ne hai voglia, dai un'occhiata a questo link:
http://math.stackexchange.com/q/1163032/8157per un aperitivo.