Complimenti, sono sostanzialmente equivalenti alle soluzioni che avevo pensato io, solo che ho risolto i sistemi a mano.
Per il quadrato, se sommo i valori della funzione nei vertici dei quattro quadratini (per brevità indico $f(a)$ semplicemente con $a$):
$(a+h+x+e)+(h+d+g+x)+(g+c+f+x)+(b+e+x+f)=0$
$(a+b+c+d) + 2(e+f+g+h) + 4x = 0$
ed essendo $abcd$ ed $efgh$ dei quadrati, resta $x=0$.
Analogamente per il triangolo equilatero, se si sommano i valori in tutti i vertici dei triangolini, ciascun vertice dell'esagono viene sommato 2 volte, mentre il centro 6 volte.
Idea per il caso generale (non dimostrazione):
Testo nascosto, fai click qui per vederlo
Per l'esagono regolare basta fare un'apposita figura e si ottiene la stessa conclusione.
Triangolo, quadrato ed esagono regolare sono casi particolari, perché sono gli unici poligoni regolari con i quali è possibile piastrellare un pavimento piano. Penso che per altri poligoni regolari potrebbe non essere vero che la funzione risulti ovunque nulla.
Ovviamente se si aggiungono altre ipotesi, per esempio la continuità, oppure funzione nulla su un pentagono qualsiasi, allora diventa banale concludere che la funzione deve essere nulla.
La fonte non la so, la parte del quadrato mi è stata proposta da un amico, che probabilmente lo ha letto su qualche altro forum. L'estensione ad altri poligoni è stata una mia curiosità.