[Risolto][Formula]Square Nonlinearity

[TommyB1992]

Qualcuno mi spiega la SQNL con derivativa per favore?



Ipotizzando che passiamo alla funzione il valore di $f'(50)$, che valore otteniamo? Quel "più o meno" mi mette in difficoltà.

Grazie

[anto_zoolander]

Non è una funzione quella

[TommyB1992]

"...The following table compares the properties of several activation functions that are functions of one fold x from the previous layer or layers:..."

Comunque tralasciando, quale risultato dovrebbe restituire?

[anto_zoolander]

Una funzione associa un unico valore, non due.

Ad ogni modo devi calcolare $f(50)$ o $f’(50)$? Nel primo caso si dovrebbe integrare e otterresti comunque qualcosa che dipende da una costante arbitraria. Nel secondo caso otterresti $1pm25$ ossia $26$ e $-24$

[TommyB1992]

Una funzione associa un unico valore, non due.

Ad ogni modo devi calcolare $f(50)$ o $f’(50)$? Nel primo caso si dovrebbe integrare e otterresti comunque qualcosa che dipende da una costante arbitraria. Nel secondo caso otterresti $1pm25$ ossia $26$ e $-24$

$f’(50)$ è la derivativa, comunque $f’(50)$
Nel primo post ho scritto $f(50)$ perchè non sono stato attento, ora modifico.

Mi sembra strano che sia un "più o meno ($pm$)" (ed è il motivo per cui ho postato qua, perchè teoricamente non è possibile ottenere due valori distinti come risposta in una rete neurale, non da un neurone singolo dell'hidden layer per lo meno).

Se può essere d'aiuto: https://en.wikipedia.org/wiki/Activatio ... te_note-19

[anto_zoolander]

Non ne capisco niente di reti neurali, però sicuramente concordo sul fatto che “funzione” e “due valori distinti” non possano stare nella stessa fase. Da dove hai preso quella “legge”?

[TommyB1992]

Non ne capisco niente di reti neurali, però sicuramente concordo sul fatto che “funzione” e “due valori distinti” non possano stare nella stessa fase. Da dove hai preso quella “legge”?

Ho postato il link a wikipedia, nella tabella in fondo alla riga 14 in corrispondenza del nome "Square Nonlinearity (SQNL)".
Grazie

[Bokonon]

$f^'(50)=0$
Tommy, rileggi la funzione indicatrice associata alla f(x).

[TommyB1992]

lol mi sto un pò vergognando...

Risolto, grazie