Simple gradient descent

[peppepegasus]

ciao,

sto cercando un codice fortran che implementi il Simple gradient descent per la risoluzione di un problema di minimizzazione. Ho riportato la stessa denominazione usata nell'articolo che sto studiando.
spero qualcuno mi possa aiutare e segnalare qualcosa.
grazie.

[hamming_burst]

ciao,
non conosco questa denominazione "Simple gradient descent", ma ho guardato su internet a me ricorda un algoritmo o modello di risoluzione con un altro nome.
Potresti dirmi che articolo stai leggendo.

[peppepegasus]

ciao,

si tratta di un articolo che ha che fare con la svd applicata ai sistemi di raccomandazione.
l'articolo in cui è citato è presente al seguente link:
http://public.research.att.com/~volinsk ... 8koren.pdf
non so se è equivalente al metodo del gradiente discendete e/o si tratta di una variante o cosa.
se mi riesci ad aiutare te ne sono grato.
ciao.

[hamming_burst]

ok, appena ho un attimo gli do una occhiata.
forse è solo un'impressione per la terminologia utilizzata, devo rivedere dei vecchi appunti, ma ti saprò dire

[Deckard]

Hanno semplicemente leggermente modificato la classica discesa del gradiente; non ho letto l'articolo, ma questo pezzo dovrebbe essere abbastanza chiarificatore:

we have found that the following simple gradient descent solver works much faster. [...] we modify the parameters by moving in the opposite direction of the gradient, yielding: [...]

[hamming_burst]

In merito alla terminlogia "gradient descent" a cui mi ricordava un algoritmo, ecco ho trovato la corrispondenza:
- Best Improvement (aka gradient descent, greedy hill-climbing)

questa tecnica viene utilizzita nella scelta del pivoting degli algoritmi Iterative (Best) Improvement e compagnia.

[Deckard]

In merito alla terminlogia "gradient descent" a cui mi ricordava un algoritmo, ecco ho trovato la corrispondenza:
- Best Improvement (aka gradient descent, greedy hill-climbing)

questa tecnica viene utilizzita nella scelta del pivoting degli algoritmi Iterative (Best) Improvement e compagnia.

Non so se stiamo dicendo la stessa cosa (il termine pivoting mi ricorda troppo il simplesso), ma la discesa del gradiente è un algoritmo di ottimizzazione iterativo per funzioni non lineari (altrimenti a che servirebbe?) non vincolate che utilizza solo le derivate parziali al primo ordine (il vettore gradiente appunto) per determinare lo spostamento dal punto attuale a quello successivo alla ricerca di un minimo.

[hamming_burst]

Non so se stiamo dicendo la stessa cosa (il termine pivoting mi ricorda troppo il simplesso), ma la discesa del gradiente è un algoritmo di ottimizzazione iterativo per funzioni non lineari (altrimenti a che servirebbe?) non vincolate che utilizza solo le derivate parziali al primo ordine (il vettore gradiente appunto) per determinare lo spostamento dal punto attuale a quello successivo alla ricerca di un minimo.

allora se mi dici questo, il nome è solo "simile". Il Best improvement serve per scegliere in modo randomizzato i vicini migliori in un punto nella ricerca locale, da questo greedy.
Il terminre Pivoting deriva dal fatto dello "scambio" del punto attuale con un suo vicino "migliore".

comunque ti ringrazio molto della "smentita"