In questo messaggio tenterò un approccio leggermente diverso, però richiede la conoscenza dei limiti di funzioni in due variabili. Sono pressoché sicuro che il metodo funziona, d'altra parte dovrò assumere una condizione aggiuntiva a cui non riesco a rinunciare (purtroppo).
Sia $s:I\to\mathbb{R}$ una funzione derivabile due volte in $t_0$ interno all'intervallo $I$. Per definizione di derivata seconda, esiste finito il limite
$\lim_{\Delta t'\to 0}\frac{s'(t_0+\Delta t')-s'(t_0)}{\Delta t'}=s''(t_0)$
In accordo con la definizione di derivata prima, esistono finiti i seguenti limiti:
$s'(t_0+\Delta t')=\lim_{\Delta t\to 0}\frac{s(t_0+\Delta t'+\Delta t)-s(t_0+\Delta t')}{\Delta t}$ per ogni $\Delta t'$ sufficientemente piccolo e
$s'(t_0)=\lim_{\Delta t\to 0}\frac{s(t_0+\Delta t)-s(t_0)}{\Delta t}$.
Per il teorema sulla somma dei limiti
$s'(t_0+\Delta t')-s'(t_0)=\lim_{\Delta t\to 0}\left[\frac{s(t_0+\Delta t'+\Delta t)-2s(t_0+\Delta t')+s(t_0)}{\Delta t}\right]$
di conseguenza
$s''(t_0)=\lim_{\Delta t'\to 0}\frac{s'(t_0+\Delta t')-s'(t_0)}{\Delta t'}=\lim_{\Delta t'\to 0}\lim_{\Delta t\to 0}\left[\frac{s(t_0+\Delta t'+\Delta t)-2s(t_0+\Delta t')+s(t_0)}{\Delta t\Delta t'}\right]$
Quello che ho ottenuto prende il nome di limite iterato. Ora qui ho bisogno di imporre una condizione abbastanza forte sulla funzione
$g(\Delta t, \Delta t')=\left[\frac{s(t_0+\Delta t'+\Delta t)-2s(t_0+\Delta t')+s(t_0)}{\Delta t\Delta t'}\right]$
e in particolare devo richiedere che $g(\Delta t, \Delta t')$ ammetta limite per $(\Delta t, \Delta t')\to (0,0)$ (è un limite in due variabili, non iterato!). Infatti se il limite
$\lim_{(\Delta t, \Delta t')\to (0,0)}g(\Delta t, \Delta t')$
esiste, esso deve coincidere necessariamente con $s''(t_0)$. Per il teorema sull'unicità del limite, il risultato del limite $\lim_{(\Delta t, \Delta t')\to (0,0)}g(\Delta t, \Delta t')$ non dipende dal percorso scelto per giungere a $(0,0)$ e - data l'arbitrarietà - niente ci impedisce di prendere in considerazione il percorso definito dalla relazione $\Delta t=\Delta t'$ sul quale:
$\frac{s(t_0+\Delta t'+\Delta t)-2s(t_0+\Delta t')+s(t_0)}{\Delta t\Delta t'}=\frac{s(t_0+2\Delta t)-2s(t_0+\Delta t)+s(t_0)}{\Delta t^2}$
In definitiva, sotto le condizioni imposte
$s''(t_0)=\lim_{\Delta t'\to 0}\frac{s'(t_0+\Delta t')-s'(t_0)}{\Delta t'}=\lim_{\Delta t'\to 0}\lim_{\Delta t\to 0}\left[\frac{s(t_0+\Delta t'+\Delta t)-2s(t_0+\Delta t')+s(t_0)}{\Delta t\Delta t'}\right]$
$=\lim_{\Delta t\to 0}\frac{s(t_0+2\Delta t)-2s(t_0+\Delta t)+s(t_0)}{\Delta t^2}$
Purtroppo non sono in grado di dirti se questo approccio sia il migliore possibile... e ho davvero pochissimo tempo per pensarci.
Ogni altro contributo alla discussione è ben accetto!