Spoilerizzo due possibili soluzioni, la seconda ottenuta in ipotesi un po' più forti.
1.
Testo nascosto, fai click qui per vederlo
Le ipotesi poste assicurano che l'integrale improprio:
\[
\intop_0^{+\infty} \frac{f(bx) - f(ax)}{x}\ \text{d} x
\]
è assolutamente convergente; inoltre, risultano convergenti pure gli integrali impropri del tipo:
\[
\begin{split}
&\intop_0^{+\infty} \frac{f(yx) - f(0)}{x}\ \text{d} x\\
&\intop_r^{+\infty} \frac{f(yx)}{x}\ \text{d} x
\end{split}
\]
per ogni $r, y>0$.
Come nel suggerimento, cominciamo considerando la funzione:
\[
\begin{split}
\Phi(x;y) &:=\intop_0^{x/y} \frac{f(yt) - f(0)}{t}\ \text{d}x\\
&\stackrel{u=yt}{=} \intop_0^x \frac{f(u)-f(0)}{u}\ \text{d} u\\
\end{split}
\]
la quale, come risulta evidente, è costante rispetto ad $y$; pertanto, scelti $a$ e $b$ come nell'enunciato ed \(R\gg 0\), abbiamo:
\[
\Phi(R/b;b) =\Phi (R/a;a)
\]
da cui traiamo immediatamente:
\[
\intop_0^{R/b} \frac{f(bx)-f(ax)}{x}\ \text{d} x = \intop_{R/b}^{R/a} \frac{f(ax)}{x}\ \text{d} x - f(0)\ \intop_{R/b}^{R/a} \frac{1}{x}\ \text{d} x\; .
\]
Passando al limite quest'ultima uguaglianza per $R-> +oo$ si ottiene la tesi.
2. Qui considero $f$ di classe $C^1$.
Testo nascosto, fai click qui per vederlo
Sfruttando il Teorema Fondamentale del Calcolo Integrale, la teoria degli integrali doppi e un cambiamento di variabile, abbiamo:
\[
\begin{split}
\intop_0^{+\infty} \frac{f(bx) - f(ax)}{x}\ \text{d}x &= \intop_0^{+\infty} \frac{1}{x}\ \left( \int_{ax}^{bx} f^\prime (y)\ \text{d} y\right)\ \text{d} x\\
&\stackrel{t=y/x}{=} \intop_0^{+\infty} \frac{1}{x}\ \left( \int_a^b f^\prime (tx)\ x\ \text{d} t\right)\ \text{d} x\\
&= \intop_0^{+\infty}\intop_a^b f^\prime (tx)\ \text{d} x\ \text{d} t\\
&= \intop_a^b \left( \int_0^{+\infty} f^\prime (tx)\ \text{d} x\right)\ \text{d} t\\
&\stackrel{y=tx}{=} \intop_a^b \frac{1}{t}\ \left( \int_0^{+\infty} f^\prime (y) \text{d} y\right)\ \text{d} t\\
&= \left( \intop_0^{+\infty} f^\prime (y) \text{d} y\right)\ \left(\intop_a^b \frac{1}{t}\ \text{d} t\right)\\
&= \Big( 0 - f(0)\Big)\ \log \frac{b}{a}\\
&= f(0)\ \log \frac{a}{b}\; .
\end{split}
\]
Sono sempre stato, e mi ritengo ancora un dilettante. Cioè una persona che si diletta, che cerca sempre di provare piacere e di regalare il piacere agli altri, che scopre ogni volta quello che fa come se fosse la prima volta. (Freak Antoni)