Problemino simpatico, che mi ricorda ... Ma ovviamente non hai postato per ascoltare le mie memorie.
Allora, come già suggerito, una variabile chiave è l'energia, che puoi calcolare. Per comodità indichiamo $GM_S = \alpha$ e calcoliamo l'energia per unità di massa
$$\epsilon = \frac{E}{m} = \frac{1}{2} V_0^2 - \frac{\alpha}{R_0}$$
Non è purtroppo vero che all'afelio (che indichiamo con $a$) e al perielio ($p$) la forza centrifuga eguagli la forza gravitazionale, è una condizione che vale solo per orbite circolari. Ci può convincere facilmente di questo notando che assegnando a una particella a una determinata distanza una velocità arbitraria ma comunque ortogonale al raggio, un solo valore corrisponderà all'orbita circolare. È vero comunque che in $a$ e $p$ la velocità radiale è nulla, quindi possiamo scrivere la conservazione del momento angolare $j=mv_aa=mv_pp$, e quindi otteniamo il sistema
$$\begin{cases}
v_aa=v_pp \\
\frac{1}{2}v_a^2 - \frac{\alpha}{a} = \epsilon \\
\frac{1}{2}v_p^2 - \frac{\alpha}{p} = \epsilon
\end{cases}$$
A questo punto, con un po' di algebra, possiamo ricavare $a+p = -frac{\alpha}{\epsilon}$, che corrisponde all'asse maggiore. Il semiasse è $\frac{a+p}{2}$. Poiché l'orbita è ellittica, $\epsilon<0$, e quindi il risultato è perlomeno sensato. Nota che le condizioni non sono sufficienti a determinare univocamente l'orbita, e quindi non puoi calcolare $a$ o $p$ separatamente.
In effetti, se il docente ha un po' di senso dell'umorismo, una soluzione possibile, ma non del tutto valida, potrebbe essere la seguente.
Il problema non sarebbe stato assegnato se la soluzione non fosse univoca. L'orbita è ellittica, ma non si tratta di un'informazione determinante, in quanto l'orbita circolare è un caso particolare di ellisse. Tanto vale risolvere il problema per l'orbita circolare, esprimendo il semiasse in funzione delle costanti del moto che conosciamo, ossia l'energia. Nel caso specifico valgono le condizioni
$$ \begin{cases}
\frac{E}{m} = \frac{1}{2} V_0^2 - \frac{\alpha}{R_0} = \epsilon \\
V_0^2 - \frac{\alpha}{R_0}=0
\end{cases} $$
La prima è la conservazione dell'energia già vista, la seconda è la corrispondenza tra forza centripeta e forza gravitazionale (siamo in orbita circolare, quindi vale). Eliminando $V_0^2$ e esprimendo $R_0$ in funzione di $\epsilon$ si ha $R_0 = -\frac{\alpha}{2\epsilon}$, che corrisponde alla soluzione già trovata.
Un particolare un po' antiestetico: mi accorgo che il carattere \epsilon è reso in modo diverso nelle equazioni in linea con il testo e in quelle in paragrafo separato. Ovviamente si tratta sempre della stessa grandezza.
Altro metodo semiumoristico di risoluzione.
Partendo dallo stesso presupposto precedente, possiamo applicare le medesime considerazioni di orbita rettilinea, con $V_0$ radiale in allontanamento. Allora la distanza $d$ raggiunta dalla massa sarà per la conservazione dell'energia
$$ \frac{1}{2} V_0^2 - \frac{\alpha}{R_0} = \epsilon = -\frac{\alpha}{d}$$
L'orbita è quindi quella di una massa a distanza $d = -\frac{\alpha}{\epsilon}$ inizialmente ferma e in caduta libera. Tuttavia sappiamo che questo caso corrisponde a un'ellisse degenere di asse maggiore $d$ e asse minore $0$. Quindi il semiasse maggiore è $\frac{d}{2} = - \frac{\alpha}{2\epsilon}$, che è ancora la soluzione già trovata, espressa in termini di costanti del moto. Questo metodo è anche preferibile al precedente perché comporta meno calcoli, e presenta un po' meno ambiguità nell'interpretazione del semiasse. Nel caso dell'orbita circolare $R_0$ oltre che semiasse è anche afelio e perielio, e non possiamo essere immediatamente sicuri che quando si rimuove la degenerazione non vada a ricoprire uno di questi ruoli, qui $d$ è asse e solo afelio.