La scelta di una definizione (o, nel caso che proponi come esempio, degli assiomi da mettere alla base di una teoria) è una questione di storia, di prospettiva/opportunità e di gusti personali.
Andare a guardare come si è sviluppato storicamente il discorso matematico circa uno specifico settore è senz'altro un buon modo di cominciare a capire quali problemi hanno portato a preferire una definizione/un set di assiomi rispetto ad altri equivalenti.
Qui un po' di lettura di testi di Storia e di Filosofia della Matematica può servire: consigliatissimi il Boyer,
Storia della Matematica; Odifreddi,
La Matematica del Novecento; Kline,
Storia del Pensiero Matematico (2 voll.); Lolli,
Filosofia della Matematica (un libro davvero brutto, ma uno dei pochi in italiano a trattare quasi tutte le "scuole" della filosofia della Matematica); Meschkowski,
Mutamenti nel Pensiero Matematico (vecchiotto, ma carino; mi prese molto quando lo lessi in 5 liceo, ma da allora non l'ho più aperto).
Per questione di prospettiva/opportunità intendo che ogni definizione/set di assiomi costringe il matematico a scrivere e descrivere il suo oggetto di studio in un modo piuttosto che in un altro, ed è funzionale al raggiungimento prioritario di certi obiettivi piuttosto di altri/di un certo tipo di pubblico piuttosto di un altro.
Questo fatto lo capisci facendoti le ossa su testi diversi, confrontando i differenti approcci allo stesso argomento che puoi rinvenire in vari testi dedicati alla stessa materia di studio. Ad esempio, un testo di Analisi Complessa scritto da un analista è in genere molto differente da quello scritto da un geometra, nonostante vengano trattati gli stessi argomenti; ma anche capitoli sulla convessità di testi di Analisi I e/o II possono essere clamorosamente diversi perchè scritti da analisti che sfruttano in modo diverso la convessità nel loro lavoro o che vogliono raggiungere pubblici differenti con il loro testo.
Quindi, studia leggendo anche libri differenti rispetto a quelli consigliati.
La terza si capisce da sé.
Con "gusti personali" intendo tutto ciò che attiene alle convinzioni filosofiche, alla posizione epistemologica ed alla preferenza estetica di ogni matematico.
Anche qui c'è poco da consigliare: devi studiare da più fonti e devi leggerti un po' di Filosofia della Matematica.
Inoltre, non dimenticare di provare a parlare con gli altri (colleghi, professori, amici, tua nonna, ...) di quello che pensi e che leggi.
Sono sempre stato, e mi ritengo ancora un dilettante. Cioè una persona che si diletta, che cerca sempre di provare piacere e di regalare il piacere agli altri, che scopre ogni volta quello che fa come se fosse la prima volta. (Freak Antoni)