Ottima domanda. Si tratta di un cosiddetto "sistema parametrico". In fondo alla guida trovi degli esempi!
Nel tuo caso, ad esempio, costruisci la matrice completa:
\( \displaystyle A|b=\left( \begin{array}{ccc|c}
1&1&1&k\\
k&1&2&1\\
1&k&3&1
\end{array}\right) \)
Ora inizia la discussione. Dato che l'incompleta $A$ è quadrata, conviene partire facendone il determinante: $det A=k^2-5k+4=(k-1)(k-4)$. Ora distinguiamo due casi principali, quando si annulla e quando no.
CASO 1: $det A\ne 0$ ovvero $k\ne 1, 4$
Possiamo già concludere che $rank A = 3$ e anche che $rank A|b = 3$ (anche perchè più di così non può essere e hai già trovato un minore non nullo di ordine massimo!) quindi il sistema è determinato.
CASO 2 : $det A =0$ ovvero $k=1$ oppure $k=4$
Dividiamo nei due sottocasi dunque:
caso 2a: $k=1$
Già sappiamo che $rank A <3$. Non sappiamo nulla di $rank A|b$ ancora. Conviene riscrivere tutta la matrice completa con il valore conosciuto di $k$:
\( \displaystyle A|b=\left( \begin{array}{ccc|c}
1&1&1&1\\
1&1&2&1\\
1&1&3&1
\end{array}\right) \)
Il rango di $A$ è $2$ perché subito notiamo il minore non nullo di ordine $2$: $|(1,2),(1,3)|\ne 0$. Usiamo il metodo degli orlati per vedere il valore del rango di $A|b$. Orliamo nell'unico modo possibile questo minore, ottenendo:
$|(1,1,1),(1,2,1),(1,3,1)|=0$
Allora anche $rank A|b = 2$. Il sistema è indeterminato con $\infty^1$ soluzioni.
caso 2b : $k=4$
... discussione analoga al caso 2a che lascio a te
Paola