Trattandosi del prodotto di una matrice triangolare superiore per se stessa: \[
\begin{bmatrix}
a & b & c \\
0 & d & e \\
0 & 0 & f \\
\end{bmatrix}
\begin{bmatrix}
a & b & c \\
0 & d & e \\
0 & 0 & f \\
\end{bmatrix}
\begin{bmatrix}
x_1 \\
x_2 \\
x_3 \\
\end{bmatrix}=
\begin{bmatrix}
g \\
h \\
i \\
\end{bmatrix}
\quad \Rightarrow \quad
\begin{bmatrix}
a^2 & ab+bd & ac+be+cf \\
0 & d^2 & de+ef \\
0 & 0 & f^2 \\
\end{bmatrix}
\begin{bmatrix}
x_1 \\
x_2 \\
x_3 \\
\end{bmatrix}=
\begin{bmatrix}
g \\
h \\
i \\
\end{bmatrix}
\] che è un sistema lineare già in forma triangolare superiore, meglio di così?!
Altrimenti, si potrebbe osservare che risolvere: \[
\begin{bmatrix}
a_{11} & a_{12} & a_{13} \\
a_{21} & a_{22} & a_{23} \\
a_{31} & a_{32} & a_{33} \\
\end{bmatrix}
\begin{bmatrix}
b_{11} & b_{12} & b_{13} \\
b_{21} & b_{22} & b_{23} \\
b_{31} & b_{32} & b_{33} \\
\end{bmatrix}
\begin{bmatrix}
x_1 \\
x_2 \\
x_3 \\
\end{bmatrix}=
\begin{bmatrix}
c_1 \\
c_2 \\
c_3 \\
\end{bmatrix}
\] equivale a risolvere: \[
\begin{bmatrix}
b_{11} & b_{12} & b_{13} \\
b_{21} & b_{22} & b_{23} \\
b_{31} & b_{32} & b_{33} \\
\end{bmatrix}
\begin{bmatrix}
x_1 \\
x_2 \\
x_3 \\
\end{bmatrix}=
\begin{bmatrix}
y_1 \\
y_2 \\
y_3 \\
\end{bmatrix}
\quad \Rightarrow \quad
\begin{bmatrix}
a_{11} & a_{12} & a_{13} \\
a_{21} & a_{22} & a_{23} \\
a_{31} & a_{32} & a_{33} \\
\end{bmatrix}
\begin{bmatrix}
y_1 \\
y_2 \\
y_3 \\
\end{bmatrix}=
\begin{bmatrix}
c_1 \\
c_2 \\
c_3 \\
\end{bmatrix}
\] che equivale a risolvere: \[
\begin{bmatrix}
b_{11} & b_{12} & b_{13} & -1 & 0 & 0 \\
b_{21} & b_{22} & b_{23} & 0 & -1 & 0 \\
b_{31} & b_{32} & b_{33} & 0 & 0 & -1 \\
0 & 0 & 0 & a_{11} & a_{12} & a_{13} \\
0 & 0 & 0 & a_{21} & a_{22} & a_{23} \\
0 & 0 & 0 & a_{31} & a_{32} & a_{33} \\
\end{bmatrix}
\begin{bmatrix}
x_1 \\
x_2 \\
x_3 \\
y_1 \\
y_2 \\
y_3 \\
\end{bmatrix}=
\begin{bmatrix}
0 \\
0 \\
0 \\
c_1 \\
c_2 \\
c_3 \\
\end{bmatrix}.
\] Sarà questa la maniera più conveniente? Boh.