\( \left\{ \begin{array}{l} 3\sqrt {2x + y} + \sqrt {x - 2y + 1} = 5\\ 2\sqrt {x - 2y + 1} - 5x - 10y - 9 = 0 \end{array} \right.\\ \Leftrightarrow \left\{ \begin{array}{l} 3\sqrt {2x + y} + \sqrt {x - 2y + 1} = 5\\ 2\sqrt {x - 2y + 1} - 5x = 10y + 9 \end{array} \right. \)
ĐK: \(2x+y\ge0,x-2y+1\ge0\). Đặt \(\left\{{}\begin{matrix}u=\sqrt{2x+y},\left(u\ge0\right)\\v=\sqrt{x-2y+1},\left(v\ge0\right)\end{matrix}\right.\)
Ta được hệ phương trình: \(\left\{{}\begin{matrix}3u+v=5\\4u^2-3v^2-2v+12=0\end{matrix}\right.\)
\(\Leftrightarrow\left\{{}\begin{matrix}v=5-3u\\23u^2-96u+73=0\end{matrix}\right.\)\( \Leftrightarrow \left\{ \begin{array}{l} v = 5 - 3u\\ \left[ \begin{array}{l} u = 1\\ u = \dfrac{{73}}{{23}} \end{array} \right. \end{array} \right.\)
Với \(u = 1 \Rightarrow v = 2 \Rightarrow \left\{ \begin{array}{l} \sqrt {2x + y} = 1\\ \sqrt {x - 2y + 1} = 2 \end{array} \right. \Leftrightarrow \left\{ \begin{array}{l} 2x + y = 1\\ x - 2y = 3 \end{array} \right. \Leftrightarrow \left\{ \begin{array}{l} x = 1\\ y = - 1 \end{array} \right.\left( {t/m} \right)\)
Với \(u = \dfrac{{73}}{{23}} \Rightarrow v = - \dfrac{{104}}{{23}} \) (loại vì đk \(v\ge0\)).
Vậy hệ phương trình có nghiệm: \(\left\{{}\begin{matrix}x=1\\y=-1\end{matrix}\right.\)