Lời giải:
ĐK: \(x\leq 6; y\geq 3\)
\(\left\{\begin{matrix} x^2+2y=xy+4(1)\\ x^2-x+3-x\sqrt{6-x}=(y-3)\sqrt{y-3}(2)\end{matrix}\right.\)
Ta có:
\((1)\Leftrightarrow (x^2-4)+(2y-xy)=0\)
\(\Leftrightarrow (x-2)(x+2)-y(x-2)=0\)
\(\Leftrightarrow (x-2)(x+2-y)=0\)
\(\Leftrightarrow \left[\begin{matrix} x=2\\ x+2=y\end{matrix}\right.\)
TH1: \(x=2\). Thay vào (2)
\(1=(y-3)\sqrt{y-3}\Rightarrow 1=(y-3)^3\) (bình phương hai vế)
\(\Leftrightarrow y-3=1\Leftrightarrow y=4\)
TH2: \(x+2=y\). Thay vào PT (2)
\(x^2-x+3-x\sqrt{6-x}=(x-1)\sqrt{x-1}\)
\(\Leftrightarrow 2x^2-2x+6-2x\sqrt{6-x}=2(x-1)\sqrt{x-1}\)
\(\Leftrightarrow (x-\sqrt{6-x})^2+x(x-1)=2(x-1)\sqrt{x-1}\)
\(\Leftrightarrow (x-\sqrt{6-x})^2+(x-1)(x-2\sqrt{x-1})=0\)
\(\Leftrightarrow \left(\frac{x^2-6+x}{x+\sqrt{6-x}}\right)^2+(x-1).\frac{x^2-4x+4}{x+2\sqrt{x-1}}=0\)
\(\Leftrightarrow (x-2)^2\left[\frac{(x+3)^2}{(x+\sqrt{6-x})^2}+\frac{x-1}{x+2\sqrt{x-1}}\right]=0\)
Hiển nhiên biểu thức trong ngoặc lớn luôn lớn hơn 0 (\(x\geq 1\) )
Do đó: \((x-2)^2=0\Leftrightarrow x=2\Rightarrow y=x+2=4\)
Ta có bộ nghiệm \((x,y)=(2,4)\)