Lời giải:
Dễ thấy $y=0$ không phải một nghiệm thỏa mãn
\(\Rightarrow y\neq 0\)
\(x^5+xy^4=y^{10}+y^6\Leftrightarrow x(x^4+y^4)=y^{10}+y^6>0\)
\(\Rightarrow x>0\)
Từ PT(1) \(\Rightarrow x^5+xy^4-(y^{10}+y^6)=0\)
\(\Leftrightarrow (x^5-y^{10})+(xy^4-y^6)=0\)
\(\Leftrightarrow (x-y^2)(x^4+x^3y^2+x^2y^4+xy^6+y^8)+y^4(x-y^2)=0\)
\(\Leftrightarrow (x-y^2)(x^4+x^3y^2+x^2y^4+xy^6+y^8+y^4)=0\)
Với mọi $x>0; y\neq 0$ ta luôn có:
\(x^4+x^3y^2+x^2y^4+xy^6+y^8+y^4>0\)
Do đó \(x-y^2=0\Rightarrow x=y^2\)
Thay vào PT(2):
\(\sqrt{4x+5}+\sqrt{x+8}=6\)
\(\Leftrightarrow (\sqrt{4x+5}-3)+(\sqrt{x+8}-3)=0\)
\(\Leftrightarrow \frac{4(x-1)}{\sqrt{4x+5}+3}+\frac{x-1}{\sqrt{x+8}+3}=0\)
\(\Leftrightarrow (x-1)\left(\frac{4}{\sqrt{4x+5}+3}+\frac{1}{\sqrt{x+8}+3}\right)=0\)
Hiển nhiên biểu thức trong " ngoặc lớn" lớn hơn $0$
\(\Rightarrow x-1=0\Rightarrow x=1\) (thỏa mãn)
\(\Rightarrow y^2=1\Rightarrow y=\pm 1\)
Vậy \((x,y)=(1,\pm 1)\)