Lời giải:
Đặt \(\sqrt{x-1}=a; \sqrt{y-1}=b(a,b\geq 0)\)
\(\Rightarrow x=a^2+1; y=b^2+1\). PT trở thành:
\(\frac{(a^2+1)^2-4}{a^2+1}+\frac{(b^2+1)^2-4}{b^2+1}+8=4(a+b)\)
\(\Leftrightarrow \frac{(a^2+1)^2-4}{a^2+1}+4-4a+\frac{(b^2+1)^2-4}{b^2+1}+4-4b=0\)
\(\Leftrightarrow a^2+5-4a-\frac{4}{a^2+1}+b^2+5-4b-\frac{4}{b^2+1}=0\)
\(\Leftrightarrow (a^2-4a+3)+2-\frac{4}{a^2+1}+(b^2-4b+3)+2-\frac{4}{b^2+1}=0\)
\(\Leftrightarrow (a-1)(a-3)+\frac{2(a^2-1)}{a^2+1}+(b-1)(b-3)+\frac{2(b^2-1)}{b^2+1}=0\)
\(\Leftrightarrow (a-1)\left(a-3+\frac{2(a+1)}{a^2+1}\right)+(b-1)\left(b-3+\frac{2(b+1)}{b^2+1}\right)=0\)
\(\Leftrightarrow (a-1).\frac{a^3-3a^2+3a-1}{a^2+1}+(b-1).\frac{b^3-3b^2+3b-1}{b^2+1}=0\)
\(\Leftrightarrow \frac{(a-1)(a-1)^3}{a^2+1}+\frac{(b-1)(b-1)^3}{b^2+1}=0\)
\(\Leftrightarrow \frac{(a-1)^4}{a^2+1}+\frac{(b-1)^4}{b^2+1}=0\)
Dễ thấy mỗi số hạng ở vế trái đều không âm. Do đó để tổng của chúng bằng $0$ thì \(\frac{(a-1)^4}{a^2+1}=\frac{(b-1)^4}{b^2+1}=0\Rightarrow a=b=1\Rightarrow x=y=2\)
Vậy.........
