Lời giải:
\(a+b=ab\Rightarrow \frac{1}{a}+\frac{1}{b}=1\)
Đặt \(\left(\frac{1}{a}, \frac{1}{b}\right)=(x,y)\) thì bài toán trở thành:
Cho $x,y>0$ thỏa mãn $x+y=1$. Tìm GTNN của biểu thức:
\(P=\frac{x^2}{2x+1}+\frac{y^2}{2y+1}+\frac{\sqrt{(x^2+1)(y^2+1)}}{xy}\)
-----------------------------
Áp dụng BĐT Cauchy-Schwarz, AM-GM:
\(\frac{x^2}{2x+1}+\frac{y^2}{2y+1}\geq \frac{(x+y)^2}{2x+1+2y+1}=\frac{1}{2+2}=\frac{1}{4}\)
\((x^2+1)(y^2+1)\geq (xy+1)^2\Rightarrow \frac{\sqrt{(x^2+1)(y^2+1)}}{xy}\geq \frac{xy+1}{xy}=1+\frac{1}{xy}\)
\(\geq 1+\frac{1}{\frac{(x+y)^2}{4}}=5\)
\(\Rightarrow P=\frac{x^2}{2x+1}+\frac{y^2}{2y+1}+\frac{\sqrt{(x^2+1)(y^2+1)}}{xy}\geq \frac{1}{4}+5=\frac{21}{4}\)
Vậy \(P_{\min}=\frac{21}{4}\Leftrightarrow x=y=\frac{1}{2}\Leftrightarrow a=b=2\)