Lời giải:
Áp dụng BĐT AM-GM:
\(\frac{x^2}{y}+\frac{y^2}{x}+\sqrt{xy}=\frac{x^3+y^3}{2xy}+\frac{x^3+y^3}{2xy}+\sqrt{xy}\geq 3\sqrt[3]{\frac{(x^3+y^3)^2}{4xy\sqrt{xy}}}\)
Bằng BĐT AM-GM, dễ thấy:
\(x^3+y^3\geq \frac{1}{2}(x+y)(x^2+y^2)\geq \sqrt{xy}(x^2+y^2)\)
\(\Rightarrow (x^3+y^3)^2\geq xy(x^2+y^2)^2=xy\sqrt{x^2+y^2}.\sqrt{(x^2+y^2)^3}\geq xy\sqrt{2xy}\sqrt{(x^2+y^2)^3}\)
\(\Rightarrow \frac{x^2}{y}+\frac{y^2}{x}+\sqrt{xy}\geq 3\sqrt[3]{\frac{\sqrt{2}(x^2+y^2)^{\frac{3}{2}}}{4}}=3\sqrt{\frac{x^2+y^2}{2}}\)
Ta có đpcm
Dấu "=" xảy ra khi $x=y$