Lời giải:
Ta có:
\(A=3\left(\frac{x}{y}+\frac{y}{x}\right)-\left (\frac{x^2}{y^2}+\frac{y^2}{x^2}\right)\)
\(\Leftrightarrow A=3\left ( \frac{x}{y}+\frac{y}{x} \right )-\left ( \frac{x}{y}+\frac{y}{x} \right )^2+2\)
Đặt \(t=\frac{x}{y}+\frac{y}{x}\Rightarrow A=3t-t^2+2\)
Ta cần cm \(A\leq 4\Leftrightarrow 3t-t^2-2\leq 0\)
\(\Leftrightarrow (t-1)(t-2)\geq 0\) \((\star)\)
Xét \(t=\frac{x}{y}+\frac{y}{x}\).
Nếu \(x,y\) cùng dấu thì \(xy>0\Rightarrow t=\frac{x^2+y^2}{xy}=\frac{(x-y)^2}{xy}+2\geq 2\)
\(\Rightarrow (t-1)(t-2)\geq 0\)
Nếu $x,y$ khác dấu thì \(xy<0\Rightarrow t=\frac{x^2+y^2}{xy}=\frac{(x+y)^2}{xy}-2\leq-2\)
\(\Rightarrow (t-1)(t-2)\geq 0\)
Vậy, BĐT \((\star)\) luôn đúng, do đó ta có đpcm.