Đặt \(\frac{x}{y}+\frac{y}{x}=a\)
Ta có: A = \(3\left(a^2-2\right)-8a=3a^2-8a-6=3\left(a-\frac{4}{3}\right)^2-\frac{34}{3}\)
Mặt khác: a2 \(=\frac{x^2}{y^2}+\frac{y^2}{x^2}+2\ge4\)
Nên \(a\ge2\) hoặc \(a\le-2\)
+) Nếu \(a\ge2\) thì \(a-\frac{4}{3}\ge\frac{2}{3}>0\). \(A\ge3.\left(\frac{2}{3}\right)^2-\frac{34}{3}=-10\)
+) Nếu \(a\le-2\) thì \(a-\frac{4}{3}\le\frac{-10}{3}< 0\). \(A\ge3.\left(\frac{-10}{3}\right)^2-\frac{34}{3}=22\)
SS 2 TH, ta được Min A = -10 khi và chỉ khi a = 2 tức x = y > 0.