Lời giải:
Thực hiện khai triển và rút gọn ta có:
$A=3x^2y^2+2x^4+2y^4-(x^2+y^2)=\frac{3}{2}(x^2+y^2)^2+\frac{x^4+y^4}{2}-(x^2+y^2)$
Áp dụng BĐT AM-GM:
\(x^4+y^4\geq 2\sqrt{x^4y^4}=2x^2y^2\)
\(\Rightarrow 2(x^4+y^4)\geq x^4+y^4+2x^2y^2=(x^2+y^2)^2\)
\(\Rightarrow x^4+y^4\geq \frac{(x^2+y^2)^2}{2}\)
\(\Rightarrow A\geq \frac{3}{2}(x^2+y^2)^2+\frac{(x^2+y^2)^2}{4}-(x^2+y^2)\)
Đặt $x^2+y^2=t$
Ta có: $t=x^2+y^2=\frac{1}{2}(x+y)^2+\frac{1}{2}(x-y)^2\geq \frac{(x+y)^2}{2}\geq \frac{1}{2}$ do $x+y\geq 1$
Do đó: \(A\geq \frac{3}{2}t^2+\frac{t^2}{4}-t=\frac{7}{4}t^2-t=(t-\frac{1}{2})(\frac{7}{4}t-\frac{1}{8})-\frac{1}{16}\geq \frac{-1}{16}\) với mọi $t\geq \frac{1}{2}$
Vậy $A_{\min}=\frac{-1}{16}$
Dấu "=" xảy ra khi $x=y=\frac{1}{2}$
