Trước tiên ta chứng minh : \(2\left(a^2+b^2\right)\ge\left(a+b\right)^2\); ở đó, a,b tùy ý. Thật vậy:
\(2\left(a^2+b^2\right)S\ge\left(a+b\right)^2\Leftrightarrow a^2+b^2\ge2ab\Leftrightarrow\left(a-b\right)^2\ge0\)
Ta có: \(x\left(x-1\right)+\frac{1}{4}+y\left(y-1\right)+\frac{1}{4}=\left(x-\frac{1}{2}\right)^2+\left(y-\frac{1}{2}\right)^2\ge\frac{1}{2}\text{[}\left(x-\frac{1}{2}\right)+\left(y-\frac{1}{2}\right)\text{]}^2\)\(=\frac{1}{2}\left(x+y-1\right)^2\ge\frac{1}{2}\left(6-1\right)^2=\frac{25}{2}\Rightarrow x\left(x-1\right)+y\left(y-1\right)\ge\frac{25}{2}-\frac{1}{2}=12\)
Khi x=y=3 thì => đpcm
Hơi khác cách của mình nhưng đúng r.