P = xy. (x2 + y2 - 2xy) = xy.(2 - xy) = -2(xy)2 + 2xy
Xét P - 2 = -2. (xy)2 + 2xy - 2 = -2. [(xy)2 - xy + 1]
Mà (xy)2 - xy + 1 = (xy - \(\frac{1}{2}\))2 + \(\frac{3}{4}\) > 0 với mọi x; y
=> -2. [(xy)2 - xy + 1] < 0 với mọi x; y => P - 2 < 0 với mọi x; y thỏa mãn y/c
=> P < 2
Dấu "=" không xảy ra