Biến đổi M, ta được
M = 4 x 2 y 2 x 2 + y 2 + x 2 y 2 + y 2 x 2 = 4 x y + y x 2 + x y 2 + y x 2
Đặt a = x y ; b = y x ta được ab = 1, suy ra a 2 + b 2 ≥ 2
Từ đó ta có
M = 4 a + b 2 + a 2 + b 2 = 4 a 2 + b 2 + 2 + a 2 + b 2 + 2 4 + 3 a 2 + b 2 + 2 4 - 2 ≥ 2 + 3 – 2 = 3
Dấu "=" xảy ra <=> a = b = ±1 <=>