Áp dụng bất đẳng thức Cauchy cho 2 số dương ta có:
a 2 + b 2 ≥ 2 a b , b 2 + c 2 ≥ 2 b c , c 2 + a 2 ≥ 2 c a
Do đó: 2 a 2 + b 2 + c 2 ≥ 2 ( a b + b c + c a ) = 2.9 = 18 ⇒ 2 P ≥ 18 ⇒ P ≥ 9
Dấu bằng xảy ra khi a = b = c = 3 . Vậy MinP= 9 khi a = b = c = 3
Vì a , b , c ≥ 1 , nên ( a − 1 ) ( b − 1 ) ≥ 0 ⇔ a b − a − b + 1 ≥ 0 ⇔ a b + 1 ≥ a + b
Tương tự ta có b c + 1 ≥ b + c , c a + 1 ≥ c + a
Do đó a b + b c + c a + 3 ≥ 2 ( a + b + c ) ⇔ a + b + c ≤ 9 + 3 2 = 6
Mà P = a 2 + b 2 + c 2 = a + b + c 2 − 2 a b + b c + c a = a + b + c 2 – 18
⇒ P ≤ 36 − 18 = 18 . Dấu bằng xảy ra khi : a = 4 ; b = c = 1 b = 4 ; a = c = 1 c = 4 ; a = b = 1
Vậy maxP= 18 khi : a = 4 ; b = c = 1 b = 4 ; a = c = 1 c = 4 ; a = b = 1