(x^2+y^2) + 3/(x+y+1) = (x+y)^2 -2 +3/(x+y+1)
Đặt a=x+y thì Q=a^2+3/(a+1)-2
Ta chứng minh a^2>=4/9(a+1)^2
<=>9a^2>=4a^2+8a+4
<=>5a^2-8a-4>=0
<=>(a-2)(5a+2)>=0 (đúng do a=x+y>=2sqrt(xy)=2)
Vậy Q>=4/9(a+1)^2 + 3/(a+1)-2
Có 4/9(a+1)^2 + 3/(a+1) - 2
=4/9(a+1)^2 +3/[2(a+1)] + 3/[2(a+1)] -2
=1/18 (a+1)^2 + 3/[2(a+1)] + 3/[2(a+1)] -2 + 7/18(a+1)^2
(AM-GM) >=3/2-2+7/18 (2+1)^2 = 3
Vậy MinQ=3, đạt được khi x=y=1.