10x²+50y²+42xy+14x-6y+57<0
Ta có 10x²+50y²+42xy+14x-6y+57
= 9x²+49y²+42xy+x²+14x+49+y²-6y+9-1
= (3x+7y)²+(x+7)²+(y-3)²-1 ≥ -1 vì[(3x+7y)²+(x+7)²+(y-3)² ≥ 0 với∀x,y]
Mà x,y nguyên => 10x^2+50y^2+42xy+14x-6y+57<0
⇔ (3x+7y)²+(x+7)²+(y-3)² = 0
⇔ 3x+7y=0 (*)
(x+7)=0
(y-3)=0
⇔ x= -7
y= 3
Thay vào (*) ta có 3.(-7)+7.3=0
⇔ 0=0 (thõa mãn)
Vậy Cặp số nguyên (x;y) thõa mãn đề ra là (x;y)=(-7;3)