ta có D=x^2 +2.y^2 -2xy+4x-5y-12
<=>D=(x^2 +y^2 +4 -2xy-4y+4x) +[y^2 -2.y.(1/2) +1/4] -1/4+8
<=>D=(x-y+2)^2 +(y-1/2)^2 +31/4
mà (x-y+2)^2 >= 0 và (y-1/2)^2>=0 nên (x-y+2)^2 +(y-1/2)^2 +31/4 >= 31/4
dấu '=' xảy ra khi :y-1/2=0 và x-y+2=0 <=> y=1/2 và x=-3/2
vậy GTNN của D là 31/4 khi x=-3/2, y=1/2