Lời giải:
$-A=x^2-2xy+4y^2-2x-10y+3$
$=(x^2-2xy+y^2)+3y^2-2x-10y+3$
$=(x-y)^2-2(x-y)+3y^2-12y+3$
$=(x-y)^2-2(x-y)+1+3(y^2-4y+4)-10$
$=(x-y+1)^2+3(y-2)^2-10\geq 0+0-10=-10$
$\Rightarrow A\leq 10$
Vậy $A_{\max}=10$. Giá trị này đạt tại $x-y+1=y-2=0$
$\Leftrightarrow y=2; x=1$