Lời giải:
Đặt \(A=x^2+y^2+xy-x-y+100\)
\(\Rightarrow A=x^2+x(y-1)+(y^2-y+100)\)
\(\Rightarrow x^2+x(y-1)+(y^2-y+100-A)=0\)
Coi đây là pt bậc 2 ẩn $x$. Vì pt luôn xác định, tức là pt có nghiệm nên:
\(\Delta=(y-1)^2-4(y^2-y+100-A)\geq 0\)
\(\Leftrightarrow -3y^2+2y-399+4A\geq 0\)
\(\Rightarrow 4A\geq 3y^2-2y+399=3(y-\frac{1}{3})^2+\frac{1196}{3}\)
Mà \(3(y-\frac{1}{3})^2+\frac{1196}{3}\geq \frac{1196}{3}\Rightarrow 4A\geq \frac{1196}{3}\Rightarrow A\geq \frac{299}{3}\)
Vậy GTNN của \(A=\frac{299}{3}\)