\(x^2+4y^2+2x-10y+150=x^2+2x+1+4y^2-10y+\frac{25}{4}+\frac{571}{4}\) \(=\left(x+1\right)^2+\left(2y-\frac{5}{2}\right)^2+\frac{571}{4}\ge\frac{571}{4}\)
Dấu bằng xảy ra \(\Leftrightarrow\left\{{}\begin{matrix}x+1=0\\2y-\frac{5}{2}=0\end{matrix}\right.\) \(\Leftrightarrow\left\{{}\begin{matrix}x=-1\\y=\frac{5}{4}\end{matrix}\right.\)
Vậy giá trị nhỏ nhất của biểu thức là \(\frac{571}{4}\) khi \(\left\{{}\begin{matrix}x=-1\\y=\frac{5}{4}\end{matrix}\right.\)