\(2a^2+b^2-2ab-5b+11< 0\)
\(\Leftrightarrow4a^2+2b^2-4ab-10b+22< 0\)
\(\Leftrightarrow4a^2-4ab+b^2+b^2-10b+25< 3\)
\(\Leftrightarrow\left(2a-b\right)^2+\left(b-5\right)^2< 3\)
Ta có các trường hợp:
- \(\hept{\begin{cases}2a-b=0\\b-5=0\end{cases}}\Leftrightarrow\hept{\begin{cases}a=\frac{5}{2}\\b=5\end{cases}}\)(loại)
- \(\hept{\begin{cases}2a-b=1\\b-5=0\end{cases}}\Leftrightarrow\hept{\begin{cases}a=3\\b=5\end{cases}}\)(thỏa mãn)
- \(\hept{\begin{cases}2a-b=0\\b-5=1\end{cases}}\Leftrightarrow\hept{\begin{cases}a=3\\b=6\end{cases}}\)(thỏa mãn)
- \(\hept{\begin{cases}2a-b=1\\b-5=1\end{cases}}\Leftrightarrow\hept{\begin{cases}a=\frac{7}{2}\\b=6\end{cases}}\)(loại)
