Ta thấy \(4x^2+17xy+9y^2=5xy-\left|y-2\right|\)
\(\Leftrightarrow4x^2+12xy+9y^2=-\left|y-2\right|\Leftrightarrow\left(2x+3y\right)^2=-\left|y-2\right|\)
Do \(\left(2x+3y\right)^2\ge0;-\left|y-2\right|\le0\) nên dấu bằng xảy ra khi và chỉ khi \(\hept{\begin{cases}y-2=0\\2x+3y=0\end{cases}}\Rightarrow\hept{\begin{cases}y=2\\x=-3\end{cases}}\)
Thay vào M ta có \(M=\left(-3\right)^3+2.2+3.\left(-3\right)^2.2=31\)