Ta có:
\(M=a^2+b^2-3ab\) \(=\left(a+b\right)^2-2ab-3ab\) \(=\left(a+b\right)^2-5ab\)
\(N=\left(a-b\right)^2\) \(=\left(a+b\right)^2-4ab\)
Thay \(a+b=-5\); \(ab=6\) vào M và N, ta có:
\(M=\left(-5\right)^2-5.6\) \(=25-30=-5\)
\(N=\left(-5\right)^2-4.6\) \(=25-24=1\)