\(M=\frac{a^2+b^2}{a-b}=\frac{\left(a-b\right)^2+16}{a-b}=a-b+\frac{16}{a-b}\)
Áp dụng BĐT Cô-si ta có :
\(M=a-b+\frac{16}{a-b}\ge2\sqrt{\frac{16\left(a-b\right)}{a-b}}=8\)
Vậy GTNN của M là 8 . Dấu \("="\) xảy ra khi :
\(\left\{{}\begin{matrix}a-b=4\\ab=8\end{matrix}\right.\Rightarrow\left\{{}\begin{matrix}a=2+2\sqrt{3}\\b=-2+2\sqrt{3}\end{matrix}\right.\)