Đặt \(P=a^2+b^2+\left(\frac{1+ab}{a+b}\right)^2\), ta được:
\(P=\left(a+b\right)^2+\left(\frac{1+ab}{a+b}\right)^2-2ab\)
Áp dụng bất đẳng thức Cô-si với bộ \(\left(a+b\right)^2\) và \(\left(\frac{1+ab}{a+b}\right)^2\), ta có:
\(P=\left(a+b\right)^2+\left(\frac{1+ab}{a+b}\right)^2-2ab\ge2\sqrt{\left(a+b\right)^2\left(\frac{1+ab}{a+b}\right)^2}-2ab=2\left(1+ab\right)-2ab=2\)