Ta có \(x,y>1\) và thoả mãn \(A=\frac{x^3+y^3-x^2-y^2}{\left(x-1\right)\left(y-1\right)}=\frac{x^2\left(x-1\right)+y^2\left(y-1\right)}{\left(x-1\right)\left(y-1\right)}=\frac{x^2}{y-1}+\frac{y^2}{x-1}.\)
Theo bất đẳng thức Cô-Si ta có \(\frac{x^2}{y-1}+4\left(y-1\right)\ge2\sqrt{\frac{x^2}{y-1}\cdot4\left(y-1\right)}=4x,\)
và \(\frac{y^2}{x-1}+4\left(x-1\right)\ge2\sqrt{\frac{y^2}{x-1}\cdot4\left(x-1\right)}=4y.\)
Cộng hai bất đẳng thức lại ta được \(\frac{x^2}{y-1}+\frac{y^2}{x-1}+4\left(x+y-2\right)\ge4\left(x+y\right)\to A\ge8.\) Dấu bằng xảy ra khi và chỉ khi \(x=2\left(y-1\right),y=2\left(x-1\right)\to x=y=2.\) Vậy giá trị bé nhất của biểu thức \(A\)là \(8.\)
