Theo bất đẳng thức quen thuộc \(2ab\le a^2+b^2\to ab\le\frac{1}{2}\left(a^2+b^2\right),\) ta có
\(x\sqrt{1-y^2}\le\frac{1}{2}\left(x^2+1-y^2\right),\)
\(y\sqrt{2-z^2}\le\frac{1}{2}\left(y^2+2-z^2\right),\)
\(z\sqrt{3-x^2}\le\frac{1}{2}\left(z^2+3-x^2\right).\)
Cộng ba bất đẳng thức lại cho ta được \(x\sqrt{1-y^2}+y\sqrt{2-z^2}+z\sqrt{3-x^2}\le\frac{1}{2}\left(x^2+1-y^2+y^2+2-z^2+z^2+3-x^2\right)=3.\)
Do đó để các dấu bằng xảy ra ta được
\(x=\sqrt{1-y^2},y=\sqrt{2-z^2},z=\sqrt{3-x^2}\to x,y,z\ge0\) và thoả mãn \(x^2+y^2=1,y^2+z^2=2,z^2+x^2=3\to x^2+y^2+z^2=\frac{1+2+3}{2}=3\to\)
\(\to z^2=2,y^2=0,x^2=1\to x=1,y=0,z=\sqrt{2}.\)
