Lời giải:
Áp dụng BĐT AM-GM ta có:
\(Q=\frac{x+1}{y^2+1}+\frac{y+1}{z^2+1}+\frac{z+1}{x^2+1}=(x+1)-\frac{y^2(x+1)}{y^2+1}+(y+1)-\frac{z^2(y+1)}{z^2+1}+(z+1)-\frac{x^2(z+1)}{x^2+1}\)
\(=(x+y+z+3)-\left[\frac{y^2(x+1)}{y^2+1}+\frac{z^2(y+1)}{z^2+1}+\frac{x^2(z+1)}{x^2+1}\right]\)
\(\geq (x+y+z+3)-\left[\frac{y^2(x+1)}{2y}+\frac{z^2(y+1)}{2z}+\frac{x^2(z+1)}{2x}\right]\)
\(\Leftrightarrow Q\geq x+y+z+3-\frac{x+y+z+xy+yz+xz}{2}(1)\)
Tiếp tục sử dụng BĐT AM-GM ta có BĐT quen thuộc là:
\((x+y+z)^2\geq 3(xy+yz+xz)=(x+y+z)(xy+yz+xz)\)
\(\Leftrightarrow x+y+z\geq xy+yz+xz(2)\)
Từ \((1);(2)\Rightarrow Q\geq x+y+z+3-\frac{x+y+z+x+y+z}{2}=3\)
Vậy GTNN của biểu thức là $3$. Dấu "=" xảy ra khi $x=y=z=1$
