5. a, Ta có: \(\left(x-1\right)^2\ge0\Leftrightarrow x^2-2x+1\ge0\Leftrightarrow x^2+1\ge2x\) (1)
\(\left(y-1\right)^2\ge0\Leftrightarrow y^2-2y+1\ge0\Leftrightarrow y^2+1\ge2y\) (2)
\(\left(z-1\right)^2\ge0\Leftrightarrow z^2-2z+1\ge0\Leftrightarrow z^2+1\ge2z\) (3)
Từ (1),(2) và (3) suy ra:
\(x^2+1+y^2+1+z^2+1\ge2x+2y+2z\)
<=> \(x^2+y^2+z^2+3\ge2\left(x+y+z\right)\)
mà x+y+z=3
=>\(x^2+y^2+z^2+3\ge2.3=6\)
<=> \(x^2+y^2+z^2\ge6-3=3\)
<=> \(A\ge3\)
Dấu "=" xảy ra khi x=y=z=1
Vậy GTNN của A=x2+y2+z2 là 3 khi x=y=z=1
b, Ta có: x+y+z=3
=> \(\left(x+y+z\right)^2=9\)
<=> \(x^2+y^2+z^2+2xy+2yz+2xz=9\)
<=> \(x^2+y^2+z^2=9-2xy-2yz-2xz\)
mà \(x^2+y^2+z^2\ge3\) (theo a)
=> \(9-2xy-2yz-2xz\ge3\)
<=> \(-2\left(xy+yz+xz\right)\ge3-9=-6\)
<=> \(xy+yz+xz\le\dfrac{-6}{-2}=3\)
<=> \(B\le3\)
Dấu "=" xảy ra khi x=y=z=1
Vậy GTLN của B=xy+yz+xz là 3 khi x=y=z=1