Lời giải:
Xét hai vecto bất kỳ  \(\overrightarrow{AB}, \overrightarrow{CD}\). Kẻ vecto $\overrightarrow{CT}$ sao cho $\overrightarrow{CT}=\overrightarrow{BA}$

Ta có:

\(|\overrightarrow{AB}+\overrightarrow{CD}|=|\overrightarrow{TC}+\overrightarrow{CD}|=|\overrightarrow{TD}|\)

\(|\overrightarrow{AB}|+|\overrightarrow{CD}|=|\overrightarrow{TC}|+|\overrightarrow{CD}|\)

Mà theo bđt tam giác thì:

\(|\overrightarrow{TC}+\overrightarrow{CD}|\geq |\overrightarrow{TD}|\Rightarrow |\overrightarrow{AB}|+\overrightarrow{CD}|\geq |\overrightarrow{AB}+\overrightarrow{CD}|\)

Dấu "=" xảy ra khi \(T, C,D\) thẳng hàng và $C$ nằm giữa $T,D$

$\Leftrightarrow \overrightarrow{TC}, \overrightarrow{CD}$ cùng hướng 

$\Leftrightarrow \overrightarrow{AB}, \overrightarrow{CD}$ cùng hướng

Vậy với $\overrightarrow{a}, \overrightarrow{b}$ bất kỳ thì $|\overrightarrow{a}|+|\overrightarrow{b}|\geq |\overrightarrow{a}+\overrightarrow{b}|$. Dấu "=" xảy ra khi $\overrightarrow{a}, \overrightarrow{b}$ cùng hướng.

------------------

Áp dụng vào bài toán:

\(|\overrightarrow{a}+\overrightarrow{b}+\overrightarrow{c}|\leq |\overrightarrow{a}+\overrightarrow{b}|+|\overrightarrow{c}|\leq |\overrightarrow{a}|+|\overrightarrow{b}|+|\overrightarrow{c}|\)

Dấu "=" xảy ra khi \(\overrightarrow{a}, \overrightarrow{b}\) cùng hướng và \(\overrightarrow{a}+\overrightarrow{b}, \overrightarrow{c}\) cùng hướng 

\(\Leftrightarrow \overrightarrow{a}, \overrightarrow{b}, \overrightarrow{c}\) cùng hướng 

b) \(\left|\overrightarrow{a}+\overrightarrow{b}\right|=\left|\overrightarrow{a}\right|+\left|\overrightarrow{b}\right|\) khi vectơ a và vectơ b cùng hướng

Bài này sử dụng bất đẳng thức tam giác

Đặt vectơ AB = a vectơ BC = b

Ta có: \(\overrightarrow{AB}+\overrightarrow{BC}=\overrightarrow{AC}\) hay \(\left|\overrightarrow{a}+\overrightarrow{b}\right|=\overrightarrow{AC}\)

Ta lại có: \(AB+BC\ge AC\) ( bđt tam giác )

Từ 2 điều trên ta suy ra đpcm \(\left|\overrightarrow{a}+\overrightarrow{b}\right|\le\left|\overrightarrow{a}\right|+\left|\overrightarrow{b}\right|\)

\(\left(\overrightarrow{a}+\overrightarrow{b}\right)^2=\left(\overrightarrow{a}+\overrightarrow{b}\right)\left(\overrightarrow{a}+\overrightarrow{b}\right)\)\(=\left|\overrightarrow{a}\right|^2+\left|\overrightarrow{b}\right|^2+2\overrightarrow{a}\overrightarrow{b}\).
\(\left(\overrightarrow{a}-\overrightarrow{b}\right)^2=\left(\overrightarrow{a}-\overrightarrow{b}\right)\left(\overrightarrow{a}-\overrightarrow{b}\right)\)\(=\left|\overrightarrow{a}\right|^2+\left|\overrightarrow{b}\right|^2-2\overrightarrow{a}\overrightarrow{b}\).
\(\left(\overrightarrow{a}-\overrightarrow{b}\right)\left(\overrightarrow{a}+\overrightarrow{b}\right)=\left|\overrightarrow{a}\right|^2+\overrightarrow{a}\overrightarrow{b}-\overrightarrow{a}\overrightarrow{b}+\left|\overrightarrow{b}\right|^2\)\(=\left|\overrightarrow{a}\right|^2-\left|\overrightarrow{b}\right|^2\).

Ta có:

\(\overrightarrow{a}+\overrightarrow{b}+3\overrightarrow{c}=\overrightarrow{0}\Leftrightarrow\overrightarrow{a}+\overrightarrow{b}=-3\overrightarrow{c}\Leftrightarrow\left(\overrightarrow{a}+\overrightarrow{b}\right)^2=9\overrightarrow{c}^2\)

<=> \(\overrightarrow{a}^2+\overrightarrow{b}^2+2\overrightarrow{a}\overrightarrow{b}=9\overrightarrow{c}^2\)

<=> \(\overrightarrow{a}\overrightarrow{b}=\dfrac{9z^2-x^2-y^2}{2}\)

Tương tự ta có: \(\overrightarrow{b}+3\overrightarrow{c}=-\overrightarrow{a}\) <=> \(\left(\overrightarrow{b}+3\overrightarrow{c}\right)^2=\overrightarrow{a}^2\) 

<=> \(\overrightarrow{b}.\overrightarrow{c}=\dfrac{x^2-y^2-9z^2}{2}\)

Và lại có : \(\overrightarrow{a}\overrightarrow{c}=\dfrac{y^2-x^2-9z^2}{2}\)

Suy ra: A=\(\dfrac{9z^2-x^2-y^2}{2}+\dfrac{x^2-y^2-9z^2}{2}+\dfrac{y^2-x^2-9z^2}{2}=\dfrac{3z^2-z^2-y^2}{2}\)