Lời giải:
Gọi số hạng đầu tiên là $a$ và công sai $d$. Khi đó số hạng thứ 2 và 3 lần lượt là $a+d, a+2d$
Theo bài ra ta có:
$a+(a+d)+(a+2d)=12$
$\Rightarrow a+d=4$
$a^2+(a+d)^2+(a+2d)^2=66$
$\Leftrightarrow 3a^2+5d^2+6ad=66$
$\Leftrightarrow 3(4-d)^2+5d^2+6(4-d)d=66$
$\Leftrightarrow 2d^2-18=0$
$\Leftrightarrow d=\pm 3$
Nếu $d=3$ thì $a=1$. Khi đó 3 số cần tìm là $1,4, 7$
Nếu $d=-3$ thì $a=7$. Khi đó 3 số cần tìm là $7, 4, 1$
\(S_3=\dfrac{3\left[2u_1+2d\right]}{2}\)
\(\Leftrightarrow2u_1+2d=\dfrac{2S_3}{3}\)
\(\Leftrightarrow2\left(u_1+d\right)=\dfrac{2S_3}{3}\)
\(\Leftrightarrow u_1+d=\dfrac{S_3}{3}=\dfrac{12}{3}=4\)
\(\Rightarrow\left\{{}\begin{matrix}u_1=1\\d=3\end{matrix}\right.\) \(\Rightarrow\left\{{}\begin{matrix}u_2=4\\u_3=7\end{matrix}\right.\)
mà \(u_1^2+u_2^2+u_3^2=1^2+4^2+7^2=66\) (thỏa đề bài)
Vậy 3 số hạng liên tiếp của 1 cấp số cộng là : \(1;4;7\)