Lời giải:
Vì $S.ABCD$ là hình chóp đều nên $SO$ (với $O$ là tâm hình vuông $ABCD$ ) là đường cao của hình chóp.
Kẻ \(OH\perp AB; OK\perp SH\)
Ta có: \(\left\{\begin{matrix} OH\perp AB\\ SO\perp AB\end{matrix}\right.\Rightarrow (SOH)\perp AB\Rightarrow OK\perp AB\)
\(\left\{\begin{matrix} OK\perp AB\\ OK\perp SH\end{matrix}\right.\Rightarrow OK\perp (AB,SH)=(SAB)\)
\(\Rightarrow d(O,(SAB))=OK\).
Có: \(\frac{1}{OK^2}=\frac{1}{SO^2}+\frac{1}{OH^2}\Rightarrow OK=\sqrt{\frac{OH^2.SO^2}{OH^2+SO^2}}=\sqrt{\frac{SO^2.a^2}{SO^2+a^2}}\)
\(d(CD, SA)=d(CD,(SAB))=d(C, (SAB))=2d(O,(SAB))=2OK\)
\(\Leftrightarrow d(CD,SA)=2\sqrt{\frac{SO^2.a^2}{SO^2+a^2}}=a\sqrt{3}\)
\(\Rightarrow SO=a\sqrt{3}\)
Trên trục \(SO\) lấy $I$ là tâm mặt cầu ngoại tiếp hình chóp
Ta có: \(R^2=IS^2=IB^2\)
\(\Leftrightarrow (\overrightarrow{IO}+\overrightarrow{OS})^2=(\overrightarrow{IO}+\overrightarrow{OB})^2\)
\(\Leftrightarrow IO^2+OS^2+2\overrightarrow{IO}.\overrightarrow{OS}=IO^2+OB^2+2\overrightarrow{IO}.\overrightarrow{OB}=IO^2+OB^2\)
(do \(IO\perp OB\) )
\(\Leftrightarrow OS^2+2\overrightarrow {IO}.\overrightarrow{OS}=OB^2\)
\(\Leftrightarrow 2\overrightarrow{IO}.\overrightarrow{OS}=(\sqrt{2}a)^2-(\sqrt{3}a)^2=-a^2\)
Vì \(IO\parallel OS\Rightarrow \overrightarrow{IO}=k\overrightarrow{OS}\) \(\Rightarrow 2k.OS^2=-a^2\Rightarrow k=\frac{-1}{6}\)
\(\Rightarrow IS=SO-OI=SO-\frac{1}{6}SO=\frac{5}{6}SO=\frac{5\sqrt{3}}{6}a\)
hay \(R=\frac{5\sqrt{3}a}{6}\)