Lời giải:
Kẻ $AH\perp SC, AK\perp SB$
Ta thấy:
$SA\perp (ABC)\Rightarrow SA\perp BC$
$AB\perp BC$
$\Rightarrow (SAB)\perp BC$
$\Rightarrow AK\perp BC$
\(\left\{\begin{matrix} AK\perp BC\\ AK\perp SB\end{matrix}\right.\Rightarrow AK\perp (SBC)\Rightarrow AK\perp SC\)
\(\left\{\begin{matrix} AH\perp SC\\ AK\perp SC\end{matrix}\right.\Rightarrow HK\perp SC\)
Như vậy, $AH\subset (SAC); HK\subset (SBC)$ và $AH, HK$ cùng vuông góc với giao tuyến 2 mp trên nên $\widehat{AHK}=\angle ((SAC), (SBC))=60^0$
Mặt khác: $AK\perp (SBC)$ mà $HK\subset (SBC)$ nên $AK\perp HK$
Do đó tam giác $AHK$ vuông tại $K$
$\Rightarrow \frac{AK^2}{AH^2}=(\sin \widehat{AHK})^2=\frac{3}{4}$
Mà $AK^2=\frac{SA^2.AB^2}{SA^2+AB^2}=\frac{9SA^2.a^2}{SA^2+9a^2}$
$AH^2=\frac{SA^2.AC^2}{SA^2+AC^2}=\frac{25SA^2.a^2}{SA^2+25a^2}$
Do đó: $SA=\frac{5\sqrt{39}}{13}a$
$V_{S.ABC}=\frac{1}{3}.SA.S_{ABC}=\frac{1}{3}.\frac{5\sqrt{39}}{13}a. 6a^2=\frac{10\sqrt{39}}{13}a^3$