Gọi độ dài 3 cạnh của hình hộp là x;y;z \(\Rightarrow x+y+z=10\)
\(\Rightarrow y+z=10-x\)
\(\sqrt{x^2+y^2+z^2}=5\sqrt{2}\Rightarrow x^2+y^2+z^2=50\)
\(\Rightarrow\left(x+y+z\right)^2-2\left(xy+yz+zx\right)=50\)
\(\Rightarrow xy+yz+zx=25\)
\(\Rightarrow x\left(y+z\right)+yz=25\)
\(\Rightarrow x\left(10-x\right)+yz=25\Rightarrow yz=25-x\left(10-x\right)=x^2-10x+25\)
Ta có:
\(V=xyz=x\left(x^2-10x+25\right)=x^3-10x^2+25x\)
Xét hàm \(f\left(x\right)=x^3-10x^2+25x\) trên \(\left(0;5\sqrt{2}\right)\)
\(f'\left(x\right)=3x^2-20x+25=0\Rightarrow\left[{}\begin{matrix}x=5\\x=\frac{5}{3}\end{matrix}\right.\)
Dựa vào BBT ta thấy \(f\left(x\right)\) đạt cực đại tại \(x=\frac{5}{3}\)
\(\Rightarrow V_{max}=f\left(\frac{5}{3}\right)=\frac{500}{27}\)