Lời giải:
Đặt $\sin x=a; \cos x=b(a>b)$
Ta có: $a^3-b^3=\frac{\sqrt{2}}{2}\Rightarrow (a^3-b^3)^2=\frac{1}{2}$
$\Leftrightarrow a^6+b^6-2a^3b^3=\frac{1}{2}$
$\Leftrightarrow (a^2+b^2)(a^4-a^2b^2+b^4)-2a^3b^3=\frac{1}{2}$
$\Leftrightarrow a^4-a^2b^2+b^4-2a^3b^3=\frac{1}{2}$
$\Leftrightarrow (a^2+b^2)^2-3a^2b^2-2a^3b^3=\frac{1}{2}$
$\Leftrightarrow 3a^2b^2+2a^3b^3=\frac{1}{2}$
Đặt $ab=t$ thì $6t^2+4t^3-1=0$
$\Leftrightarrow 2t^2(2t+1)+(2t-1)(2t+1)=0$
$\Leftrightarrow (2t+1)(2t^2+2t-1)=0$
$\Rightarrow t=\frac{-1}{2}; t=\frac{-1\pm \sqrt{3}}{2}$
Nếu $t=ab=\frac{-1}{2}$:
$1=a^2+b^2=(a+b)^2-2ab\Rightarrow (a+b)^2=2ab+1=0\Rightarrow a=-b$
$\Rightarrow \tan x=\frac{a}{b}=-1$
$\Rightarrow \tan (x+\frac{\pi}{4})=\frac{\tan x+1}{1-\tan x}=0$
Nếu $t=ab=\frac{-1-\sqrt{3}}{2}\Rightarrow (a+b)^2=a^2+b^2+2ab=1+(-1-\sqrt{3})< 0$ (vô lý- loại)
Nếu $t=ab=\frac{-1+\sqrt{3}}{2}$
$a^3-b^3=\frac{\sqrt{2}}{2}\Leftrightarrow (a-b)(a^2+b^2+ab)=\frac{\sqrt{2}}{2}$
$\Leftrightarrow (a-b)(1+ab)=\frac{\sqrt{2}}{2}$
$\Rightarrow a-b=\frac{\sqrt{2}}{2}:(1+ab)=\frac{\sqrt{6}-\sqrt{2}}{2}$
Áp dụng định lý Vi-et đảo, $a,-b$ là nghiệm của PT:
$X^2-\frac{\sqrt{6}-\sqrt{2}}{2}X+\frac{1-\sqrt{3}}{2}=0$
Đến đây giải ra tìm $a,-b\Rightarrow a,b$
$\Rightarrow \tan x=\frac{a}{b}$. Từ đó thế vào tìm $\tan (x+\frac{\pi}{4})$