Lời giải:
Để hàm số xác định trên $\mathbb{R}$ thì:
$2\sin ^2x-m\sin x+1>0, \forall x\in\mathbb{R}$
$\Leftrightarrow 2t^2-mt+1>0$ với mọi $t\in [-1;1]$
Với $t=0$ thì $2t^2-mt+1>0$ với mọi $m\in\mathbb{R}$
Với $t\in (0;1]$
$2t^2-mt+1>0\Leftrightarrow m< 2t+\frac{1}{t}$
$\Leftrightarrow m< \min (2t+\frac{1}{t})$ với mọi $t\in (0;1]$
Xét hàm $f(t)=2t+\frac{1}{t}$.
$f'(t)=0\Leftrightarrow t=\frac{1}{\sqrt{2}}$
Lập BBT ta thấy $f(t)_{\min}=2\sqrt{2}$
Với $t\in [-1;0)$
$2t^2-mt+1>0\Leftrightarrow m>2t+\frac{1}{t}$
$\Leftrightarrow m> max (2t+\frac{1}{t})$ với mọi $t\in [-1;0)$
Xét và lập BBT tương tự như trên ta thấy $m>-2\sqrt{2}$
Vậy tóm lại $m\in (-2\sqrt{2}; 2\sqrt{2})$
Cách khác:
Để hàm số xác định trên R thì:
$2\sin ^2x-m\sin x+1>0$ với mọi $x\in\mathbb{R}$
$\Leftrightarrow 2(\sin x-\frac{m}{4})^2+1-\frac{m^2}{8}>0, \forall x\in\mathbb{R}$
$\Leftrightarrow \frac{m^2}{8}< 2(\sin x-\frac{m}{4})^2+1, \forall x\in\mathbb{R}$
$\Leftrightarrow \frac{m^2}{8}< min [2(\sin x-\frac{m}{4})^2+1]$
Dễ thấy $2(\sin x-\frac{m}{4})^2+1\geq 1$ với mọi $x\in\mathbb{R}$ nên $\frac{m^2}{8}< 1$
$\Leftrightarrow -2\sqrt{2}< m< 2\sqrt{2}$ là đáp án cuối cùng.