Lời giải:
Ta có:
Để hàm \(y=m\sin x-n\cos x-3x\) nghịch biến trên R thì:
\(y'=m\cos x+n\sin x-3\leq 0, \forall x\in\mathbb{R}\)
\(\Leftrightarrow m\cos x+n\sin x\leq 3\), \(\forall x\in\mathbb{R}\)
\(\Rightarrow (m\cos x+n\sin x)_{\max}\le 3(*)\)
Ta thấy theo BĐT Bunhiacopxky:
\((m\cos x+n\sin x)^2\leq (m^2+n^2)(\cos ^2x+\sin ^2x)\)
hay \((m\cos x+n\sin x)^2\leq m^2+n^2\)
\(\Rightarrow m\cos x+n\sin x\leq \sqrt{m^2+n^2}\).
Do đó \((m\cos x+n\sin x)_{\max}=\sqrt{m^2+n^2}(**)\)
Từ (*) và (**) suy ra để \(y'\leq 0\) thì \(\sqrt{m^2+n^2}\leq 3\Leftrightarrow m^2+n^2\leq 9\)
Đáp án C.