Lời giải:
Đặt \(x^2=t\). Khi đó: \(y=m^2t^2-2(4m-1)t+1\)
\(\Rightarrow y'=2m^2t-2(4m-1)\)
Hàm số ban đầu đồng biến trên \((1;+\infty)\) khi :
\(2m^2t-2(4m-1)\geq 0(*), \forall t\in (1;+\infty)\)
Với \(m=0\Rightarrow (*)\) luôn đúng (thỏa mãn)
Với \(m\geq 0; (*)\Leftrightarrow t\geq \frac{4m-1}{m^2}\) với mọi \(t\in (1;+\infty)\)
\(\Rightarrow \frac{4m-1}{m^2}\leq \min t\Rightarrow \frac{4m-1}{m^2}\leq 1\)
\(\Rightarrow 4m-1\leq m^2\Rightarrow \left[\begin{matrix} m\leq 2-\sqrt{3}\\ m\geq 2+\sqrt{3}\end{matrix}\right.\)
Vậy \(m\in (-\infty; 2-\sqrt{3}]; m\in [2+\sqrt{3}; +\infty)\)