Lời giải:
Áp dụng BĐT Bunhiacopxky:
\(H^2=(6a-5b)^2\leq [(2a)^2+(-5b)^2](3^2+1^2)=10(4a^2+25b^2)\)
\(\leq 10.10=100\)
\(\Rightarrow H\leq 10\)
Vậy $H_{\max}=10$. Giá trị này đạt tại \(\left\{\begin{matrix} 4a^2+25b^2=10\\ \frac{2a}{3}=-\frac{5b}{1}\end{matrix}\right.\Leftrightarrow x=\frac{3}{2}; y=-\frac{1}{5}\)