Lời giải:
Áp dụng BĐT Bunhiacopxky:
$P^2=(3\sqrt{x-5}+4\sqrt{9-x})^2\leq (3^2+4^2)(x-5+9-x)=100$
$\Rightarrow P\leq 10$
Vậy $P_{\max}=10$ hay $a=10$
---------------------------
Áp dụng bổ đề: $\sqrt{x}+\sqrt{y}\geq \sqrt{x+y}$ với $x,y\geq 0$ (điều này hoàn toàn dễ dàng cm bằng bình phương 2 vế và khai triển), ta có:
$P=3(\sqrt{x-5}+\sqrt{9-x})+\sqrt{9-x}$
$\sqrt{x-5}+\sqrt{9-x}\geq \sqrt{x-5+9-x}=2$
$\sqrt{9-x}\geq 0$
$\Rightarrow P\geq 3.2+0=6$ hay $P_{\min}=6$ hay $b=6$
Vậy:
$a^2+b^2=10^2+6^2=136$