Lời giải:
Áp dụng BĐT Cô-si cho các số không âm:
$a^2+1\geq 2\sqrt{a^2}=2|a|\geq 2a$
$b^2+16\geq 2\sqrt{16b^2}=2|4b|\geq 8b$
$\Rightarrow a^2+b^2+17\geq 2(a+4b)=2.17$
$\Rightarrow a^2+b^2\geq 17$
Vậy $A_{\min}=17$ khi $a=1; b=4$
Với từng ấy điều kiện đề bài thì không tìm được max của $a^2+b^2$