Bình phương 2 vế ta được :

\(3a\sqrt{3}-2\sqrt{9ab}+b\sqrt{3}=2\sqrt{3}-3\)

\(\Leftrightarrow\left(3a+b\right)\sqrt{3}-6\sqrt{ab}=2\sqrt{3}-3\)

\(\Leftrightarrow\left\{{}\begin{matrix}3a+b=2\\6\sqrt{ab}=3\end{matrix}\right.\Leftrightarrow\left\{{}\begin{matrix}3a+b=2\\ab=\dfrac{1}{4}\end{matrix}\right.\Rightarrow\left\{{}\begin{matrix}a=\dfrac{1}{2}\\b=\dfrac{1}{2}\end{matrix}\right.\)

Ta có: \(x=\frac{\sqrt{5}-\sqrt{3}}{\sqrt{5}+\sqrt{3}}=4-\sqrt{15}\)

Vì \(x=\frac{\sqrt{5}-\sqrt{3}}{\sqrt{5}+\sqrt{3}}\)là nghiệm của phương trình \(ax^2+bx+1=0\)nên:

\(a\left(4-\sqrt{15}\right)^2+b\left(4-\sqrt{15}\right)+1=0\)

\(\Leftrightarrow a\left(31-8\sqrt{15}\right)+4b-\sqrt{15}b+1=0\)

\(\Leftrightarrow31a-8\sqrt{15}a+4b-\sqrt{15}b+1=0\)

\(\Leftrightarrow\sqrt{15}\left(8a+b\right)=31a+4b+1\)

Do a b, là các số hữu tỉ nên \(31a+4b+1\)và \(8a+b\) là các số hữu tỉ

\(\Rightarrow\sqrt{15}\left(8a+b\right)\)là số hữu tỉ

Do đó \(\hept{\begin{cases}8a+b=0\\31a+4b+1=0\end{cases}}\Rightarrow\hept{\begin{cases}a=1\\b=-8\end{cases}}\)

Vậy a = 1; b = -8

Lời giải:
a.

Áp dụng BĐT Bunhiacopxky:

$A^2=(\sqrt{x-1}+\sqrt{9-x})^2\leq (x-1+9-x)(1+1)=16$

$\Rightarrow A\leq 4$

Vậy $A_{\max}=4$. Giá trị này đạt tại $x=5$

b.

$A=\frac{3(\sqrt{x}+2)+5}{\sqrt{x}+2}=3+\frac{5}{\sqrt{x}+2}$

Để $A$ nguyên thì $\frac{5}{\sqrt{x}+2}=m$ với $m$ nguyên dương

$\Leftrightarrow \sqrt{x}+2=\frac{5}{m}$

$\sqrt{x}=\frac{5-2m}{m}$

Vì $\sqrt{x}\geq 0$ nên $\frac{5-2m}{m}\geq 0$

Mà $m$ nguyên dương nên $5-2m\geq 0$

$\Leftrightarrow m\leq 2,5$. 

$\Rightarrow m=1; 2$

$\Rightarrow x=9; x=\frac{1}{4}$