Áp dụng bất đẳng thức AM - GM:
\(\sqrt{\left(x^2-15\right)\left(x-3\right)}\le\dfrac{x^2-15+x-3}{2}=\dfrac{x^2+x-18}{2};\sqrt{x^2-15}\le\dfrac{x^2-15+1}{2}=\dfrac{x^2-14}{2};\sqrt{x-3}\le\dfrac{x-3+1}{2}=\dfrac{x-2}{2}\).
Do đó \(F\ge x^2+x-\dfrac{x^2+x-18}{2}-\dfrac{x^2-14}{2}-\dfrac{x-2}{2}-38=-21\).
Đẳng thức xảy ra khi x = 4.
Vậy...