Từ ab = c2 - 11 ta suy ra c2 - ab = 11.
Ta có:
\(\dfrac{a}{5}=\dfrac{b}{3}=\dfrac{c}{2}\)
\(\Rightarrow\dfrac{ab}{15}=\dfrac{c^2}{4}\)
Áp dụng tính chát dãy tỉ số bằng nhau ta có:
\(\dfrac{ab}{15}=\dfrac{c^2}{4}=\dfrac{c^2-ab}{4-15}=\dfrac{11}{-11}=-1\)
\(\Rightarrow\left\{{}\begin{matrix}ab=-15\\c^2=-4\end{matrix}\right.\), loại vì c2 \(\ge\) 0.
Vậy a, b, c \(\in\varnothing\)