Gọi H là giao điểm của AB và O'O
Ta có: OA=OB
=>O nằm trên đường trung trực của AB(1)
O'A=O'B
=>O' nằm trên đường trung trực của AB(2)
Từ (1),(2) suy ra O'O là đường trung trực của AB
=>O'O⊥AB tại H và H là trung điểm của AB
Xét ΔAO'O có \(cosO^{\prime}AO=\frac{AO^2+\left(AO^{\prime}\right)^2-O^{\prime}O^2}{2\cdot AO\cdot AO^{\prime}}=\frac{17^2+10^2-21^2}{2\cdot17\cdot10}=\frac{-52}{340}=\frac{-13}{85}\)
=>sin O'AO=\(\sqrt{1-\left(-\frac{13}{85}\right)^2}=\sqrt{\frac{7056}{85^2}}=\frac{84}{85}\)
Diện tích tam giác O'AO là:
\(S_{O^{\prime}AO}=\frac12\cdot AO\cdot AO^{\prime}\cdot\sin O^{\prime}AO\)
\(=\frac12\cdot17\cdot10\cdot\frac{84}{85}=84\)
=>\(\frac12\cdot AH\cdot O^{\prime}O=84\)
=>\(AH\cdot\frac{21}{2}=84\)
=>AH=8
H là trung điểm của AB
=>\(AB=2\cdot AH=16\)

