Gọi A= \(\sqrt{5-\sqrt{13+2\sqrt{11}}}\) - \(\sqrt{5+\sqrt{13+2\sqrt{11}}}\)
Lấy A bình phương rồi áp dụng hằng đẳng thức số 2 sẽ ra:
A^2 = \(10-\) \(2\sqrt{25-\left(13+2\sqrt{11}\right)}\)
= \(10-2\sqrt{11-2\sqrt{11}+1}\)
= \(10-2\sqrt{\left(\sqrt{11}-1\right)^2}\)
= \(12-2\sqrt{11}\)
=\(11-2\sqrt{11}+1\)
= \(\left(\sqrt{11}-1\right)^2\)
Suy ra A= \(\sqrt{11}-1\)
\(a=\sqrt{5-\sqrt{13+2\sqrt{11}}}\); \(b=\sqrt{5+\sqrt{13+2\sqrt{11}}}\)dễ thấy \(a< b\)
ta có \(a^2+b^2=10;a.b=\left(\sqrt{11}-1\right)^{ }\).
Từ đây ta có \(\left(a-b\right)^2=\left(\sqrt{11}-1\right)^2\)kết hợp với a<b => a-b=1-\(\sqrt{11}\)