Gọi hai số phải tìm là a và b (b ≠ 0)
Ta có:
Đặt a = 3k suy ra b = 5k, do đó:
a2 - b2 = (3k)2 - (5k)2 = 9k2 – 25k2 = -16k2.
Theo đề bài có a2 – b2 = -64, suy ra -16k2 = -64,
suy ra k2 = 4 nên k = 2 hoặc k = -2.
Với k = 2 thì a = 3.2 = 6; b = 5.2 = 10
Với k = -2 thì a = 3.(-2) = -6; b = 5.(-2) = -10