a) ∆ = (5k)² - 4.(-1).4 = 25k² + 16 > 0 với mọi k ∈ R
Theo định lí Viét, ta có:
x₁ + x₂ = 5k
x₁x₂ = -4
Ta có:
x₁² + x₂² + 6x₁x₂ = 9
(x₁ + x₂)² - 2x₁x₂ + 6x₁x₂ = 9
(x₁ + x₂)² + 4x₁x₂ = 9
(5k)² + 4.(-4) = 9
25k² - 16 = 9
25k² = 9 + 16
25k² = 25
k² = 25 : 25
k² = 1
k = -1 hoặc k = 1
Vậy k = -1; k = 1 thì phương trình đã cho có hai nghiệm thỏa mãn yêu cầu đề bài

