x² - (2m + 1)x + m² + 1 = 0
∆ = [-(2m + 1)]² - 4.(m² + 1)
= 4m² + 4m + 1 - 4m² - 4
= 4m - 3
Để phương trình có hai nghiệm phân biệt thì ∆ > 0
⇔ 4m - 3 > 0
⇔ 4m > 3
⇔ m > 3/4
Theo hệ thức Vi-ét, ta có:
x₁ + x₂ = 2m + 1
x₁x₂ = m² + 1
Ta có:
(x₁ + 1)² + (x₂ + 1)² = 13
⇔ x₁² + 2x₁ + 1 + x₂² + 2x₂ + 1 = 13
⇔ (x₁ + x₂)² - 2x₁x₂ + 2(x₁ + x₂) + 2 = 13
⇔ (2m + 1)² - 2(m² + 1) + 2(2m + 1) + 2 = 13
⇔ 4m² + 4m + 1 - 2m² - 2 + 4m + 2 + 2 = 13
⇔ 2m² + 8m + 3 - 13 = 0
⇔ m² + 4m - 5 = 0
Do a + b + c = 1 + 4 + (-5) = 0
⇒ m = 1 (nhận); m = -5 (loại)
Vậy m = 1