Thế 5xy = 2x + 3y vào phương trình thứ 2
=> 4x2 + y2 = y. (2x + 3y)
<=> 4x2 + y2 = 2xy + 3y2
<=> 4x2 - 2y2 - 2xy = 0
<=> 2x2 - y2 - xy = 0
<=> (x2 - y2) + (x2 - xy) = 0 <=> (x - y)(x + y) + x(x - y) = 0
<=> (x - y).(2x + y) = 0
<=> x = y hoặc y = -2x
+) TH1: x = y. thay vào PT thứ nhất trong hệ => 2x + 3x = 5x2 <=> 5x - 5x2 = 0 <=> 5x(1-x) = 0
<=> x = 0 hoặc x = 1
Vậy x= y = 0 hoặc x = y = 1
+) TH2: y = - 2x => 2x + 3.(-2x) = 5x.(-2x)
<=> -4x = -10x2 <=> 4x - 10x2 = 0 <=> x(4 - 10x) = 0 <=> x = 0 hoặc x = 2/5
Vậy x= 0; y = 0 hoặc x = 2/5; y = -4/5
Nghiệm của hệ đã cho là: (x;y) = (0;0); (1;1); (2/5; -4/5)