Mình gợi ý phần đầu nè. Xét \(x=0\) riêng được \(y=0\) hoặc \(y=1\).

Xét \(x\ne0\). Khi đó  \(x\) và \(x^2+x+1\) nguyên tố cùng nhau với mọi \(x\) nguyên khác 0.

(Ở đây ta chỉ định nghĩa 2 số nguyên tố cùng nhau là 2 số có ước chung lớn nhất là 1 nên số âm vẫn được).

Để CM điều này ta gọi \(d=gcd\left(x^2+x+1,x\right)\) thì \(1⋮d\).

Vế trái là một số chia hết cho 4 nên trong 2 số \(x\) và \(x^2+x+1\) phải có một số chia hết cho 4

(Nếu mỗi số đều chia hết cho 2 thì không thể nguyên tố cùng nhau)

Trường hợp 1: \(x⋮4\) còn \(x^2+x+1\) lẻ.

Do \(y\) và \(y-1\) có 1 số chẵn và 1 số lẻ nên số chẵn sẽ là ước của \(x\) còn số lẻ là ước của \(x^2+x+1\).

Tức là có 2 trường hợp: \(x=4y\) và \(x=4\left(y-1\right)\).

Trường hợp 2 ngược lại.

Tới đây bạn tự giải được nha.

\(x\left[1+x+x^2\right]=4y\left[y-1\right]\)

\(\Leftrightarrow x^3+x^2-4y^2+x+4y=0\)

\(\Leftrightarrow x^2\left[x+1\right]+x-4y^2+4y=0\)

\(\Leftrightarrow\Delta=b^2-4ac=1-16xy+16xy^2-16y+16y^2\)

\(\Rightarrow\orbr{\begin{cases}x1=\frac{-1+\sqrt{1-16xy+16xy^2-16y+16y^2}}{2x+2}\\x2=\frac{-1-\sqrt{1-16xy+16xy^2-16y+16y^2}}{2x+2}\end{cases}}\)

đến đây tự làm tiếp nhé

mọi người t ủng hộ mk nha

a) Với \(m=0\) ta có:

\(\left\{{}\begin{matrix}0x+4y=10-0\\x+0y=4\end{matrix}\right.\)

\(\Leftrightarrow\left\{{}\begin{matrix}x=4\\y=\dfrac{5}{2}\end{matrix}\right.\) (nhận trường hợp này).

Với \(m\ne0\), ta có:

\(\left\{{}\begin{matrix}mx+4y=10-m\\x+my=4\end{matrix}\right.\)

\(\Leftrightarrow\left\{{}\begin{matrix}mx+4y=10-m\\-mx-m^2y=-4m\end{matrix}\right.\)

\(\Leftrightarrow\left\{{}\begin{matrix}\left(4-m^2\right)y=10-5m\left(1\right)\\x+my=4\left(2\right)\end{matrix}\right.\)

Biện luận:

Với \(m=2\) \(\left(1\right)\Rightarrow0y=0\) (phương trình vô số nghiệm),

Với \(m=-2\Rightarrow0y=20\) (phương trình vô nghiệm).

Với \(m\ne\pm2\Rightarrow y=\dfrac{10-5m}{4-m^2}=\dfrac{5\left(2-m\right)}{\left(2-m\right)\left(2+m\right)}=\dfrac{5}{m+2}\)

Vì \(y>0\Rightarrow\dfrac{5}{m+2}>0\Leftrightarrow m+2>0\Leftrightarrow m>-2\)

Thay \(y=\dfrac{5}{m+2}\) vào (2) ta được:

\(x+\dfrac{5m}{m+2}=4\Leftrightarrow x=\dfrac{8-m}{m+2}\)

Vì x>0 \(\Rightarrow\left[{}\begin{matrix}\left\{{}\begin{matrix}8-m>0\\m+2>0\end{matrix}\right.\\\left\{{}\begin{matrix}8-m< 0\\m+2< 0\end{matrix}\right.\end{matrix}\right.\Rightarrow-2< m< 8\)

Vì m là số nguyên và \(m\ne2\) nên \(m\in\left\{-1;0;1;3;4;5;6;7\right\}\)

Vậy \(m\in\left\{1;0;1;3;4;5;6;7\right\}\) thì hệ đã cho có nghiệm duy nhất sao cho \(x>0,y>0\).

b) Với \(m=0\) ta có nghiệm \(\left(x;y\right)=\left(4;\dfrac{5}{2}\right)\) (loại).

Với \(m=2\). Ta có hệ vô số nghiệm với nghiệm tổng quát có dạng \(\left\{{}\begin{matrix}x\in R\\y=2-\dfrac{x}{2}\end{matrix}\right.\)

Vì y là số nguyên dương nên:

\(\left\{{}\begin{matrix}x⋮2\\2-\dfrac{x}{2}>0\end{matrix}\right.\Leftrightarrow\left\{{}\begin{matrix}x⋮2\\x< 4\end{matrix}\right.\). Mặt khác x>0.

\(\Rightarrow x=2\Rightarrow y=1\)
Với \(m\ne\pm2\). Ta có \(y=\dfrac{5}{m+2}\).

Vì x,y là các số nguyên dương nên x,y>0. Nên:

\(m\in\left\{-1;0;1;3;4;5;6;7\right\}\) (1')

Mặt khác: \(5⋮\left(m+2\right)\)

\(\Rightarrow m+2\inƯ\left(5\right)\)

\(\Rightarrow m+2\in\left\{1;-1;5;-5\right\}\)

\(\Rightarrow m\in\left\{-1;-3;3;-7\right\}\) (2')

Từ (1') ,(2') \(\Rightarrow m\in\left\{-1;3\right\}\)

Vậy \(m\in\left\{-1;2;3\right\}\) thì hệ có nghiệm \(\left(x;y\right)\) với x,y là số nguyên dương.