Ta có: \(\frac{xy+1}{x+y}\ge\frac{3y+1}{x+y}\ge\frac{3y+1}{2y}>\frac{3y}{2y}=\frac{3}{2}\)( mâu thuẫn với gt)
giả sử \(a\le2\Rightarrow a\in\left\{1;2\right\}\)
+ Với a=1 \(\Rightarrow M=\frac{y^3+1}{y^3+1}=1\)
+ Với a=2 \(\Rightarrow M=\frac{8y^3+1}{y^3+8}\)
Từ đk \(\frac{xy+1}{x+y}=\frac{2y+1}{y+2}< \frac{3}{2}\Rightarrow b< 4\)
=> \(b\in\left\{1;2;3\right\}\)
+ Với b=1 \(\Rightarrow M=\frac{9}{9}=1\)
+ Với b=2 \(\Rightarrow M=\frac{8.8+1}{8+8}=\frac{65}{16}\)
+ vỚI b=3 \(\Rightarrow M=\frac{8.27+1}{27+8}=\frac{217}{35}\Leftrightarrow\hept{\begin{cases}a=2\\b=3\end{cases}}\) hoặc ngược lại.