Làm nhầm đề \(4ac^2\) mất nửa tiếng mãi không ra, đề cho dễ nhầm lẫn quá.
Ta có:
\(P=a^2b-abc+c\left(2a-b\right)^2\ge a^2b-abc=ab\left(a-c\right)\)
- Nếu \(a>c\Rightarrow P\ge0\)
- Nếu \(a\le c\Rightarrow P\ge ab\left(a-c\right)=-\dfrac{1}{2}.2a.b\left(c-a\right)\)
\(\Rightarrow P\ge-\dfrac{1}{54}\left(2a+b+c-a\right)^3=-4\)
Dấu "=" xảy ra khi \(\left(a;b;c\right)=\left(1;2;3\right)\)
Max:
- Nếu \(b>a\):
\(P=a^2b+b^2c+4ca^2-5abc< ab^2+b^2c+ca\left(4a-5b\right)< ab^2+b^2c\)
\(P< b^2\left(a+c\right)=4.\dfrac{b}{2}.\dfrac{b}{2}\left(a+c\right)\le\dfrac{4}{27}\left(\dfrac{b}{2}+\dfrac{b}{2}+a+c\right)^3=32\)
- Nếu \(b\le a\):
\(P=a^2b+b^2c+4ca^2-5abc\le4a^2b+4b^2c+4ca^2-4abc\)
\(P\le4a^2\left(b+c\right)+4bc\left(b-a\right)\le4a^2\left(b+c\right)\)
\(P\le16.\dfrac{a}{2}.\dfrac{a}{2}\left(b+c\right)\le\dfrac{16}{27}\left(\dfrac{a}{2}+\dfrac{a}{2}+b+c\right)^3=128\)
Dấu "=" xảy ra khi \(\left(a;b;c\right)=\left(4;0;2\right)\)
P/s: mình sẽ ko làm những bài BĐT nhiều hơn 3 biến hoặc các dạng tổng quát (phí thời gian).