1. Đặt x = √2.cosα và y = √2.sinα (với α trên [0,3π/2]) 
Ta có: P = 4√2(sinα + cosα)(1 - sinαcosα) - 6sinαcosα 
Đặt t = sinα + cosα = √2.sin(α + π/4) có |t| ≤ √2, nên sinαcosα = (t^2 - 1)/2 
suy ra P = -2√2.t^3 - 3t^2 + 6√2.t + 3. 
Đến đây bạn áp dụng P' = 0 rồi xét các gtrị cực trị. 

2. Đặt x = cosα và y = sinα (với α trên [0,3π/2]) 
Biến đổi P = (6sin2α + cos2α + 1) / (3 + sin 2α - cos 2α) 
Mặt khác lại có (cos2α)^2 + (sin 2α)^2 = 1. 
Ta áp dụng P' = 0 tiếp.

\(x^2-3x-3y+2xy+2y^2-4=0\)

\(\Leftrightarrow\left(x+y+3\right)^2-9\left(x+y+3\right)+y^2+14=0\)

\(\Leftrightarrow P^2-9P+y^2+14=0\)

Ta có: \(0=P^2-9P+y^2+14\ge P^2-9P+14=\left(P-7\right)\left(P-2\right)\)

\(\Leftrightarrow2\le P\le7\)

Vậy...

P/s: Về cơ bản hướng làm là thế, nhưng khi tính toán + biến đổi có thể sai, bạn tự check lại.

Dòng kế cuối là:\(\Rightarrow2\le P\le7\) nha!

\(P=\dfrac{4x^2+2xy-\left(x^2+y^2\right)}{2xy-2y^2+3\left(x^2+y^2\right)}=\dfrac{3x^2+2xy-y^2}{3x^2+2xy+y^2}\)

Biểu thức này không tồn tại max mà chỉ tồn tại min

\(P=\dfrac{-2\left(3x^2+2xy+y^2\right)+9x^2+6xy+y^2}{3x^2+2xy+y^2}=-2+\dfrac{\left(3x+y\right)^2}{2x^2+\left(x+y\right)^2}\ge-2\)

Bạn coi lại mẫu số

pt \(\Leftrightarrow\)\(\left(x+y\right)^2+7\left(x+y\right)+\frac{49}{4}=-y^2+\frac{49}{4}-10\)

\(\Leftrightarrow\)\(\left(x+y+\frac{7}{2}\right)^2=-y^2+\frac{9}{4}\le\frac{9}{4}\)

\(\Leftrightarrow\)\(\frac{-3}{2}\le x+y+\frac{7}{2}\le\frac{3}{2}\)

\(\Leftrightarrow\)\(-4\le x+y+1\le-1\)

Dấu "=" tự xét nhé