\(a^3-a^2b+ab^2-6b^3=0\)
\(\Leftrightarrow\left(a^3-a^2b\right)+\left(a^2b-ab^2\right)+\left(3ab^2-6b^3\right)=0\)
\(\Leftrightarrow a^2\left(a-2b\right)+ab\left(a-2b\right)+3b^2\left(a-2b\right)=0\)
\(\Leftrightarrow\left(a-2b\right)\left(a^2+ab+3b^2\right)=0\left(1\right)\)
Vì \(a>b>0\Rightarrow a^2+ab+3b^2>0\)nên từ (1) ta có \(a-2b=0\Leftrightarrow a=2b\)
Giá trị biểu thức \(P=\frac{a^4-4b^4}{b^4-4a^4}=\frac{16b^4-4b^4}{b^4-64b^4}=\frac{12b^4}{-63b^4}=-\frac{4}{21}\)