$w\left(x\right)=x^4-3x^3-4x^2=x^2\left(x^2-3x-4\right)=\dots$  

Obliczamy pierwiastki trójmianu x²-3x-4:

$\Delta =9+16=25,\sqrt{\Delta }=5$  

$x=\frac{3-5}{2}=\frac{-2}{2}=-1\text{lub}x=\frac{3+5}{2}=\frac{8}{2}=4$  

Zatem:

$x^2-3x-4=\left(x+1\right)\left(x-4\right)$  

I stąd:

$w\left(x\right)=\dots =x^2\left(x^2-3x-4\right)=x^2\left(x+1\right)\left(x-4\right)$  

---

Sprawdzamy, kiedy wielomian w przyjmuje wartość ujemną:

$w\left(x\right)<0$  

$x^2\left(x+1\right)\left(x-4\right)<0$  

Kwadrat dowolnej liczby rzeczywistej jest zawsze nieujemny (x²⩾0), więc wyrażenie x²(x+1)(x-4) przyjmuje ujemną wartość, gdy:

$\left(x+1\right)\left(x-4\right)<0\text{i}{x}^2\left(x+1\right)\left(x-4\right)\ne 0$  

$x\in \left(-1,4\right)\text{i}{x}^2\left(x+1\right)\left(x-4\right)\ne 0$  

$x\in \left(-1,4\right)\text{i}x\ne 0\text{i}x\ne -1\text{i}x\ne 4$  

$x\in \left(-1,0\right)\cup \left(0,4\right)$  

---

Liczby całkowite należące do zbioru rozwiązań nierówności to: 1, 2, 3, więc obliczamy wartości wielomianu dla tych argumentów: 

$w\left(1\right)=1^2\cdot \left(1+1\right)\cdot \left(1-4\right)=1\cdot 2\cdot \left(-3\right)=2\cdot \left(-3\right)=-6$  

$w\left(2\right)=2^2\cdot \left(2+1\right)\cdot \left(2-4\right)=4\cdot 3\cdot \left(-2\right)=12\cdot \left(-2\right)=-24$  

$w\left(3\right)=3^2\cdot \left(3+1\right)\cdot \left(3-4\right)=9\cdot 4\cdot \left(-1\right)=36\cdot \left(-1\right)=-36$  

Wartość wielomianu jest najmniejsza dla x=3.