$a)$

Zapiszmy wielomian u(x) jako iloczyn dwumianów (skorzystamy ze wzoru skróconego mnożenia na róznicę kwadratów). 

$u\left(x\right)=x^2-1=\left(x-1\right)\left(x+1\right)$

Wiemy, że reszta z dzielenia wielomianu w(x) przez dwumian (x-a) jest równa a.

Obliczmy więc, ile wynosi reszta z dzielenia wielomianu w(x) przez dwumian x-1:

$w\left(1\right)=1^4-3\cdot 1^3+b\cdot 1^2+\left(a-1\right)\cdot 1+b=$

$=1-3+b+a-1+b=$

$=2b+a-3$

Obliczmy, ile wynosi reszta z dzielenia wielomianu w(x) przez dwumian x+1:

$w\left(-1\right)={\left(-1\right)}^4-3\cdot {\left(-1\right)}^3+b\cdot {\left(-1\right)}^2+\left(a-1\right)\cdot \left(-1\right)+b=$

$=1+3+b-a+1+b=$

$=2b-a+5$

Jeśli wielomian w(x) ma być podzielny przez wielomian u(x), to wielomian w(x) musi być iloczynem pewnego wielomianu p(x) oraz wielomianu u(x):

$w\left(x\right)=p\left(x\right)\cdot u\left(x\right)$

$w\left(x\right)=p\left(x\right)\cdot \left(x-1\right)\cdot \left(x+1\right)\left(\ast \right)$

Wiemy, że:

$w\left(1\right)=2b+a-3$

Podstawiając do zależności oznaczonej gwiazdką otrzymujemy:

$p\left(1\right)\cdot \underset{0}{\underbrace{\left(1-1\right)}}\cdot \left(1+1\right)=2b+a-3$

$0=2b+a-3$

Wiemy, że:

$w\left(-1\right)=2b-a+5$

Podstawiając do zależności oznaczonej gwiazdką otrzymujemy:

$p\left(-1\right)\cdot \left(-1-1\right)\cdot \underset{0}{\underbrace{\left(-1+1\right)}}=2b-a+5$