Jeśli równanie ma posiadać dwa różne pierwiastki rzeczywiste to

$\Delta >0$  

Zatem dla naszego równania

${\left(-4m\right)}^2-4\cdot 1\cdot \left(-m^3+6m^2+m-2\right)>0$  

$16m^2+4m^3-24m^2-4m+8>0$  

$4m^3-8m^2-4m+8>0$  

$4m^3-4m-8m^2+8>0$  

$4m\left(m^2-1\right)-8\left(m^2-1\right)>0$  

$\left(m^2-1\right)\left(4m-8\right)>0$  

$4\left(m-1\right)\left(m+1\right)\left(m-2\right)>0$  

Naszkicujmy wykres pomocniczy.

Stąd

$m\in \left(-1,1\right)\cup \left(2,+\infty \right)\left(\ast \right)$  

---

Rozważamy warunek podany w zadaniu.

${\left(x_1-x_2\right)}^2<8\left(m+1\right)$  

$x_1^2-2x_1{x}_2+x_2^2<8\left(m+1\right)$  

$x_1^2+2x_1{x}_2+x_2^2-4x_1{x}_2<8\left(m+1\right)$  

${\left(x_1+x_2\right)}^2-4x_1{x}_2<8\left(m+1\right)$  

Skorzystamy ze wzorów Viète'a.

${\left(\frac{-b}{a}\right)}^2-4\cdot \frac{c}{a}<8\left(m+1\right)$  

Wstawiamy wartości.

${\left(\frac{-\left(-4m\right)}{1}\right)}^2-4\cdot \frac{-m^3+6m^2+m-2}{1}<8\left(m+1\right)$  

$16m^2-4\cdot \left(-m^3+6m^2+m-2\right)<8m+8$  

$16m^2+4m^3-24m^2-4m+8<8m+8$  

$16m^2+4m^3-24m^2-12m<0$  

$4m^3-8m^2-12m<0$  

$4m\left(m^2-2m-3\right)<0$  

$4m\left(m^2+m-3m-3\right)<0$  

$4m\left(m\left(m+1\right)-3\left(m+1\right)\right)<0$  

$4m\left(m+1\right)\left(m-3\right)<0$  

Naszkicujmy wykres pomocniczy.

Mamy

$m\in \left(-\infty ,-1\right)\cup \left(0,3\right)$  

---

Uwzględniając założenia (*) otrzymujemy

$\underline{m\in \left(0,1\right)\cup \left(2,3\right)}$