Jeśli równanie ma mieć dwa różne pierwiastki to zachodzi

$\Delta >0$  

Stąd

${\left(-\left(m-2\right)\right)}^2-4\cdot 2\cdot \left(-3m\right)>0$  

$m^2-4m+4+24m>0$  

$m^2+20m+4>0$  

${\Delta }_m={20}^2-4\cdot 1\cdot 4=400-16=384,\sqrt{{\Delta }_m}=\sqrt{386}=\sqrt{2^6\cdot 6}=8\sqrt{6}$  

$m=\frac{-20-8\sqrt{6}}{2}=-10-4\sqrt{6}\vee m=\frac{-20+8\sqrt{6}}{2}=-10+4\sqrt{6}$  

Stąd

$x\in \left(-\infty ,-10-4\sqrt{6}\right)\cup \left(-10+4\sqrt{6},+\infty \right)\left(\ast \right)$  

---

Rozpiszmy podany warunek w zadaniu, który mają spełniać pierwiastki.

$x_1^2+x_2^2-2x_1{x}_2\le 25$  

$x_1^2+2x_1{x}_2+x_2^2-4x_1{x}_2\le 25$  

${\left(x_1+x_2\right)}^2-4x_1{x}_2\le 25$  

Skorzystamy ze wzorów Viète'a.

${\left(\frac{-b}{a}\right)}^2-4\cdot \frac{c}{a}\le 25$  

Wstawiamy wartości

${\left(\frac{m-2}{2}\right)}^2-4\cdot \frac{-3m}{2}\le 25\mid \cdot 4$   

$\frac{m^2-4m+4}{4}\cdot 4-16\cdot \frac{-3m}{2}\le 100$   

$m^2-4m+4+24m\le 100$   

$m^2+20m-96\le 0$   

${\Delta }_{m2}={20}^2-4\cdot 1\cdot \left(-96\right)=400+384=784,\sqrt{{\Delta }_{m2}}=28$  

$m=\frac{-20-28}{2}=-24\vee m=\frac{-20+28}{2}=4$  

Stąd

$m\in ⟨-24,4⟩$  

---

Uwzględniając założenie (*) otrzymujemy

$\underline{m\in ⟨-24,-10-4\sqrt{6})\cup (-10+4\sqrt{6},4⟩}$