Jeśli równanie ma mieć dwa różne pierwiastki to zachodzi

$\Delta >0$

Stąd

${\left(-\left(m-2\right)\right)}^2-4\cdot 2\cdot \left(-3m\right)>0$

$m^2-4m+4+24m>0$

$m^2+20m+4>0$

Lewa strona jest wyrażeniem kwadratowym, którego wykres to parabola z ramionami skierowanymi ku górze. Obliczmy

${\Delta }_m=20^2-4\cdot 1\cdot 4=400-16=384,\sqrt{{\Delta }_m}=\sqrt{384}=8\sqrt{6}$

Mamy

$m=\frac{-20-8\sqrt{6}}{2}=-10-4\sqrt{6}\text{lub}m=\frac{-20+8\sqrt{6}}{2}=-10+4\sqrt{6}$

Rozwiązaniem nierówności jest zbiór

$m\in \left(-\infty ,-10-4\sqrt{6}\right)\cup \left(-10+4\sqrt{6},{+}_{}\infty \right)\left(\ast \right)$

---

Rozpiszmy podany warunek w zadaniu, który mają spełniać pierwiastki.

$x_1^2+x_2^2-x_1{x}_2\le 25$

$x_1^2+2x_1{x}_2+x_2^2-4x_1{x}_2\le 25$

${\left(x_1+x_2\right)}^2-4x_1{x}_2\le 25$

Skorzystamy ze wzorów Viète'a.

${\left(-\frac{b}{a}\right)}^2-4\cdot \frac{c}{a}\le 25$

Wstawiamy odpowiednie wartości

${\left(\frac{m-2}{2}\right)}^2-4\cdot \frac{-3m}{2}\le 25|\cdot 4$

$\frac{m^2-4m+4}{4}\cdot 4-16\cdot \frac{-3m}{2}\le 100$

$m^2-4m+4+24m\le 100|-100$

$m^2+20m-96\le 0$

Lewa strona nierówności to wyrażenie kwadratowe, którego wykresem jest parabola o ramiona skierowanych do góry. Obliczymy pomocniczo

${\Delta }_m=20^2-4\cdot 1\cdot \left(-96\right)=400+384=784,\sqrt{{\Delta }_m}=28$

Otrzymujemy

$m=\frac{-20-28}{2}=-24\text{lub}m=\frac{-20+28}{2}=4$

Stąd rozwiązaniem nierówności jest przedział

$m\in ⟨-24,4⟩$

---

Zauważmy, że

$-10-4\sqrt{6}>-10-4\sqrt{9}=-10-4\cdot 3=-22$

$-10+4\sqrt{6}<-10+4\sqrt{9}=-10+4\cdot 3=-2$

Uwzględniając założenie $\left(\ast \right)$ otrzymujemy

$\underline{m\in ⟨-24,-10-4\sqrt{6})\cup (-10+4\sqrt{6},4⟩}$