W zadaniu skorzystamy ze wzorów Viète'a. Zacznijmy od założeń, rozwiązania istnieją i są różne jeśli

$\Delta >0$

$m^2-4\cdot 1\cdot 2>0$

$m^2-8>0$  

$\left(m-2\sqrt{2}\right)\left(m+2\sqrt{2}\right)>0$

$m\in \left(-\infty ,-2\sqrt{2}\right)\cup \left(2\sqrt{2},+\infty \right)\left(\ast \right)$

Zapiszmy opisany w zadaniu warunek, że suma kwadratów jest większa od podanego wyrażenia.

$x_1^2+x_2^2>2m^2-13$

$x_1^2+2x_1{x}_2+x_2^2-2x_1{x}_2>2m^2-13$

${\left(x_1+x_2\right)}^2-2x_1{x}_2>2m^2-13$

Korzystając ze wzorów Viète'a

${\left(\frac{-b}{2}\right)}^2-2\cdot \frac{c}{a}>2m^2-13$

${\left(\frac{-m}{1}\right)}^2-2\cdot \frac{2}{1}>2m^2-13$  

$m^2-4>2m^2-13|-2m^2+4$

$-m^2+9>0$

$-\left(m-3\right)\left(m+3\right)>0$

Lewa strona nierówności to wyrażenie kwadratowe o dwóch pierwiastkach $m=3$ i $=-3$, którego wykresem jest parabola o ramionach skierowanych w dół. Stąd

$m\in \left(-3,3\right)$

Uwzględniając poprzednie założenia $\left(\ast \right)$ otrzymujemy

$\underline{m\in \left(-3,-2\sqrt{2}\right)\cup \left(2\sqrt{2},3\right)}$