W zadaniu skorzystamy ze wzorów Viète'a. Zacznijmy od założeń, rozwiązania istnieją i są różne jeśli

$\Delta >0$  

$m^2-4\cdot 1\cdot 2>0$  

$m^2-8>0$  

$\left(m-2\sqrt{2}\right)\left(m+2\sqrt{2}\right)>0$  

$m\in \left(-\infty ,-2\sqrt{2}\right)\cup \left(2\sqrt{2},+\infty \right)\left(\ast \right)$  

Zapiszmy opisany w zadaniu warunek, że suma kwadratów jest większa od podanego wyrażenia.

$x_1^2+x_2^2>2m^2-13$  

$x_1^2+2x_1{x}_2+x_2^2-2x_1{x}_2>2m^2-13$  

${\left(x_1+x_2\right)}^2-2x_1{x}_2>2m^2-13$  

Korzystając ze wzorów Viète'a

${\left(\frac{-b}{a}\right)}^2-2\cdot \frac{c}{a}>2m^2-13$  

${\left(\frac{-m}{1}\right)}^2-2\cdot \frac{2}{1}>2m^2-13$  

$m^2-4>2m^2-13$  

$-m^2+9>0$  

$\left(3-m\right)\left(3+m\right)>0$

Stąd

$m\in \left(-3,3\right)$  

Uwzględniając poprzednie założenia (*) otrzymujemy

$\underline{m\in \left(-3,-2\sqrt{2}\right)\cup \left(2\sqrt{2},3\right)}$