$4x^2+\left(2-4m\right)x+m^2-m-2=0$
$(1)\Delta >0\to m\in \mathbb{R}$
$(2)x_1^2+x_2^2\le \frac{17}{4}\to m\in \left[-2,3\right]$
$(3)x_1>0\wedge x_2>0\to \{\begin{array}{l}{x}_1\cdot x_2>0\\ x_1+x_2>0\end{array}$ 
       $x_1\cdot x_2>0$
       $m^2-m-2>0$
       ${\Delta }_m={\left(-1\right)}^2-4\cdot 1\cdot \left(-2\right)=1+8=9$
       $\sqrt{\Delta }=3$
       $m_1=\frac{1-3}{2}=\frac{-2}{2}=-1$
       $m_2=\frac{1+3}{2}=\frac{4}{2}=2$

 
       $m\in \left(-\infty ,-1\right)\cup \left(2,\infty \right)$

$x_1+x_2>0$
$-\frac{2-4m}{4}>0|\cdot \left(-4\right)$
$2-4m<0|-2$
$-4m<-2|:\left(-4\right)$
$m>\frac{1}{2}$
$m\in \left(\frac{1}{2},\infty \right)$

$x_1>0\wedge x_2>0\to m\in \left(2,\infty \right)$

Odp.: $m\in \left(2,3\right]$