Oznaczmy: 

$n$   - ilość wierzchołków pewnego wielokąta wypukłego

$\left(\begin{array}{l}n\\ 2\end{array}\right)$   - ilość możliwości wyboru dwóch wierzchołków tego wielokąta

$\left(\begin{array}{l}n\\ 2\end{array}\right)-n$   - ilość przekątnych tego wielokąta (należy odjąć ilość boków, ponieważ bok nie jest przekątną)     

Prawdopodobieństwo zdarzenia, że wybrane wierzchołki wyznaczają przekątną jest równe 0,8, zatem otrzymujemy:

$\frac{\left(\begin{array}{l}n\\ 2\end{array}\right)-n}{\left(\begin{array}{l}n\\ 2\end{array}\right)}=0,8$  

$\left(\begin{array}{l}n\\ 2\end{array}\right)-n=0,8\cdot \left(\begin{array}{l}n\\ 2\end{array}\right)$  

$\frac{n!}{2!\cdot \left(n-2\right)!}-n=\frac{4}{5}\cdot \frac{n!}{2!\cdot \left(n-2\right)!}\mid -\frac{4}{5}\frac{n!}{2!\cdot \left(n-2\right)!}+n$  

$\frac{1}{5}\cdot \frac{n!}{2!\cdot \left(n-2\right)!}=n$  

$\frac{\left(n-2\right)!\cdot \left(n-1\right)\cdot n}{10\cdot \left(n-2\right)!}=n$  

$\frac{n\left(n-1\right)}{10}=n\mid \cdot 10$  

$n\left(n-1\right)=10n$  

$n^2-n-10n=0$  

$n^2-11n=0$  

$n\left(n-11\right)=0$  

$n=0\vee n-11=0$  

$n=0\vee n=11$  

Liczba boków nie może być równa 0, zatem ten wielokąt ma 11 wierzchołków.