Oznaczmy

$C=\left(x_C,y_C\right)$  

Najpierw skorzystajmy z tego, że trójkąt ma być równoramienny o podstawie AB. To znaczy, że odległość punktów A i B od punktu C ma być taka sama. Zapiszmy

$\left|AC\right|=\left|BC\right|$

$\sqrt{{\left(-1-x_C\right)}^2+{\left(-1-y_C\right)}^2}=\sqrt{{\left(5-x_C\right)}^2+{\left(1-y_C\right)}^2}{\mid }^2$

${\left(-1-x_C\right)}^2+{\left(-1-y_C\right)}^2={\left(5-x_C\right)}^2+{\left(1-y_C\right)}^2$

$1+2x_C+x_C^2+1+2y_C+y_C^2=25-10x_C+x_C^2+1-2y_C+y_C^2$

$2+2x_C+\cancel{x_C^2}+2y_C+\cancel{y_C^2}=26-10x_C+\cancel{x_C^2}-2y_C+\cancel{y_C^2}$

$2+2x_C+2y_C=26-10x_C-2y_C\mid -2-2x_C+2y_C$

$4y_C=24-12x_C\mid :4$  

$y_C=6-3x_C$

Następnie wykorzystamy to w równaniu okręgu, ponieważ punkt C ma również na nim leżeć.

${\left(x_C-1\right)}^2+{\left(y_C-3\right)}^2=20$  

${\left(x_C-1\right)}^2+{\left(6-3x_C-3\right)}^2=20$  

${\left(x_C-1\right)}^2+{\left(3-3x_C\right)}^2=20$  

$x_C^2-2x_C+1+9-18x_C+9x_C^2=20$  

$10x_C^2-20x_C+10=20\mid :10$  

$x_C^2-2x_C+1=2\mid -2$  

$x_C^2-2x_C-1=0$  

${\Delta }_{x_C}={\left(-2\right)}^2-4\cdot 1\cdot \left(-1\right)=4+4=8,\sqrt{{\Delta }_{x_C}}=2\sqrt{2}$  

$x_C=\frac{2-2\sqrt{2}}{2}=1-\sqrt{2}\vee x_C=\frac{2+2\sqrt{2}}{2}=1+\sqrt{2}$  

$y_C=6-3+3\sqrt{2}=3+3\sqrt{2}\vee y_C=6-3-3\sqrt{2}=3-3\sqrt{2}$  

Zatem

$C=\left(1-\sqrt{2},3+3\sqrt{2}\right)\text{ lub }C=\left(1+\sqrt{2},3-3\sqrt{2}\right)$