a)

Naszkicujmy rysunek pomocniczy:

Korzystając z twierdzenia Pitagorasa dla trójkąta $ADC$, obliczmy wysokość trójkąta $ABC$:

$h^2+6^2=10^2$

$h^2+36=100|-36$

$h^2=64|\sqrt{},h>0$

$h=8$

Korzystając z twierdzenia Pitagorasa dla trójkąta $CEO$ mamy:

$r^2+4^2={\left(h-r\right)}^2$

$r^2+4^2={\left(8-r\right)}^2$

$r^2+16=64-16r+r^2|-r^2$

$16=64-16r|-64$

$-48=-16r|:\left(-16\right)$

$r=3$

---

b)

Naszkicujmy rysunek pomocniczy:

Korzystając z twierdzenia Pitagorasa dla trójkąta $ADC$, obliczmy wysokość trójkąta $ABC$:

$h^2+5^2=13^2$

$h^2+25=169|-25$

$h^2=144|\sqrt{},h>0$

$h=12$

Korzystając z twierdzenia Pitagorasa dla trójkąta $CEO$ mamy:

$r^2+8^2={\left(h-r\right)}^2$

$r^2+8^2={\left(12-r\right)}^2$

$r^2+64=144-24r+r^2|-r^2$

$64=144-24r|-144$

$-80=-24r|:\left(-24\right)$

$r=\frac{80}{24}$

$r=\frac{10}{3}$