Z treści zadania wiemy, że:

$A\left(3,-2\right),B\left(11,4\right)$

Punkt P leży na prostej o równaniu y=8x+10, zatem:

$P\left(x,8x+10\right)$   

Należy wyznaczyć współrzędne punktu P dla którego suma:

${\left|AP\right|}^2+{\left|BP\right|}^2$

jest najmniejsza. 

---

Zapisujemy podana sumę korzystając ze wzoru na długość odcinka: