Rozważmy równanie

$x^2+\left(k-3\right)x+k^2-k+1=0$  

Zauważmy, że aby istniały pierwiastki tego równania

$\Delta \ge 0$

Stąd

${\left(k-3\right)}^2-4\cdot \left(k^2-k+1\right)\ge 0$   

$k^2-6k+9-4k^2+4k-4\ge 0$  

$-3k^2-2k+5\ge 0$  

${\Delta }_k={\left(-2\right)}^2-4\cdot \left(-3\right)\cdot 5=4+60=64,\sqrt{{\Delta }_k}=8$  

$k=\frac{2-8}{-6}=1\vee k=\frac{2+8}{-6}=-\frac{5}{3}$  

Zatem rozważamy

$k\in ⟨-\frac{5}{3},1⟩$  

Zapiszmy sumę odwrotności pierwiastków równania stosując wzory Viete'a

$S\left(k\right)=\frac{1}{x_1}+\frac{1}{x_2}=\frac{x_1+x_2}{x_1{x}_2}=\frac{-\frac{b}{a}}{\frac{c}{a}}=-\frac{b}{c}=-\frac{k-3}{k^2-k+1}=\frac{3-k}{k^2-k+1},k\in ⟨-\frac{5}{3},1⟩$  

Zatem mamy funkcję wyrażającą sumę. Chcemy znaleźć maksimum. Policzmy pochodną

$S{}^{\prime }\left(k\right)=\frac{\left(3-k\right){}^{\prime }\cdot \left(k^2-k+1\right)-\left(3-k\right)\cdot \left(k^2-k+1\right){}^{\prime }}{{\left(k^2-k+1\right)}^2}=\frac{-\left(k^2-k+1\right)-\left(2k-1\right)\left(3-k\right)}{{\left(k^2-k+1\right)}^2}=\frac{-k^2+k-1-6k+3+2k^2-k}{{\left(k^2-k+1\right)}^2}=\frac{k^2-6k+2}{{\left(k^2-k+1\right)}^2}$  

Stąd

$S{}^{\prime }\left(k\right)=0$  

$\frac{k^2-6k+2}{{\left(k^2-k+1\right)}^2}=0,{\left(k^2-k+1\right)}^2>0$  

Równoważnie rozważymy

$k^2-6k+2=0$  

$\widetilde{{\Delta }_k}={\left(-6\right)}^2-4\cdot 1\cdot 2=36-8=28,\sqrt{\widetilde{{\Delta }_k}}=2\sqrt{7}$  

$k=\frac{6-2\sqrt{7}}{2}=3-\sqrt{7}\approx 0,35\vee k=\frac{6+2\sqrt{7}}{2}=3+\sqrt{7}\approx 5,64$  

Biorąc pod uwagę

$k\in ⟨-\frac{5}{3},1⟩$  

mamy

$3-\sqrt{7}\in ⟨-\frac{5}{3},1⟩$  

Mamy

$S{}^{\prime }\left(k\right)>0:\left(-\frac{5}{3,2}-\sqrt{7}\right)\to \text{funkcja rosˊnie}$  

$S{}^{\prime }\left(k\right)<0:\left(3-\sqrt{7},1\right)\to \text{funkcja maleje}$  

Zatem dla wartości

$\underline{\underline{k=3-\sqrt{7}}}$  

mamy maksimum, stąd dla takiej wartości mamy maksymalną wartość sumy odwrotności pierwiastków.