Przyjmijmy oznaczenia jak na rysunku poniżej: 

Z treści zadania wiemy, że:

$4r+2h=6\left[\text{dm}\right]$

zatem:

$2h=6-4r\mid :2$

$h=3-2r$

---

założenia:

$3-2r>0\wedge r>0$

$2r<3$

$r<\frac{3}{2}$

$r\in \left(0,\frac{3}{2}\right)$    

---

Zapisujemy wzór funkcji V opisującej objętość walca w zależności od r:

$V\left(r\right)=\pi r^2\cdot \left(3-2r\right)=3\pi r^2-2\pi r^3,r\in \left(0,\frac{3}{2}\right)$

Wyznaczamy pochodną funkcji V:

$V{}^{\prime }\left(r\right)=6\pi r-6\pi r^2,r\in \left(0,\frac{3}{2}\right)$

Wyznaczamy punkty krytyczne:

$V{}^{\prime }\left(r\right)=0\text{gdy}6\pi r-6\pi r^2=0$

Rozwiązujemy równanie:

$6\pi r-6\pi r^2=0$

$6\pi r\left(1-r\right)=0$

$\underset{\text{sprzecznosˊcˊ}}{r=0}\text{lub}r=1$   

---

Wiemy, że:

$V{}^{\prime }\left(r\right)>0\text{gdy}r\in \left(0,1\right)$

$V{}^{\prime }\left(r\right)<0\text{gdy}r\in \left(1,\frac{3}{2}\right)$   

Zatem funkcja V rośnie w przedziale (0, 1), natomiast maleje w przedziale (1, ³/₂).

Wobec tego funkcja V przyjmuje wartość największą, gdy r=1.

---

Wyznaczamy wymiary walca:

$r=1\left[\text{dm}\right],h=3-2r=3-2\cdot 1=3-2=1\left[\text{dm}\right]$  

---

Obliczamy objętość walca spełniającego warunki zadania:

$V\left(1\right)=3\pi \cdot 1^2-2\pi \cdot 1^3=3\pi -2\pi =\pi \left[{\text{dm}}^3\right]$