Бассейн имеет емкость S литров
Скорость заполнения бассейна х л/мин
В понелельник было включено n труб.
В понедельник на заполнение бассейна было затрачено S/nx минут
Во вторник на заполнение бассейна было затрачено S/(n+1)x минут
В среду на заполнение бассейна было затрачено S/(n+5)x минут
/frac{S}{nx} - /frac{S}{(n+1)x}=20 // /frac{S}{(n+1)x} - /frac{S}{(n+5)x}=40 
Найти n
Обозначим S/x = y
/frac{y}{n} - /frac{y}{n+1}=20 // /frac{y}{n+1} - /frac{y}{n+5}=40 
Получили систему из двух уравнений с двумя неизвестными. Решаем.
y( /frac{1}{n} - /frac{1}{n+1})=20 //y ( /frac{1}{n+1} - /frac{1}{n+5})=40 

y /frac{n+1-n}{n(n+1)}=20 //y /frac{n+5-n-1}{(n+1)(n+5)}=40 

y /frac{1}{n(n+1)}=20 //y /frac{4}{(n+1)(n+5)}=40 

/frac{y }{n(n+1)}=20 // /frac{y}{(n+1)(n+5)}=10 

y=20n(n+1)
y=10(n+1)(n+5)
Приравниваем уравнения.
20n(n+1)=10(n+1)(n+5)
2n(n+1)=(n+1)(n+5)
2n²+2n=n²+5n+n+5
n²-4n-5=0
D=4²+4*5=16+20=36
√D=6
n₁=(4-6)/2=-1 посторонний корень, отбрасываем 
n₂=(4+6)/2=5
Ответ: в понедельник работали 5 труб