Скорость первого теплохода v₁ = х км/ч
Скорость второго теплохода v₂ = х + 3 км/ч
Время в пути первого: t₁ = S/v₁ = 108/x (ч)
Время в пути второго: t₂ = S/v₂ = 108/(x+3)  (ч)

Так как по условию t₁ = t₂ + 3, то:
                                             108/х = 3 + 108/(x+3)
                                             108/x = (3x+117)/(x+3)
                                              x*(3x+117) = 108*(x+3)
                                             3x² + 117x - 108x - 324 = 0
                                             x² + 3x - 108 = 0              D = b²-4ac = 9+432 = 441 

                               x₁ = (-b+√D)/2a = 9 (км/ч) - скорость первого теплохода

                               x₂ = (-b-√D)/2a = -12 - не удовлетворяет условию.

Скорость второго теплохода: v₂ = x+3 = 9 + 3 = 12 (км/ч)  

Ответ: 12 км/ч

II  теплоход :
Скорость    x  км/ч
Расстояние  108  км
Время в пути    108/х   часов

I теплоход:
Скорость   (х - 3) км/ч
Расстояние   108  км
Время в пути    108/(х-3)   ч. 

Зная, что  время в пути  I теплохода  на  3  часа  больше , чем  II теплохода , составим уравнение:
108/(х- 3)      -   108/х  =  3                    
знаменатели  не должны быть равны  0  
х -3 ≠ 0  ⇒   х ≠ 3  
х≠0
Избавимся от знаменателей  , умножим обе части уравнения на х× (х - 3)
108х  - 108(х-3) =3х(х-3)
108х  - 108х  - 108 × (-3) = 3х²  + 3х× (-3)
324  = 3х²  - 9х
3х² - 9х  -324= 0  
3× (х²  - 3х  - 108) = 0                  |÷ 3
х²  - 3х  - 108 = 0
Решим через дискриминант:
D =  b²  -  4ac ;   
D>0  два корня уравнения ;   D = 0  один корень уравнение ; 
D=0  нет вещественных корней уравнения, только комплексные
 х₁,₂ =  (-b √D) / 2а
В нашем уравнении а= 1  ;  b =  -3  ;  с =  - 108
D = (-3)²  -  4×1×(-108) = 9  + 432=441 = 21²
x₁ = (3   - √(21²) ) /  (2×1)  =  (3  - 21)/ 2 =  - 18/2  =  - 9  не удовлетворяет условию задачи, т. к. скорость  не может быть  отрицательной величиной
х₂ = ( 3  + 21) / 2  = 24/2  =  12 (км/ч)  скорость II теплохода

Ответ:  12 км/ч скорость второго теплохода.