функция убывает на некотором промежутке, если её производная на этом промежутке положительна и убывает, если отрицательна. Наши действия: 1) ищем прозводную. 2) приравниваем её к нулю, ищем её корни, ставим их на числовой прямой.3) проверяем знаки производной на каждом участке. пишем ответ
Начали,
1) у' = х³ +х² - 2х
2) х³ +х² -2х = 0
   х( х² + х -2) = 0
х=0  или  х² +х -2 =0
                  по т. Виета х = -2 и 1
-∞         -2          0            1           +∞   
      -           +           -             +
Ответ: у = x^4/4+x^3/3-x^2+5   убывает
                при х∈(-∞;-2);(0;1)
            у=  x^4/4+x^3/3-x^2+5   возрастает при
             х∈(-2;0);(1;+∞)