Пусть всего было х обезьян. Пятая часть обезьян - это дробь одна пятая. ИИ эту дробь надо умножить на х. Получаем, что пятая часть всех обезьян - х5. Уменьшенной на три - это (х5 -3). Возводим это в квадрат получаем (х5 - 3)^2. И одна обезьяна на дереве - это плюс один. и все это равно х обезьян.

Получаем:  (х5-3)^2+ 1 = х  И решаем это уравнение.

Возводим разность в квадрат по формуле

((х^2)25 - 6х5 + 9) + 1 = х

(х^2)25 - 6х5 +10 = х

Переносим х в левую часть уравнения

(х^2)25 - 6х5 +10 - х = 0

Складываем подобные слагаемые

(х^2)25 - 11х5 +10 = 0

Домножаем на 25 и правую и левую часть.

х^2 - 55х +250 = 0

a = 1     b = -55      c = 250

D = b^2 - 4ac

D = 3025 - 1000 = 2025

Извлекаем корень из 2025. Получаем 45

х1 = (55-45)2                    х2 = (55+45)2

х1 = 5                                  х2 = 50

Пусть обезьян будет пять. Но пятая часть от 5 - это 1. А один уменьшить на три нельзя. Значит 5 не подходит по смыслу задачи.

Значит ответ: 50 обезбян.