5*x + 3*x = 80
8x = 80
x =10 - количество каждых монет.
ПРОВЕРКА
10 *3 = 30 - количество трёхкопеечных
10*5 = 50 - пятикопеечных
в сумме 80)

Для обозначения 3-х копеечных монет возьмем 3х, для пятикопеечных 5у. Тогда 3х+5у=80. Так как трехкопеечных и пятикопеечных у него поровну, тогда х=у. Получаем систему уравнений:
3х+5у=80
х=у

Заменяем 3х на 3у.
3у+5у=80
х=у

8у=80
х=у

у=10
х=у

у=10
х=10

Ответ: у Коли по 10 штук каждых монет.