Было с начала
Пусть было:
В. - с орех
П. - х орех
С. - у орех
Потом они стали передавать орехи
П. - (х+х)-у
С. - (у+у)-(с-х)
В. - (с-х)+(с-х)

2х-у=48 - у Пети
2у-с+х=48 - у Сережи
с-х+с-х=2с-2х=48 - у Васи
выражаем одну переменную через другие
2х-у=48
2х-48=у
2у-с+х=48
2у+х-48=с

Подставляем
с+х+у=(2(2х-48)+х-48)+х+2х-48=4х-96+х-48+х+2х-48=8х-192=144
8х-192=144
8х=144+192
8х=336
х=336/8
х=42 - ореха собрал Петя
 Делаем обратную подстановку.
2*42-48=36 - орехов собрал Сережа
2*36+42-48=66 - орехов собрал Вася

Проверяем
У Васи  было 66 орехов,  Вася отдал Пете 42 ореха,  у него осталось 24 ореха, у Пети стало 84 ореха, Петя отдал Сереже 36 орехов, у него осталось  48, у Сережи стало 72, Сережа отдал 24 ореха Васе и у него осталось 48, а у Васи стало 48. Все.