Давай попробуем рассуждать логически. Мысленно представим лодку, у её середины забьём в дно шест, который послужит нам ориентиром, относительно него будем измерять смещение.  Пусть человек сначала находится на левом конце, и переходит на правый. Ось Х направим традиционно слева направо.

Смещение лодки обозначим незатейливой буквой х.

Давай сначала попробуем определить положение центра масс системы (лодка+человек) относительно шеста. Человек находится на расстоянии половины длины лодки слева, а центр масс лодки находится как раз напротив шеста, значит координата лодки 0. Значит можем записать так:
Х1 = -m * L/2  + M * 0 

После того, как человек перешёл на правый конец, лодка сдвинулась относительно шеста влево на х, а человек оказался справа от шеста, и его координата оказалась L-x. То есть он перешёл по лодке на L вправо, но сама лодка при этом уехала на х влево. Поэтому получается такая координата: L-x.
Пишем опять положение центра масс системы:
Х2 = -M * x + m * (L-x)

По теореме о движении центра масс, в нашей задаче Х1 = Х2. Значит приравниваем.
- m * L/2 = -M*x + m *(L-x)
- m * L/2 = -M*x + m * L - m * x
все члены с х собираем с одой стороны равенства, без х с другой:
х * ( M + m ) = m * L/2 + m * L = 3/2 * m * L
отсюда
х = 3/2 * m * L / ( M + m )

Такой у меня получился ответ. Уж не знаю правильно или нет.