sin(alpha)=h/l
cos(alpha)= корень(l^2-h^2)/l

1) предположим что тело m на наклонной плоскости опускается влево вниз
пусть положительное направление тела m направлено влево вниз и положительное направление тела M направлено вверх

(если получим ускорение а < 0 - значит исходное предположение неверно)

тогда тело m  двигается вниз с ускорением а под действием сил
ma=mg*sin(alpha)-mg*cos(alpha)*k -T
тогда тело M  двигается вверх с ускорением а под действием сил
Ma=T-Mg
************
ma=mg*sin(alpha)-mg*cos(alpha)*k -T
Ma=T-Mg
************
a=(mg*sin(alpha)-mg*cos(alpha)*k -Mg)/(m+M) =
=g*(m*(sin(alpha)-k*cos(alpha))-M)/(m+M)=
=g*(0,5*((1/5)-0,25*(корень(5^2-1^2)/5))-0,4)/(0,5+0,4)= -0,46942 *g < 0 - значит предположение о том что тело M движется вверх а тело m движется влево - неверно !!!

2) предположим что тело m на наклонной плоскости двигается вправо вверх
пусть положительное направление тела m направлено вправо вверх и положительное направление тела M направлено вниз

(если получим ускорение а < 0 - значит исходное предположение неверно)

тогда тело m  двигается  с ускорением а под действием сил
ma=-mg*sin(alpha)-mg*cos(alpha)*k +T
тогда тело M  двигается вниз с ускорением а под действием сил
Ma=Mg-T
************
ma=-mg*sin(alpha)-mg*cos(alpha)*k +T
Ma=Mg-T
************
a=(-mg*sin(alpha)-mg*cos(alpha)*k +Mg)/(m+M) =
=g*(m*(-sin(alpha)-k*cos(alpha))+M)/(m+M)=
=g*(0,5*(-(1/5)-0,25*(корень(5^2-1^2)/5))+0,4)/(0,5+0,4) =  0,197251 *g > 0 - значит предположение о том что тело M движется вниз - верно !!!
a=0,197251 *g =0,197251 *10 = 1,97251 м/с^2 ~ 2 м/с^2 - ускорение тел
Ma=Mg-T
T=M(g-a)~0,4*(10-2) Н = 3,2 Н - сила натяжения нити
-mg*cos(alpha)*k=-0,5*10*корень(24)/5= -4,89898 ~ - 4,9Н - сила трения
*************************************
закон ньютона для тела m
ma=-mg*sin(alpha)-mg*cos(alpha)*k +T
**********************************
закон ньютона для тела M
Ma=Mg-T
**********************
a ~ 2 м/с^2; - ускорение тел, направление движения : M - вниз ; m - вправо-вверх
**************
T~3,2 Н - натяжение нити
**************
Fтр ~ - 4,9Н - сила трения