1) Сначала напишем формулы
sin 3x = sin(x + 2x) = sin x*cos 2x + cos x*sin 2x =
= sin x*(1 - 2sin^2 x) + cos x*2sin x*cos x = sin x*(1 - 2sin^2 x + 2cos^2 x) =
= sin x*(1 - 2sin^2 x + 2 - 2sin^2 x) = sin x*(3 - 4sin^2 x)
cos 2x = 1 - 2sin^2 x
Подставляем
sin x*(3 - 4sin^2 x) - √3(1 - 2sin^2 x) - sin x = 0
Замена sin x = t и раскрываем скобки
3t - 4t^3 - √3 + 2√3*t^2 - t = 0
Умножаем все на -1, чтобы старший член был положительным
4t^3 - 2√3*t^2 - 2t + √3 = 0
2t^2*(2t - √3) - (2t - √3) = 0
(2t - √3)(2t^2 - 1) = 0
(2t - √3)(t√2 - 1)(t√2 + 1) = 0
t1 = sin x = √3/2; x1 = pi/3 + 2pi*k; x2 = 2pi/3 + 2pi*k
t2 = sin x = -1/√2; x3 = 5pi/4 + 2pi*n; x4 = 7pi/4 + 2pi*n
t3 = sin x = 1/√2; x5 = pi/4 + 2pi*m; x6 = 3pi/4 + 2pi*m
Корни x3, x4, x5, x6 можно объединить в один:
x3 = pi/4 + pi/2*n
Ответ: x1 = pi/3 + 2pi*k; x2 = 2pi/3 + 2pi*k; x3 = pi/4 + pi/2*n

2)2sin(40+x)*sin(x-50) + 1 = 0
2sin(90+x-50)*sin(x-50) = -1
2cos(x-50)*sin(x-50) = sin(2x-100) = -1
2x - 100 = 270 + 360*n
x = 185 + 180*n = 5 + 180*k

3)cos^2 x-3sin x*cos x = -1
cos^2 x - 3sin x*cos x + 1 = 0
cos^2 x - 3sin x*cos x + cos^2 x + sin^2 x = 0
sin^2 x - 3sin x*cos x + 2cos^2 x = 0
Делим все на cos^2 x
tg^2 x - 3tg x + 2 = 0
(tg x - 1)(tg x - 2) = 0
tg x = 1; x1 = pi/4 + pi*k
tg x = 2; x2 = arctg(2) + pi*n