Ctgx*cos3x=cos(4x)+sin(3x) подскажите, , как решить или как начать решать! а то после массы операций я пришел к 8*sin^5(x)-8*sin^4(x)-12*sin^3(x)-2*sin^2(x)+5*sin(x)-1=0

Попрубуй так.

cos(x)*cos(3*x) = cos(4*x)*sin(x) +sin(3*x)*sin(x)

1/2* (cos(4*x)+cos(2*x)) = 1/2 *(sin(5*x)-sin(3*x)-cos(4*x)+cos(2*x))

2*cos(4*x) = sin(5*x)-sin(3*x) = 2*cos(4*x)*sin(x)

sin(x) = 1

А дальше очевидно.

(Я использовал стандартные тригонометрические соотношения, а также простейшие арифметические действия)