(sin5a-sina)/(sin5a*cos3a-cos5a*sin3a)

(sin5a-sina)/(sin5a*cos3a-cos5a*sin3a)
Начнем с 1 скобки:
воспользуемся преобразованием разности синусов в произведение:
2*sin((5a-a)/2)*cos((5a+a)/2) = 2*sin2a*cos3a
Теперь перейдем ко 2 скобке:
воспользуемся формулой разности синуса:
sin5a*cos3a-cos5a*sin3a = sin(5a-3a) = sin2a

2*sin2a*cos3a/ sin2a 
сократим на sin2a
получим

2*cos3a