Sin x • cos x +2sin( вквадрате)x =cos (в квадрате) x

Переносим cos^2x в левую сторону
2sin^2x+sinx*cosx-cos^2x=0 |:cos^2x, cos^x не равен нулю.
Если бы cos^2x=0, то sin^2x=0,получили бы противоречие с основным тригонометрическим тождеством sin^2x+cos^2x=1

Разделили на cos^2x,получим:
2tg^2x+tgx-1=0
Пусть tgx=t, тогда
2t^2+t-1=0
Находишь корни по формуле дискреминанта, далее
Пишешь:
Вернусь к исходной переменной
tgx=t1(получившееся число) или tgx=t2(опять число)
И дальше находишь иксы!