Решить: 2cos^2 п/12 - 1 как я понимаю, здесь нужно использовать формулу cos^2a= 2cos^2a -1

Верно. Формула двойного угла: cos2a = 2cos²a - 1

2cos²(π/12) - 1 = cos(2 * π/12) = cos(π/6) = √3/2