Угол между векторами a{2m; -3; 0} и b{m; 6; -2} тупой, если
1) m> 3
2) m< -3
3) -3 4)m> 0

Скалярное произведение двух векторов:

Угол между векторами тупой, то скалярное произведение будет отрицательным, то есть

Если скалярное произведение между векторами а и в отрицательно, то угол между векторами тупой. Поэтому

2m²-18+0<0

m²-9<0

(m-3)*(m+3)<0

-33

 +              -         3

Неравенство решаем методом интервалов. ответ (-3;3)

К сожалению, в Вашем арсенале такого ответа не вижу.