Вы взяли производную функции и обнаружили, что она не равна о на всем этом отрезке (получили уравнение ,не имеющее решения). Это значит, что функция на отрезке монотонная. Значит она принимает наименьшее значение на конце отрезка. Легко понять, что производная всюду отрицательна. Значит функция монотонно убывает и принимает наименьшее значение на правом конце отрезка (при наибольшем х).
