Наибольшее значение выражения9-x×x-4x-y×y-2y=0

Выражение можно переписать так:
14-4-x×x-4x-1-y×y-2y
или
14-(2+х)*(2+х)-(у+1)*(у+1)
Наибольшее значение равно 14.
ps.
Вот только =0 Вы зря написали. Модераторы и удалить могут за неточность в условии.