Серёжа изучал 160 страниц учебника что составляет 5 восьмых всего учебника

Вопрос, видимо, в том, - сколько страниц в учебнике? Или сколько страниц осталось изучить?

Если 5/8 учебника составляют 160 страниц, то 1/8 учебника:

               160 : 5 = 32 (стр.)

Весь учебник, таким образом:

               32 · 8 = 256 (стр.)

Осталось изучить:

               256 - 160 = 96 (стр.)

Или сразу:

Если 5/8 учебника составляют 160 страниц, то весь учебник:

               160 : 5/8 = 160 · 8/5 = 160 · 8 : 5 = 1280 : 5 = 256 (стр.)

Осталось изучить:

               256 - 160 = 96 (стр.)

ответ: весь учебник 256 стр., осталось изучить 96 стр.