Для кодирования букв О, Р, С, Т решили использовать двухразрядные последовательные двоичные числа (от 00 до 11 соответственно). Если таким закодировать последовательность символов ТРОС и записать результат шестнадцатеричным кодом, то получится:

Буква О - 00
Буква Р - 01
Буква С - 10
Буква Т - 11
Дальше просто вместо букв в слове ТРОС подставляем соответствующие числа: 11 01 00 10 - это и есть ответ.