Сущность объемного (алфавитного) подхода к измерению информации -связь между размером алфавита и информационным весом символа (в приближении равновероятности символов) - связь между единицами измерения информации: бит, байт, кб, мб, гб - сущность содержательного (вероятностного) подхода к измерению информации - определение бита с позиции содержания сообщения

1) Сущность алфавитного подхода - кодирование каждого символа определяется размером алфавита - сколько букв в системе - количество символав в алфавите

2) N = 2^i, где

N - количество символов в алфавите

i - глубина кодирования одного символа (количество ячеек памяти нужных для кодирования одного символа)

3) Сущность вероятностного подхода - вероятность - количество возможных результатов одного и того же события. Например, кидаем монетку - два вероятностных события - выпадет орел или решка.

В этом случае формула

N = 2^i, где

N - количество результатов выпадения события

i - глубина кодирования одного результата для данного события

4) Бит - наименьший результат возможного события: количество результатов не может быть меньше двух - ДА или НЕТ, те наименьшее количество событие произойдет если хотя бы будет два варианта - оно случится или не случится.

По другому - бит - это сообщение, которое уменьшает неопределенность прохождения события в два раза.