Вычислить энтропию опыта, состоящего в определении цвета наугад вынутого шарика, если в непрозрачном мешочке хранятся 35 белых, 25 красных, 15 синих и 45 зеленых шариков.

Шары     Р- вероятность     1 / Р            I =log(1/P) бит                 P * I
                                                                   по осн 2
35            7/24=0,29                24/7=3,4               1,77               0,29*1,77=0,51
25            5/24 =0,21              24/5=4,8                2,26                0,21*2,26= 0,47
15            3/24=1/8=0,125          8                          3                    0,125*3=0,375
45              3/8 =0,375             8/3  =2,67              1,42              0,375*2,67= 1,00
 Сумма        1                                                                         2,355 бит - ответ