Содержательный и вероятностный подходы к измерению информации.


Чтобы посмотреть презентацию с оформлением и слайдами, скачайте ее файл и откройте в PowerPoint на своем компьютере.
Текстовое содержимое слайдов:

Содержательный и вероятностный подходы к измерению информации Сообщение содержит информацию для человека, если заключённые в нём сведения являются для этого человека новыми и понятными и, следовательно, пополняют его знания. Задача «Вы выходите на следующей остановке?» – спросили человека в автобусе. «Нет», - ответил он. Сколько информации содержит ответ? N=2ˡ Сообщение, уменьшающее неопределённость знания человека в 2 раза, несёт для него 1 бит информации. Задачи В барабане для розыгрыша лотереи содержится 32 шара. Сколько информации содержит сообщение о первом выпавшем номере (например, выпал номер 17)?В библиотеке 8 шкафов. Сколько информации содержится в сообщении, что книга нашлась в 4 шкафу?Сколько информации в сообщении, что Вася получил оценку 4 по 4-бальной системе?В корзине лежат 8 шаров разного цвета. Сколько информации несёт сообщение о том, что из корзины достали красный шар? В корзине лежат 24 белых и 8 красных шаров. Какое количество информации несёт сообщение о том, что достали красный шар? I=log2(1/p) I – количество информацииР – вероятность событияp=K/NK – величина, показывающая сколько раз произошло интересующее нас событиеN – общее число возможных исходов какого-то процесса Решение задачи Кб = 24 штукКк = 8 штукN = 24+8 = 32 шт.Вероятность выбора белого шара: р1=24/32=0,75Вероятность выбора красного шара: р2=8/32=0,25 Вычислим количество информации, содержащееся в сообщении, что был выбран красный шар: I = log2(1/0,25) = log24= 2 битаОтвет: 2 бита. Вычислим количество информации, содержащееся в сообщении, что был выбран белый шар: I = log2(1/0,75) = log21,3=1,15 битаЧем меньше вероятность некоторого события, тем больше информации содержит сообщение об этом событии. Сколько получим информации при выборе шара любого цвета? Рассмотрим формулу Шеннона на нашем примере: I = - (p1*log2p1+p2*log2p2) = - (0,75*log20,75+0,25*log20,25) = - (0,75*(-0,42)+0,25*(-2)) = 0,815 бит В коробке лежат 64 цветных карандаша. Сообщение о том, что достали белый карандаш, несёт 4 бита информации. Сколько белых карандашей было в корзине?В классе 30 человек. За к/р по математике получено 15 пятёрок, 6 четвёрок, 8 троек и 1 двойка. Какое количество информации в сообщении о том, что Андреев получил пятёрку?В ящике лежат перчатки (белые и чёрные). Среди них 2 пары чёрных. Сообщение о том, что из ящика достали пару чёрных перчаток, несёт 4 бита информации. Сколько пар белых перчаток было в ящике?

Приложенные файлы

  • ppt file5
    Размер файла: 4 MB Загрузок: 0