Как определяется количество информации. Количество информации
ОПРЕДЕЛЕНИЕ КОЛИЧЕСТВА ИНФОРМАЦИИ В СООБЩЕНИИ
1 Цель и содержание
Ввести понятие «количество информации»; сформировать у студентов понимание вероятности, равновероятных и неравновероятных событий; научить студентов определять количество информации.
Данное практическое занятие содержит сведения о подходах к определению количества информации в сообщении.
2 Теоретическое обоснование
2.1 Введение понятия «количество информации»
В основе нашего мира лежат три составляющие вещество, энергия и информация. А как много в мире вещества, энергии и информации? Можно измерить количество вещества, например взвесив его. Можно определить количество тепловой энергии в Джоулях, электроэнергии в киловатт/часах и т. д.
А можно ли измерить количество информации и как это сделать? Оказывается, информацию также можно измерять и находить ее количество. Количество информации в сообщении зависит от его информативности. Если в сообщении содержатся новые и понятные сведения , то такое сообщение называется информативным .
Например, содержит ли информацию учебник информатики для студентов, обучающихся в университете? (Ответ да). Для кого он будет информативным для студентов, обучающихся в университете или учеников 1 класса? (Ответ для студентов, обучающихся в университете он будет информативным, так как в нем содержится новая и понятная ему информация, а для учеников 1 класса он информативным не будет, так как информация для него непонятна).
Количество информации в некотором сообщении равно нулю, если оно с точки зрения конкретного человека неинформативно. Количество информации в информативном сообщении больше нуля.
Но информативность сообщения сама по себе не дает точного определения количества информации. По информативности можно судить только о том, много информации или мало.
2.2 Вероятностный подход к определению количества информации
Если некоторое сообщение является информативным, следовательно, оно пополняет нас знаниями или уменьшает неопределенность наших знаний. Другими словами сообщение содержит информацию, если оно приводит к уменьшению неопределенности наших знаний.
Например, мы бросаем монету и пытаемся угадать, какой стороной она упадет на поверхность. Возможен один результат из двух: монета окажется в положение «орел» или «решка». Каждое из этих двух событий окажется равновероятным, т. е. ни одно из них не имеет преимущества перед другим.
Перед броском монеты мы точно не знаем, как она упадет. Это событие предсказать невозможно, т. е. перед броском существует неопределенность нашего знания (возможно одно событие из двух). После броска наступает полная определенность знания, т. к. мы получает зрительное сообщение о положении монеты. Это зрительное сообщение уменьшает неопределенность нашего знания в два раза, т. к. из двух равновероятных событий произошло одно.
Если мы кидаем шестигранный кубик, то мы также не знаем перед броском, какой стороной он упадет на поверхность. В этом случае, возможно получить один результат из шести равновероятных . Неопределенность знаний равна шести , т. к. именно шесть равновероятных событий может произойти. Когда после броска кубика мы получаем зрительное сообщение о результате, то неопределенность наших знаний уменьшается в шесть раз .
Контрольный пример . На экзамене приготовлено 30 билетов.
- Чему равно количество событий, которые могут произойти при вытягивании билета? (Ответ 30).
- Равновероятны эти события или нет? (Ответ равновероятны).
- Чему равна неопределенность знаний студента перед тем как он вытянет билет? (Ответ 30).
- Во сколько раз уменьшится неопределенность знаний после того как студент билет вытянул? (Ответ в 30 раз).
- Зависит ли этот показатель от номера вытянутого билета? (Ответ нет, т. к. события равновероятны).
Можно сделать следующий вывод.
Чем больше начальное число возможных равновероятных событий, тем в большее количество раз уменьшается неопределенность наших знаний, и тем большее количество информации будет содержать сообщение о результатах опыта.
Для того, чтобы количество информации имело положительное значение, необходимо получить сообщение о том, что произошло событие как минимум из двух равновероятных. Такое количество информации, которое находится в сообщении о том, что произошло одно событие из двух равновероятных, принято за единицу измерения информации и равно 1 биту .
Таким образом 1 бит это количество информации, уменьшающее неопределенность знаний в два раза .
Группа из 8 битов информации называется байтом . Если бит минимальная единица информации, то байт ее основная единица. Существуют производные единицы информации: килобайт (Кбайт, Кбт), мегабайт (Мбайт, Мбт) и гигабайт (Гбайт, Гбт).
1 Кбт = 1024 байта = 2 10 (1024) байтов.
1 Мбт = 1024 Кбайта = 2 20 (1024 1024) байтов.
1 Гбт = 1024 Мбайта = 2 30 (1024 1024 1024) байтов.
Существует формула, которая связывает между собой количество возможных событий и количество информации:
N = 2 i ,
где N количество возможных вариантов;
I количество информации.
Отсюда можно выразить количество информации в сообщении об одном из N равновероятных событий: I = log 2 N .
Контрольный пример . Пусть имеется колода карт, содержащая 32 различные кары. Мы вытаскиваем одну карту из колоды. Какое количество информации мы получим?
Количество возможных вариантов выбора карты из колоды 32 (N = 32) и все события равновероятны. Воспользуемся формулой определения количества информации для равновероятных событий I = log 2 N = log 2 32 = 5 (32 = 2 i ; 2 5 = 2 i ; отсюда I = 5 бит).
Если количество возможных вариантов N является целой степенью числа 2, то производить вычисления по формуле N = 2 i достаточно легко. Если же количество возможных вариантов не является целой степенью числа 2, то необходимо воспользоваться инженерным калькулятором; формулу I = log 2 N представить как и произвести необходимые вычисления.
Контрольный пример . Какое количество информации можно получить при угадывании числа из интервала от 1 до 11?
В этом примере N = 11. Число 11 не является степенью числа 2, поэтому воспользуемся инженерным калькулятором и произведем вычисления для определения I (количества информации). I = 3,45943 бит.
2.3 Неравновероятные события
Очень часто в жизни мы сталкиваемся с событиями, которые имеют разную вероятность реализации. Например:
1. Когда сообщают прогноз погоды, то сведения о том, что будет дождь, более вероятны летом, а сообщение о снеге зимой.
2. Если вы лучший студент в группе, то вероятность сообщения о том, что за контрольную работу вы получите 5, больше, чем вероятность получения двойки.
3. Если в мешке лежит 10 белых шаров и 3 черных, то вероятность достать черный шар меньше, чем вероятность вытаскивания белого.
Как вычислить количество информации в сообщении о таком событии? Для этого необходимо использовать следующую формулу:
где I это количество информации;
p вероятность события.
Вероятность события выражается в долях единицы и вычисляется по формуле: где K величина, показывающая, сколько раз произошло интересующее нас событие; N общее число возможных исходов какого-то процесса.
Контрольный пример . В мешке находятся 20 шаров. Из них 15 белых и 5 красных. Какое количество информации несет сообщение о том, что достали: а) белый шар; б) красный шар. Сравните ответы.
1. Найдем вероятность того, что достали белый шар:
2. Найдем вероятность того, что достали красный шар:
3. Найдем количество информации в сообщении о вытаскивании белого шара: бит.
4. Найдем количество информации в сообщении о вытаскивании красного шара: бит.
Количество информации в сообщении о том, что достали белый шар, равно 1, 1547 бит. Количество информации в сообщении о том, что достали красный шар, равно 2 бит.
При сравнении ответов получается следующая ситуация: вероятность вытаскивания белого шара была больше, чем вероятность красного шара, а информации при этом получилось меньше. Это не случайность, а закономерная, качественная связь между вероятностью события и количеством информации в сообщении об этом событии.
2.4 Алфавитный подход к измерению количества информации
При определения количества информации с помощью вероятностного подхода количество информации зависит от ее содержания, понятности и новизны. Однако любое техническое устройство не воспринимает содержание информации. Поэтому с этой точки зрения используется другой подход к измерению информации алфавитный.
Предположим, что у нас есть текст, написанный на русском языке. Он состоит из букв русского алфавита, цифр, знаков препинания. Для простоты будем считать, что символы в тексте присутствуют с одинаковой вероятностью.
Множество используемых в тексте символов называется алфавитом. В информатике под алфавитом понимают не только буквы, но и цифры, и знаки препинания, и другие специальные знаки. У алфавита есть размер (полное количество его символов), который называется мощностью алфавита. Обозначим мощность алфавита через N . Тогда воспользуемся формулой для нахождения количества информации из вероятностного подхода: I = log 2 N . Для расчета количества информации по этой формуле нам необходимо найти мощность алфавита N .
Контрольный пример . Найти объем информации, содержащейся в тексте из 3000 символов, и написанном русскими буквами.
1. Найдем мощность алфавита:
N = 33 русских прописных буквы + 33 русских строчных буквы + 21 специальный знак = 87 символов.
2. Подставим в формулу и рассчитаем количество информации:
I = log 2 87 = 6,4 бита.
Такое количество информации информационный объем несет один символ в русском тексте. Теперь, чтобы найти количество информации во всем тексте, нужно найти общее количество символов в нем и умножить на информационный объем одного символа. Пусть в тексте 3000 символов.
6,4 3000 = 19140 бит.
Теперь дадим задание переводчику перевести этот текст на немецкий язык. Причем так, чтобы в тексте осталось 3000 символов. Содержание текста при этом осталось точно такое же. Поэтому с точки зрения вероятностного подхода количество информации также не изменится, т. е. новых и понятных знаний не прибавилось и не убавилось.
Контрольный пример . Найти количество информации, содержащейся в немецком тексте с таким же количеством символов.
1. Найдем мощность немецкого алфавита:
N = 26 немецких прописных буквы + 26 немецких строчных букв + 21 специальный знак = 73 символа.
2. Найдем информационный объем одного символа:
I = log 2 73 = 6,1 бит.
3. Найдем объем всего текста:
6,1 3000 = 18300 бит.
Сравнивая объемы информации русского текста и немецкого, мы видим, что на немецком языке информации меньше, чем на русском. Но ведь содержание не изменилось! Следовательно, при алфавитном подходе к измерению информации ее количество не зависит от содержания, а зависит от мощности алфавита и количества символов в тексте. С точки зрения алфавитного подхода, в толстой книге информации больше, чем в тонкой. При этом содержание книги не учитывается.
Правило для измерения информации с точки зрения алфавитного подхода:
- Найти мощность алфавита N.
- Найти информационный объем одного символа I = log 2 N .
- Найти количество символов в сообщении K .
- Найти информационный объем всего сообщения K I ..
Контрольный пример . Найти информационный объем страницы компьютерного текста.
Примечание . В компьютере используется свой алфавит, который содержит 256 символов.
1. Найдем информационный объем одного символа:
I = log 2 N, где N = 256.
I = log 2 256 = 8 бит = 1 байт .
2. Найдем количество символов на странице (примерно, перемножив количество символов в одной строке на количество строк на странице).
40 символов на одной строке 50 строк на странице = 2000 символов.
3. Найдем информационный объем всей страницы:
1 байт 2000 символов = 2000 байт.
Информационный объем одного символа несет как раз 1 байт информации. Поэтому достаточно подсчитать количество символов в тексте, которое и даст объем текста в байтах.
Например, если в тексте 3000 символов, то его информационный объем равен 3000 байтам.
3 Задания
1. Какое количество информации будет получено при отгадывании числа из интервала от 1 до 64; от 1 до 20?
2. Какое количество информации будет получено после первого хода в игре «крестики-нолики» на поле 3 x 3; 4 x 4?
3. Сколько могло произойти событий, если при реализации одного из них получилось 6 бит информации?
4. В коробке лежат кубики: 10 красных, 8 зеленых, 5 желтых, 12 синих. Вычислите вероятность доставания кубика каждого цвета и количество информации, которое при этом будет получено.
5. В коробке лежат 36 кубиков: красные, зеленые, желтые, синие. Сообщение о том, что достали зеленый кубик, несет 3 бита информации. Сколько зеленых кубиков было в коробке.
6. В группе учатся 12 девочек и 8 мальчиков. Какое количество информации несет сообщение, что к доске вызовут девочку; мальчика?
7. Найти объем текста, записанного на языке, алфавит которого содержит 128 символов и 2000 символов в сообщении.
8. Найти информационный объем книги в 130 страниц.
9. Расположите в порядке возрастания:
1 Мбт, 1010 Кбт, 10 000 бит, 1 Гбт, 512 байт.
10. В пропущенные места поставьте знаки сравнения <, >, =:
1 Гбт … 1024 Кбт … 10 000 бит … 1 Мбт … 1024 байт.
1. Какое сообщение называется информативным?
2. Что значит событие равновероятно; неравновероятно?
3. Что такое 1 бит информации?
4. Как определить количество информации для равновероятных событий?
5. Как определить количество информации для неравновероятных событий?
6. В чем заключается алфавитный подход к измерению количества информации
1.Установите знаки сравнения (<, > , =):
1байт 32бита 4байта 1Мбайт 1024Кбайт
2.Упорядочите по убыванию:
5байт 25бит 1Кбайт 1010байт
3.Упорядочите по возрастанию:
2Мбайта 13байт 48бит 2083Кбайт
4.Книга содержит 100 страниц; на каждой странице по 35 строк, в каждой строке - 50 символов. Рассчитать объем информации, содержащийся в книге.
5.Имеется следующая черно-белая картинка. Определите информационный объем этой картинки.
6.В языке племени Мумбо-Юмбо всего 129 разных слов. Сколько бит нужно чтобы закодировать любое из этих слов?
8.Дана черно-белая картинка. Определите количество информации, содержащейся в картинке.
9.Информационный объем черно-белой картинки равен 6000бит. Какое количество точек содержит картинка
Свойства информации
Понятие «информация» используется многими научными дисциплинами, имеет большое количество разнообразных свойств, но каждая дисциплина обращает внимание на те свойства информации, которые ей наиболее важны. В рамках нашего рассмотрения наиболее важными являются такие свойства, как дуализм, полнота, достоверность, адекватность, доступность, актуальность . Рассмотрим их подробнее.
Дуализм информации характеризует ее двойственность. С одной стороны, информация объективна в силу объективности данных, с другой – субъективна, в силу субъективности применяемых методов. Например, два человека читают одну и ту же книгу и получают подчас весьма разную информацию. Более объективная информация применяет методы с меньшим субъективным элементом.
Полнота информации характеризует степень достаточности данных для принятия решения или создания новых данных на основе имеющихся. И неполный и избыточный наборы данных затрудняют получение информации и принятие адекватного решения.
Достоверность информации – это свойство, характеризующее степень соответствия информации реальному объекту с необходимой точностью. При работе с неполным набором данных достоверность информации может характеризоваться вероятностью, например, при бросании монеты выпадет герб с вероятностью 50 %.
Адекватность информации выражает степень соответствия создаваемого с помощью информации образа реальному объекту, процессу, явлению. Получение адекватной информации затрудняется при недоступности адекватных методов.
Доступность информации – это возможность получения информации при необходимости. Доступность складывается из двух составляющих: доступности данных и доступности методов. Отсутствие хотя бы одного дает неадекватную информацию.
Актуальность информации. Информация существует во времени, т. к. существуют во времени все информационные процессы. Информация, актуальная сегодня, может стать совершенно ненужной по истечении некоторого времени. Например, программа телепередач на нынешнюю неделю будет неактуальна для многих телезрителей на следующей неделе.
Атрибутивные свойства (атрибут – неотъемлемая часть чего-либо). Важнейшими среди них являются - дискретность (информация состоит из отдельных частей, знаков) и непрерывность (возможность накапливать информацию).
Во всякой информации присутствует субъективная компонента. А возможно ли вообще объективно измерить количество информации? Важнейшим результатом теории информации является вывод о том, что в определенных условиях, можно, пренебрегая качественными особенностями информации, выразить ее количество числом , а следовательно, сравнивать количество информации, содержащейся в различных группах данных.
Количеством информации называют числовую характеристику информации, отражающую ту степень неопределенности, которая исчезает после получения информации.
Понятия «информация», «неопределенность», «возможность выбора» тесно связаны. Получаемая информация уменьшает число возможных вариантов выбора (т.е. неопределенность), а полная информация не оставляет вариантов вообще.
Какое количество информации содержится, к примеру, в тексте романа «Война и мир», во фресках Рафаэля или в генетическом коде человека? Возможно ли объективно измерить количество информации?
В научном плане понятие «информация» связывается с вероятностью осуществления того или иного события.
Вероятность – числовая характеристика степени возможности наступления события. Вероятность достоверного события (обязательно должно произойти) равна 1, невозможного события (не произойдет никогда) – 0. Вероятность случайного события лежит в интервале (0, 1). Например, вероятность выпадения «орла» при подбрасывании монеты равна 1/2, а вероятность выпадения каждой из граней при игре в кости – 1/6.
Случайным называется событие , которое может произойти, а может и не произойти. Примерами случайных событий могут служить выпадение «орла» при подбрасывании монеты или число очков (т.е. выпадение определенной грани) при игре в кости.
Американский инженер Р. Хартли (1928) процесс получения информации рассматривал как выбор одного сообщения из конечного заранее заданного множества из N равновероятных сообщений, а количество информации I , содержащееся в выбранном сообщении, определяет как двоичный логарифм N .
Допустим, нужно угадать одно число из набора чисел от единицы до ста. По формуле Хартли I = log 2 N можно вычислить, какое количество информации для этого требуется: I = Iog 2 l00 = 6,644 бит, т.е. сообщение о верно угаданном числе содержит количество информации, приблизительно равное 6,644 бит.
Американский ученый Клод Шеннон предложил в 1948 г. другую формулу определения количества информации, учитывающую возможную неодинаковую вероятность сообщений в наборе:
I = - (P 1 log 2 P 1 + Р 2 log 2 Р 2 + . . . + P N log 2 P N ),
где P i – вероятность того, что именно i -e сообщение выделено в наборе из N сообщений.
Если вероятности P 1 , Р 2 , …, P N равны, то каждая из них равна 1/N , и формула Шеннона превращается в формулу Хартли.
Анализ формулы показывает, что чем выше вероятность события, тем меньшее количество информации возникает после его осуществления, и наоборот. Если вероятность равна 1 (событие достоверно), количество информации равно 0.
Если вероятность свершения или несвершения какого-либо события одинакова, т.е. равна 1/2, то количество информации, которое несет с собой это событие, равно 1. Это и есть единица измерения информации, которая получила наименование бит .
Бит можно также определить как количество информации, которое содержит один разряд двоичного числа (отсюда название «бит»: binary digit – двоичный разряд). Бит в теории информации – количество информации , необходимое для различения двух равновероятных сообщений .
Количество информации, равное 8 битам, называется байтом . В восьми разрядах можно записать 256 различных целых двоичных чисел от 00000000 до 11111111. Широко используются более крупные производные единицы информации:
1 Килобайт (Кбайт) = 1024 байт;
1 Мегабайт (Мбайт) = 1024 Кбайт;
1 Гигабайт (Гбайт) = 1024 Мбайт.
1 Терабайт (Тбайт) = 1024 Гбайт;
1 Петабайт (Пбайт) = 1024 Тбайт.
Основное содержание темы: Известны два подхода к измерению информации: содержательный и алфавитный. Алфавитный подход используется для измерения количества информации в тексте, представленном в виде последовательности символов некоторого алфавита. Такой подход не связан с содержанием текста. Количество информации в этом случае называется информационным объемом текста. С позиции содержательного подхода к измерению информации решается вопрос о количестве информации в сообщении, получаемом человеком.
Практическая работа 2. Решение задач с применением формулы Хартли
Цель работы: определение количества информации при содержательном подходе.
1) человек получает сообщение о некотором событии; при этом заранее известна неопределенность знания человека об ожидаемом событии. Неопределенность знания может быть выражена либо числом возможных вариантов события, либо вероятностью ожидаемых вариантов события;
2) в результате получения сообщения неопределенность знания снимается: из некоторого возможного количества вариантов оказался выбранным один;
3) по формуле вычисляется количество информации в полученном сообщении, выраженное в битах.
Формула, используемая для вычисления количества информации, зависит от ситуаций, которых может быть две:
1. Все возможные варианты события равновероятны. Их число конечно и равно N.
2. Вероятности (p) возможных вариантов события разные и они заранее известны: {p i }, i = 1..N.
Если равновероятные события, то величины i и N связаны между собой формулой Хартли:
2 i = N (1), где
i – количество информации в сообщении о том, что произошло одно из N равновероятных событий, измеряется в битах.
N - число возможных вариантов события.
Формула Хартли - это показательное уравнение. Если i - неизвестная величина, то решением уравнения (1) будет:
Формулы (1) и (2) тождественны друг другу.
Оборудование:
1. Разберите ниже приведенные примеры задач с решениями. Запишите в тетрадь.
Задача 1. Найти количество информации в однозначном сообщении.
Решение :
N=1 => 2 i =1 => i=0 бит
Задача 2. Измерить количество информации при ответе на вопрос: «Какие завтра намечаются осадки?»
Решение:
N=4 => 2 i =4 => i=2 бит
Задача 3. Получено сообщение, объемом 10 бит. Какое количество сообщений возможно составить из полученных данных?
Решение:
i=10 => 2 10 =1024 => N=1024 сообщения
1. Сколько информации содержит сообщение о том, что из колоды карт достали даму пик?
2. Сколько информации содержит сообщение о выпадении грани с числом 3 на шестигранном игральном кубике?
3. Некто задумал натуральное число в диапазоне от 1 до 32. Какое минимальное число вопросов надо задать, чтобы гарантированно угадать задуманное (выделенное) число. Ответы могут быть только «да» или «нет».
4. (Задача о фальшивой монете). Имеется 27 монет, из которых 26 настоящих и одна фальшивая. Каково минимальное число взвешиваний на рычажных весах, за которое можно гарантированно определить одну фальшивую монету из 27, используя то, что фальшивая монета легче настоящей. Рычажные весы имеют две чашки и с их помощью можно лишь установить, одинаково ли по весу содержимое чашек, и если нет, то содержимое какой из чашек тяжелее.
5. Сколько вопросов следует задать и как их нужно сформулировать, чтобы узнать с какого из 16 путей отправляется ваш поезд?
6. Какое количество информации получит первый игрок после первого хода второго игрока в игре "крестики - нолики" на поле 4 х 4?
7. После реализации одного из возможных событий получили количество информации равное 15 бит. Какое количество возможных событий было первоначально?
8. Определить стратегию угадывания одной карты из колоды из 32 игральных карт (все четыре шестерки отсутствуют), если на вопросы будут даны ответы "да" или "нет".
9. При игре в кости используется кубик с шестью гранями. Сколько бит информации получает игрок при каждом бросании кубика?
10. Сообщение о том, что ваш друг живет на 6 этаже несет 4 бита информации. Сколько этажей в доме.
11. Информационная емкость сообщения о том, что из корзины, где лежало некоторое количество разноцветных шаров, достали зеленый шар, несет в себе 0, 375 байта информации. Сколько в корзине было шаров.
12. В библиотеке 16 стеллажей. На каждом стеллаже по 8 полок Библиотекарь сказал Оле, что интересующая ее книга находится на 3 стеллаже, на 2-й сверху полке. Какое количество информации получила Оля?
13. В мешке находятся 30 шаров, из них 10 белых и 20 черных. Какое количество информации несет сообщение о том, что достали белый шар, черный шар?
14. В классе 30 человек. За контрольную работу по математике получено 6 пятерок, 15 четверок, 8 троек и 1 двойка. Какое количество информации в сообщении о том, что Иванов получил четверку?
15. В корзине лежат 32 клубка шерсти. Среди них – 4 красных. Сколько информации несет сообщение о том, что достали клубок красной шерсти?
16. В коробке лежат 64 цветных карандаша. Сообщение о том, что достали белый карандаш, несет 4 бита информации. Сколько белых карандашей было в корзине?
17. В ящике лежат перчатки (белые и черные). Среди них – 2 пары черных. Сообщение о том, что из ящика достали пару черных перчаток, несет 4 бита информации. Сколько всего пар перчаток было в ящике?
Контрольные вопросы:
1. Какой принцип положен в основу измерения количества информации?
2. Каким образом определяется единица количества информации при кибернетическом подходе?
3. Что принимается за минимальную единицу количества информации с точки зрения уменьшения неопределенности знаний в 2 раза?
4. В каких случаях применяют формулу Хартли?
Практическая работа 3. Вычисление количества информации на основе вероятностного подхода
Цель работы: совершенствование навыка по определению количества информации на основе вероятностного подхода
Краткое теоретическое обоснование: см. практическую работу 2.
Оборудование: дидактические материалы по теме «Определение количества информации»
Последовательность выполнения:
Задача 1. В языке племени Мумбо-Юмбо всего 20 разных слов. Сколько бит нужно, чтобы закодировать любое из этих слов?
Решение .
· По условию задачи у нас имеется 20 различных вариантов.
· Количество бит информации, необходимое для задания 20 равновероятных (одинаково принимаемых в расчет) вариантов можно рассчитать по формуле:
h=log 2 20» 4,32 бит
или при выборе двухсимвольного алфавита для кодирования достаточно составить слово из 5 бит.
Задача 2. В доме 14 окон. Сколько различных сигналов можно подать, зажигая свет в окнах? Сколько бит информации несет в себе каждый такой сигнал?
Решение .
· Каждое окно несет в себе 1 бит информации: горит - не горит.
· Количество различных равновероятных сигналов, передаваемое с помощью 14 бит равно 2 14 = 16 384.
· Каждый из 16 384 сигналов несет в себе 14 бит информации.
2. Решите следующие задачи. Результат оформите в тетради.
1. В корзине лежат шары. Все разного цвета. Сообщение о том, что достали синий шар, несет 5 бит информации. Сколько всего шаров в корзине?
2. В соревновании участвуют 4 команды. Сколько информации в сообщении, что выиграла 3-я команда?
3. Группа школьников пришла в бассейн, в котором 4 дорожки для плавания. Тренер сообщил, что группа будет плавать на дорожке номер 3. Сколько информации получили школьники из этого сообщения?
4. В коробке 5 синих и 15 красных шариков. Какое количество информации несет сообщение, что из коробки достали синий шарик?
5. В коробке находятся кубики трех цветов: красного, желтого и зеленого, причем желтых в два раза больше красных, а зеленых на 6 больше, чем желтых. Сообщение о том, что из коробки случайно вытащили желтый кубик, содержало 2 бита информации. Сколько было зеленых кубиков?
6. Студенты группы изучают один из трех языков: английский, немецкий или французский, причем 12 студентов не учат английский. Сообщение, что случайно выбранный студент Петров изучает английский, несет log23 бит информации, а что Иванов изучает французский – 1 бит. Сколько студентов изучают немецкий язык?
7. В составе 16 вагонов, среди которых К – купейные, П – плацкартные и СВ – спальные. Сообщение о том, что ваш друг приезжает в СВ, несет 3 бита информации. Сколько в поезде вагонов СВ?
8. Студенческая группа состоит из 21 человека, которые изучают немецкий или французский языки. Сообщение о том, что студент A изучает немецкий язык, несет log 2 3 бит информации. Сколько человек изучают французский язык?
9. Сколько информации несет сообщение о том, что было угадано число в диапазоне целых чисел от 684 до 811?
10. Для дистанционной передачи роботу различных команд применяются сигналы в 6 бит, причем сигнала в 5 бит недостаточно для передачи всех команд. Может ли общее количество всех команд для этого робота быть равно:
42 командам? 70 командам?
28 командам? 55 командам?
Какое наименьшее и какое наибольшее количество команд может получать робот?
11. Одиннадцать одноклассников решают голосованием, куда пойти после уроков. При голосовании каждый может быть либо “за” либо “против”. Сколько различных вариантов голосования может быть? Сколько бит потребуется, чтобы закодировать результаты голосования?
12. Какое минимальное количество бит информации требуется для кодирования всех букв русского алфавита?
13. Друзья в соседних домах договорились передавать друг другу сообщения в виде световых сигналов. Сколько лампочек им понадобиться для кодирования 10 различных слов?
14. В компьютерной игре распознаются 65 различных команд управления. Сколько бит требуется отвести в блоке памяти для кодирования каждой команды? Достаточно ли отведенных бит для кодирования 100 команд?
Контрольные вопросы:
1. Какие события являются равновероятностными?
2. Приведите примеры из жизни равновероятностных событий.
3. Какая формула связывает между собой количество возможных событий и количествоинформации?
4. Как зависит количество информации от количества возможных событий?
5. Верно ли высказывание о том что, чем больше количество возможных событий, тем меньше количество информации будет содержать сообщение о результатах опыта.
Ответ обоснуйте.
Практическая работа 4 . Решение задач с применением формулы Шеннона
Цель работы: приобретение навыка по определению количества информации на основе вероятностного подхода
Краткое теоретическое обоснование:
Степень неопределенности – одна из характеристик случайного события, которую назвали энтропией. Обозначается - Н(α). За единицу энтропии принимается неопределенность, содержащаяся в опыте, имеющем два равновероятностных исхода. Существуют множества ситуаций, когда возможные события имеют различные вероятности реализации. Например, если монета не симметрична (одна сторона тяжелее другой), то при её бросании вероятности выпадения «орла» и «решки» будут различаться. Формулу для вычисления количества информации в случае различных вероятностей событий предложил К.Шеннон в 1948 году. В этом случае количество информации определяется по формуле:
P i log 2 p i , где I –количество информации, N –количество возможных событий, p i –вероятности отдельных событий. Вероятность события p i =1/N.
Для решения задач такого типа нам необходимо знать формулу расчета вероятности исхода. Она выглядит так:
где M – это величина, показывающая сколько раз произошло событие, N – это общее число возможных исходов какого-то процесса.
Необходимо знать, что в сумме все вероятности дают единицу или в процентном выражении 100%.
Оборудование: дидактические материалы по теме «Определение количества информации».
Последовательность выполнения:
Задача 1. Из колоды выбрали 16 карт (все “картинки” и тузы) и положили на стол рисунком вниз. Верхнюю карту перевернули. Верхняя перевернутая карта оказалась черной дамой. Сколько информации будет заключено в сообщении о том, какая именно карта оказалась сверху?
Решение .
В результате сообщения об исходе случайного события не наступает полной определенности: выбранная карта может иметь одну из двух черных мастей.
Так как информация есть уменьшение неопределенности знаний:
До переворота карты неопределенность (энтропия) составляла
H1 = log 2 N1, после него – H2 = log 2 N2.
(причем в условиях задачи N1 = 16, а N2 = 2).
В итоге информация вычисляется следующим образом:
I = H1 – H2 = log 2 N1 – log 2 N2 = log 2 N1/N2 = log 2 16/2 = 3 бита.
Задача 2. Вероятность перового события составляет 0,5, а второго и третьего 0,25. Какое количество информации мы получим после реализации одного из них?
Решение .
Р 1 =0,5; Р 2 =Р 3 =0,25 Þ бита.
Задача 3. Определить количество информации, получаемое при реализации одного из событий, если бросают
а) несимметричную четырехгранную пирамидку;
б) симметричную и однородную четырехгранную пирамидку.
Решение .
а) Будем бросать несимметричную четырехгранную пирамидку.
Вероятность отдельных событий будет такова:
тогда количество информации, получаемой после реализации одного из этих событий, рассчитывается по формуле Шеннона т.к. неравновероятностные события:
I = -(1 / 2 log 2 1/2 + 1 / 4 log 2 1/4 + 1 / 8 log 2 1/8 + 1 / 8 log 2 1/8) = 1 / 2 + 2 / 4 + + 3 / 8 + 3 / 8 = 14/8 = 1,75 (бит).
б) Теперь рассчитаем количество информации, которое получится при бросании симметричной и однородной четырехгранной пирамидки, т.е. равновероятностные события:
I = log 2 4 = 2 (бит).
2. Решите следующие задачи. Результат оформите в тетради.
1. В классе 30 человек. За контрольную работу по информатике получено 15 пятерок, 6 четверок, 8 троек и 1 двойка. Какое количество информации несет сообщение о том, что Андреев получил пятерку?
2. В непрозрачном мешочке хранятся 10 белых, 20 красных, 30 синих и 40 зеленых шариков. Какое количество информации будет содержать зрительное сообщение о цвете вынутого шарика?
3. За контрольную работу по информатике получено 8 пятерок, 13 четверок, 6 троек и 2 двойки. Какое количество информации получил Васечкин при получении тетради с оценкой?
4. Известно, что в ящике лежат 20 шаров. Из них 10 - черных, 4 - белых, 4 - желтых и 2 - красный. Какое количество информации несёт сообщения о цвете вынутого шара?
5. В сейфе банкира Богатеева лежат банкноты достоинством 1, 10 или 100 талеров каждая. Банкир раскрыл свой сейф и наугад вытащил из него одну банкноту. Информационный объем сообщения "Из сейфа взята банкнота достоинством в 10 талеров" равен 3 бита. Количество информации, содержащееся в сообщении "Из сейфа взята банкнота достоинством не в 100 талеров", равно 3-log25 бит. Определите информационный объем зрительного сообщения о достоинстве вынутой банкноты.
3. Выполните упражнение
Ниже приведены 11 событий:
1. Первый встречный человек мужского пола.
2. За понедельником будет вторник.
3. За контрольную работу можно получить «отлично».
4. К телефону из пяти членов семьи подойдет младший сын.
6. После лета буде зима.
7. Каждый из 15 учеников, посещающих данные занятия, поступит на математическую специальность.
8. В лотерее победит билет с номером 777777.
9. Подброшенная монетка упадет гербом вверх.
10. На подброшенном кубике выпадет шесть очков.
11. Из выбираемых наугад карточек с цифрами выберем карточку с цифрой 5.
Задание среди 11 событий записать номера тех, которые:
1. Достоверные _________________________________________________
2. Невозможные ________________________________________________
3. Неопределенные______________________________________________
4. Среди неопределенных указать те, которые имеют 2 равновозможных исхода ______________________________________________________
5. Неопределенные события расставить в порядке возрастания числа равновероятных исходов _______________________________________
6. Назвать событие более неопределенное____________________________
7. Назвать событие менее неопределенное. ___________________________
8. Учитывая задания № 6 и № 7, установить зависимость степени неопределенности от числа равновероятных исходов. ____________________________________________________________
9. Сделать тот же вывод, используя понятие вероятности. ____________________________________________________________
Контрольные вопросы:
1. Какие бывают события?
2. Приведите примеры равновероятных и неравновероятных событий?
3. Как определить вероятность выполнения определенного события?
4. При каких событиях применяют формулу Шеннона для определения количества информационного сообщения?
5. При каком условии формула Хартли становится частным случаем формулы Шеннона?
Практическая работа 5 . Решение задач на определение количества информации
Цель работы: приобретение навыка по определению количества информации на основе вероятностного и содержательного подхода
Краткое теоретическое обоснование: В качестве основной характеристики сообщения теория информации принимает величину, называемую количеством информации. Это понятие не затрагивает смысла и важности передаваемого сообщения, а связано со степенью его неопределенности.
Клод Шеннон определил количество информации через энтропию - величину, известную в термодинамике и статистической физике как мера разупорядоченности системы, а за единицу количества информации принял то, что впоследствии назвали битом (bit). Количество информации, приходящееся на один элемент сообщения (знак, букву), называется энтропией. Энтропия и количество информации измеряются в одних и тех же единицах – в битах.
Так как современная информационная техника базируется на элементах, имеющих два устойчивых состояния, то обычно выбирают основание логарифма равным двум, т.е. энтропию выражают как: H0 = log 2 m.
В общем случае количество энтропии H произвольной системы X (случайной величины), которая может находиться в m различных состояниях x 1 , x 2 , … x m c вероятностями p 1 , p 2 , … p m , вычисляют по формуле Шеннона.
Оборудование: дидактические материалы по теме «Определение количества информации».
Последовательность выполнения:
1. Разберите примеры решения задач
Задача 1. Определите количество информации, которое содержится в телевизионном сигнале, соответствующем одному кадру развертки. Пусть в кадре 625 строк, а сигнал, соответствующий одной строке, представляет собой последовательность из 600 случайных по амплитуде импульсов, причем амплитуда импульса может принять любое из 8 значений с шагом
Решение.
В рассматриваемом случае длина сообщения, соответствующая одной строке, равна числу случайных по амплитуде импульсов в ней: n = 600.
Количество элементов сообщения (знаков) в одной строке равно числу значений, которое может принять амплитуда импульсов в строке m = 8.
Количество информации в одной строке: I = n log m = 600 log 8, а количество информации
в кадре: I = 625 I = 625 600 log 8 = 1,125 =106 бит
Задача 2. В велокроссе участвуют 119 спортсменов. Специальное устройство регистрирует прохождение каждым из участников промежуточного финиша, записывая его номер с использованием минимально возможного количества бит, одинакового для каждого спортсмена. Каков информационный объем сообщения, записанного устройством, после того как промежуточный финиш прошли 70 велосипедистов?
1) 70 бит 2) 70 байт 3) 490 бит 4) 119 байт
Решение.
1) велосипедистов было 119, у них 119 разных номеров, то есть, нам нужно закодировать 119 вариантов;
2) по таблице степеней двойки находим, что для этого нужно минимум 7 бит (при этом можно закодировать 128 вариантов, то есть, еще есть запас); итак, 7 бит на один отсчет;
3) когда 70 велосипедистов прошли промежуточный финиш, в память устройства записано 70 отсчетов;
4) поэтому в сообщении 70*7 = 490 бит информации (ответ 3).
2. Решите следующие задачи. Результат оформите в тетради.
1. В зоопарке 32 обезьяны живут в двух вольерах, А и Б. Одна из обезьян – альбинос (вся белая). Сообщение «Обезьяна-альбинос живет в вольере А» содержит 4 бита информации. Сколько обезьян живут в вольере Б?
2. В корзине лежат 32 клубка шерсти, из них 4 красных. Сколько бит информации несет сообщение о том, что достали клубок красной шерсти?
3. Двое играют в «крестики-нолики» на поле 4 на 4 клетки. Какое количество информации получил второй игрок, узнав ход первого игрока?
4. В некоторой стране автомобильный номер длиной 7 символов составляется из заглавных букв (всего используется 26 букв) и десятичных цифр в любом порядке. Каждый символ кодируется одинаковым и минимально возможным количеством бит, а каждый номер – одинаковым и минимально возможным количеством байт. Определите объем памяти, необходимый для хранения 20 автомобильных номеров.
5. В велокроссе участвуют 678 спортсменов. Специальное устройство регистрирует прохождение каждым из участников промежуточного финиша, записывая его номер с использованием минимально возможного количества бит, одинакового для каждого спортсмена. Каков информационный объем сообщения, записанного устройством, после того как промежуточный финиш прошли 200 велосипедистов?
Контрольные вопросы:
1. Дайте определение энтропии.
2. Как связаны между собой понятия количества информации и энтропии?
3. Какие подходы к определению количества информации вам известны?
4. В чем смысл каждого из подходов к определению количества информации?
5. Что называется измерением информации?
6. Какие способы определения количества информации существуют?
7. Дайте определение количества информации.
Практическая работа 6 . Решение задач на определение объема информации
Цель работы: приобретение навыка по определению количества информации на основе алфавитного подхода
Краткое теоретическое обоснование:
Алфавитный подход основан на том, что всякое сообщение можно закодировать с помощью конечной последовательности символов некоторого алфавита.
Алфавит – упорядоченный набор символов, используемый для кодирования сообщений на некотором языке.
Мощность алфавита – количество символов алфавита. Двоичный алфавит содержит 2 символа, его мощность равна двум. Сообщения, записанные с помощью символов ASCII, используют алфавит из 256 символов. Сообщения, записанные по системе UNICODE, используют алфавит из 65 536 символов.
Чтобы определить объем информации в сообщении при алфавитном подходе, нужно последовательно решить задачи:
1. Определить количество информации (i) в одном символе по формуле
2 i = N, где N - мощность алфавита.
2. Определить количество символов в сообщении (m).
3. Вычислить объем информации по формуле: I = i * K.
Количество информации во всем тексте (I), состоящем из K символов, равно произведению информационного веса символа на К:
I = i * К.
Эта величина является информационным объемом текста.
Единицы измерения информации
Основная единица измерения информации –бит. 8 бит составляют 1 байт . Наряду с байтами для измерения количества информации используются более крупные единицы:
1 Кбайт = 2 10 байт = 1024 байта;
1 Мбайт = 2 10 Кбайт = 1024 Кбайт;
1 Гбайт = 2 10 Мбайт = 1024 Мбайт.
1 Терабайт (Тб) = 1024 Гбайт = 2 40 байта,
1 Петабайт (Пб) = 1024 Тбайта = 2 50 байта.
Оборудование: дидактические материалы по теме «Определение количества информации».
Последовательность выполнения:
1. Разберите примеры решения задач и запишите их в тетрадь.
Задача 1. Для записи текста использовался 256-символьный алфавит. Каждая страница содержит 32 строки по 64 символа в строке. Какой объем информации содержат 5 страниц этого текста?
Решение:
N=256, => 2 i = 256, => i=8 bit
k=32*64*5 символов
I=i*k=8*32*64*5 bit = 8*32*64*5/8 b = 32*64*5/1024 kb = 10 kb
Задача 2. Можно ли уместить на одну дискету книгу, имеющую 432 страницы, причем на каждой странице этой книги 46 строк, а в каждой строке 62 символа?
Решение :
Т.к. речь идет о книге, напечатанной в электронном виде, то мы имеем дело с компьютерным языком. Тогда N=256, => 2 i = 256, => i=8 bit
k = 46*62*432 символов
I = i*k = 8*46*62*432 bit = 8*46*62*432/8 b = 46*62*432/1024 kb = 1203,1875 kb = 1,17 Mb
Т.к. объем дискеты 1,44 Mb, а объем книги 1,17 Mb, то она на дискету уместится.
Задача 3 . Скорость информационного потока – 20 бит/с. Сколько минут потребуется для передачи информации объемом в 10 килобайт.
Решение :
t = I/v = 10 kb/ 20 бит/c = 10*1024 бит/ 20 бит/c = 512 c = 8,5 мин
Задача 4 . Лазерный принтер печатает со скоростью в среднем 7 Кбит в секунду. Сколько времени понадобится для распечатки 12-ти страничного документа, если известно, что на одной странице в среднем по 45 строк, в строке 60 символов.
Решение :
Т.к. речь идет о документе в электронном виде, готовым к печати на принтере, то мы имеем дело с компьютерным языком. Тогда N=256, => 2 i = 256, => i=8 bit
K = 45*60*12 символов
I = i*k = 8*45*60*12 bit = 8*45*60*12/8 b = 45*60*12/1024 kb = 31,6 kb
t = I/v = 31,6 kb/ 7 Кбит/c = 31,6*8 kбит/ 7 Кбит/c = 36 c
Задача 5. Автоматическое устройство осуществило перекодировку информационного сообщения на русском языке, из кодировки Unicode, в кодировку КОИ-8. При этом информационное сообщение уменьшилось на 480 бит. Какова длина сообщения?
Решение :
Объем 1 символа вкодировке КОИ-8 равен 1 байту, а в кодировке Unicode – 2 байтам.
Пусть x – длина сообщения, тогда I КОИ-8 = 1*x b, а I Unicode = 2*x b.
Получаем 2*x8 bит – 1*x*8 бит = 480 бит, 8x = 480, х = 60 символов в сообщении.
2. Решите следующие задачи. Результат оформите в тетради.
1. Некоторый алфавит содержит 128 символов. Сообщение содержит 10 символов. Определите объем сообщения.
2. Считая, что один символ кодируется 8-ю битами, оцените информационный объем следующей поговорки в кодировке КОИ-8: Верный друг лучше сотни слуг.
3. Один и тот же текст на русском языке записан в различных кодировках. Текст, записанный в 16-битной кодировке Unicode, на 120 бит больше текста, записанного в 8-битной кодировке КОИ-8. Сколько символов содержит текст?
4. Сколько гигабайт содержит файл объемом 235 бит?
5. Текстовый файл copia.txt имеет объем 40960 байт. Сколько таких файлов можно записать на носитель объемом 5 Мбайт?
6. К текстовому сообщению объемом 46080 байт добавили рисунок объемом 2,5 Мбайт. Сколько кбайт информации содержит полученное сообщение?
7. В алфавите некоторого языка два символа Х и О. Слово состоит из четырех символов, например: ООХО, ХООХ. Укажите максимально возможное количество слов в этом языке.
8. Для записи текста использовался 64-символьный алфавит. Сколько символов в тексте, если его объем равен 8190 бита?
9. Укажите наибольшее натуральное число, которое можно закодировать 8 битами (если все числа кодируется последовательно, начиная с единицы).
10. Некоторый алфавит содержит 2 символа. Сообщение занимает 2 страницы, на каждой по 16 строк, и в каждой строке по 32 символа. Определите объем сообщения.
11. Сколько бит информации содержится в сообщении объемом 1/4 килобайта?
12. Найдите х из следующего соотношения: 8х бит = 16 Мбайт.
13. Цветное растровое графическое изображение с палитрой 256 цветов имеет размер 64х128 пикселей. Какой информационный объем имеет изображение?
14. Для хранения растрового изображения размером 64х128 пикселей отвели 4 Кбайта памяти. Каково максимально возможное количество цветов в палитре изображения?
Контрольные вопросы:
1. Как измеряется информация при содержательном подходе?
2. В чем заключается алфавитный подход к определению количества информации?
3. Что такое алфавит? Что называется мощностью алфавита? Что называется объемом информации?
4. Чему равен информационный вес символа компьютерного алфавита?
6. Почему информационная емкость русской буквы «а» больше информационной ёмкости английской буквы?
7. Какие единицы измерения информации существуют?
Практическая работа7 . Комплексная работа по определению количества информации
Цель работы: контроль навыков определения количества информации.
Краткое теоретическое обоснование: см.практические работы 1-6.
Оборудование: Контрольные материалы из КОС по дисциплине «Основы теории информации»
Последовательность выполнения:
· Выполните ТЗ№1. Тест 3. Единицы измерения информации. В тесте необходимо выбрать только один ответ из предложенных вариантов. Выполнять тест лучше самостоятельно, без применения конспектов, учебников и прочей вспомогательной литературы.
· Выполните ПЗ№2. Задачи 1-10.
Для того чтобы иметь возможность сравнивать различные источники сообщений и различные линии и каналы связи, необходимо ввести некоторую количественную меру, позволяющую оценивать содержащуюся в сообщении и переносимую сигналом информацию. Такая мера в виде количества информации была введена К. Шенноном на основе концепции выбора, что позволило ему построить достаточно общую математическую теорию связи.
Рассмотрим основные идеи этой теории применительно к дискретному источнику, выдающему последовательность элементарных сообщений. Попытаемся найти удобную меру количества информации, заключенной в некотором сообщении. Основная идея теории информации заключается в том, что эта мера определяется не конкретным содержанием данного сообщения, а тем фактом, что источник выбирает данное элементарной т общение из конечного множества . Эта идея оправдана тем, что на ее основании удалось получить ряд далеко идущих и в то же время нетривиальных результатов, хорошо согласующихся с интуитивными представлениями о передаче информации. Основные из этих результатов будут изложены далее.
Итак, если источник производит выбор одного элементарного сообщения () из множества алфавита , то выдаваемое им количество информации зависит не от конкретного содержания этого элемента, а от того, каким образом этот выбор осуществляется. Если выбираемый элемент сообщения заранее определен, то естественно полагать, что заключающаяся в нем информация равна нулю. Поэтому будем считать, что выбор буквы происходит с некоторой вероятностью . Эта вероятность может, вообще говоря, зависеть от того, какая последовательность предшествовала данной букве. Примем, что количество информации, заключенное в элементарном сообщении является непрерывной функцией этой вероятности , и попытаемся определить вид этой функции так, чтобы он удовлетворял некоторым простейшим интуитивным представлениям об информации.
С этой целью произведем простое преобразование сообщения, заключающееся в том, что каждую пару «букв» ,создаваемых последовательно источником, мы будем рассматривать как одну укрупненную «букву». Такое преобразование назовем укрупнением алфавита. Множество укрупненных «букв» образует алфавит объемом , так как вслед за каждым из элементов алфавита может, вообще говоря, выбираться любой из элементов. Пусть есть вероятность того, что источник произведет последовательный выбор элементов и . Тогда, рассматривая пару , как букву нового алфавита можно утверждать, что в этой паре заключено количество информации .
Естественно потребовать, чтобы количество информации, заключенное в паре букв, удовлетворяло условию аддитивности, т. е. равнялось сумме количеств информации, содержащихся в каждой из букв и первоначального алфавита . Информация, содержащаяся в букве , равна , где - вероятность выбора буквы после всех букв, предшествовавших ей. Для определения информации, содержащейся в букве , нужно учесть вероятность выбора буквы после буквы с учетом также всех букв, предшествовавших букве . Эту условную вероятность обозначим . Тогда количество информации в букве выразится функцией .
С другой стороны, вероятность выбора пары букв по правилу умножения вероятностей равна
Требование аддитивности количества информации при операции укрупнения алфавита приводит к равенству
Пусть и . Тогда
для любых и
должно
соблюдаться уравнение
Случаи или мы исключаем из рассмотрения, так как вследствие конечного числа букв алфавита эти равенства означают, что выбор источником пары букв , является невозможным событием.
Равенство (1.3) является функциональным уравнением, из которого может быть определен вид функции . Продифференцируем обе части уравнения (1.3) по р:
.
Умножим обе части полученного уравнения на р и введем обозначение , тогда
(1.4)
Это уравнение должно быть справедливо при любом и любом . Последнее ограничение не существенно, так как уравнение (1.4) симметрично относительно и и, следовательно, должно выполняться для любой пары положительных значений аргументов, не превышающих единицы. Но это возможно лишь в том случае, если обе части (1.4) представляют некоторую постоянную величину , откуда
Интегрируя полученное уравнение, найдем
, (1.5)
где - произвольная постоянная интегрирования.
Формула (1.5) определяет класс функций , выражающих количество информации при выборе буквы , имеющей вероятность , и удовлетворяющих условию аддитивности. Для определения постоянной интегрирования воспользуемся высказанным выше условием, по которому заранее предопределенный элемент сообщения, т. е. имеющий вероятность , не содержит информации. Следовательно, , откуда сразу следует, что . - основание натуральных логарифмов), или, другими словами, равна информации, содержащейся в сообщении о том, что наступило событие, вероятность которого равнялась
считая, что логарифм берется по любому основанию, лишь бы это основание сохранялось на протяжении решаемой задачи.
Благодаря свойству аддитивности информации выражения (1.6) позволяют определить количество информации не только в букве сообщения, но и в любом сколь угодно длинном сообщении. Нужно лишь принять за вероятность выбора этого сообщения из всех возможных с учетом ранее выбранных сообщений.
