Узнать цену работы
Статьи по теме

Алфавитный подход к оценке количества информации. Формула Хартли

  1. Количественная оценка объема информации на основе алфавитного подхода
  2. Емкость информации, алфавитная мощность. Формула количества информации (формула Хартли)
  3. Практические примеры применения формулы в решении задач
  4. Информационные единицы

Оценка объема информации с точки зрения содержания оценивает количество данных с позиции минимизации неопределенных знаний.

Любой автоматизированный аппарат не имеет возможности улавливать самую суть содержимого данных, ведь автоматическая работа подразумевает лишь регистрировать электроимпульсные, либо их отсутствие. Из за подобной ситуации, ВЭМ требуются специфичный метод оценивания объема данных, который называют «алфавитный подход к определению количества информации».

Количественная оценка объема информации на основе алфавитного подхода

Метод алфавита подразумевает, что все варианты данных можно обозначить как специальный код из своеобразного количества символов, входящих в алфавит (при этом сам алфавит может быть любым). Средства хранения данных содержат разнообразные конечные последовательности, обладающие всеми признаками информации: хранение, передача, обработка человеком и электронно-вычислительными инструментами (например, компьютеры). Данный метод впервые описан Колмогоровым, где он отметил, что информация, содержащаяся в последовательности символов не связана с информацией непосредственного сообщения, а зависит лишь от самого маленького набора символов, которого хватает для составления кода. Такой способ обеспечивает ситуацию, при которой объем информации оценивается максимально объективно и не находится в зависимости от адресата, ожидающего данные. Информационная составляющая несет смысловую нагрузку только в момент выбора алфавита. Иногда ней можно пренебречь полностью.

Базой для развития данного метода является оценка количества символов в данных. Исходя из этого, можно понять, что смысл имеет лишь общая длина данных, без учета информативной ценности.

Следует учитывать, что длина данных может варьироваться в зависимости от такого фактора как «мощность алфавита». Данные особенности можно понять разобрав любую текстовую информацию. Язык не имеет значения, но проще будет оперировать текстом на родном языке.

Емкость информации, алфавитная мощность. Формула количества информации (формула Хартли)

Алфавитом принято называть совокупность символов, составляющих какой-либо язык. Под этими символами подразумеваются буквенные обозначения, реже знаки, цифровые обозначения, символы пробела и так далее.

Что же такое мощность алфавита? Мощность алфавита это обобщенное совокупность всех символов, в их полном количественном представлении.

Приведем пример, как определить мощность алфавита:

  • Алфавит, на основе кириллицы – мощность 33
  • Алфавит, на основе латыни – мощность 26
  • Алфавит, на основе клавиатуры вычислительной машины – мощность 256 (с учетом всех видов символов)
  • Алфавит, на основе двоичного кода – мощность 2

При использовании метода алфавита принято считать, что каждый отдельно взятый символ данных уже подразумевает некоторую емкость данных, находящуюся в зависимости от алфавитной мощности.

Последовательность символов для обозначения текстового сообщения содержит знаков – N. При самом простейшем варианте, когда длина кодировки соответствует всего лишь одному символу, источник посылает один из N вариантов текста, с таким количеством данных, которое будет соответствовать I.

Алфавит, с помощью которого записывается сообщение, состоит из N знаков. В самом простом случае при длине кода сообщения, равной одному знаку, отправитель может послать одно из N возможных сообщений, которое будет нести количество информации, равное I, согласно формуле: . Таким образом, выводится количество информации, формула Хартли.

Данное равенство названо в честь ученого Хартли, создавшего базу для развития теоретических основ учения об информации. В частности его работы отвечают на такие вопросы, как – «как найти мощность алфавита?» и «как обозначается информационный объём в информатике?».

По мнению Хартли: объем данных в тексте может быть подвержен неожиданных воздействиям извне, что взаимосвязано со степенью вероятного получения данных. Если эта степень минимальна, то данные будут малоинформативны и бесполезны для дальнейшей обработки.

Обратите внимание: в формуле Хартли абсолютно пренебрегается наличие неожиданных вводных. Формула Хартли (информатика) действует лишь при одинаковой степени вероятности расстановки знаков, при самодостаточной статистике.

К примеру, укажите, как записывается формула Хартли для расчета объема данных в символе двоичного кода:

Таким образом, информационная емкость такого символа будет равняться 1 биту.

Задачи: алфавитный подход к измерению информации (Пример 1)

Определим размер информации одной буквы из алфавита кириллицы (буквы «ё» - не входит в расчет)

Решение задачи:

Предположим, что информация создается поэтапно, с последовательностью в один знак (наподобие создания телеграммы). Пусть каждый отдельно взятый знак предположительно может являться любым алфавитным символом или обозначением. На практике, это не совсем соответствует действительности, но такой подход позволяет упростить решение.

Каждый этап появления знака соответствует теоретически любому символу N. С учетом, ранее изученной формулы Хартли, в каждом символе зашифрован определенный объем информации. Как же найти мощность алфавита в информатике? По искомой формуле символ хранит 1 бит данных:

Объем данных одной отдельно взятой буквы родного алфавита равен 5 битам.

То есть, формула отражает взаимосвязь всех возможных вариантов событийности и объем данных в определяемом тексте. В данной задаче: N – символы изучаемого алфавита, I – объем данных на один символ.

Текст содержит последовательность знаков с определённым объемом данных. Что такое мощность алфавита и как определить объем данных в тексте? По формуле: Ic=K*I, где Ic – объем данных текста, I- объем данных на один символ, К – расчет символов в тексте.

Практические примеры применения формулы в решении задач

Задачи: (пример 2)

Требуется подсчитать объем данных во фразе «Привет», с учетом 32х-буквенного алфавита (пренебрегаем символом «ё»».

Решение задачи:

Подсчитаем число знаков во фразе и алфавитную мощность (что такое мощность алфавита в информатике – смотрите выше).

Число знаков во фразе – 6 (К), алфавитная мощность соответствует 32 (N).

Подсчитываем объем данных на заданную фразу.

Перемножаем объем данных на один символ (I) и общее число символов на фразу, по ранее изученной формуле: Ic=K*I.

В данном моменте возникает трудность: нам не хватает данных об объеме информации на расчет одного знака.

Применим формулу Хартли. Так как текст набран с помощью алфавита с алфавитной мощностью соответствующей 32, мы можем уточнить, что объем данных соответствует 5 битам.

Рассчитав объем данных на один символ используемого алфавита и общий подсчет символов в изучаемой фразе, уточним объем данных фразы: Ic=K*I=6*5=30 бит.

При подобных расчетах чаще всего применяют алфавитный размер, который соответствует полной степени двух. Приведём пример: если N – 16, каждый знак содержит 4 бита данных (24 соответствует 16).

Информационные единицы

Максимум алфавитного размера не имеет никаких ограничений. Но стоит иметь в виду, что существует понятие «достаточности» алфавита; подобный вариант используется для работы на электронно-вычислительных машинах. Алфавитная мощность подобной модели соответствует 256 символам, в том числе содержит латиницу, кириллицу, цифровые обозначения, символы действий в арифметике, препинания.

Учитывая ранее полученный данные, известно, что 256 равно 28, а значит 1 знак такого вида алфавита содержит 8 бит данных. В информатике, это равно 1 байту.

При работе с данным алфавитным видом (ASCII-код) – максимально просто высчитывать количество данных в сообщении. Например, в приведенном примере: 1 знак равен 1 байту данных, что позволяет легко рассчитать общее число знаков (объем информации в виде байтов)

Предположим, что текстовое произведение среднего объема, в распечатке насчитывает около 25 листов (50 страниц). Одна страница имеет 50 строчек, а одна строчка – 60 знаков.

Рассчитаем объем одной страницы:

50*60=3000 байт информации

Рассчитаем объем всех данных произведения:

3000*50=150000 байт

Каждая схема измерения включает единицы и их производные.

При расчете крупных информационных объемов – используются килобиты, мегабиты, гигабиты, килобайты, мегабайты, гигабайты.

Узнать цену работы
Узнай цену
своей работы
Нужны оригинальность, уникальность и персональный подход?
Закажи свою оригинальную работу
УЗНАТЬ СТОИМОСТЬ