Измерение количества информации

Входящее сообщение, выбор из меню или нажатие клавиши – каждый наш цифровой след обладает измеримым количеством информации. Именно этот параметр определяет, сколько места займёт файл на диске, как быстро он передастся по сети и насколько сильным можно сделать сжатие без потерь.

Что такое количество информации?

Количество информации – мера снятой неопределённости. Когда мы точно узнаём исход события, мы получаем порцию информации. Чем больше было возможных вариантов, тем больше информации мы получаем при реализации одного из них.

В теории информации эта величина не зависит от субъективного смысла. Текст на неизвестном языке и осмысленное сообщение могут содержать одинаковое количество бит, если используют одно и то же число символов из одного алфавита. Базовой единицей выступает бит (от англ. binary digit – двоичная цифра).

Как измерить информацию в битах?

Бит соответствует выбору одного из двух равновероятных состояний: «да/нет», «0/1», «вкл/выкл». Если событие может иметь N равновероятных исходов, то количество информации в битах вычисляется по формуле Р. Хартли (1928):

I = log₂N

Пример: чтобы закодировать букву русского алфавита (33 буквы, считаем равновероятными), требуется не менее log₂33 ≈ 5,04 бита. На практике используют не менее 6 бит на символ при равномерном кодировании.

Когда вероятности исходов разные, применяют формулу К. Шеннона (1948) – энтропию источника:

I = – Σ (pᵢ · log₂ pᵢ)

Она показывает среднее количество информации на одно событие. Если все pᵢ равны 1/N, формула Шеннона переходит в формулу Хартли.

Единицы измерения информации

На основе бита строится система единиц, используемая при оценке объёмов данных.

Основные единицы:

• Бит (bit, б) – минимальная порция.
• Байт (байт, Б) – 8 бит. Способен закодировать один символ (например, в кодировке ASCII).
• Килобайт (Кбайт, КБ) – традиционно 1 024 байта (2¹⁰). В международной системе SI: 1 килобайт = 1 000 байт, а для 1 024 байт используется кибибайт (КиБ).
• Мегабайт (Мбайт, МБ) – 1 024 Кбайт (или 1 000 КБ по SI).
• Гигабайт (Гбайт, ГБ) – 1 024 Мбайт.
• Терабайт (Тбайт, ТБ) – 1 024 Гбайт.
• Петабайт (Пбайт), эксабайт (Эбайт), зеттабайт (Збайт), йоттабайт (Йбайт) – старшие производные.

На практике важно уточнять, в каком стандарте указан размер: производители накопителей часто указывают десятичные (1 ТБ = 10¹² байт), а операционные системы – двоичные (1 Тбайт = 2⁴⁰ байт ≈ 1,1 триллиона байт).

Перевод единиц: от бит до терабайт

Пересчёт между единицами ведётся умножением или делением на коэффициент 1 024 для двоичного подхода либо на 1 000 для десятичного.

Быстрые соотношения (двоичная система):

• 1 байт = 8 бит
• 1 Кбайт = 1 024 байта = 8 192 бита
• 1 Мбайт = 1 048 576 байт
• 1 Гбайт = 1 073 741 824 байт

Для перевода, например, 2,5 гигабайт в биты: 2,5 × 1 024 × 1 024 × 1 024 × 8 ≈ 21 474 836 480 бит.

Калькулятор перевода единиц информации

Чтобы не умножать вручную, можно воспользоваться автоматическим пересчётом. Укажите исходное значение и выберите единицы – результат в целевых единицах появится мгновенно.

Инструмент учитывает как двоичные (кибибайты, мебибайты), так и десятичные (килобайты SI) определения, позволяя получить точные цифры для любой технической задачи.

Как посчитать количество информации в сообщении?

Помимо перевода единиц, важно уметь вычислять информационный объём данных. Для текста, изображений, звука используются разные подходы, но общая логика сводится к числу бит, необходимых для представления.

Пример: объём текстового файла

Файл содержит 2 000 символов в кодировке UTF-8, где русские буквы занимают по 2 байта. Если весь текст – кириллица, информационный объём ≈ 2 000 × 2 байта = 4 000 байт ≈ 3,9 Кбайт.

Пример: растровое изображение

Изображение 800 × 600 пикселей, глубина цвета 24 бита (3 байта на пиксель). Объём = 800 × 600 × 3 = 1 440 000 байт ≈ 1,37 Мбайт.

Пример: неопределённость и формула Хартли

В колоде 36 карт, вытаскивается одна случайная. Количество информации по Хартли: I = log₂36 ≈ 5,17 бита. Именно столько бит нужно, чтобы закодировать результат выбора одной карты.

Формула Шеннона на практике

Если карты вытаскиваются из неполной колоды или с разной вероятностью (например, туз – реже), применяют вероятностный подход. Пусть вероятности: туз – 1/9, король – 2/9, дама – 2/9, валет – 4/9. Тогда энтропия:

I = –( (1/9)×log₂(1/9) + (2/9)×log₂(2/9) + (2/9)×log₂(2/9) + (4/9)×log₂(4/9) ) ≈ 1,83 бита.

Это среднее количество информации, которое мы получаем при вытягивании одной карты из такой неравновероятной выборки. Чем более предсказуем исход, тем меньше бит.

Современные контексты: гигабайты, интернет и big data

На 2026 год оперирование объёмами в терабайтах и петабайтах стало обыденным. Облачные хранилища, стриминг 8K-видео, массивы данных для нейросетей – всё это требует точного измерения и пересчёта единиц информации. Ложка дёгтя – путаница в приставках, которая по-прежнему приводит к расхождению между заявленной ёмкостью накопителя и отображаемой в системе.

При принятии важных технических решений, касающихся хранения и передачи данных, всегда уточняйте, какой стандарт (IEC, SI) использует производитель.