Хаос. Создание новой науки

Технические средства определили очертания теории. Поскольку информация хранилась в ячейках компьютерной памяти в двоичном представлении – в битах, бит стал основной мерой информации. С технической точки зрения теория информации превратилась в инструмент, который помогал выяснить, каким образом шумы в форме случайных помех препятствуют передаче битов. Теория подсказывала способ определения необходимой пропускной способности коммуникационных каналов, компакт-дисков и прочих продуктов технологии, кодировавшей язык, звуки и изображения. Она предлагала теоретические средства для расчета эффективности различных схем коррекции ошибок, в частности, применения некоторых битов для проверки остальных. Наконец, она исследовала такое важнейшее понятие, как «избыточность». Согласно теории информации Шеннона, обычный язык более чем на 50 % избыточен, то есть содержит звуки или буквы, которые не являются строго необходимыми для передачи сообщения. Знакомая идея, не правда ли? Повседневная коммуникация в мире, где невнятно проговаривают слова и допускают опечатки, существенным образом зависит от избыточности. Известная всем реклама курсов стенографии «если в мжт прчть здс сбщн» наглядно иллюстрирует выдвинутое утверждение, а теория информации позволяет дать количественную оценку данного феномена. Избыточность являет собой предсказуемое отклонение от случайного. В обычном языке она проявляется в повторяемости значений, которую весьма сложно измерить – мера ее зависит от общих для людей знаний о собственном языке и мире. Именно элемент избыточности помогает людям решать кроссворды или вставлять пропущенное слово, если оно начинается, скажем, на букву а.

Есть и другие типы избыточности, больше пригодные для численных измерений. Согласно статистическим данным, вероятность того, что взятой наугад буквой английского языка окажется буква е, гораздо выше 1/26[327]

. К тому же не стоит рассматривать буквы как изолированные единицы. К примеру, зная, что в английском тексте есть буква t

, можно предположить, что за ней следует буква h

или о, а зная две буквы, можно предсказать следующую с еще большей точностью. Частотность употребления комбинаций из двух или трех букв восходит к пониманию характерных особенностей того или иного языка. Компьютер, руководствуясь одними лишь относительными вероятностями возможных трехбуквенных последовательностей, может выдать бессмысленный текст, но это будет узнаваемо английская бессмыслица. Криптологи долгое время использовали такой статистический принцип при расшифровке простых кодов. Сейчас инженеры, работающие в сфере коммуникаций, применяют его к технологиям сжатия данных и устранения избыточности, чтобы экономить пространство передающей линии или дискового накопителя. По Шеннону, нужно рассматривать эти модели, руководствуясь следующими соображениями: поток информации в обычном языке менее чем случаен; каждый новый бит частично ограничен предшествующими; таким образом, каждый новый бит несет в себе в некоторой степени меньше содержания, чем мог бы. В такой формулировке просматривается некий парадокс: чем выше доля случайности в потоке данных, тем больше информации будет передано каждым новым битом.