Методы теории информации


Теорией информации, как уже отмечалось, называется наука, изучающая количественные закономерности, связанные с получением, передачей, обработкой и хранением информации.
Информация, для того чтобы быть переданной, должна быть закодирована в виде сигналов, с помощью которых информация передается по различным каналам связи. Это привело к необходимости решения задачи повышения эффективности функционирования систем связи. Сложность при проектировании и эксплуатации средств, систем и каналов связи состоит в том, что недостаточно решить задачу с физических и энергетических позиций. С этой точки зрения системы могут быть самыми совершенными и экономичными. Важно кроме этого оценить, какое количество информации может пройти через передающую систему. Результатом явилась необходимость подсчитать, измерить информацию количественно.
В теории информации при вычислении количества информации абстрагируются от смысла информации. Такой подход в точности соответствует задаче канала связи, который должен передать информацию вне зависимости от ее ценности для адресата.
Любое сообщение, с которым мы имеем дело в теории информации, представляет совокупность сведений о некоторой физической системе. Например, на вход системы правоохранительных органов поступает сообщение о количестве и видах совершенных преступлений.
Оценка количества информации основывается на законах теории вероятностей и определяется через вероятность событий. Сообщение имеет ценность только тогда, когда мы узнаем из него об исходе события, имеющего случайный характер, т.е. исход события заранее не известен. Чем больше интересующее нас событие имеет случайных исходов, тем ценнее сообщение о его результате, тем больше информации содержит данное сообщение. Очевидно, если бы состояние системы было известно заранее, не было бы смысла передавать сообщение.
Поэтому в качестве объекта в теории информации рассматривается некоторая физическая система Х, которая случайным образом может оказаться в том или ином состоянии, т.е. система, которой заведомо присуща некоторая степень неопределенности. Очевидно, чем большая неопределенность присуща системе, тем ценнее полученные сведения.
Что значит «большая» или «меньшая» неопределенность?
Сравним две системы: игральную кость и монету. Неопределенность первой системы больше, так как больше состояний, в которых она может оказаться.
Однако степень неопределенности определяется не только числом состояний системы.
Устройство работает в 99% случаев и не работает в 1%. Имеет два состояния, как и монета, но вероятность состояния предсказать гораздо легче: с большой степенью уверенности мы можем сказать, что устройство работать будет.
Таким образом, степень неопределенности физической системы определяется не только числом ее возможных состояний, но и вероятностями состояний.
В общем случае некоторая физическая система Х может принимать какое-то конечное число состояний:
Xi, Х2, Хз, ... , Хп
с вероятностями
pi, p2, p3, ... , pn
где
pi = P(X ~x),
вероятность того, что системаХпримет состояние х, т.е. Х ~xi.
Очевидно, что
ZPi = 1.
i=1
В качестве меры априорной неопределенности системы в теории информации применяется специальная характеристика, называемая энтропией.
Энтропией системы называется сумма произведений вероятностей различных состояний системы на логарифмы этих вероятностей, взятая с обратным знаком:
Н(Х) =-^ Pi log2 Pi.
i=1
Энтропия обладает рядом свойств, оправдывающих ее выбор в качестве характеристики степени неопределенности. Во-первых, она превращается в ноль, когда одно из состояний достоверно, а другие — невозможны.
Во-вторых, при заданном числе состояний она превращается в максимум, когда данные состояния равновероятны, а при увеличении числа состояний — увеличивается. Наконец, и это самое главное, она обладает свойством аддитивности, т.е. когда несколько независимых систем объединяются в одну, их энтропии складываются.
Таким образом, в правовой реальности энтропия рассматривается в качестве меры неопределенности состояния всякой правовой системы. Становится ясно, что в процессе получения сведений неопределенность правовой системы может быть уменьшена; чем больше объем полученных сведений, чем они более содержательны, тем больше будет информации о рассматриваемой системе правового управления, тем менее неопределенным будет ее состояние. Естественно поэтому количество информации измерять уменьшением энтропии той системы, для уточнения состояний которой предназначены сведения.
Рассмотрим некоторую систему Х, над которой производятся наблюдения, и оценим информацию, получаемую в результате того, что состояние системы Х становится полностью известным. До получения сведений (априори) энтропия системы была Н(Х); после получения сведений состояние системы полностью определилось, т.е. энтропия стала равной нулю. Обозначим 1х информацию, полученную в результате выяснения состояний системы Х. Она равна уменьшению энтропии:
IX = Н(Х) - 0 или IX = Н(Х),
т.е. количество информации, приобретаемое при полном выяснении состояний некой физической системы, равно энтропии этой системы.
Используя формулу для энтропии, получим следующее представление для количества информации:
П
IX =-Z Pi l0§2 Pi .
i=1
Если информация выражена в двоичных единицах, то ей можно дать довольно наглядное истолкование: измеряя информацию в двоичных единицах, мы условно характеризуем ее числом ответов «да» и «нет», с помощью которых можно приобрести ту же информацию.
Использование современных информационных технологий и вычислительных средств позволяет рассчитать количество информации в сложных сообщениях и тем самым оптимизировать информационные процессы, протекающие в социально-правовых системах.
Контрольные вопросы Перечислите основные методы правовой информатики. Раскройте содержание системного подхода, лежащего в основе большинства методов познания. В чем суть социально-правового моделирования? Какова роль социально-правового моделирования в юридических научных исследованиях? Определите этапы процесса социально-правового моделирования. Охарактеризуйте содержание кибернетического метода. В чем заключается метод формализации? Определите понятие «алгоритм». В чем суть метода алгоритмизации и программирования? Раскройте содержание семантического и синтаксического анализа. Какова роль математических методов при изучении информационных процессов и систем в правовой сфере? Охарактеризуйте метод теории информации.
Рекомендуемая литература: Андреев Б.В. Правовая информатика. М.: ИМП, 1998. Гаврилов О А. Интеллектуальные системы и технологии в правовой сфере // НТИ. Сер. 1. 1993. № 11. Гаврилов ОА. Курс правовой информатики: Учебник для вузов. М.: НОРМА, 2000. Информатика для юристов и экономистов / Под ред. С.В. Симоновича. СПб.: Питер, 2002. Право и информатика. М.: Изд-во Московского университета, 1990. Рассолов ММ, Элькин ВД, Рассолов ИМ. Правовая информатика и управление в сфере предпринимательства. М.: Юристъ, 1996. Богатов Д.Ф, Богатов Ф.Г., Минаев В.А. Информатика и математика для юристов: Учебное пособие / Под ред. В.А. Минаева. М.: Изд-во ПРИОР, МЮИ МВД Россия, 1998.


<< | >>
Источник: Чубукова С.Г., Элькин В.Д.. Основы правовой информатики (юридические и математические вопросы информатики): Учебное пособие.. 2007

Еще по теме Методы теории информации:

  1. § 3.3. Методы сбора эмпирической информации
  2. 3.5.7. Обучение на основе графических методов сжатия информации
  3. НЕНАСИЛЬСТВЕННЫЕ МЕТОДЫ ПРОТЕСТА: ОТ ТЕОРИИ К ПРАКТИКЕ
  4. ОРГАНИЗАЦИЯ И ПРОГРАММА, МЕТОДЫ АНАЛИЗА И ПРОГНОЗА СОЦИОЛОГИЧЕСКОЙ ИНФОРМАЦИИ, ПРОЕКТИРОВАНИЕ РЕШЕНИЙ ПРОБЛЕМ ФИЗИЧЕСКОЙ КУЛЬТУРЫ И СПОРТА
  5. 4. В поисках социальной солидарности: от теории разделения труда к теории религии
  6. НЕКОТОРЫЕ НАПРАВЛЕНИЯ РАЗВИТИЯ МАКРОЭКОНОМИЧЕСКОЙ ТЕОРИИ КОРОТКОГО ПЕРИОДА ПОСЛЕ ВЫХОДА В СВЕТ «ОБЩЕЙ ТЕОРИИ»
  7. Теории дифференцирования versus теории рационального выбора: структура рационального актора с точки зрения применения различения
  8. 3.4. Права собственности в теории права и в экономической теории: вещательные частоты и аукционы по продаже диапазонов вещания
  9. Методы развития компетенций вне работы и методы обучения, основанные на практике
  10. СПЕЦИАЛЬНОЕ ПРИЛОЖЕНИЕ ОСНОВЫ МЕТОДА ИНТЕГРАЛЬНОЙ СТРУКТУРНО-АНАЛИТИЧЕСКОЙ ПСИХОТЕРАПИИ (МИСАП—МЕТОД)
  11. Метода банковского ценообразования Затратный метод определения цен
  12. Урсул А. Д.. Природа информации: философский очерк, 2010