Page 117 - основы милогии 1999

ц!
5.3. ИНФОРМАЦИОННЫЙ ПОДХОД К АНАЛИЗУ СЛОЖНОСТИ ИЕРАРХИЧЕСКИХ
СИСТЕМ
Рассмотрим, какие возможности и способы исследования представляет
информационный подход [1] к анализу иерархических структур.
Введем для этого ряд дополнительных новых понятий и определений.
Сложность системы из J одинаковых независимых элементов, т.е. таких, состояния каждого из
которых не зависят от состояний других элементов, характеризуется числом возможных
состояний системы как целого, которое в данном случае, очевидно, составляет Kj, где К -
число равновероятных состояний одного элемента. Однако данная оценка сложности
становится неудобной, как только речь пойдет о системах с неравновероятными состояниями.
Поэтому более удобной оказывается оценка сложности, которая получается из
вышеприведенной посредством логарифмирования:
C=log Кj = J log К =-J log Рк (5.3-1)
Где Р - = 1/К - вероятность к - го состояния элемента.
Обобщая выражение (5.3-1) на случай применения элементов с не равновероятными
состояниями, получаем:
С = -/£ Д log Р, = JH (s.3.2)

Где Н -энтропия элемента, по Шеннону, отражающая его сущность в системе.
Наконец, в общем случае для применения различных элементов

10§ pj > (53-3)
• ■ М 7=1
где m - число состояний системы, как целого, Р. -вероятность j-ro состояния системы.
В дальнейшем полученную оценку С будем именовать содержанием системы, Н. -
сущностью элемента, a J - информацией.
Из выражения (5.3-1) следует, поскольку вН = log К минимальное отличное от нуля
значение Н соответствует числу К состояний элемента, равному двум, то это значение Н
целесообразно принять в качестве единицы измерения (“кванта”) сущности. Тогда основание
логарифма придется принять равным двум, чтобы обеспечить log 2 = 1.
Эта единица измерения сущности называется бит. Итак
1 бит = log 2 2.
Нетрудно заключить, что не только сущность Н, но и информация J измеряется в битах,
поскольку всегда Справедливо тождество
J = log 2 2J = J log , 2 = J бит.
Тогда содержание системы согласно должно измеряться в бит2.
Таким образом, согласно содержание системы из трех элементов с двумя
равновероятными состояниями у каждого составляет
С, =3 log 2 = 3 бит2
(здесь и далее основание логарифма 2 будем опускать).
Содержание элемента с восемью состояниями также составляет
С2=С =1 log 8 =3 бит2,
а содержание системы из двух независимых элементов с тремя состояниями несколько больше
и составляет
С = 2 log 3 =3,2 бит2.
Практический интерес представляет определение системы с максимальной сущностью
элементов, т.е. с максимальным содержанием, приходящимся на элемент системы.
Ограничимся пока рассмотрением только таких систем, в которых число состояний системы
равно числу элементов, из которых она состоит, т.е. равно информации J.
В классе таких систем имеем согласно (2)
Н = logJ./J.