РАЗДЕЛ 2
РАЗРАБОТКА МЕТОДИКИ ОЦЕНКИ ВЛИЯНИЯ ПРОЦЕССОВ КАНАЛООБРАЗОВАНИЯ НА ИНФОРМАЦИОННЫЕ ВОЗМОЖНОСТИ ДИСКРЕТНОГО КАНАЛА СВЯЗИ
2.1. Синтез модели системы передачи информации от дискретного источника по дискретному каналу связи.
2.1.1. Модель дискретного источника передачи информации.
Предположим, что источник сообщений может в каждый момент времени случайным образом принять одно из конечного множества возможных состояний. Такой источник называют дискретным источником сообщений. При этом принято говорить, что различные состояния реализуются вследствие выбора их источника. Каждому состоянию источника U ставиться в соответствие условное обозначение в виде знака. Совокупность знаков u1, u2,:,ui,:,uN соответствующих всем N возможным состояниям источника называют его алфавитом, а количество состояний N объемом алфавита. Формирование таким источником сообщений сводиться к выбору им некоторого состояния ui и выдачи соответствующего знака. Таким образом, под элементарным дискретным сообщением будем понимать символ ui выдаваемое источником, при этом в течение некоторого времени Т источник может выдать дискретное сообщение в виде последовательности элементарных дискретных сообщений, представляющей сбой набор символов ui (например, u5, u1, u3) каждый из которых имеет длительность ti секунд, в общем случае необязательно одинаковую для различных i. Такая модель источника сообщений соответствует реальной ситуации имеющей место в передаче данных (ti=const) [69]. Отдельные состояния источника могут выбираться чаще, другие реже. Поэтому в общем случае он представляется дискретным ансамблем U т.е. полной совокупностью состояний с вероятностями их появления, составляющими в сумме 1.
,
, (2.1)
где P(ui) - это вероятность выбора источником состояния ui. При выдаче источником сообщений в виде последовательности элементарных дискретных сообщений, полным вероятностным описанием является вероятность совместного появления набора различных символов ui в момент t1, t2,...,tn, где n - длина последовательности
Располагая такими сведениями об источнике можно вычислить вероятность любого отрезка сообщения длиной меньше n. Если функция
не меняется во времени, если она
при любых ?, то источник называется стационарным. Если при определении вероятностных характеристик стационарного источника усреднение по ансамблю можно заменить усреднением по времени, то такой источник называется эргодическим. Вероятностные свойства эргодического источника можно оценить, рассматривая лишь одну его достаточно длинную реализацию. В каждом элементарном сообщении содержится для его получателя определенная информация совокупность сведений о состоянии дискретного источника сообщения. Определяя количественную меру этой информации, мы совершенно не будем учитывать ее смыслового содержания, так же ее значения для конкретного получателя. Очевидно, что при отсутствии сведений о состоянии источника имеется неопределенность относительно того, какое сообщение ui из числа возможных им выбрано, а при наличии этих сведений данная неопределенность полностью исчезает. Естественно количество информации содержащейся в дискретном сообщении измерять величиной исчезнувшей неопределенности.
2.1.2. Модель дискретного канала связи, на базе аксиоматики Шеннона.
В теории информации модель дискретного канала связи описывается с помощью аксиоматики Шеннона.
Под каналом дискретной информации понимается совокупность технических средств и физической среды которые предназначены для соответствующего преобразования и передачи сигналов.
Для сравнения между собой различных источников сообщений (или сигналов), а также различных линий и каналов связи нужно ввести количественную меру, которая дала бы возможность объективно оценивать информацию, содержащуюся в сообщении и переносимую сигналом. Такая мера впервые была введена К. Шенноном [50].
В любой системе связи по каналу передается информация, скорость ее передачи определяется выражением
Как видно из него это скорость зависит от свойств самого канала, но и от подаваемого на его вход сигнала, и поэтому не может характеризовать канал как средство передачи информации. Попытаемся найти объективную характеристику способности канала передавать информацию. Рассмотрим дискретный канал, через который в единицу времени передается символов источника с объемом алфавита М. При передаче каждого символа в среднем по каналу проходит количество информации
, (2.2)
где U и Z ансамбли сообщений на входе и выходе канала. Из четырех фигурирующих здесь энтропий лишь H(U) - собственная информация источника передаваемых символов, определяется источником входного сигнала и не зависит от свойств канала. Остальные три энтропии в общем случае зависят как от свойств источника, так и от канала. Представим себе, что на вход канала можно подавать символы от различных источников характеризуемых различными распределениями вероятностей P(U) при одних и тех же значениях и M. Для каждого такого источника количество информации переданной по каналу принимает свое значение. Очевидно, существует какой-то источник входного сигнала с некоторым распределением P(U) для которого величина I(U,Z) максимальна. Максимальное количество переданной информации, взятое по всевозможным источникам входного сигнала, характеризует сам канал, и называется пропускной способностью канала в расчете на один символ.
, (2.2. а)
где максимизация производится по всем возможным многомерным (т.е. учитывающим и статистическую взаимозависимость последовательно выдаваемых элементарных сообщений) распределением вероятностей P(U). Обычно определяют пропускную способность в расчете на единицу времени.
,
- Київ+380960830922