В Комбинаторных
источниках сообщения формируются путем комбинирования подмножеств множества
сообщений, причем все сообщения равновероятны. Комбинирование происходит путем
сочетания знаков исходного алфавита.
Случайные источники порождают
сообщения, которые имеют разные вероятности.
Конечный
Комбинации. Источник можно идентифицировать с подмножеством конечного
множества.
Конечный Вер. Источник можно отождествить с
распределением вероятности на конечном алфавите.
Бесконечный источник порождает бесконечные
слова из букв алфавита или функции действительного переменного.
Вероятностные
источники, обладающие конечной памятью, называются Марковскими.
Вероятностные источники без памяти - это
такие, у которых вероятность появления очередной буквы не зависит от предыдущих
букв. Такие источники называют Бернуллиевскими.
Эргодические источники создают случайные
последовательности (эргодические). Такая
последовательность удовлетворяет двум условиям:
-стационарность
-эргодичность
Стационарность означает, что вероятности
отдельных знаков или букв в сообщении или их сочетании не зависят от
расположения последних по всей длине сообщения.
Эргодичность
означает, что статистические закономерности, полученные при исследовании 1
достаточно длинного сообщения с вероятностью, близкой к 1, справедливых для
всех сообщений, которые создаются данным источником.
Стационарные
источники сообщений, выбирающие каждый знак формируемой последовательности,
независимо от др. знаков, называются Эргодическими.
