Оценки избыточности при пословном кодировании сообщений, порождаемых бернуллиевским источником

Эффективность кодирования уценивается избыточностью $R$, а его сложность – средней задержкой $\overline N$. В работе строятся пословные коды, у которых $R\lesssim N^{-5/3}$. Таким образом пословным кодированием можно добиться той же избыточности, что и блочным, но при существенно меньшей сложности.
Рассматриваются также равномерные по выходу коды, преимущество которых – отсутствие бегущей ошибки синхронизации. Для таких кодов $\overline{N^{-1}}\lesssim R\lesssim\overline{N^{-1}}$, кроме случая, когда все входные буквы равновероятны, тогда $R\leqslant\overline{N^{-2}}$ для бесконечно многих $\overline{N}$.