Проблемы передачи информации
RUS  ENG    ЖУРНАЛЫ   ПЕРСОНАЛИИ   ОРГАНИЗАЦИИ   КОНФЕРЕНЦИИ   СЕМИНАРЫ   ВИДЕОТЕКА   ПАКЕТ AMSBIB  
Общая информация
Последний выпуск
Архив
Импакт-фактор
Правила для авторов

Поиск публикаций
Поиск ссылок

RSS
Последний выпуск
Текущие выпуски
Архивные выпуски
Что такое RSS


Пробл. передачи информ.:
Год:
Том:
Выпуск:
Страница:
Найти




Персональный вход:
Логин:
Пароль:
Запомнить пароль
Войти
Забыли пароль?
Регистрация

Проблемы передачи информации, 2020, том 56, выпуск 1, страницы 15–25
DOI: https://doi.org/10.31857/S0555292320010027 (Mi ppi2308) 		 
Теория информации

Энтропия и сжатие: простое доказательство неравенства Хинчина–Орнштейна–Шилдса

Р. Арагонаa, Ф. Марциa, Ф. Миньозиab, М. Специалеттиc

a Отделение инженерных и информационных наук и математики, Университет Л'Аквила, Италия
b Институт высокопроизводительных вычислений и сетей, Национальный исследовательский совет, Палермо, Италия
c Неаполитанский университет им. Фридриха II, Неаполь, Италия
PDF полного текста (171 kB)
Список литературы:
PDF
HTML
DOI: https://doi.org/10.31857/S0555292320010027
Аннотация: Статья посвящена фольклорному утверждению “энтропия является нижней гранью возможного сжатия данных”. Точнее, используя энтропийную теорему, получено простое доказательство поточечного неравенства, впервые сформулированного Орнштейном и Шилдсом, которое является почти наверное версией неравенства в среднем, впервые доказанного Хинчиным в 1953 году. Далее дается элементарное доказательство первоначального неравенства Хинчина, которое можно использовать в качестве упражнения для студентов, изучающих теорию информации. В заключение приведены исторические и технические замечания об этом неравенстве.
Ключевые слова: эргодические источники, энтропия, сжатие без потери данных, дешифруемое кодирование, теорема Шеннона–Макмиллана.
Поступила в редакцию: 12.12.2019
После переработки: 08.01.2020
Принята к печати: 15.01.2020
Англоязычная версия:
Problems of Information Transmission, 2020, Volume 56, Issue 1, Pages 13–22
DOI: https://doi.org/10.1134/S0032946020010020
Реферативные базы данных:
Тип публикации: Статья
УДК: 621.391.1 : 519.72
Образец цитирования: Р. Арагона, Ф. Марци, Ф. Миньози, М. Специалетти, “Энтропия и сжатие: простое доказательство неравенства Хинчина–Орнштейна–Шилдса”, Пробл. передачи информ., 56:1 (2020), 15–25; Problems Inform. Transmission, 56:1 (2020), 13–22
Цитирование в формате AMSBIB
\RBibitem{AraMarMig20}
\by Р.~Арагона, Ф.~Марци, Ф.~Миньози, М.~Специалетти
\paper Энтропия и сжатие: простое доказательство неравенства Хинчина--Орнштейна--Шилдса
\jour Пробл. передачи информ.
\yr 2020
\vol 56
\issue 1
\pages 15--25
\mathnet{http://mi.mathnet.ru/ppi2308}
\crossref{https://doi.org/10.31857/S0555292320010027}
\transl
\jour Problems Inform. Transmission
\yr 2020
\vol 56
\issue 1
\pages 13--22
\crossref{https://doi.org/10.1134/S0032946020010020}
\isi{https://gateway.webofknowledge.com/gateway/Gateway.cgi?GWVersion=2&SrcApp=Publons&SrcAuth=Publons_CEL&DestLinkType=FullRecord&DestApp=WOS_CPL&KeyUT=000526343800002}
\scopus{https://www.scopus.com/record/display.url?origin=inward&eid=2-s2.0-85083504728}
Образцы ссылок на эту страницу:
  • https://www.mathnet.ru/rus/ppi2308
  • https://www.mathnet.ru/rus/ppi/v56/i1/p15
    • Citing articles in Google Scholar: Russian citations, English citations
    Related articles in Google Scholar: Russian articles, English articles
    		Проблемы передачи информации Problems of Information Transmission
     
      Обратная связь:
    		  Пользовательское соглашение  Регистрация посетителей портала  Логотипы © Математический институт им. В. А. Стеклова РАН, 2024