Теория информации и биология. Занятие 4

Чем математика и физика отличаются от биологии? Математика и физика – стройное здание на фундаменте из нескольких постулатов или законов, из которых все выводится и которые все объясняют. А биология – это набор фактов, частных случаев. Живые существа преследуют разные цели, решают самые разные задачи. Лисы охотятся, зайцы прячутся, амебы ползают. Это разнообразие не подчиняется никаким универсальным законам. Или все-таки подчиняется?
Все биологические системы получают и перерабатывают информацию. Оказывается, этот взгляд позволяет делать количественные предсказания на самых разных масштабах, от генов до нейронов и до поведения. И, что самое интересное, эти предсказания работают! Теория информации – красивая область математики, которая пронизывает современную науку, от алгоритмов шифрования до черных дыр. В этом курсе я познакомлю слушателей с основами этой теории и расскажу о ее применении в неожиданном, биологическом контексте. Я буду ориентироваться на старших школьников, но надеюсь, что и более продвинутой части аудитории тоже будет интересно.

Программа курса

$\bullet$ Введение в основные понятия:

• Интуитивное понятие информации.
• Энтропия как единственная мера, удовлетворяющая естественным аксиомам (строго).
• Равенство энтропии длине самого короткого представления / «шифра» (строго).

$\bullet$ Дальнейшее изложение менее формальное, и с примерами:

• Два взгляда на расстояние Кульбака–Лейблера.
• Как принять решение по шумному сигналу, и как далеко мы от достижимого предела?
• Корреляции – враг краткости. Сжатие как декорелляция сигнала.
• Почему нейроны зрительного нерва кодируют контраст, а не интенсивность света.
• Передача информации в присутствии шума: взаимная информация и главное информационное неравенство.
• «Пространственная информация» в контексте эмбрионального развития. Эмбрион плодовой мушки: биты на вес золота.
• Информация и «приспособленность» вида. Азартные игры, в которые играют бактерии.