|
|
Семинар отдела дискретной математики МИАН
21 декабря 2021 г. 16:00, г. Москва, online
|
|
|
|
|
|
Робастность глубоких нейросетей: геометрический подход
Е. В. Бурнаев Сколковский институт науки и технологий, территория Инновационного Центра "Сколково"
|
Количество просмотров: |
Эта страница: | 187 |
|
Аннотация:
При построении предиктивных моделей важно учитывать геометрическую структуру данных - то, как расположены наблюдения в многомерном пространстве. Обычно, расположение наблюдений хорошо описывается многообразием. Очевидно, что его свойства влияют на точность соответствующих предиктивных моделей. Оценив многообразие данных, мы можем выявить области на многообразии, в которых предиктивная модель не робастна, и, тем самым, становится возможным генерировать как эффективные злонамеренные атаки на модель, так и обеспечивать защиту от них. Доклад посвящён вопросам генерации атак и защиты от них с учётом многообразия данных, а также, в целом, вопросам того, как сравнивать многообразие реальных данных и данных, порождённых генеративной моделью, и за счет этого, например, выявлять искусственно сгенерированные (потенциально, фейковые) наблюдения.
|
|