Форум «ИИ: режим доверия»: как формируется новая экономика кибербезопасности в эпоху искусственного интеллекта

В центре обсуждения оказались вопросы, выходящие за рамки технологий: как работать с непрозрачностью алгоритмов, где проходит граница ответственности и какие инструменты позволяют проверять реальность в условиях распространения генеративного ИИ. Эксперты обсудили риски, связанные с дипфейками и новыми типами киберугроз, и сошлись в том, что главный вызов сегодня — не остановить развитие технологий ИИ, а выстроить устойчивое пространство доверия вокруг него.

Открывал форум специальный технологический перформанс «Чёрный ящик» и доклад «Угроза прошла валидацию» от Олега Рогова, к.ф.-м.н., руководителя группы «Доверенные и безопасные интеллектуальные системы» AIRI, руководитель лаборатории «Безопасный ИИ» AIRI-МТУСИ.

Далее форум продолжился специальной сессией «Технологии детектирования и маркировки дипфейков: в чьих интересах создавать защиту против денежного и репутационного ущерба?». В обсуждении приняли участие Александр Шойтов, заместитель министра цифрового развития, связи и массовых коммуникаций Российской Федерации, Сергей Боярский, депутат Государственной думы, председатель комитета Государственной думы по информационной политике, информационным технологиям и связи; Антон Горелкин, первый заместитель председателя комитета Государственной Думы по информационной политике, информационным технологиям и связи, председатель правления РОЦИТ; Артем Шейкин, сенатор, первый заместитель председателя Комитета Совета Федерации по конституционному законодательству и государственному строительству; Сергей Маклаков, начальник управления по противодействию распространению недостоверной информации АНО «Диалог Регионы»; Дмитрий Марков, генеральный директор VisionLabs; Владимир Сакович, генеральный директор SkCapital (Группа ВЭБ.РФ) и Дамир Салихов, руководитель направления сопровождения работы с регуляторными инициативами, Яндекс.

Модератором панели выступила Александра Шадюк, заместитель генерального директора Кибердома. 

Сессия продемонстрировала важный консенсус государства и технологического бизнеса в том, что крайне важно дать технологиям развитие, не замедлять его жёсткой регуляторикой, чтобы, в том числе, в судах появилась экспертиза детекции. Провайдеры контента прежде чем платить штрафы, должны обладать технологиями маркировки и детектирования. Технологиям распознавания нужно время и инвестиционный буст. Все спикеры сессии согласились с тем, что регулирование в этой сфере должно быть риск-ориентированным: жёстким только там, где есть угроза жизни или критической инфраструктуре и большому ущербу. Главная задача ближайших лет не построить рамки вокруг технологий ИИ, а создать юридически значимую методику экспертизы, без которой любые законы о наказании за дипфейки могут остаться просто декларацией.

«Сегодня важно не противопоставлять безопасность и развитие технологий. Напротив, доверие к российским решениям в сфере ИИ будет тем выше, чем лучше они смогут обеспечивать прозрачность происхождения контента, защиту прав граждан и устойчивость к злоупотреблениям. Задача государства здесь — не только установить правила, но и создать условия для появления доступных, надежных и единообразно применяемых технологий детекции и маркировки. Наша задача — создать такие правила, при которых добросовестные разработчики и платформы получают понятные условия работы, суды и правоохранительные органы — рабочие инструменты экспертизы, а граждане — реальные механизмы защиты», — прокомментировал Артем Шейкин, сенатор, первый заместитель председателя Комитета Совета Федерации по конституционному законодательству и государственному строительству.

В сессии «ИИ в информационных системах: возможности, риски и технологическая инфраструктура» модератором выступил Всеслав Соленик, CISO СберТех и амбассадор бизнес-клуба Кибердома. В числе участников — Максим Долгинин, руководитель направления развития продуктов кибербезопасности, Cloud.ru; Денис Полянский, директор по клиентской безопасности Selectel; Роман Панин, независимый эксперт по кибербезопасности и автор канала «Пакет Безопасности»; Кирилл Сорокин, директор департамента защиты приложений Билайн; Игорь Холопов, директор по маркетингу System Electric; Пётр Метелкин, директор центра стратегического анализа ФГУП «ЗащитаИноТранс»; Павел Княгинин, директор по информационной безопасности ООО «Новая горная УК»; Алексей Титов, директор по управлению корпоративной архитектурой и аналитикой ФСК. 

Сессия показала, что дискуссия об ИИ перешла из плоскости «а давайте попробуем» в плоскость суровой экономики и инфраструктурных ограничений. В результате обсуждения эксперты сделали вывод, что эффективное внедрение ИИ упирается не в алгоритмы, а в «физику» (электричество, охлаждение, чипы) и «химию» (готовность людей менять процессы). Тренд на строительство собственных гигантских ЦОДов под ИИ сменяется прагматичным гибридным подходом: потребление моделей как сервиса там, где это возможно, и строительство изолированных контуров только там, где это критично для безопасности или экономики. 

В следующей дискуссии «CISO и генеративный ИИ: управление риском в эпоху доверия к алгоритмам» приняли участие Артем Сычев, первый заместитель генерального директора АО «РТ-Информационная безопасность» (Ростех); Олег Рыбченко, CAISO (Chief AI Security Officer) компании Headhunter; Дмитрий Тараненко, CISO Сберздоровье; Иван Шепелев, начальник управления информационной безопасности БЕ «Х5 Клиентский опыт». Модератором выступил Евгений Кокуйкин, сооснователь Raft и CEO HiveTrace. Спикеры обсудили переход управления рисками ИИ от стадии «хайпа» к стадии «суровой реальности». Главный конфликт сейчас заключается в том, что бизнес требует скорости и качества фронтир-моделей, а безопасность требует детерминизма и контроля. Компромисс здесь может быть найден в концепции «Copilot» и «Human in the Loop»: ИИ агрегирует, обогащает и ускоряет, но финальное решение всегда за человеком. 

Завершающая сессия «Киберугрозы в эпоху ИИ: новый ландшафт безопасности» объединила экспертов в области анализа актуальных угроз. В обсуждении приняли участие Олег Скулкин, руководитель управления предупреждения внешних киберугроз, BI.ZONE; Виктор Бобыльков, директор по информационной безопасности MWS Cloud; Алексей Сидорюк, отраслевой технический директор Positive Technologies; Игорь Бирюков, СЕО Infera Security, амбассадор бизнес-клуба Кибердома; Юрий Шабалин, Chief AI Officer ГК Swordfish Security и Олег Рогов, к.ф.-м.н., руководитель группы «Доверенные и безопасные интеллектуальные системы» AIRI, руководитель лаборатории «Безопасный ИИ» AIRI-МТУСИ. Модератором выступил Алексей Лукацкий, бизнес-консультант по информационной безопасности в компании Positive Technologies, амбассадор Кибердома. 

Спикеры пришли к выводу, что ландшафт киберугроз изменился не качественно, а количественно. Искусственный интеллект не изобрел новых уязвимостей, но радикально сжал время атаки и снизил порог входа для злоумышленников. Ключевая проблема для защиты кроется в асимметрии: хакеры не связаны комплаенсом, используют любые передовые модели и не боятся ошибиться. Защитники же ограничены бюджетом, регуляторикой и страхом перед вероятностной ошибкой. Единственный выход при таком положении дел — принятие остаточного риска и внедрение ИИ-ассистентов в SOC для обработки лавинообразного потока уведомлений. Главный вывод – тот, кто быстрее обновит версию своей ИИ-защиты и победит в этой гонке.

Форум завершился специальной вечерней программой от Кибердома и комьюнити Connect. Гости форума смогли пообщаться с Эрролом Маском, обсудили технологии будущего и важность их единой информационной защиты, создание secure by design технологий для космоса.

Партнёром повестки форума стала компания Cloud.ru, специальный партнёр — Selectel. 

Информационные партнёры форума: SecurityLab.ru, Hi-Tech Mail, ICT2Go.ru, ICT Online, Global Digital Space, BIS Journal и телеграм-каналы “Сети и сигналы” и Sachok.

Подробная информация о прошедшем форуме  — на сайте.