Армия-2021: «Искусственный интеллект – главная технология XXI века»

Целью пленарного заседания стал рост эффективности внедрения передовых технологий (систем) в области искусственного интеллекта (ИИ) и безопасности их применения. Еще одной, не менее важной целью, стало обсуждение вопросов достижения стратегического лидерства за счет применения технологий ИИ.

Участниками заседания, состоявшегося в центральном выставочном павильоне КВЦ «Патриот» стали заместитель председателя правительства РФ Дмитрий Чернышенко, заместитель секретаря Совета Безопасности РФ Олег Храмов, министр науки и высшего образования Валерий Фальков, министр здравоохранения Михаил Мурашко, заместитель министра промышленности и торговли Василий Шпак, президент РАН Александр Сергеев, первый заместитель министра обороны Руслан Цаликов. В своих выступлениях они остановились на разных аспектах влияния искусственного интеллекта на гражданские и военные сферы и оценили соотношение усилий по развитию гражданского и военного искусственного интеллекта – с точки зрения проектов, исполнителей и так далее. Обсудили проблемы оттока кадров из регионов страны в столичные агломерации и за рубеж. Также в процессе выступлений прошло электронное голосование по актуальным вопросам. Модератором пленарного заседания выступила президент ГК InfoWatch, председатель правления АРПП «Отечественный софт», Наталья Касперская. Она ввела в дискуссию вопросы современного развития систем ИИ, особо остановившись на целом ряде рисков и ограничений применения технологий искусственного интеллекта в России.

«Главный девиз конгресса – безопасность применения технологий искусственного интеллекта. Я задала вопрос о безопасности применения ИИ заместителю Секретаря Совета Безопасности РФ Олегу Храмову, который ответил, что по результатам этого конгресса планируется изменение доктрин. Я надеюсь, что мы на сегодняшнем мероприятии внесли свою лепту. И вопросы безопасного использования технологий ИИ будут решены на доктринальном уровне», - говорит Наталья Касперская.  

Говоря об ответственности за возможные ошибки искусственного интеллекта, министр здравоохранения Михаил Мурашко ответил, что здесь нужно учитывать вероятность и масштаб ошибок систем ИИ. По его мнению, чем чаще используются стандартизированные программы, использующие ИИ, тем ниже вероятность ошибки в медицине. Но масштаб возможной ошибки при этом возрастает. То есть, возникает некая «развилка». Поэтому уровень вмешательства врача – от высокой автоматизации до полной автоматизации – это решение, которое еще только предстоит принять, к которому обществу только еще предстоит подготовиться.

Отвечая на вопрос модератора о разработке российских платформ и развитии микроэлектроники, без которой невозможно развитие технологий и систем искусственного интеллекта, заместитель министра промышленности и торговли Василий Шпак отметил, что реализация программ искусственного интеллекта возможна исключительно на «железе». И если это «железо» не отечественное, то все риски технологического удушения нашей страны, контроля со стороны иностранных вендоров, встают в полный рост. Поэтому рассматривать программное обеспечение в отрыве от аппаратной платформы, по его мнению, нельзя. А развитие искусственного интеллекта на основе иностранных аппаратно-программных платформ – это «вредительство». Поэтому Минпромторг ведет большую работу с заказчиками, помогая им обращать внимание на отечественные разработки. Такие разработки, по словам Шпака, есть, они сопоставимы с разработками мировых лидеров. Все это не могло быть реализовано без поддержки государства. Конечно, нужна более тесная «спайка» с потребителями отечественного «железа», но процесс разработки идет вперед, его не остановить. Развитие технологий ИИ – серьезнейший инструмент мировой конкуренции.

Министр науки и высшего образования Валерий Фальков предложил взглянуть на поднятую в рамках мероприятия проблему оттока студентов из российских вузов сразу в двух аспектах. Первый аспект – миграция внутри страны, из регионов в Питер и в Москву, второй – миграция из страны и выбор места работы за рубежом. Так, по данным 2018 года из России уехало 93 тысячи лиц с высшим образованием, что касается студентов, там ситуация по цифрам, по мнению Фалькова, примерно такая же. Что касается внутрироссийской миграции, правительство РФ и Министерство совместно запустили большую программу «Приоритеты-2030» для российских университетов, направленную на развитие региональных университетов. Об участии в программе заявил уже 191 университет. По мнению Фалькова, это первая за всю постсоветскую историю программа, в которой участвуют вузы, представленные абсолютно всеми учредителями – от Министерства обороны, Министерства культуры, Министерства сельского хозяйства, Министерства транспорта до Министерства здравоохранения. С помощью этой программы правительство РФ и министерства рассчитывают обеспечить вузы молодежью и дать высшим учебным заведениям свободные средства на развитие.

Резюмируя ход пленарной сессии, Н. Касперская отдельно отметила то, что очень многие выступающие – Храмов, Сергеев и другие - отмечали проблему «черного ящика», т.е. невозможность понять, по какому признаку система на базе ИИ приняла то или иное решение. Первым про «черный ящик ИИ» заговорил Храмов, потом президент РАН Сергеев сказал, что это большая проблема, над которой наука сейчас бьется. И, наконец, о важности той же проблемы сказал министр здравоохранения, поскольку это касается жизни и здоровья людей.

Если у человечества получится сделать этот «черный ящик» прозрачным, то это будут системы, которые можно будет спокойно использовать. Пока эта проблема не решена, мы должны внедрять системы искусственного интеллекта с осторожностью.