Как пояснили эксперты, решение представляет собой веб-сайт для загрузки моделей машинного обучения в облако, где они в автоматическом режиме проходят тестирование на устойчивость к разным видам атак.

Отмечается, что в результате пользователь получает как оценку возможности системы сохранять работоспособность в условиях внешних воздействий и изменений, так и версию дообученной модели, которая будет более устойчива к атакам.

«В последние годы с активным внедрением систем ИИ в повседневную жизнь — например, голосовых банковских помощников, автопилотов, сервисов медицинской диагностики, систем идентификации на транспорте — стало понятно, что тематика устойчивости к атакам скоро станет очень востребована», — заметил эксперт центра доцент факультета ВМК МГУ Денис Гамаюнов.

Решение, разработанное специалистами МГУ, можно применять для любых систем, построенных на основе нейросетевых моделей.

Наиболее полезно оно будет в случае с автопилотами для грузовых автомобилей и поездов, системами идентификации объектов на изображениях и видео, распознавания диктора по голосу и текста из аудиосообщений, так как они наиболее часто подвергаются кибератакам, заметил Гамаюнов.

Команда уже создала прототип решения и сейчас работает с рядом крупных российских клиентов над повышением устойчивости их ИИ-продуктов. Эксперт спрогнозировал, что в ближайшие годы рынок средств защиты систем ИИ вырастет в несколько раз.

«Традиционно рынок кибербезопасности растёт вслед за своим клиентом, то есть рынок безопасности ИИ-решений кратно вырастет вслед за ростом числа их внедрений», — заключил Денис Гамаюнов.

Хотите больше узнать о технологических изменениях и трансформациях на рынке IT?

Про лучшие практики цифровизации различных отраслей расскажут на Российском Саммите и Премии CDO/CDTO Summit & Awards 2024. Это ежегодная профессиональная встреча лидеров цифровой трансформации с участием представителей органов государственной власти, муниципальных образований и бизнеса.

Основная программа Саммита включает сессии, посвященные актуальным вопросам цифровой трансформации в современных условиях, развитию цифровой инфраструктуры на основе российского ПО и оборудования, а также развитию отечественного технологического бизнеса. Выступления спикеров иллюстрируют реальные примеры применения цифровых технологий в бизнесе и госуправлении.

Саммит по цифровизации является важным событием для генерации новых знаний, идей и контактов, помогающих развитию в сфере цифровой трансформации. Подробности про мероприятие по ссылке.

ОРГКОМИТЕТ:
LBS International Conferences
Тел.: +7 (495) 926-78-70, e-mail: info@hrsummit.ru

Новости мероприятия t.me/hrsummit