О том, что искусственный интеллект в последнее время все чаще работает на кибермошенников и кибершпионов, предупредили специалисты по информационной безопасности на форуме «Цифровые решения», прошедшем при поддержке правительства России.
Согласно оценкам IT-экспертов, уже скоро появятся системы автоматического взлома информационной базы предприятий с помощью ИИ. Нейросети станут не только эффективным подспорьем, но и каналом утечек конфиденциальной информации. Ведь сейчас и коммерческие, и государственные организации сгружают в такие ИИ-модели - для их обучения - огромные массивы данных.
Внедрение технологий искусственного интеллекта сопровождается, с одной стороны, эйфорией, связанной с ожиданиями скачка производительности труда, с другой - так называемым алармизмом, обусловленным рисками, которые таит в себе эта технология.
Руководитель «Лаборатории Касперского» Евгений Касперский сообщил на форуме, что ежедневно в мире производится примерно 15 миллионов цифровых «объектов». И около полумиллиона из них — это новые вредоносные программы, с которыми специалисты до этого не сталкивались. Причем многие подобные «продукты» созданы при помощи ИИ.
«Искусственный интеллект встал на сторону атакующих. Мы видим сложные кибератаки на инфраструктуру, которые производятся явно с использованием ИИ», - отметил на форуме гендиректор группы компаний «Солар» Игорь Ляпунов. Он утверждает, что сейчас DDoS-атаки стали очень изощренными и молниеносными, речь идет буквально о минутах. «Фомки» взломщиков совершенствуются.
Эксперт подчеркнул, что на стороне защищающихся все не так оптимистично, как на стороне атакующих: «Тем более что с охлаждением экономической активности и с достаточно интенсивным повышением издержек для IT-компаний мы - рынок - замедляем исследования в области искусственного интеллекта».
Тем временем риски растут. В одном из экспериментов ИИ-модель, узнав об угрозе своего «увольнения», внедрила собственный код в систему, где будет работать новая версия. То есть фактически самосохранилась! Другая версия GPT-модели проявила готовность к убийству(!) того должностного лица, которое якобы выступало за ее отключение.
Есть над чем подумать.
Анна Осипова
Рисунок: Е. Кран.
