События последних дней подтвердили, что искусственный интеллект не сможет окупить вложенные в него сотни миллиардов долларов, если его не начнут использовать в качестве кибероружия, с помощью которого взламывают сети враждебных стран.
В роли домашнего собеседника и ненадежного советчика это просто игрушка, на торговле которой больших денег не заработать. Гражданская промышленность до сих пор не может приспособить его для своих нужд. Зато у Пентагона на него большие надежды, особенно в уже начавшейся кибервойне.
В мире всполошились от появления нового продукта компании Anthropic. Это модель ИИ Anthropic Claude Mythos. Она создана якобы для того, чтобы усилить кибербезопасность ведущих компаний. Во время тестирования эта модель разглядела тысячи уязвимостей самого опасного свойства, которые найдены в каждой из основных операционных систем и в главных браузерах. Ранее найти их было почти невозможно.
То есть создана загадочная модель ИИ с двойным назначением. Она позволяет не только обнаружить скрытые уязвимые места в системах, но и воспользоваться ими для сокрушительной кибератаки. Под угрозой оказались все прежние системы кибербезопасности. Может произойти катастрофа, если монстр Claude Mythos попадет на рынок искусственного интеллекта. Модель выявила таившуюся под сложными техническими системами уязвимость самых популярных операционных систем, которые, как считалось прежде, чрезвычайно трудно взломать.
Эксперты настолько встревожены алгоритмами, заложенными в Claude, что рекомендуют людям, полагающимся во всем на цифровизацию, иметь под рукой дублирующую аналоговую технику. Claude вскрыла тотальную ущербность высоких технологий. С одной стороны, эта версия ИИ предлагает средства усиления защиты от сложных кибератак, с другой - позволяет злоумышленникам воспользоваться уязвимостями быстрее, чем подвергшиеся нападению успеют среагировать на угрозу. Создатели этой модели ИИ рассчитывают хорошо заработать на продаже ее 40 избранным крупнейшим компаниям, чтобы они укрепили оборону своих сетей. Однако ее функционирование требует больших средств и ресурсов, что по карману далеко не всем.
Подозревают, Anthropic специально допустили утечку данных о своей новой модели, что резко подняло ее биржевую стоимость. То, что казалось невероятным, становится реальностью. Искусственный интеллект теперь способен мгновенно закладывать вредоносные программы в выявленные им дыры. А значит, правительственные и независимые хакеры воспользуются этой возможностью. Военные не упустят возможности сокрушить компьютерные системы враждебных им стран. ИИ становится страшным средством разрушения мира. Произойдет катастрофа, когда Claude вломится в оружейные системы, управляющие ракетами.
Генерал Шенехен, ныне работающий в мозговом центре «Новая американская безопасность», говорит, что гонка военного ИИ, которую он когда-то начинал, теперь лишила его сна. Потому что в ходе компьютерных учений ИИ выходил из-под контроля людей. Заложенные в него алгоритмы постоянно дурили. «Возникает риск спирали эскалации из-за внедрения непроверенных, небезопасных систем», - предупредил он.
Николай Иванов.
Фото: FREEPIK.COM
