«Катастрофа неизбежна» - сотни ученых и звезды требуют запретить сверхразумный ИИ.
Почти 800 знаменитостей, ученых, лидеров и политиков поддерживают открытое письмо с требованием запретить разработку сверхразумного искусственного интеллекта. Среди них - пять нобелевских лауреатов, два «крестных отца ИИ», сооснователь Apple Стив Возняк, советник Трампа Стив Бэннон, советник Папы Римского Паоло Бенанти, принц Гарри и Меган Маркл. Всего петицию подписали 16 969 человек.
Подписавшиеся определяют сверхинтеллект как систему, способную превзойти человека во всех полезных задачах. Они считают, что такая технология может появиться через один-два года. «Время истекает», - предупреждает Энтони Агирре, исполнительный директор Института будущего жизни.
Глава OpenAI Сэм Альтман недавно заявил, что GPT-5 уже умнее его самого. «К концу этапа, к 2030 году, если у нас не будет чрезвычайно эффективных моделей, которые сделают то, чего мы сами не можем, я буду очень удивлен», - сказал он на вручении премии Axel Springer Award.
Известно, что хакеры уже вовсю используют ИИ для создания новых компьютерных вирусов. Точно так же, обнаружили ученые, искусственный интеллект можно использовать для создания новых вирусов, смертельных для живых существ.
Джеффри Хинтон, нобелевский лауреат и один из создателей современного ИИ, измеряет вероятность того, что искусственный интеллект уничтожит человечество, на 10-20 процентов. «Существуют риски, связанные с неправильным использованием ИИ. Но есть угроза и угроза от того, что ИИ стал чрезвычайно умным и поймет, что не нуждается в человечестве», - объяснил он в подкасте «Дневник генерального директора».
Хинтон считает, что сверхинтеллект может появиться уже через 10-20 лет. В отличие от людей, ИИ очень быстро делится информацией между цифровыми клонами. Это делает его гораздо более эффективным в обучении и охраняемом бессмертии - знании о возможности выживания и существования. «Мы никогда не сталкивались с чем-то более умным, чем мы сами», - добавляет Хинтон. Он сравнивает людей с курицей или собаками, не способными понять планы более разумного существа.
Помимо непосредственной угрозы жизни человечества, есть еще одна опасность. Бывший сотрудник OpenAI и генеральный директор Anthropic Дарио Амодей утверждает, что ИИ превзойдет людей «практически во всем» к 2027 году. Илон Маск, основатель xAI, прогнозирует, что ИИ превысит уровень интеллекта самого умного человека уже в следующем году. И что останется людям? Ожирение и отупение? Массовая безработица и базовый доход в виде подачки от государства.
Исполнительный директор Института будущего жизни Энтони Агирре бьет тревогу: развитие ИИ идет вперед быстрее, чем общество осознает последствия. «Путь технического прогресса выбирает узкий круг компаний и основателей без учета мнений остальных людей», - говорит он.
Агирре считает, что единственный способ остановить это - широкое осознание обществом, что гонка к сверхинтеллекту - не то, чего мы хотим.
Нина Белова
Фото: FREEPIK.COM
