Специалист из американского Университета Луисвилля Роман Ямпольский в своей книге «ИИ: необъяснимый, непредсказуемый, неконтролируемый» рассказал о том, что будет, если люди и дальше будут неограниченно развивать новые технологии.
По мнению ученого, в этом случае человечество потеряет контроль над искусственным интеллектом (ИИ). Более того, он пишет, что в настоящее время люди «столкнулись с почти гарантированным событием, которое потенциально может вызвать экзистенциальную катастрофу».
Как подчеркивает Ямпольский, глупо считать, что люди сумеют объяснить любые действия ИИ, потому что способность человека «создавать интеллектуальное ПО намного превосходит ... способность контролировать его». Эксперт назвал ИИ потенциально непредсказуемым и заявил, что он может стать полностью автономным.
Ямпольский отметил, что если всегда принимать ответы ИИ без объяснения причин, то никто не сможет гарантировать, что он дает правильные ответы или, что он не манипулирует сознанием. По мнению Ямпольского, ученым очень важно найти баланс между высокоразвитым ИИ и безопасностью. У людей должна быть возможность отменить любые действия или решения ИИ.
