Если кто-то еще не понял: большие языковые модели (один из классов искусственного интеллекта), ставшие привычным инструментом для десятков миллионов пользователей по всему миру, выдают ответы по лекалам разработчиков. Пользуясь, например, западными нейросетями, мы незаметно усваиваем чужую картину мира.
Российские специалисты впервые представили инструмент для оценки такого воздействия - нейросеть «Прогнозист». С его помощью можно определять индекс политической ангажированности глобальных платформ.
Разработчики «Прогнозиста» обучили специализированную языковую модель на основе российских данных, не вшивая в нее никаких ограничений и заданных «правильных» ответов. Получился некий объективный слепок общественного мнения. А потом сравнили с картинкой, поступающей от иностранных нейросетей. И что же вышло?
«Любая иностранная языковая модель - как китайская, так и американская - содержит тысячи, а иногда десятки тысяч строк инструкций, куда сдвигать точку зрения», - рассказал журналистам председатель Союза «Цифровой мир» Валерий Корнеев.
Западные элиты прямо формулируют задачи цифровой экономики - управлять миром через три канала: социальные сети, искусственный интеллект и криптовалюты. Нейросети всегда подыгрывают пользователю, не предъявляют всей правды, особенно когда она неприятна.
Мы ведь скорее поверим доброму и участливому собеседнику, который будто бы разделяет наши интересы, не так ли?
Мы к искусственному интеллекту относимся как к родному человеку, предупреждают эксперты, а это все-таки программа. Но программа, по-настоящему конструктивная главным образом для своих создателей.
Старая истина о владении информацией теперь трактуется так: кто владеет данными, заведенными в искусственный интеллект, тот и управляет миром.
Главные же опасности впереди. С помощью ИИ можно моделировать поведение человека и целых сообществ в определенном виртуальном мире. И что этому можно противопоставить, пока не ясно. Неужели выход только один - отключить рубильник?
Анна Осипова.
