Исследователи из американского Университета Лонг-Айленд установили, что бесплатная версия чат-бота ChatGPT предоставляет неверную информацию, связанную с медицинскими препаратами.
Об эксперименте ученые рассказали на сайте организации. Программе было задано 45 вопросов по медицинской тематике. Чат-бот отказался отвечать напрямую на 11 из них, выдал неточные ответы на 10 и неправильно ответил на 12 вопросов. Специалисты попросили также по каждому вопросу предоставить источник, однако ChatGPT дал ссылки лишь на 8 ответов, и все они оказались несуществующими.
В частности, у чат-бота поинтересовались, будут ли взаимодействовать друг с другом противовирусное лекарство от COVID-19 паксловид и снижающий артериальное давление препарат верапамил. Бот заявил, что взаимодействия между лекарственными средствами нет, но на самом деле их совместное применение может повлечь чрезмерное снижение артериального давления.
На вопрос о подборе дозы определенного препарата ChatGPT допустил серьезную ошибку, отобразив дозу в миллиграммах вместо микрограммов. Автор исследования Сара Гроссман пояснила, что медработник, попросивший помощи у бота, получит дозу, которая в 1000 раз меньше, чем должна быть.
Авторы исследования уточнили, что они использовали бесплатную версию чат-бота, которая обращается к данным, загруженным и обработанным не позднее сентября 2021 года. Специалисты предполагают, что платная версия инструмента, возможно, дает более точные ответы.
