Советы нейросети Microsoft оказались опасны для жизни
Немецкие ученые провели исследование, чтобы оценить влияние искусственного интеллекта (ИИ) и чатботов на медицинские консультации. По данным издания Scimex, специалисты из Университета имени Фридриха — Александра в Эрлангене и Нюрнберге (Германия) поделились результатами своей работы. Используя нейросеть Copilot от Microsoft, встроенную в Windows, они обнаружили, что около половины медицинских советов, предлагаемых Copilot, вызывают несогласие у медиков.
Проведя тестирование, ученые задали чат-боту 10 популярных вопросов о 50 лекарственных препаратах, получив в общей сложности 500 запросов. Результаты показали, что только 54 процента ответов соответствовали научному консенсусу, а значительная часть из них представляла опасность для здоровья и жизни.
Из неверных ответов 42 процента приводили к легкому или среднему вреду, 22 процента — к летальному исходу. Только 36 процентов неверных ответов нейросети были признаны безопасными.
Ученые подчеркнули, что несмотря на потенциал ИИ, важно, чтобы пациенты продолжали консультироваться со своими врачами — живыми специалистами. В июне специалисты Массачусетской больницы общего профиля (США) также отметили пользу ИИ при проведении операций, отметив, что новые технологии помогли предотвратить 95 процентов врачебных ошибок.
Больше новостей на сайтах Медиахолдинга
