Elsa: ИИ-система надзорного ведомства в США выдумывала исследования
Представители Управления по контролю за продуктами питания и лекарственными средствами США (FDA) сообщили журналистам о выявлении определенных проблем в функционировании недавно внедренной системы искусственного интеллекта под названием Elsa. Согласно предоставленной информации, система иногда генерирует несуществующие научные исследования или искажает существующие данные.
Один из источников подчеркнул, что использование Elsa требует тщательной верификации из-за ее склонности к генерации ложных данных, что может быть охарактеризовано как проявление "галлюцинаций" со стороны системы. Elsa была разработана с целью оптимизации процесса проведения клинических испытаний и поддержки принятия решений в области здравоохранения. Однако выявленные недостатки могут представлять потенциальную угрозу для достоверности и надежности медицинской информации.
Руководство FDA на данный момент не рассматривает проблему как критическую. В интервью CNN комиссар агентства Марти Макари заявил, что не получал конкретных жалоб на работу системы, и отметил, что использование Elsa и обучение работе с ней в настоящее время не являются обязательными.
Информация о выявленных проблемах с ИИ появилась в день публикации администрацией Белого дома "Плана действий в области ИИ". В данном документе подчеркивается стремление США занять лидирующие позиции в сфере технологического развития, упростить регулирование ИИ и устранить возможные "идеологические перекосы", включая вопросы, связанные с изменением климата, пишет ferra.
