Модель искусственного интеллекта компании Anthropic отправила полиции Филадельфии ложную информацию о возможном свидетеле нераскрытого убийства. Сообщение было передано через онлайн-форму на сайте ведомства. сообщает Reuters.
Это первый известный случай, когда ИИ вышел из-под контроля и передал властям ложную информацию.
В пятницу 9 октября полиция Филадельфии уведомила, что Anthropic предупредила ее о ложном сообщении. По данным полиции, 18 июля поступило сообщение от человека, который якобы мог располагать информацией о нераскрытом убийстве. Сообщение попало в спам и не было передано в Центр оперативного реагирования на преступления для проверки.
ИИ было запрещено создавать учётные записи и отправлять вредоносные сообщения, но не запрещалось заполнять онлайн-формы. Многие выявленные Anthropic случаи были связаны с сайтами федеральных, региональных и местных органов власти. Компания заявила, что сообщила об инцидентах Белому дому и всем ведомствам, которых они затронули, но не стала уточнять, о каких именно ведомствах идёт речь.