Американская компания Anthropic обновила Политику использования нейросети Claude, запретив систематическое и необоснованное оскорбительное или жестокое обращение с моделями искусственного интеллекта. Об этом сообщает РБК.
«Оно [правило] не распространяется на обычные проявления недовольства и несогласия со стороны пользователей, творческие произведения с мрачной тематикой, а также тестирование моделей и проведение исследований», — говорится в сообщении.
Речь идет только о крайних случаях, когда пользователи неоднократно и без какой-либо явной цели ведут себя жестоко по отношению к моделям. Ранее Anthropic объявила, что модели Claude Opus 4 и 4.1 получили возможность самостоятельно прекращать диалоги в чатах, которые вызывают у них стресс. Функция была разработана в рамках предварительных исследований благополучия моделей ИИ. Они показали неприятие Claude запросов, способных причинить вред. В частности, дискомфорт вызывали запросы пользователей на контент сексуального характера с участием несовершеннолетних, а также попытки получить информацию, связанную с насилием или совершением терактов. Кроме того, Anthropic запретила использовать чат-бот Claude для вмешательства в выборы, слежки за людьми без их ведома, разработки оружия.