Пользователям Claude запретят оскорблять нейросеть

Американская техкорпорация Anthropic запретит пользователям общаться со своей нейросетью Claude в грубой агрессивной форме. Новые ограничения вступят в силу 12 ноября, передает «24KZ».

Речь идёт о необоснованных оскорблениях искусственного интеллекта. В противном случае бот завершит диалог. После этого отправить сообщение в этот же чат не получится. Данные меры не распространяются на случаи, когда люди просто выражают несогласие, обращаются к мрачным творческим темам, а также проводят тестирование или исследования модели.

Кроме того, компания ужесточит ограничения на использование ИИ для слежки, разработки оружия и вмешательства в выборы. Изменения связаны в том числе с исследованиями Anthropic, посвящёнными потенциальному благополучию искусственного интеллекта.