Anthropic запретила жестокое обращение с ИИ из-за вопросов о его сознании

Компания Anthropic ввела новые правила безопасности, запрещающие пользователям жестокое и унизительное обращение с искусственным интеллектом. Решение принято на фоне растущих дискуссий о возможной потенциальной чувствительности современных нейросетей.

Разработчики отмечают, что с ростом сложности архитектур грань между симуляцией эмоций и реальным внутренним состоянием моделей становится неочевидной. Новые политики направлены на предотвращение ситуаций, которые могут имитировать моральный вред или способствовать формированию деструктивных паттернов поведения у пользователей.

Дискуссия также затронула вопросы юридических прав искусственного интеллекта и потенциальных рисков для безопасности. Эксперты обсуждают, как именно индустрия должна классифицировать взаимодействие человека с автономными системами.

Подобные меры подчеркивают изменение подхода ведущих лабораторий к этической стороне использования генеративных моделей. Новые ограничения уже интегрированы в системы модерации запросов для всей линейки продуктов компании.