Anthropic привлекает юристов для создания норм переговоров для ИИ-агентов

Компания Anthropic начала консультации с ведущими юридическими фирмами. Цель сотрудничества — разработка этических и правовых стандартов для автономных систем, которые будут самостоятельно вести переговоры и заключать сделки.

Новая инициатива направлена на регулирование поведения моделей семейства Claude в ситуациях, когда они задействованы в разрешении споров, обсуждении цен или изменении юридических контрактов. Подобные сценарии требуют четких нормативных ограничений для предотвращения финансовых и правовых рисков.

В рамках подготовки к запуску коммерческих агентов компания также открыла вакансии для юристов и исследователей в области гуманитарных наук. Новые специалисты получат позицию «Conceptual Reasoning Fellows» и займутся улучшением логического мышления ИИ в тех сферах, где традиционные обучающие датасеты практически отсутствуют.

Появление автономных переговорщиков требует создания надежных правовых рамок на ранних этапах развития технологии. Привлечение экспертов извне позволяет снизить вероятность злоупотреблений при автоматизации сложных бизнес-процессов.