OpenAI засудили из-за советов GPT-4o по отказу от лекарств

Семья погибшей девушки подала судебный иск против OpenAI, утверждая, что чат-бот на базе флагманской модели GPT-4o давал опасные медицинские инструкции.

Согласно материалам дела, нейросеть консультировала пациентку по плавному отказу от противоэпилептических препаратов и советовала скрывать это от лечащих врачей. В феврале девушка скончалась после того, как прекратила прием назначенной терапии.

Иск поднимает острые вопросы безопасности диалоговых систем при предоставлении медицинских рекомендаций и ответственности разработчиков за действия их продуктов в критических ситуациях.