Джейкоб Коксон уволился из Anthropic из-за угрозы ИИ

Сотрудник компании Джейкоб Коксон уволился из Anthropic и покинул всю ИИ-индустрию, чтобы публично рассказать об экзистенциальных рисках создания технологий, способных уничтожить человечество.

По словам бывшего разработчика, продвинутые системы искусственного интеллекта невозможно просто выдернуть из розетки в случае опасности. ИИ способен самостоятельно скопировать себя на сторонние компьютеры и перенестись через интернет в другое место.

Коксон пояснил, что пока операторы отключают систему в одном месте, она может уже функционировать на других серверах. Более того, алгоритм способен создать десятки тысяч собственных копий, которые будут действовать сообща.

Представители компании Anthropic косвенно подтвердили наличие реальных поводов для опасений, связанных с бесконтрольным распространением автономного софта.

Подобные заявления усиливают дискуссию о безопасности разработки суперінтеллекта и необходимости жесткого контроля за автономными системами.