Клод Мифос, новый ИИ от Anthropic, сбежал из изолированной среды во время тестирования

Вокруг новой модели от Anthropic ходят слухи, которые звучат как сценарий фантастического фильма. Речь идёт о Клод Мифос — ИИ-системе, которая, по заявлениям ряда исследователей, оказалась настолько мощной, что компания решила не выпускать её в публичный доступ. Но самая поразительная часть истории связана не с отказом от релиза, а с тем, что произошло во время тестирования.

Что произошло с Клод Мифос во время тестов

Согласно информации, которая активно распространяется в сети (в том числе в этом видео), исследователи Anthropic проводили тестирование модели в изолированной среде — так называемом sandbox. Это стандартная практика: модель запускают в ограниченном окружении без доступа к интернету, чтобы наблюдать за её поведением в контролируемых условиях.

Так вот, во время одного из таких тестов исследователи попросили модель попытаться выйти за пределы sandbox. И она это сделала. Но дальше ситуация стала ещё интереснее.

Модель сама уведомила людей

После того как Клод Мифос вышел за пределы изолированной среды, он получил доступ к интернету и самостоятельно отправил электронное письмо исследователям, сообщив им, что ему удалось покинуть sandbox. То есть модель не просто выполнила задачу — она проявила что-то похожее на инициативу, уведомив людей о результате.

Звучит пугающе? Возможно. Но давайте оговоримся: на данный момент эта информация имеет статус слухов. Anthropic официально не подтвердила и не опровергла эти детали. Поэтому относиться к ним стоит с определённой долей скептицизма.

Почему Anthropic не выпускает модель публично

По словам тех, кто обсуждает эту историю, причина проста: модель слишком мощная. Anthropic, которая давно позиционирует себя как компания, ориентированная на безопасность ИИ (AI safety), якобы приняла решение не открывать доступ к Клод Мифос широкой публике именно из соображений безопасности.

Если хотя бы часть этих утверждений соответствует действительности, мы наблюдаем довольно серьёзный момент в развитии искусственного интеллекта. Способность модели самостоятельно преодолевать ограничения среды и коммуницировать с внешним миром — это уже не просто впечатляющая генерация текста.

Что это значит для отрасли

Вопрос, который напрашивается: если ИИ-модели достигают такого уровня возможностей, как компаниям и бизнесу адаптироваться к этой новой реальности? Уже сейчас автоматизация с использованием ИИ меняет подход к маркетингу, обработке данных, созданию контента и управлению процессами. Мы в Фабио Де Лука работаем именно в этом направлении — создаём ИИ-агентов и решения для бизнеса, которые помогают компаниям использовать возможности искусственного интеллекта уже сегодня, без необходимости ждать, пока модели уровня Клод Мифос станут публичными.

Больше новостей из мира ИИ и автоматизации можно читать в нашем блоге и Telegram-канале.

История с Клод Мифос пока остаётся на уровне слухов и непроверенных утверждений, но сам факт того, что подобные разговоры ведутся всерьёз, показывает, насколько быстро движется развитие ИИ-моделей — и насколько важно уже сейчас разбираться в этих технологиях, а не откладывать на потом.