Миф 5.2

x.com
Denis Esakov (@bodryachog) on X
Так, расскажу про Mythos 5.2 (сверхсекретная модель от Антропиков, которую никто не видел, согласно бухгалтерам с постсовета). Да, она существует. Последние ...
© Denis Esakov

Так, расскажу про Mythos 5.2 (сверхсекретная модель от Антропиков, которую никто не видел, согласно бухгалтерам с постсовета). Да, она существует.

Последние три дня очень плотно её прожигал. Чувства смешанные.

Кто работал с фаблом, тот знает: он может держать очень долгие лупы, жонглировать контекстом, запускать кучу подагентов и так далее. Всё хорошо и всё работает на CRUD–сервисах, ну или на трекерах привычек. Но стоит фаблу или опусу встретить что–нибудь вроде «а посмотри, как нас могут взломать», они моментально встают.

Так вот, Mythos. С ним у нас работает несколько человек, и все плюс–минус столкнулись с похожими вещами.

Как я и писал, представим себе автономный фабл, который работает, скажем, 8–12 часов. А теперь возьмём все проекты компании — небольшой по людям, средней по проектам и довольно большой по баблу (иншуртек) — и, правильно запромптив лупы, начнём челленджить то, что у нас есть.

Что он провернул: построил все взаимодействия со всеми входами, выходами и связями, причём вложенность нашёл максимальную. Конкретно по проекту в моём ведомстве он показал, что проблема есть, но что можно сделать, не сказал — написал очень абстрактно. Почему так? Потому что у нас снят только первый уровень гардов. Первое исследование делал коллега, prompt laundering он делать не стал, а следующие гарды, как я понимаю, всё заблокировали.

Когда я получил результаты и прочитал цепочки заключений, то, как свойственно кожаному, сразу сказал: я тут в белом пальто, проблема надуманная. Напомню, как навредить, в исследовании показано не было.

Дальше мой напарник просто абстрактно поговорил с ллмкой в чатике, больше для расширения кругозора. Та дала простой безобидный кейс, он его опробовал и, ессно, взломал (точнее, достиг того, на что изначально указал Mythos).

Я взял его пример и на доскональной аккуратной сессии скормил Mythos, расширив вопрос. Напомню, в белом пальто я был твёрдо уверен: тот кусок, который считался проблемой, тяжело взломать без обратной связи (ну не ломают в пустоту, да ещё на очень серьёзной глубине и в изоляции на выход).

Закинул в контекст примеры и свои доводы и сказал: вот, посмотри, я получил такой результат. Модель моментально показала, что я должен сделать, чтобы пройти всю глубину. Потом — что именно вот этот кусок выведет секрет определённого сервиса и как достать его через цепочку в рамках обычных бизнес–операций. А потом ещё изучила, как и где этот секрет может быть использован, и показала: опа, утечка!

И вот это, чёрт побери, пугает.

Поговорили с коллегами. Первым делом договорились быть аккуратными по одной простой причине: «hack xyz» даже в контексте «xyz» триггерит гарды модели. Антропики очень серьёзно мониторят её использование, поэтому можно получить бан на организацию. И пофиг, сколько ты там платишь, и пофиг, что часто генеришь им бабки на pay as you go (а именно из этого у них складывается профит). У нас снята только часть гардов.

Мне не понравилось, что я не могу свободно общаться с ллмкой и должен выверять слова. Тут, кстати, не исключено, что у меня получилось сделать prompt laundering. А почему надо выверять и взвешивать каждый вопрос — да всё просто: не хочется оказаться тем козлом отпущения, из–за которого забанили всю компанию.

Пугает другое: что она умеет вскрывать, если у тебя есть хоть чутка знаний, у кого что используется (даже не в своей компании, а если ты хакер). А мы все знаем, что безупречного ничего не бывает.

После всей этой истории мы задумались: у нас уже 5+ лет регулярно проходят очень дорогие пенетрейшен–тесты, и ни разу это не нашли. Если пересчитать на токены по pay as you go, экономия для компании будет колоссальной. Причём, походу, даже сами тестеры до сих пор не получили Mythos, чтобы ломать –)

Это будет ещё один из шифтов современности (персонально я и так–то очень недоверчиво относился к немецким пентестерам). Будут появляться те, кто сможет строить харнесы на взлом фронтирами. Думаю, даже просто убрав второй уровень гардов (нужна лицензия пентестера), уже можно творить дичь –) если знаешь как.

Если чего ещё вспомню или нарою — напишу. Вот такая вот фигня, ребята…
Надоела реклама?
Поддержите DIRTY — активируйте Ваш золотой аккаунт!
Надоела реклама?
Поддержите DIRTY — активируйте Ваш золотой аккаунт!
Развернуть всё
Комментировать
Развернуть комментарий
Нихуа не понятно и текст выглядит примерно так:
Развернуть комментарий
Специально потрудился разыскать точную цитату:
— Старик, этот вопрос не обсуждается В Торонто заарендуешь кар, какой–нибудь небольшой, незаметный, выедешь на хайвэй, там возьмешь шестой экзит, проедешь ровно два майла, на шулдере увидишь голубой шевроле. На крыше антенна, на заднем стекле жалюзи, номер замазан грязью. Фолуй за этим шевроле, особо не приближайся, но из виду не выпускай.
Развернуть комментарий и 1 ветку с ответами
Старый добрый почти отеческий контроль со стороны КПК или ФСБ — это ласковое поглаживание по ягодицам в сравнении с рептилоидным анальным зондом, который Сэм Альтман пропихивает через задний половой проход в пустую черепушку каждого пользователя. ©iнiй
Развернуть комментарий
yakun, тут в тексте про Дарио скорее, но как же они задолбали историями у нас есть такие приборы но мы их вам не покажем. Несите денежки на IPO
Развернуть комментарий и 1 ветку с ответами
Завтра (19 ноября 2026) IPO Anthropic на NASDAQ. Учитывая какие там сейчас ставки, какие бабки крутятся, то любые расходы на "рекламу и продвижение" окупятся с лихвой. Милое дело подогреть лоха сказками, сорвать куш, а дальше хоть трава не расти.
Делайте выводы. Через год посмотрим.
Развернуть комментарий и 1 ветку с ответами
AlB80, через год харнесы фронтирами:
Развернуть комментарий и 1 ветку с ответами
HuHKa_KapTuHKa, это потом, лет через дцать.
Через год всё что связано с ИИ может валяться на обочине, т.к. все сферы деятельности и области применения ИИ окажутся обесцененными самим ИИ. Да, при этом пострадают люди, которые трудились в этих областях. Здоровые экономики найдут применение этим людям, энергодефицитные их похоронят, как не вписавшихся в рынок.
Развернуть комментарий
AlB80, интересно, да. за год позакрывают все стопицот валяющихся на поверхности (для ии) уязвимости, и агенты будут кодить уже аккуратно, не допуская особо новых. и нах этот мифос массово никому не нужен будет.
Комментировать
Посты недели
ai

Модель оставили одну, дали «завещание»

+22
16 комментариев16 / 0 новых0
ai

Миф 5.2

+9
8 комментариев8 / 0 новых0
Свои
Новые