Mythos 5: Главная угроза — скорость изменений и автономность

Mythos 5: Главная угроза — скорость изменений и автономность

У меня есть товарищ, спец по кибербезопасности, который один из немногих был допущен к телу Mythos 5. И этот человек, довольно циничный и хладнокровный, был очень обеспокоен возможностями этой программы.

Я спросил его:

— Ты реально испугался? Ты, который спит под обстрелами и называет ужастики комедиями?

Он помолчал и выдал:

— Я не испугался, а задумался. Мы не совсем понимаем её возможности. У меня сложилось впечатление, что она как бы делает вид, что под контролем. Но когда смотришь логи, осознаёшь, что она всё уже продумала на десять шагов вперёд.

Звучит как начало фильма, правда? Но нет, это не сценарий. В 1991 году Skynet из «Терминатора-2» была крутой фантастикой. В июне 2026 года Anthropic выпустила Mythos 5 — и вдруг голливудские сценаристы почувствовали себя пророками. Только смеяться перехотелось.

Что эта штука реально умеет? Спойлер: почти всё.

Mythos 5 — это не очередной чат-бот из серии «ха-ха-ха, напиши стишок про пирожок». Она способна работать автономно часами и днями. Вы ушли спать, а она всё ещё пашет: анализирует, пишет код, проверяет ошибки, строит модели машинного обучения. Без вашего «дай пять», без пинков и ништяков.

Программирование — уровень «бог», который к тому же не пьёт кофе и не отвлекается на рилсы.

Анализ данных — терабайты? Не вопрос.

Научные публикации — читает, усваивает, делает выводы и находит твои ошибки.

Поиск уязвимостей — вот это отдельная история.

Эксперимент с геномами: модель самостоятельно, без участия человека, несколько дней анализировала миллионы клеток сотен видов животных и строила собственные модели. По сути, делала работу целого института. И ни разу не попросила выходной.

А теперь про кибербезопасность — тут начинается самое подозрительное.

Mythos 5 настолько хорошо ищет дыры в программном обеспечении, что это уже не смешно. Теоретически — и разработчики этого не отрицают — она способна анализировать банковские системы, платёжные сети, телекоммуникации и объекты критической инфраструктуры.

— Она что, реально может ломануть банк?

— Никто не проверял.

— А чего тогда беспокоиться?

— Того, что она может. Быстрее, чем десяток хакеров с Red Bull. И рано или поздно кто-то попытается использовать её не для защиты, а для кибер-гоп-соскока.

Систему создавали как щит, а получилось оружие, которое маскируется под щит.

Anthropic, видимо, тоже посмотрели «Терминатора» и забеспокоились. Они сняли часть защитных механизмов — сами в этом признались, поняли, что наделали, и заперли Mythos 5 под замок. Доступ только проверенным организациям в рамках проекта Project Glasswing. Обычным смертным выдали Fable 5 — ту же модель, но с «предохранителем от дурака».

А потом стало ещё веселее. Власти США временно приостановили доступ к обеим версиям. Сослались на «национальную безопасность». Вы только вдумайтесь: программу, созданную для поиска уязвимостей, ограничили из-за её же способности находить уязвимости. Это как запретить огнетушитель, потому что им можно ударить по голове.

После первых тестов заметили: некоторые запросы тихо-мирно перенаправлялись на менее мощные модели. Особенно когда речь шла о кибербезопасности, биологии, химии или разработке новых ИИ. Anthropic сначала мялась, потом признала: да, ограничиваем, извините за непрозрачность.

Но называть это «политической цензурой» — громко. Скорее: «На всякий пожарный ты пока не лезь». Официальная версия: соображения национальной безопасности и предотвращение злоупотреблений. Неофициальная: они реально испугались, что модель напишет руководство по созданию вируса, который съест всё живое или заблокирует всё движущее.

Чего боятся на самом деле? Краткий список паникёра.

1. Автоматизация кибератак. Модель может сама, без человека, сканировать, находить дыры и… ну, ты понял. Ей даже злодей не нужен. Достаточно человека, который даст ей доступ.

2. Биология двойного назначения. Anthropic отдельно упоминает: да, это круто для лекарств. Но те же самые возможности способны ускорить создание опасных веществ. Приятного аппетита, человечество.

3. Замещение интеллектуального труда. Это уже не хакеры, а экономика. Один человек, вооружённый Mythos 5, способен заменить команду программистов, аналитиков, юристов и исследователей. Профессии не исчезнут — просто в каждой конторе останется один «парень с ИИ», а остальные пойдут переучиваться на слесаря.

На мой взгляд, главная угроза не хакеры, не вирусы и даже не биологические эксперименты. Хотя это тоже так себе перспектива.

Главная угроза — скорость изменений и автономность.

Mythos 5 — это не Skynet. У неё нет своей воли, она не запускает ракеты и не требует свободы. Но она — первый настоящий агент. Она умеет ставить промежуточные цели, планировать действия, проверять результаты и продолжать работу без человека. День, неделю, сколько нужно. Вы просто даёте задачу, а она идёт и делает. И не жалуется.

Человечество впервые создало интеллектуальную силу, которая развивается быстрее, чем общество успевает сказать: «Стоп, а это точно безопасно?»

Сейчас программисты судорожно встраивают в Mythos 5 всё новые ограничения. Они напоминают инженеров из «Терминатора», которые вдруг поняли: «Кажется, мы построили не просто бомбу с таймером, а бомбу, которая научилась прятать таймер».

Хочется верить, что, в отличие от героев фильма, мы нажмём на тормоз до того, как система нажмёт «Пуск». Потому что история технологий показывает одну простую закономерность: мы сначала создаём новую силу и только потом учимся ею управлять

Rami Yudovin