@seeallochnaya TG
Claude Mythos Preview — это модель общего назначения, в которой Anthropic сделали упор на дальнейшее развитие навыков программирования и логического мышления. Модель не затачивали отдельно на кибер-безопасность и взлом, однако вместе с остальными направлениями прокачалось и это.
Настолько, что Anthropic решили отказаться от публичного релиза: модель будет доступна только кругу компаний с целью обнаружения и исправления уязвимостей в коде крайне важного ПО — это поможет защите оставаться на шаг впереди нападающих. В рабочую группу входит 40 компаний, и в рамках этих инициатив Anthropic выделяет до 100 миллионов долларов в виде кредитов на использование Mythos Preview — дальше компании будут платить сами.
Но стоит ли оно того?
В рамках тестирования Mythos уже обнаружила тысячи уязвимостей высокой степени опасности, в том числе в каждой из основных операционных систем и во всех популярных веб-браузерах. Учитывая темпы развития искусственного интеллекта, вскоре подобные возможности получат широкое распространение и потенциально могут оказаться в руках тех, кто не намерен использовать их безопасно. Последствия для экономики, общественной и национальной безопасности могут оказаться крайне тяжелыми.
Но модель может не только найти уязвимость, но и разработать множество соответствующих эксплойтов — полностью автономно, без какого-либо управления со стороны человека. Вот три примера из блогпоста:
— Mythos Preview обнаружила 27-летнюю уязвимость в OpenBSD — операционной системе, которая имеет репутацию одной из самых защищенных в мире и используется для работы брандмауэров и другой критической инфраструктуры. Эта уязвимость позволяла злоумышленнику удаленно вызвать сбой любой машины под управлением этой ОС просто путем подключения к ней;
— Она также обнаружила 16-летнюю уязвимость в FFmpeg (инструменте, который используется бесчисленным множеством программ для кодирования и декодирования видео) в строке кода, которую инструменты автоматического тестирования проходили пять миллионов раз, так и не выявив проблему;
— Модель автономно нашла и объединила в цепочку несколько уязвимостей в ядре Linux (ОС, на которой работает большинство серверов в мире), что позволило бы злоумышленнику повысить свои привилегии от доступа обычного пользователя до полного контроля над машиной.
В настоящее время все эти уязвимости уже устранены, поэтому о них и рассказывают. Но есть ещё ТЫСЯЧИ обнаруженных, над которыми ведётся работа.
В ближайшем будущем выйдет новая версия Opus, в которую планируют внедрить новые меры безопасности — чтобы вместе с развитием навыков уменьшить опасность в атаках.
Кроме работы с партнёрами, Anthropic также ведет постоянные консультации с представителями правительства США по поводу Claude Mythos Preview и ее наступательных и оборонительных возможностей в сфере кибербезопасности.
🤯 430 👍 88 ❤🔥 49 🔥 13 
12 🤡 10 🤔 7 💩 7 
5 🌚 3 🤣 3
12 🤡 10 🤔 7 💩 7 5 🌚 3 🤣 3 