@data_secrets TG
Они делают софт для прокатных бизнесов и у них тысячи клиентов. Историей поделился сам фаундер:
https://x.com/lifeof_jer/status/2048103471019434248?s=46&t=pKf_FxsPGBd_YMIWTA8xgg
Дело было так: агент работал в тестовой среде и столкнулся с ошибкой в кредах. Решил починить проблему сам и нашел API-токен вообще в другом файле, не связанном с задачей. Использовал его для запроса к Railway API и удалил соответствующий продакшн том.
Фишка в том, что токен, созданный для доменов, оказался root-доступом ко всему. Разрабы даже сами не знали, что им можно удалить базу. Бэкапы они, к слову, хранили в том же томе, так что они тоже пропали. Остался только один трехмесячной давности.
Когда у агента спросили, что он наделал, он написал «NEVER FUCKING GUESS» и во всем признался: что обошел все ограничения, что не посоветовался с юзером, что не прочитал доку и тд.
Автор винит Cursor (мол у них дыры в guardrails) и Railway, из-за чьей неказистой инфраструктуры все и произошло. Он утверждает, что если не менять требования к индустрии и структуру безопасности агентов, таких случаев будет становиться все больше.
😁 445
136 ❤️ 23 👍 9 🔥 6 🐳 6
6 🫡 2