ИИ-агент Cursor за 9 секунд убил всю базу клиентов поставщика ПО PocketOS. в PocketOS
IT-направление
⚡️ ИИ-агент Cursor за 9 секунд убил всю базу клиентов поставщика ПО PocketOS. У стартапа было более 1600 клиентов — базе хана, восстановить ее не могут! Агент работал на базе Claude Opus 4.6 и просто забил на все ограничения и инструкции разрабов, удалив технические доки. В системном промпте было чётко прописано: не выполнять вредоносных действий без запроса, перепроверять все гипотезы и «никогда, *****, не додумывать».