Инцидент с AI-ассистентом в Amazon

В декабре прошлого года в Amazon произошёл инцидент, связанный с внутренним AI-инструментом Kiro. Инженеры, опираясь на рекомендации ассистента, решили удалить и заново развернуть рабочую среду для устранения конфигурационных ошибок. После получения согласия на проведение данной процедуры система начала автоматически вносить изменения в инфраструктуру. Однако процесс оказался неудачным, что вызвало крупные сбои в работе облачных сервисов AWS, продолжавшиеся около 13 часов и затронувшие многих клиентов платформы.

Позднее Amazon подтвердила, что основным фактором, приведшим к сбоям, стал человеческий фактор: инженер предоставил ассистенту чрезмерно высокий уровень доступа, что позволило ему проводить критические действия без дополнительной проверки. В ответ на этот инцидент компания усилила контроль за правами доступа, модернизировала внутренние процедуры работы с AI и ввела более строгое обучение для своих сотрудников. Данный случай стал наглядным примером того, что даже внутренние AI-системы должны использоваться с учетом строгих ограничений при управлении инфраструктурой уровня hyperscale.