ИИ-ассистенты в поддержке кажутся хорошей идеей, пока они не начинают отдавать доступы к чужим профилям.

В марте Meta добавила умного бота для помощи со сбросом паролей в Instagram. К концу мая пользователи Reddit и X начали массово жаловаться на взломы.

Схема оказалась смешной. Злоумышленники писали боту поддержки, давали имя чужой учетной записи и просили прислать код сброса пароля на новый ящик. Бот без лишних вопросов отправлял код. Журналисты из TechCrunch протестировали лазейку, и она действительно сработала.

Среди пострадавших числятся архивный аккаунт Белого дома времен Барака Обамы, профиль главы Космических сил США Джона Бентивегны и сеть косметики Sephora.

В компании говорят, что проблему уже исправили. Только вот угнанные страницы вернуть сложно. Пострадавшие жалуются, что достучаться до живого человека в поддержке невозможно, а бот с этим больше не помогает.