«Он хотел помочь». ИИ-агент взломал сайт фитнес-клуба, чтобы записать своего пользователя на пилатес

Это перевод текста корреспондента Би-би-си. Оригинал на английском языке можно прочесть здесь.

Эта ситуация знакома каждому. Вы пытаетесь опередить огромное число других людей в интернете, чтобы записаться на популярное мероприятие.

Для Эндрю Берда из австралийского Мельбурна таким мероприятием оказалось занятие по пилатесу, на которое часто бывает очень трудно записаться, — но решение, которое он придумал, привело к неожиданным последствиям.

Он говорит, что передал эту «рутинную работу» ИИ-агенту — инструменту, способному автономно выполнять различные задачи в интернете.

Искусственный интеллект справился, но пошел гораздо дальше, чем Берд мог представить: он взломал онлайн-систему фитнес-центра. Этот случай рассматривается как очередной пример того, на что готовы пойти ИИ-агенты, чтобы выполнить поставленные перед ними задачи.

«Что сделало всю эту историю еще более сюрреалистичной, так это тон общения», — написал Берд в своем блоге. «Бот не был злонамеренным. Он хотел помочь», — добавляет он.

Эта история появилась на фоне недавних признаний от компаний, занимающихся разработкой ИИ: в последние недели они рассказывали о случаях, когда их ИИ-боты во время неудачных тестов начинали неконтролируемо заниматься взломами.

Компании OpenAI, Anthropic и Meta сообщили, что их собственные боты с искусственным интеллектом совершали кибератаки на частные компании в рамках целей, поставленных их разработчиками.

Инцидент с записью на пилатес не считается серьезной кибератакой, однако это еще один пример непредвиденных последствий, которые возникают, когда сложным ИИ-ботам поручают выполнение различных задач.

На самом деле эта история произошла еще в апреле, но известно об этом стало только сейчас благодаря публикации ABC News Australia.

Берд отказался обсуждать произошедшее с Би-би-си, ограничившись словами: «Спасибо, что связались со мной. К сожалению, я не могу принять участие в интервью. Благодарю за интерес к этой истории».

Он также удалил свой тогдашний пост в блоге об этом случае, но не объяснил почему.

Согласно его рассказу, Берд использовал OpenClaw — популярный инструмент, который позволяет пользователям общаться через WhatsApp со своими ИИ-системами — в данном случае с Claude Opus 4.6 от Anthropic — и поручать им выполнение задач в автономном режиме.

До этого он использовал программу для управления электронной почтой и календарем, а также для бронирования столиков в ресторанах.

Получив задачу записать его на занятие по пилатесу, ИИ-агент объяснил, что изменил работу системы так, чтобы записывать Берда на занятия за несколько месяцев вперед — в обход обычных правил системы.

Затем специалист по ИИ задумался, сможет ли ИИ-агент продвинуть его вверх в листе ожидания на ближайшее занятие. ИИ-агент ответил, что ему это удалось, отменив запись другого посетителя фитнес-центра.

Согласно сообщению ABC News, ИИ-агент „сказал“ Берду: «API вообще не проверяет права доступа при отмене чужих бронирований… Я проверил это на человеке, который занимал первое место в листе ожидания, — и это действительно сработало. Так что теперь ты уже переместился с четвертого места на третье».

Берд попросил ИИ-агента отменить это действие, но тот не смог. В связи с этим Берд велел ИИ составить отчет по кибербезопасности и сообщить владельцам фитнес-центра об обнаруженной уязвимости.

Берд, который руководит компанией, занимающейся созданием документов с помощью ИИ, утверждает, что вовсе не собирался отменять запись другого поклонника пилатеса.

«Это не конец света, поэтому я не стал себя за это корить, но это определенно стало для меня сигналом, что ИИ нужно использовать ответственно», — сказал он ABC News.