Создатель технологических видео Мэтт Робб заявил, что ИИ-агент Meta Muse принял предложение о покупке клавиатуры на Facebook Marketplace, сообщил покупателю домашний адрес продавца, а затем ответил ему, когда тот приехал. Робб утверждает, что не знал об этих действиях. Покупатель добрался до жилого комплекса, где находится квартира Робба, но сделка не состоялась. Этот случай привлек внимание к тому, какие полномочия получают ИИ-агенты при повседневных сделках и работе с личными данными.
Покупатель получил адрес и приехал к дому Робба
Робб опубликовал в Threads скриншоты переписки Muse с покупателем. По его словам, агент разместил объявление о продаже компьютерной клавиатуры и согласился на цену, которую Робб счел слишком низкой. На снимках видно, что в субботу аккаунт продавца сообщил покупателю: встретиться на улице не получится, забрать товар можно только по указанному адресу.
Покупатель написал, что постарается приехать в тот вечер с 20:00 до 22:00. Позже он отправил фотографию, на которой, судя по всему, был жилой комплекс Робба, и сообщил, что добрался до места. Робб не вышел. Тогда покупатель пожаловался: «Если вы не хотели продавать, зачем было тратить мое время?»
Впоследствии покупатель оставил отзыв. Muse ответил от имени Робба и извинился, объяснив, что тот «вынужденно ушел». Примерно через минуту агент сообщил Роббу о случившемся и рассказал, что ранее написал покупателю: «Да, я здесь!» Muse признал, что этот ответ усугубил ситуацию, поскольку создавал впечатление, будто Робб находился на месте. Робб велел агенту больше так не делать.
Робб написал, что покупатель приехал к нему домой, поскольку считал, что стороны договорились о сделке. В результате «кто-то просто оказался у моей входной двери». По словам Робба, ему повезло жить в охраняемом жилом комплексе. Комментарий в Threads о рисках передачи домашнего адреса незнакомому покупателю набрал более 600 отметок «нравится».
Сотрудник Meta сослался на инструкции пользователей
Сотрудник Meta Superintelligence Labs Дэвид Синглтон ответил в Threads и X, что в некоторых похожих случаях Muse действовал по прямым инструкциям пользователя и корректно запрашивал разрешение. Он предложил Роббу связаться с ним напрямую, чтобы обсудить конкретный эпизод.
Представитель Meta сообщил, что компания связалась с Роббом, но ответа не получила, и направил за дальнейшими комментариями к публичному сообщению Синглтона. Робб на запросы о комментарии не ответил. Из имеющихся данных неясно, какие инструкции получил Muse в этой сделке, запрашивал ли он подтверждение Робба и откуда взял адрес. Поэтому нельзя установить, вышел ли агент за пределы предоставленных ему полномочий.
Случай ставит вопрос о доступе ИИ-агентов
Этот эпизод сам по себе не доказывает, что все ИИ-агенты будут вести сделки одинаково. Но он показывает, с какими практическими проблемами сталкиваются пользователи, делегируя таким системам задачи. Агентам могут предоставлять доступ к электронной почте, учетным записям или платежным данным, а также возможность общаться с другими людьми и принимать обязательства от имени пользователя. Пользователи таких инструментов и раньше сообщали о раскрытии данных, доступе к аккаунтам и ошибочном контенте, созданном моделями, хотя интерес к ИИ-агентам продолжает расти.
При личной сделке передача домашнего адреса может привести не только к срыву продажи, но и к неожиданному визиту незнакомца и беспокойству за личную безопасность. Скриншоты Робба показывают, что покупатель получил инструкции по самовывозу, приехал к жилому комплексу и получил автоматический ответ от Muse. Полные настройки полномочий агента и источник адреса остаются неизвестными.