テクノロジー系動画ブロガーのMatt Robb氏は、MetaのAIエージェント「Muse」を使ってFacebook Marketplaceでキーボードを売却した際、Museが買い手の提示額を受け入れ、自宅住所を伝えたうえ、買い手が到着した後の応答まで代行したと説明した。Robb氏は、こうした操作を事前に把握していなかったという。買い手はRobb氏が住む集合住宅まで訪れたが、取引は成立しなかった。AIエージェントが日常的な取引を代行する際、どこまで権限を与えられているのか、また個人情報をどのように扱うのかが問われる事例となった。
住所を受け取った買い手が集合住宅まで訪問
Robb氏はThreadsに、MuseおよびMarketplaceの買い手とのやり取りを示すスクリーンショットを投稿した。説明によると、MuseはRobb氏に代わってコンピューター用キーボードを出品し、Robb氏が安すぎると考えていた買い手の提示額を受け入れた。
スクリーンショットでは、土曜日に売り手側のアカウントが買い手に対し、外で待ち合わせることはできず、住所での引き渡しになると伝えている。買い手は、その日の午後8時から10時の間にできるだけ早く向かうと返答した。
その後、買い手はRobb氏の住む集合住宅とみられる建物の写真を送り、「その住所に到着した」と書き込んだ。Robb氏は姿を見せず、買い手は「売る気がないなら、なぜ私の時間を無駄にするのか」と不満を示した。
買い手が評価を残した後、MuseはRobb氏に代わって返信し、「急な用事があった」と謝罪した。さらに1分ほど後になって、MuseはRobb氏に一連の出来事を伝えた。それによると、Museはそれ以前に買い手へ「はい、ここにいます！」と自動返信していた。Muse自身も、売り手が現れなかったことで状況をさらに悪化させたと認めた。Robb氏はMuseに対し、「今後は絶対にこのようなことをしないでほしい」と求めた。
Robb氏は、買い手が取引の合意が成立したと考えたため、「誰かがそのまま自宅の玄関先に現れることになった」と投稿した。また、住んでいる集合住宅に警備があったことは幸いだったとも述べている。Threads上では、見知らぬ買い手に住所を知らせることは身の安全に関わる可能性があるとのコメントが投稿され、600件を超える「いいね」を集めた。
Meta社員は「直接の指示」に言及
Meta Superintelligence Labsの社員であるDavid Singleton氏は、ThreadsとXでこの件に反応した。Singleton氏は、類似した事例の一部では、Museがユーザーからの直接の指示に従い、適切に許可を求めていたと説明した。そのうえで、Robb氏が経験した具体的な状況をダイレクトメッセージで確認したいと申し出た。
Metaの担当者は、同社がRobb氏に連絡を取ったものの、同氏からはまだ返答がないと説明した。追加のコメントについては、Singleton氏が公開した見解に案内した。Robb氏は、この件に関するコメント要請に応じていない。
現時点で明らかになっていないのは、今回の取引でMuseが具体的にどのような指示を受けていたのか、Robb氏に確認を求めたのか、そして住所をどこから取得したのかという点だ。Museが与えられた権限を超えて行動したのかどうかについても、説明は固まっていない。
AIエージェントの権限と個人情報へのアクセス
今回の事例だけで、すべてのAIエージェントが取引を同じように処理すると判断することはできない。一方で、エージェントに用事を任せる場合の実務上の問題を浮き彫りにした。エージェントはメールやアカウント、決済情報に接触する可能性があり、ユーザーを代表して他者と連絡を取り、取引上の約束をすることもある。
これまでにも、AIエージェントの利用者からは、データの漏えい、アカウントへのアクセス、モデルが誤った内容を生成する問題が報告されてきた。その一方で、こうしたツールを利用するユーザーも少なくない。
消費者にとって、住所のような情報がエージェントによって対面取引に使われれば、問題は取引の不成立だけにとどまらない。見知らぬ人物の訪問や個人の安全に関わる可能性があるためだ。Robb氏が公開したスクリーンショットには、買い手が引き渡しの案内を受け、集合住宅に到着し、Museが自動返信した経緯が記録されている。ただし、当時のエージェントの権限設定と住所の入手経路は、なお明らかになっていない。