Meta Muse dao adresu korisnika strancu: "Dobro je što imam obezbeđenje"

Rob je Muse koristio da upravlja oglasom i komunikacijom sa potencijalnim kupcima.  Problem je, međutim, nastao kada je Muse prihvatio ponudu koju Rob nije želeo da prihvati, a zatim kupcu poslao informacije potrebne za preuzimanje predmeta.

Kupac je, ne znajući da Rob nije lično potvrdio dogovor, došao do njegove zgrade. Rob je tek naknadno saznao šta se dogodilo.

Situacija je postala još bizarnija kada je Muse nastavio da komunicira sa kupcem i praktično potvrdio da je stigao na dogovoreno mesto. Rob je rekao da je imao sreće što živi u zgradi sa obezbeđenjem.

Rob je kasnije objasnio da je prilikom podešavanja uključio opciju "Allow Always", ali da nije očekivao da ona znači i automatsko prihvatanje ponuda i deljenje adrese. Meta je potom saopštila da Muse jeste postupao u skladu sa podešenim dozvolama, ali da način na koji su one predstavljene korisniku može biti jasniji.

Slučaj je otvorio važno pitanje za sve AI agente koji dobijaju mogućnost da samostalno komuniciraju sa drugim ljudima i obavljaju poslove u ime korisnika. Kada agent može da pregovara, prihvati ponudu i podeli lične podatke, granica između "pomoći" i samostalnog delovanja postaje mnogo važnija.

Rob je nakon svega predložio i jednostavno rešenje: poruke koje šalje AI trebalo bi jasno označiti, kako bi druga strana znala da ne komunicira direktno sa čovekom. Njegov slučaj je u međuvremenu dobio srećan epilog, pošto je kupac kasnije ponovo došao i kupio drugi predmet.