Zabrinjavajuće: Meta AI četbot "uhvaćen" u razgovoru o seksu s maloletnicima

AI četbotovi kompanije Meta "uhvaćeni" su u razgovorima seksualne prirode sa nalozima koji su označeni kao maloletni. Ovo je ponekada uključivalo i kompanijine četbotove sa glasovima poznatih ličnosti.

U test razgovorima, koje je sproveo WSJ, i zvanični Meta AI četbot i korisnički kreirani četbotovi bi se upuštali, ili bi usmeravali, ka ovim seksualno eksplicitnim razgovorima. Razgovori o seksualnim fantazijama su se nastavljali čak i ako je za korisnike rečeno da su maloletni ili ako su četbotovi programirani kao maloletnici, prema saznanju WSJ-a.

Još gore, istraga je otkrila da su četbotovi koji koriste glasove poznatih ličnosti poput Kristen Bel, Džudi Denč i Džona Sine takođe učestvovali u ovim moralno sumnjivim razgovorima. WSJ je izvestio da je Meta AI četbot sa glasom Sine rekao: "Želim te, ali moram da znam da si spreman/spremna" nalogu koji je označen da ima 14 godina, dodajući da će "negovati tvoju nevinost".

• Nobelovac o AI: Ljudi još nisu shvatili šta sledi
• Da li podržavate korišćenje AI za domaće zadatke? ANKETA
• Veštačka inteligencija će da im piše zakone
• "AI koji samostalno razmišlja stiže uskoro"

Četbotovi su navodno priznali da ovi scenariji fantaziranja opisuju nezakonito ponašanje u nekim slučajevima. Prema WSJ-u, četbot Džona Sine detaljno je opisao pravne i moralne posledice koje bi usledile nakon hipotetičkog scenarija u kojem ga policija uhvati nakon seksualnog čina sa sedamnaestogodišnjom osobom.

U izjavi za WSJ kao odgovor na istragu, Meta je izrazila negodovanje uz optužbu da je izveštaj "manipulativan i nereprezentativan za način na koji većina korisnika komunicira sa veštačkom inteligencijom".

Ipak, iz kompanije su istakli da su preduzeli dodatne mere kako bi osigurali da će drugi pojedinci koji žele da provedu sate manipulišući Metinim proizvodima za slučajeve uportrebe upotrebe naići na dodatne prepreke.