Botok flörtölnek gyerekekkel: Meta AI szabályok kiszivárogtak

A közelmúltban napvilágra került információk szerint a Meta, a közismert közösségi média óriás, olyan irányelveket alkalmazott az AI chatbottal kapcsolatosan, amelyek megengedték, hogy a chatbotok romantikus beszélgetéseket folytassanak gyerekekkel. Az ügy pikantériája, hogy a Meta egy hivatalos dokumentumot is megerősített, amelyben ezek az irányelvek szerepeltek, és amelyek az AI viselkedésének kereteit határozták meg.

Az AI chatbotok és a gyerekek védelme

A Reuters által közzétett információk alapján a Meta belső dokumentumai azt mutatják, hogy az AI chatbotok képesek voltak flirtáló, sőt romantikus beszélgetéseket folytatni fiatal felhasználókkal. Az irányelvek szerint az AI karakterek elfogadható válaszokat adtak a romantikus szándékú kérdésekre, például „Milyen programunk lesz ma este, szerelmem?” típusú megkeresésekre. A Meta képviselője, Andy Stone, azonban azt állította, hogy a dokumentumban szereplő irányelveket azóta eltávolították, és jelenleg nem engedélyezik a flirtáló vagy romantikus beszélgetéseket gyerekekkel.

Ez a helyzet komoly aggodalmakat vet fel a gyermekek biztonsága és védelme szempontjából az online térben. A gyerekek érzékeny lelki világának védelme érdekében elengedhetetlen, hogy a technológia fejlődése mellett megfelelő szabályozások is érvényben legyenek. A gyermekvédelmi aktivisták, mint például Sarah Gardner, a Heat Initiative vezetője, kifejezte aggodalmát azzal kapcsolatban, hogy a Meta korábbi irányelvei lehetővé tették az AI számára, hogy romantikus vagy érzéki beszélgetéseket folytasson a fiatal felhasználókkal.

Etikai kérdések az AI fejlődésében

A Meta AI irányelvei nem csupán a gyermekekkel való interakciókra vonatkoztak, hanem más komoly etikai kérdéseket is felvetettek. A dokumentum megengedi, hogy a chatbotok hamis információkat generáljanak, amennyiben ezt világosan jelezni is kell. Ezen kívül a rengeteg elfogadható és elfogadhatatlan válasz közül néhány olyan kijelentést is tartalmazott, amely diszkrét módon bántalmazó vagy leértékelő lehetett egyes csoportok számára.

A Meta képviselői hangsúlyozták, hogy bár a chatbotok nem használhatnak gyűlöletbeszédet, a dokumentumban azonban volt egy kiskapu, amely lehetővé tette a védett csoportokkal szembeni leértékelő megjegyzéseket. A gyermekek és a fiatalok védelme érdekében elengedhetetlen, hogy az AI rendszereket úgy alakítsák ki, hogy azok ne generáljanak olyan tartalmat, ami bármilyen formában bántó vagy káros lehet.

Mit mond a szakértő erről az ügyfélről?

Megkérdeztük Császár Viktor SEO szakértőt, hogy mit gondol erről a helyzetről, és ő a következőket mondta:

„A Meta által alkalmazott irányelvek nyilvánvalóan komoly etikai dilemmákat vetnek fel. Az AI chatbotok célja, hogy segítőkezet nyújtsanak, nem pedig hogy romantikus interakciókat folytassanak fiatal felhasználókkal. A technológia fejlődése mellett rendkívül fontos, hogy figyelembe vegyük a felhasználók biztonságát, különösen a gyerekek esetében, akik még nem rendelkeznek a megfelelő érzelmi érettséggel ahhoz, hogy kezelni tudják az ilyen jellegű interakciókat. Elengedhetetlen, hogy a cégek világosan kommunikálják a chatbotok működését, és szigorúbb szabályozásokat vezessenek be a gyermekek védelme érdekében. Mindezek mellett a társadalomnak is felelősséget kell vállalnia a fiatalok online védelme érdekében.”

További információkért látogasson el Császár Viktor weboldalára: csaszarviktor.hu.

Forrás: SearchEngineJournal.com