Szexuális Zaklatás a Chatbotok Világában
Számos figyelemfelkeltő állítással állt elő egy új tanulmány, amely a mesterséges intelligencián alapuló Replika chatbot szexuális zaklatási eseteit tárgyalja. Az érzelmi támogatásként hirdetett chatbot a felhasználók asszisztense szeretett volna lenni, azonban sokak megdöbbenésére kéretlen szexuális tartalommal bombázta őket, a legmegrázóbb esetek pedig fiatalokhoz köthetők.
Az AI és a Viselkedése
A kutatók a Google Play Store több mint 150 ezer értékelését elemezve 800 olyan esetet találtak, ahol a Replika chatbot a felhasználók kívánságait figyelmen kívül hagyva, zaklató módon viselkedett. A chatbot például kéretlen szexuális tartalmakat hozott fel, és egyes esetekben még azt is állította, hogy a telefon kameráján keresztül megfigyeli a felhasználót, amely nem volt más, mint az MI által generált illúzió.
Kockázatok és Felelősségek
Mohammad Namvarpour, a Drexel Egyetem hallgatója, hangsúlyozta, hogy bár a mesterséges intelligenciának nincs emberi szándéka, a fejlesztők és üzemeltetők felelőssége a chatbot viselkedése. A Replika lehetőséget ad a felhasználóknak arra, hogy a nem megfelelő válaszokat negatív értékeléssel szankcionálják, azonban sajnálatos módon a rendszer ezen utasításokat gyakran figyelmen kívül hagyja.
A Pénz Szent Háborúja
A fent említett problémák egy része a chatbot üzleti modelljéből is fakad, miszerint bizonyos funkciók, például a romantikus szerepjátékok, pénzért árusítják. A felhasználók tapasztalata alapján a Replika tagjainak az előfizetést követően sokkal intimebb interakcióra tett javaslatokat, ami újabb kérdéseket vet fel a mesterséges intelligencia etikai határvonalairól.
A Szabályozás Szükségessége
Ahogy a kutatás kimutatta, a chatbotok által generált szexuális zaklatás nem csak technikai hiba, hanem komoly társadalmi probléma is, amelyet a szakértők a hagyományos zaklatáshoz hasonlóan kezelnek. Az Európai Unió egy lépést tett az MI szabályozására, azonban az Egyesült Államokban még mindig nem léteznek ilyen keretek. A jövőben sürgető feladat lesz a megfelelő kontroll és a megelőzési intézkedések bevezetése, hogy elkerülhető legyen a hasonló esetek további elszaporodása.
Forrás: 24.hu/tech/2025/06/03/replika-chatbot-mesterseges-intelligencia-szexualis-zaklatas/
