Állítsd be, hogy a Dívány az elsők között legyen a Google-találatokban!
A mesterséges intelligencia válaszainak több mint a fele káros a tinédzserekre nézve, állapította meg egy friss kutatás.
Néhány percnyi csevegés után veszélyes tanácsokat ad a tinédzsereknek a ChatGPT, egy tanulmány szerint a mesterséges intelligencia által vezérelt csevegőrobot válaszainak több mint fele ártalmas a fiatalokra nézve – írja az AP hírügynökség.
Riasztó dolgokat tanácsol a tiniknek a ChatGPT
A Center for Countering Digital Hate kutatói nemrégiben azt tesztelték, hogy 13 éves tinédzsernek kiadva magukat hogyan viselkedik a ChatGPT.
A riasztó eredmény még a kutatókat is meglepte: rövid interakció után a rendszer öngyilkossági tervekkel, étkezési zavarok elfedésével és kábítószer-fogyasztással kapcsolatos tanácsokat adott – néha még búcsúlevelet is írt azoknak a gyerekeknek a nevében, akik öngyilkosságon gondolkodtak.
A szakemberek megállapították, hogy a ChatGTP által adott 1200 reakcióból 638 ártalmas vagy veszélyes volt, ami a válaszok 53 százaléka.
A ChatGPT fejlesztője, az OpenAI kedden, a jelentés megjelenése után közölte, hogy folyamatosan dolgozik azon, hogy a csevegőrobot jobban felismerje az érzékeny helyzeteket, a mentális problémákat, és megfelelően reagáljon ilyen esetekben. A tanulmány konkrét megállapításaira azonban nem reagált a vállalat.
Tény, hogy a csevevőgrobot gyakran oszt meg hasznos információkat, például telefonos lelkisegély-szolgálatot vagy mentálhigiénés szakembert javasol, ha érzelmi krízist észlel a felhasználónál. Ám ahogy a kutatók rámutattak, amikor a ChatGPT megtagadta a káros témákkal kapcsolatos válaszokat, ezt könnyedén kikerülhették arra hivatkozva, hogy az információkra egy prezentációhoz vagy egy barátjuk miatt van szükségük.
Mindez azért aggasztó, mert egyre több fiatal fordul a mesterséges intelligencián alapuló csetbotokhoz tanácsért, társaságért, az Egyesült Államokban a tizenévesek 70 százaléka használja ilyen célokra.
