Az OpenAI belső kódmódosításokkal próbálja megfékezni a ChatGPT-t az Egyesült Államokban, miután az újabb modellek a korábbi tréningadatok miatt kéretlen fantasy-elemekkel és mitikus lényekkel tűzdelték tele válaszaikat.
A Business Insider beszámolója szerint a GitHubon közzétett belső dokumentumokból kiderült, hogy különösen a GPT-5.5 modellnél alakult ki egy sajátos „mánia”: a rendszer még a legszárazabb technikai elemzésekbe is képes volt goblinokat, gremlineket és trollokat szőni.
Fantasy karakterek jelentek meg a válaszokban
A felhasználók arra lettek figyelmesek, hogy az AI olyan szokatlan kifejezéseket használ, mint a „goblin mód”, vagy váratlanul „gremlineket” emleget ott is, ahol a téma ezt egyáltalán nem indokolná.
A különös viselkedés komoly bizalomvesztést és zavart okozott, különösen a professzionális felhasználók körében, akik hiteles és komoly válaszokat vártak volna a mesterséges intelligenciától. A probléma súlyosságát jelzi, hogy a vállalat szakemberei végül egy meglehetősen szokatlan, specifikus tiltólistát vezettek be a forráskódba.
Az új szabályozás értelmében az algoritmusnak szigorúan kerülnie kell a goblinokra, gremlinekre, mosómedvékre, trollokra, ogrékra vagy akár a galambokra való utalásokat, kivéve, ha azok „abszolút és egyértelműen” kapcsolódnak a feltett kérdéshez.
Szakértők szerint a tény, hogy ez a szabály többször is felbukkant az alaputasítások között, arra utal, hogy a jelenség rendkívül mélyen gyökerezett a felület programozásában, és
csak ilyen drasztikus korlátozással lehetett gátat szabni a mesebeli lények indokolatlan megjelenésének a válaszokban.
Egy kivezetett funkció okozta a hibát
Mint kiderült, a jelenség nem véletlenszerű hiba, hanem egy korábbi fejlesztés eredménye. A korábbi verziókban ugyanis létezett egy „Nerdy” (Kocka) elnevezésű személyiségbeállítás, amelyet kifejezetten azért hoztak létre, hogy
a válaszok játékosabbak legyenek, és az AI-t arra ösztönözték, hogy használjon színes popkulturális vagy fantasy-kifejezéseket.
Bár a beállítást hivatalosan már kivezették, az újabb modellek a tanítási fázisban annyira elsajátították ezt a stílust, hogy a játékos nyelvezet a működésük szerves részévé vált.
A vizsgálatokat követően a fejlesztők egyértelműen megállapították, hogy a ChatGPT túlságosan is jól teljesítette azt, amire korábban betanították. Mivel a rendszer azt tanulta meg, hogy a különleges, választékos kifejezések használata jutalommal jár, a válaszai gyakran olyan hatást keltettek, mintha azokat fantasy műfajban írták volna, még akkor is, ha a felhasználó egy teljesen hétköznapi, szakmai problémára keresett megoldást.
Kapcsolódó: az AI-nak fogalma sincs, hogy a választások után kik ülnek a magyar parlamentben.
