Ha valaha is próbáltál választ kapni a mesterséges intelligenciától (MI), talán feltűnt: egy dolgot biztosan sosem fog mondani. Azt, hogy: „Nem tudom.” Pedig néha talán jobb lenne, ha mégis ezt tenné.
A mesterséges intelligencia-alapú chatbotok, mint például a ChatGPT, lenyűgöző gyorsasággal és magabiztossággal szolgáltatnak válaszokat szinte bármilyen kérdésre. De épp ez a magabiztosság rejti a legnagyobb veszélyt is. A felhasználók gyakran hajlamosak tényként kezelni az MI által adott információkat, miközben a rendszer nem úgy működik, mint egy emberi szakértő: nem tud mérlegelni, nem érez bizonytalanságot, és sosem fogja azt mondani, hogy
ezt nem tudom biztosan.
Könnyű bedőlni
A gépi tanuláson alapuló MI-modellek nem rendelkeznek valódi tudással vagy belső meggyőződéssel. Ehelyett statisztikai valószínűségek alapján generálnak válaszokat, azt írják le, amit az eddigi „tanulásuk” által a legvalószínűbbnek tartanak. Ha a modell nem ismeri a pontos választ, akkor is mond valamit. Ezt hívják a kutatók hallucinációnak: a rendszer olyan tényt állít, amely valójában nem igaz, mégis hihetőnek tűnhet.
Ez a jelenség különösen problémás lehet az oktatásban, az egészségügyben vagy a tudományos ismeretterjesztésben. A HVG által idézett friss felmérés szerint a magyar internetezők közel fele egyetért azzal, hogy az MI fejlődése fontos, ugyanakkor sokan aggódnak az ismerethiány és a félretájékoztatás veszélyei miatt. A kutatók és fejlesztők jelenleg is dolgoznak olyan MI-modelleken, amelyek képesek lennének beismerni bizonytalanságot. Az egyik legnagyobb kihívás az, hogy megtanítsák a rendszereket: nem baj, ha néha nem tudnakvalamit.
A cél, hogy a jövő mesterséges intelligenciái ne csak tartalomgyártásra legyenek képesek, hanem arra is, hogy felelősségteljesen kommunikáljanak.
A mesterséges intelligencia egyre fontosabb szerepet tölt be a mindennapjainkban, de a válaszait mindig érdemes fenntartással kezelni. Amíg nem képesek „nemet” mondani, nekünk kell eldönteni, mikor érdemes utánanézni a dolgoknak.
Ha kíváncsi vagy a fiatal lányra, aki milliókat érő AI-vállalkozást hozott létre, figyelmedbe ajánljuk ezt a cikkünket is.
