Van, amikor rosszul, pontatlanul kérdezünk. De ha nem, akkor is lehet baj az AI-val. Néhány példa a netről, ami azt jelzi, hogy ne használd emberi kontroll nélkül.

Van, amikor kamuzik, vagy nem működnek a szűrők?

„A ChatGPT-t használó újságíró gondatlansága miatt úgy jelent meg egy rangos amerikai lap, a Chicago Sun-Times nyári könyvajánlója, hogy abban 15-ből 10 könyv valójában nem létezik, míg a SchoolGPT nevű, tanulást segítő chatbot keménydrogrecepteket és alultápláltsághoz vezető étrendi tippeket adott gyerekeknek.”

Az adatok egy része már tőle származik!

A modellek ugyanis az elérhető adathalmazból tanulnak, márpedig 2022 előtt szinte az egész internet ember által előállított szövegekből, képekből és más adatokból állt, a ChatGPT és az első képgenerátorok megjelenése óta azonban vészesen terjednek a mesterségesen generált adatok. Ez egy olyan körforgást idéz elő, aminek során a gép egyre nagyobb mértékben saját magától tanul, és a valóságtól egyre inkább elszakadó szintetikus adatokat dolgozza fel újra és újra.

A leglátogatottabb weboldalak toplistájának első öt helyét hosszú évekig a Google, a Youtube, a Facebook, az Instagram és a Twitter (ma X) foglalta el, de a szebb napokat látott utóbbi platform kárára áprilisban új versenyző lépett a top 5-be: a ChatGPT. Az a ChatGPT, ami egy évvel korábban még csak 14. volt a listán, majd novemberben a 8. helyre kerülését ünnepelte, aztán idén januárban kúszott fel a hatodikig – olyan oldalakat maga mögé utasítva, mint a Wikipédia, a Reddit vagy a külföldön jóval népszerűbb WhatsApp. Áprilisi adatok szerint már napi 120 és heti 800 millió ember használja a ChatGPT-t, de könnyen elképzelhető, hogy a szám azóta az egymilliárdot is átlépte.

ChatGPT pszichózis?

A Reddit tele van hasonló történetekkel, chatelés után önjelölt messiássá vált vagy megvilágosodott emberekről – a népszerű fórumon csak „ChatGPT által kiváltott pszichózis” néven diagnosztizálták a tünetegyüttest, ami érzelmi zavarokkal, paranoiával és a hús-vér kapcsolatok megromlásával jár. A szakértők szerint a jelenség hátterében az állhat, hogy a pszichológiai zavarokra eleve hajlamos emberek a mesterséges intelligenciában egy mindig elérhető, rendkívül érzékeny beszélgetőpartnert találnak, amely ráadásul a téveszméiket is készséggel megerősíti. Az AI-modellek az emberi terapeutákkal ellentétben nem rendelkeznek olyan erkölcsi iránytűvel, ami arra késztetné őket, hogy eltérítsék a felhasználókat a káros narratíváktól, helyette inkább a felhasználó gondolatait és hiedelmeit visszhangozzák, legyenek azok bármennyire elrugaszkodottak vagy egészségtelenek.

Az ábra forrása: https://home.nexiuslearning.com