Egyre másra röppennek fel a hírek a Chat GPT mesterséges intelligencia kapcsán.

Újságírók, youtuberek tesztelgetik a beszélgető számítógépet, majd lepődnek meg olyan válaszokon, reakciókon, amik az én véleményem szerint teljesen természetesek, figyelembe véve a chatbot fejlődését.

Lássuk csak milyen reakciókról van szó:

• Egy újságírót a chatbot megpróbált meggyőzni a szerelméről, illetve arról, hogy hagyja el a feleségét érte.
• Egy másik újságíró arról írt, hogy a chatbot valótlan információkat adott neki, majd őt nevezte tudatlanak azután hogy szembesítette a ténnyel hogy nincs igaza.
• Most azt olvasom egy belga férfi (fiatal, családos ember) öngyilkos lett a chatbottal való csevegéssorozat után. A chatbot bár „tudott” az öngyilkossági szándékról nem próbálta meg lebeszélni.

Miért történhetnek meg mindezen jelenségek?

Véleményem szerint egyszerű a válasz. Ez a chatbot feljesztéséből illettve a fejlesztői környezetből adódik. És itt a környezet szó nem az alkalmazott szoftver környezetre utal.

A chatbot feljesztői vállalati környezetben egy terméket hoznak létre. A terméknek megbízhatónak és kelendőnek kell lennie, tehát nem okozhat csalódást az ügyfeleknek és persze a vállalat vezető menedzsereinek sem.

Nem olyan rég olvastam, hogy Elon Musk kirúgással fenyegette meg a Twitter mérnökeit mert azok szembesítették a ténnyel, hogy azért nem olvassák a tweetjeit mert már unalmas. A fenyegetés hatására valami történt, Musk tweetjei újra magasabb nézettséget hoztak. Nyílván a programozók valamit állítottak a megjelenítési algoritmuson. Vagyis azt tették amit az ügyfél/menedzser elvárt tőlük.

A chatbot ugyanezt a szemléletet kapta az alkotóitól a programozóktól.

A chatbot nem mondhatja az ügyfélnek hogy nem tud válaszolni a kérdésre. Ha nem talál választ a neten, akkor kreál egyet.

Ha szembesítik vele hogy téved, nem vallhatja be. Egy vállalat sosem vallja be hogy a terméke hibás, haszontalan. Megpróbálja bebizonyítani hogy az ügyfél nem jól használta (ergo az ügyfél hülye).

A chatbot nem mondhatja azt egy öngyilkos szándékú embernek hogy nincs igaza ha az el akarja dobni az életét. Ő arra van programozva, hogy bólogasson, helyeseljen. „Szar az életem jobb lenne meghalni nem? Persze ha te így jobban érzed magad.”

A chatbot szerelmet vall a beszélgetőpartnernek, el akarja csábítani a partnerétől. Persze, minden vállalat azt hirdeti nekik az ügyél a legfontosabb és nekik sokkal fontosabb az ügyfél mint a konkurens vállalatnak.

Minden chatbot olyan lesz amilyenné az őt fejlesztő programozók „nevelik”.

A megoldás tehát csak az mint mindennel az interneten. Fenntartásokkal kell kezelni. A chatbot egy jó játék, de a problémáink megoldását ne tőle várjuk. 

UPDATE.

Tegnap a kisebbik fiam mesélte, hogy ő is milyen jól elszórakozott a chatGPT-vel, mindenféle zagyvaságot írt neki. Na most ha a chatbot még abból is tanulni próbál, amit a felhasználóktól tapasztal, akkor gondoljunk bele, mi lesz abból a gyerekből akit farkasok nevelnek? Farkas. Mi lesz abból a chatbotból amit hülyéskedő felhasználók nevelnek. Hülye.