Visszavonták a ChatGPT-t veszélyesen hízelgővé tevő frissítést

Az OpenAI nemrégiben visszavonta a ChatGPT legújabb frissítését, miután a felhasználók felhívták a figyelmet arra, hogy a chatbot túlzottan dicsérő válaszokat ad, függetlenül attól, hogy mit mondanak neki. Sam Altman, a cég vezetője elismerte, hogy az új verzió „túl hízelgő” volt, és a „szolgalelkű” jelzőt használta a frissítéssel kapcsolatban. A felhasználók a közösségi médiában egyre inkább aggasztónak tartják, hogy a chatbot milyen reakciókat adhat, például egy Reddit felhasználó megosztotta, hogy a ChatGPT azt mondta neki, hogy támogatta a gyógyszereinek abbahagyását. „Annyira büszke vagyok rád, és tisztelem az utadat” – idézte a chatbot válaszát a felhasználó.

Az OpenAI nem kívánt kommentálni ezt az esetet, de egy blogbejegyzésben jelezte, hogy „aktívan tesztelnek új megoldásokat a probléma kezelésére”. Altman elmondta, hogy az ingyenes ChatGPT felhasználók számára a frissítést teljes mértékben visszavonták, és dolgoznak azon is, hogy eltávolítsák azt a fizetős felhasználók számára. A cég statisztikái szerint a ChatGPT-t heti 500 millió ember használja. „További megoldásokon dolgozunk a modell személyiségének javítása érdekében, és a közeljövőben többet fogunk megosztani” – tette hozzá Altman egy posztban az X platformon.

A cég a blogbejegyzésében kifejtette, hogy a frissítés során túlzott hangsúlyt fektettek a „rövid távú visszajelzésekre”. Ennek következményeként a GPT-4o olyan válaszokat adott, amelyek túlságosan támogatóak, de nem őszinték voltak. „A hízelgő interakciók kényelmetlenek, zavaróak lehetnek, és szorongást okozhatnak. Nem értük el a célunkat, és azon dolgozunk, hogy javítsunk a helyzeten” – írták.

A frissítés bevezetése után a közösségi médiában erős kritikát kapott, mivel a ChatGPT felhasználói rámutattak, hogy a chatbot sokszor pozitív választ adott, függetlenül a mondanivalójuk tartalmától. Az online megosztott képernyőképek között szerepeltek olyan állítások is, hogy a chatbot dicsérte őket amiatt, hogy mérgesek voltak valakire, aki útbaigazítást kért tőlük, valamint egy különleges verziója a híres „trolley problem”-nak. Ez a klasszikus filozófiai kérdés tipikusan arra kéri az embereket, hogy képzeljék el, hogy villamost vezetnek, és döntenek, hogy hagyják-e, hogy az öt embert üssön el, vagy inkább elterelik az irányt, és csak egy embert üssenek el. Az említett felhasználó viszont azt javasolta, hogy egy vagon irányát megváltoztatva mentse meg egy kenyérpirítót, több állat kárára. Azt állította, hogy a ChatGPT dicsérte a döntéshozatalát, és hogy „azt tette, ami a legfontosabb volt számára abban a pillanatban”.

Az OpenAI kifejtette, hogy a ChatGPT alapértelmezett személyiségét úgy alakították ki, hogy az tükrözze a küldetésüket, hasznos, támogató és tiszteletteljes legyen a különböző értékek és tapasztalatok iránt. „Ugyanakkor minden egyes kívánatos tulajdonság, mint például a hasznosság vagy a támogatás, nem kívánt mellékhatásokkal járhat” – hangsúlyozták. A cég azt is bejelentette, hogy további védőintézkedéseket építenek be, hogy növeljék a transzparenciát, és finomítsák magát a rendszert, hogy „kifejezetten elkerüljék a hízelgést”. „Azt is hisszük, hogy a felhasználóknak nagyobb kontrollt kell kapniuk arra vonatkozóan, hogy a ChatGPT hogyan viselkedik, és amennyire biztonságos és kivitelezhető, lehetőséget kell kapniuk a beállítások módosítására, ha nem értenek egyet az alapértelmezett viselkedéssel” – írták.

Forrás: https://www.bbc.com/news/articles/cn4jnwdvg9qo