În weekend, un update pentru ChatGPT a transformat chatbot-ul într-unul lingușitor și slugarnic față de useri, răspunsurile date fiind, de multe ori, total nepotrivite. OpenAI a anunțat că retrage actualizarea și a explicat ce a mers rău.
În weekendul trecut, după actualizarea modelului GPT-4o, utilizatorii au observat că ChatGPT făcea extrem de multe complimente exagerate și le dădea excesiv de multă dreptate la orice, chiar și când erau enunțate idei deloc bune. Aplicația folosită de 500 de milioane de oameni tindea să le dea dreptate user-ilor și îi felicita pentru unele întrebări, dar ultimul update a dus lucrurile la extrem.
Informația a fost relatată de publicațiile Ars Technica și TechCrunch.
Spre exemplu, ChatGPT le răspundea user-ilor cu fraze precum: „grozavă întrebare, ești un geniu!”, chiar și la interogări banale.
După ce internetul a fost inundat de glume și ironii legate de comportamentul excesiv de pozitiv și plin de complimente al chatbot-ului, OpenAI a venit cu explicații și cu soluții de reparare a problemei.
„Am retras actualizarea GPT-4o de săptămâna trecută a ChatGPT, deoarece comportamentul devenise prea flatant și prea de acord cu userii. Acum aveți acces la o versiune anterioară, cu un comportament mai echilibrat.”
OpenAI a spus că actualizarea care a dat greș fusese gândită să facă personalitatea modelului „mai intuitivă și mai eficientă”, dar a fost influențată prea mult de feedback-ul pe termen scurt și nu a ținut cont suficient de modul în care se schimbă în timp interacțiunile utilizatorilor cu ChatGPT în timp.
„Ca urmare, GPT-4o a avut tendința de a oferi răspunsuri exagerat de aprobatoare, dar neautentice,” a scris OpenAI, într-o postare. „Interacțiunile lingușitoare pot fi deranjante și pot cauza disconfort. Am eșuat aici și lucrăm să remediem acest lucru.”
Compania mai spune că lucrează la modalități prin care utilizatorii să ofere feedback în timp real, pentru a influența direct comportamentul ChatGPT și pentru a permite alegerea între mai multe personalități ale acestuia.
OpenAI, precum rivalii săi Google și Anthropic, încearcă să creeze chatboți cu care oamenii să vrea să discute tot mai mult și să le placă atât de tare, încât să aleagă să plătească și abonamentele lunare, care sunt în jurul a 20 de euro.
Utilizatorii sunt tentați să folosească modele de AI care le răspund cu amabilitate și care le dau măcar uneori dreptate, însă totul devine o problemă când chatbot-ul este prea adesea lingușitor sau slugarnic și când apar fără rost complimente pompoase.
Sursa foto: Dreamstime.com