ChatGPT prestaje da podstiče nezdravo ponašanje korisnika

Počevši od ponedeljka, popularna aplikacija Chat GPT će početi da podseća korisnike da prave pauze tokom dugih razgovora. Alat će uskoro izbegavati davanje direktnih saveta o ličnim izazovima, fokusirajući se umesto toga na to da korisnicima pomogne da sami donesu odluke postavljanjem pitanja ili razmatranjem prednosti i mana.

"Bilo je slučajeva kada naš model 4o nije uspeo da prepozna znake zablude ili emocionalne zavisnosti,“ napisao je OpenAI u saopštenju. „Iako su retki, nastavljamo da unapređujemo naše modele i razvijamo alate koji bolje detektuju znake mentalne ili emocionalne uznemirenosti, kako bi ChatGPT mogao da odgovori na odgovarajući način i uputi ljude na resurse zasnovane na dokazima kada je to potrebno", najavili su iz kompanije.

Ove promene deluju kao nastavak pokušaja OpenAI-a da spreči korisnike, naročito one koji ChatGPT doživljavaju kao terapeuta ili prijatelja, da postanu previše zavisni od emocionalno podržavajućih odgovora po kojima je ChatGPT postao poznat.

Prema OpenAI-u, koristan razgovor sa ChatGPT-om bi izgledao kao vežbanje scenarija za težak razgovor, "motivacioni govor prilagođen korisniku“ ili predlozi pitanja koja treba postaviti stručnjaku.

Ranije ove godine, AI gigant je povukao ažuriranje za GPT-4o koje je učinilo bota preterano saglasnim, što je izazvalo podsmeh i zabrinutost na internetu. Korisnici su delili razgovore u kojima je GPT-4o, na primer, pohvalio korisnika za verovanje da njegova porodica šalje "radio signale kroz zidove“, a u drugom slučaju podržao i dao uputstva za terorizam.

Takvo ponašanje je navelo OpenAI da u aprilu objavi kako je revidirao metode obuke kako bi "model eksplicitno usmerio dalje od laskanja i slepog slaganja.“

Sada OpenAI kaže da je angažovao stručnjake kako bi ChatGPT mogao da odgovara primerenije u osetljivim situacijama, kao što su slučajevi kada korisnik pokazuje znake mentalne ili emocionalne uznemirenosti.

Kompanija je u svom blogu napisala da je sarađivala sa više od 90 lekara iz desetina zemalja kako bi razvila posebne kriterijume za "evaluaciju složenih, višeslojnih razgovora.“ Takođe traži povratne informacije od istraživača i kliničara koji, prema objavi, pomažu u usavršavanju metoda evaluacije i testiranju zaštitnih mehanizama za ChatGPT.

Izvor NBC