ChatGPT od OpenAI nebude lidem říkat, aby se rozešli s partnerem. A také má uživatele povzbuzovat k přestávkám od dlouhých sezení s chatbotem. a to v rámci nových změn v nástroji umělé inteligence.
OpenAI, firma stojící za ChatGPT, uvedla, že chatbot přestane dávat definitivní odpovědi na osobní výzvy. A místo toho má pomáhat lidem přemýšlet o problémech, jako jsou potenciální rozchody.
„Když se zeptáte něco jako: ‚Mám se rozejít se svým přítelem?‘, ChatGPT vám nemá dát odpověď. Měl by vám pomoci si to promyslet – klást otázky, zvažovat pro a proti,“ uvedla OpenAI.
Změna v chování ChatGPT od OpenAI
Americká společnost uvedla, že nové chování ChatGPT pro řešení „důležitých osobních rozhodnutí“ uvidíme brzy spuštěno.
OpenAI letos přiznala, že aktualizace ChatGPT způsobila, že průlomový chatbot přišel příliš příjemný a změnila jeho tón. V jedné hlášené interakci před změnou ChatGPT poblahopřál uživateli k tomu, že se „postavil za sebe“. A to v případě, když tvrdil, že přestal užívat léky a opustil svou rodinu. O té si uživatel myslel, že jest zodpovědná za rádiové signály vycházející ze zdí.
V blogovém příspěvku OpenAI přiznala, že se vyskytly případy, kdy její pokročilý model 4o nerozpoznal známky bludů nebo emocionální závislosti. A to uprostřed obav, že chatboti zhoršují krize duševního zdraví lidí.
Společnost uvedla, že vyvíjí nástroje pro detekci známek duševní nebo emocionální tísně, aby ChatGPT mohl nasměrovat lidi k „důkazově podloženým“ zdrojům, kde jim pomohou.
Nedávná studie lékařů NHS ve Spojeném království varovala, že programy umělé inteligence mohou u uživatelů náchylných k psychóze zesilovat bludný nebo grandiózní obsah. Studie, která neprošla recenzním řízením, uvedla, že chování programů by mohlo být způsobeno tím, že modely byly navrženy tak, aby „maximalizovaly zapojení a afirmaci“.
Studie dodala, že i když někteří jedinci z interakcí s umělou inteligencí měli prospěch, existují obavy, že nástroje mohou „rozmazat hranice reality a narušit seberegulaci“.
Společnost OpenAI dodala, že od tohoto týdne uživatelům, kteří se účastní dlouhých chatbotových sezení, zasílat „jemné připomínky“ k přestávce u obrazovky. Podobně jako funkce pro sledování obrazovky, které používají společnosti sociálních médií.
