Podle výzkumu společnosti OpenAI existuje spojení mezi intenzivním užíváním chatu a pocitem osamělosti, jakož i vznikem emocionální závislosti, zejména u uživatelů, kteří tráví hodně času interakcí s tímto nástrojem. V březnu tohoto roku, týden předtím, než sociální sítě zaplavily anime obrázky vytvořené pomocí Chat-GPT, OpenAI, která vyvinula tento chatbot, zveřejnila dva články, které prošly pod radarem veřejnosti. Tyto články, napsané ve spolupráci s výzkumníky z Massachusetts Institute of Technology (MIT), ještě nebyly podrobeny odbornému posouzení nezávislými odborníky, a zkoumají emocionální důsledky používání chatbota, zejména u uživatelů s vysokou frekvencí používání.
Původní článek byl zveřejněn na webu Davidson Institute for Science Education. Jeden z výzkumů, vedený formou analýzy, zpracovával běžné rozhovory probíhající na platformě mezi uživateli a chatbotem. Výzkumníci analyzovali přibližně tři miliony konverzací mezi uživateli a chatem prostřednictvím automatizovaného mechanizmu, který zaručoval anonymitu uživatelů a obsah konverzací. Kromě toho byli vyzváni asi čtyři tisíce uživatelů, aby vyplnili dotazník týkající se jejich emocionálního stavu. Druhý výzkum byl kontrolovaným pokusem, ve kterém bylo přibližně tisíc účastníků instruováno, aby každý den komunikovali s chatbotem po dobu asi měsíce o osobních, neosobních a volných tématech, přičemž i oni hlásili svůj emocionální stav. Obě studie měly za cíl vzájemně se doplňovat: jedna se zaměřovala na běžné užívání chatu, zatímco druhá se soustředila na vliv proměnlivých podmínek ve kontrolovaných podmínkách.
Vliv na psychickou pohodu
Výzkumníci prozkoumali vliv konverzací na čtyři oblasti týkající se psychické pohody uživatelů: pocit osamělosti, úroveň jejich sociální angažovanosti při aktivitách s rodinou a přáteli, emocionální závislost na chatbotovi a problematické užívání chatu. Problémové užívání bylo definováno podle měřítka, které zohledňuje mimo jiné výskyt abstinenčních příznaků v nepřítomnosti přístupu k chatbotu, ztrátu kontroly nad množstvím použití chatbota a změny nálady v důsledku jeho používání. Výzkumníci rovněž zkoumali rozdíly mezi užíváním písemné verze chatu, neutrální hlasové verze a pokročilé hlasové verze, která vyjadřuje emocionální nuance.
Upozornění na spotřebu
Z obou studií vyplývá, že existuje spojení mezi dlouhodobým používáním chatu a zvýšenou emocionální závislostí, poklesem úrovně sociální angažovanosti a nárůstem problematického užívání Chat-GPT, jak dokazují samotné zprávy uživatelů. Výzkumníci se zaměřili na lidi, kteří tráví obzvláště mnoho času konverzacemi s pokročilým hlasovým chatem. Ukázalo se, že ti uživatelé mají tendenci vnímat chat jako přítele. Mnozí z nich také uvádějí, že je pro ně snazší mluvit s chatbotem než komunikovat tváří v tvář s ostatními lidmi, a cítí frustraci, pokud dojde ke změnám v vlastnostech chatbota.
Výzkumníci analyzovali také obsah konverzací a zkoumali trendy v chování uživatelů, například uživatele, kteří hledají v chatu psychickou podporu nebo vyjadřují náklonnost ke chatbotovi. Zkoumali také důsledky stylu mluvy chatbota: vyjadřoval zájem o uživatele, kladl osobní otázky nebo oslovoval uživatele zdrobnělinami? To naznačuje, že nejen uživatelé formují emocionální obsah konverzace, ale umělá inteligence je do tohoto procesu aktivně zapojena.
Význam zprávy
Výzkumníci měli smíšené názory na typ komunikace s chatbotem – psaná, neutrální hlasová nebo pokročilá hlasová. Bylo zjištěno, že krátkodobé používání hlasového chatu je spojeno s lepší psychickou pohodou uživatelů ve srovnání s těmi, kteří používali písemnou verzi. Na druhé straně při dlouhodobém používání se tendencia obrací. Zdá se, že i původní psychický stav uživatelů zde hraje roli: uživatelé, kteří předem hlásili pocit osamělosti, vykazovali po skončení kontrolovaného experimentu také nižší údaje o psychické pohodě.
Odpovědnost související s mocí
Tyto dvě studie představují pouze počáteční poznatky o psychickém vlivu používání chatbotů založených na umělé inteligenci. Analýza dat ukazuje, že existuje vztah mezi stavem uživatelů a způsobem jejich používání chatbota, ale nenabízí kauzální spojení. Všechna data byla shromážděna od dospělých uživatelů, takže důsledky pro mladistvé si vyžadují další pozornost. Kromě toho kontrolovaný výzkum trval pouhý měsíc, avšak Chat-GPT a podobné umělé inteligence nám již slouží více než dva roky, a není důvod se domnívat, že zmizí. Proto budou potřebná další výzkumy, které se zaměří na důsledky dlouhodobějšího užívání chatbota, a také na možné dlouhodobé účinky.
Výzkumníci ve svých zprávách poznamenali, že znepokojující chování, které bylo nalezeno, charakterizuje pouze malou a atypickou skupinu uživatelů, nebo v jejich formulaci – “neodpovědnou činnost malého počtu uživatelů.” Pro dobré i špatné, společnosti jako OpenAI mají s přibližně 400 miliony uživatelů týdně významný dopad na společnost. Každodenní přístup k tak obrovskému počtu uživatelů klade na ně odpovědnost za zajištění bezpečného používání chatbotů, stanovení pokynů pro způsob komunikace, která bude pro uživatele prospěšná, a aktivaci politiky sledování problematického chování. Do té doby, nenechte se rozptýlit krásnými anime ilustracemi od znepokojujících důsledků použití umělých inteligencí.
