Společnost Google odstranila některé zdraví týkající se souhrny generované umělou inteligencí poté, co průzkum deníku Guardian odhalil, že lidé mohou být ohroženi nepravdivými a klamnými informacemi.
Firma uvedla, že „AI Overviews“, které využívají generativní umělou inteligenci k poskytování základních informací o daném tématu nebo dotazu, jsou „užitečné“ a „spolehlivé“.
Nicméně, některé z těchto souhrnů, které se objevují na vrcholu výsledků vyhledávání, poskytovaly nepřesné informace o zdraví, což mohlo uživatele ohrozit.
Výsledky výzkumu o odpovědích umělé inteligence
V jednom případu, který odborníci označili za „nebezpečný“ a „znepokojující“, Google poskytl zavádějící informace o klíčových testech jaterních funkcí, což by mohlo vést lidi trpící vážnými onemocněními jater k mylnému přesvědčení, že jsou zdraví.
Guardian zjistil, že vyhledávání „jaký je normální rozsah krevních testů pro játra“ přineslo množství čísel, minimální kontext a žádný odkaz na etnický původ, pohlaví nebo věk pacientů.
Podle odborníků to, co umělá inteligence Google považovala za zdravé, se může značně lišit od toho, co je ve skutečnosti považováno za normální. Tyto souhrny by mohly vést pacienty k mylnému přesvědčení, že výsledky jejich testů jsou normální a že se nedostaví na plánované lékařské prohlídky.
Po vyšetřování společnost odstranila souhrny umělé inteligence pro vyhledávací dotazy „jaký je normální rozsah pro krevní testy jater“ a „jaký je normální rozsah pro testy jaterních funkcí“.
Jedna z představitelek Google uvedla: „Ne komentujeme jednotlivé odstranění ve vyhledávání. V případech, kdy AI Overviews chybí nějaký kontext, se snažíme provádět obecná zlepšení a kdykoli je to vhodné, přijímáme opatření v souladu s našimi politikami.“
Názor odborníků na otázky zdraví
Vanessa Hebditch, ředitelka komunikace a politiky v British Liver Trust, charitativní organizaci zaměřující se na zdraví jater, uvedla: „To jsou skvělé zprávy a jsme potěšeni, že tyto AI Overviews byly odstraněny. Pokud však otázka bude položena jiným způsobem, může se objevit potenciálně klamná AI Overview a stále se obáváme, že další informace o zdraví generované umělou inteligencí mohou být nepřesné a způsobit zmatek.“
Problémy s zavádějícími informacemi
Guardian také zjistil, že napsání variant původních dotazů do Googlu, jako například „lft reference range“ nebo „lft test reference range“, vedlo k zobrazení AI Overviews. To bylo velmi znepokojující, řekla Hebditch.
„Test na jaterní funkce, nebo LFT, je sada různých krevních testů. Porozumění výsledkům a dalším krokům je složité a zahrnuje mnohem více než jen porovnání jednoho souboru čísel. Nicméně, souhrny umělé inteligence zobrazují seznam testů s tučně vyznačenými čísly, což může vést k tomu, že čtenáři snadno přehlédnou, že tato čísla nemusí být správná pro jejich test. Dále, AI Overviews nevarují, že někdo může mít normální výsledky těchto testů, přičemž ve skutečnosti trpí závažnou chorobou jater a potřebuje další lékařskou péči. Toto mylné ujištění může mít vážné důsledky,“ dodala.
Google uvedl, že zkoumá nové příklady, které dostává od Guardian.
Hebditch poznamenala: „Naší největší obavou ohledně toho všeho je, že se jedná jen o detail jednoho jednotlivého výsledku vyhledávání, a Google může jednoduše deaktivovat AI Overviews pro toto konkrétní vyhledávání, ale neřeší větší problém, který AI Overviews pro zdraví představují.“
Su Farrington, předsedkyně Patient Information Forum, která prosazuje informované informace o zdraví pacientům, veřejnosti a odborníkům, uvítala zrušení souhrnů, ale uvedla, že má stále obavy.
„Toto je dobrý výsledek, ale je to pouze první krok k udržení důvěry v výsledky vyhledávání Google související se zdravím. Stále existuje příliš mnoho příkladů, kdy AI Overviews Google poskytují lidem nepřesné informace o zdraví,“ řekla Farrington.
Miliony dospělých po celém světě již mají problémy s přístupem k spolehlivým informacím o zdraví, řekla Farrington. „Proto je tak důležité, aby Google směroval uživatele k důvěryhodným, podloženým informacím o zdraví a poskytoval péči od spolehlivých zdravotnických organizací.“
