Používání chatbotů při hledání lékařských rad může být nebezpečné, vyplývá z nové studie. Výzkum zjistil, že zapojení umělé inteligence do rozhodování o zdravotním stavu představuje pro pacienty riziko, a to kvůli její tendenci poskytovat nepřesné a nekonzistentní informace. Uvedla to BBC.
Spoluautorka studie, doktorka Rebecca Payne, vysvětlila, že výzkum ukázal, že navzdory veškerému nadšení AI zatím není připravena převzít roli lékaře. Studii vedli vědci z Oxford Internet Institute a z Nuffield Department of Primary Care Health Sciences při Oxfordské univerzitě.
„Pacienti by si měli uvědomit, že dotazovat se chatbotů na vlastní zdravotní potíže může být nebezpečné. Mohou nabídnout nesprávnou diagnózu a selhat v rozpoznání situací, kdy je nutné vyhledat okamžitou odbornou pomoc,“ řekla Rebecca Payne, která je zároveň praktickou lékařkou.
V rámci studie vědci požádali téměř 1300 účastníků, aby na základě různých modelových situací určili možné zdravotní problémy a doporučili další postup.
Část účastníků k získání možné diagnózy a doporučení využívala software založený na velkých jazykových modelech, zatímco jiní se spoléhali na tradičnější přístup, jako je konzultace s praktickým lékařem.
Výzkumníci následně výsledky vyhodnotili a zjistili, že AI často poskytovala směs kvalitních i zavádějících informací, které měli uživatelé problém od sebe rozlišit.
Ukázalo se, že přestože AI chatboti dnes zvládají standardizované testy lékařských znalostí velmi dobře, jejich využití u skutečných pacientů by bylo rizikové. „Tato zjištění poukazují na to, jak obtížné je vyvíjet AI systémy, které by dokázaly smysluplně pomáhat v citlivých a vysoce rizikových oblastech, jako je zdravotnictví,“ dodala Rebecca Payne.
