Umělá inteligence a digitální zdravotnictví si tykají už léta, s raketovým rozvojem na poli AI ale přichází revoluce. Zvedají se stavidla a do nových AI startupů cílících na zdravotnictví a digitální medicínu začínají proudit nebývalé prostředky. Tahle obrovská příležitost ale má svoje rizika.
Od analýzy obrazu přes digitální patologii až po čím dál častější uplatňování velkých jazykových modelů – třeba pro větší zapojení pacientů či vytváření informačních chatbotů – to jsou jen některé velké trendy, jak dnes zdravotnictví využívá umělou inteligenci. Ta se začíná více a více uplatňovat také v psaní automatizované dokumentace, která pomáhá lékařům předejít vyhoření.
Generativní AI pro klinickou dokumentaci vyvíjí dokonce Microsoft, respektive jím vlastněný startup Nuance. Pět z deseti největších venture kapitálových investic do zdravotnictví ve druhém čtvrtletí letošního roku získaly právě společnosti zabývající se umělou inteligencí. Rekordmany jsou HeartFlow s 215 miliony dolarů a Strive Health se 166 miliony dolarů.
Zatímco ale společnosti pracují na vyladění efektivity svých AI aplikací pro nasazení v reálném čase, nutně se vnucuje otázka, jak moc je to vlastně bezpečné? Nejde jen o spolehlivost a přesnost, která se postupem času zlepšuje. Zatím se totiž vždycky ukázalo, že sebesofistikovanější umělý systém lze ovlivnit a zneužít.
Jak to vidí experti?
Nick Biasini, ředitel osvěty ve společnosti Cisco Talos, která tvoří součást síťového giganta Cisco a sama představuje jeden z největších komerčních týmů pro sledování hrozeb, Forbesu prozradil, že v AI samotné novou hrozbu nevidí, může ale být zneužita k posílení těch stávajících.
