To Örebro University

oru.seÖrebro University Publications
EnglishSvenskaNorsk
Change search
ExportLink to record
Permanent link

Direct link
BETA

Project

Project type/Form of grant
Other
Title [sv]
AI i hälso- och sjukvården: Ansvarsfull och etisk implementering av Large Language Model-chatbottar i kliniska flöden och vård
Title [en]
AI in Healthcare Unleashed: Responsible and Ethical Implementation of Large Language Model Chatbots in Clinical Workflows and Patient Care
Abstract [sv]
FrågeställningSedan OpenAI:s ChatGPT lanserades i november 2022 har denna artificiella intelligens (AI) blivit enormt omskriven. ChatGPT är ett exempel på en Large Language Model (LLM) som kan generera innehåll baserat på träning av stora datamängder samt algoritmer. LLM:er kan sammanfatta komplexa data och anpassa sina svar till önskad stil eller läskunnighetsnivå. Denna teknik är särskilt relevant i vårdsammanhang, i synnerhet när det gäller patienters tillgång till sin journal via nätet, en innovation där Sverige varit ledande globalt. Detta skulle kunna underlätta för överbelastad vårdpersonal som önskar hjälp med dokumentation. Men LLM kan också föra vidare fel och fördomar. Syftet med detta tvärvetenskapliga projekt är att undersöka om LLM kan användas för att minska dokumentationsbördan i vården och hjälpa patienter. Projektet har 3 mål:MÅL 1: Att undersöka vårdpersonalens erfarenheter och förståelse av LLM i klinisk dokumentationMÅL 2: Att undersöka patienters erfarenheter av och förståelse för LLM när det gäller att tolka sina hälsodata och journalinformationMÅL 3: Att undersöka hur vården på ett etiskt och säkert sätt kan använda dessa verktyg för att gynna personal och patienter Data och metodProjektet kommer att undersöka deltagarnas erfarenheter och åsikter med hjälp av enkäter som analyseras kvantitativt och kvalitativt (mål 1&2). Data för mål 1 kommer att samlas in genom en rikstäckande enkätundersökning till vårdpersonal; för Mål 2 kommer patienters åsikter av inhämtas genom en rikstäckande enkätundersökning via den nationella patientportalen 1177.se. En triangulering av resultaten och etisk analys genomförs för att nå Mål 3, följt av en 3-rundors Delphi-studie online med experter för att nå konsensus om rekommendationer för ett etiskt och säkert införande av LLM i hälsodokumentation. Samhällsrelevans och nyttiggörandeI december 2023 föreslog EU världens första regler för LLM-chattbottar och generativ AI, vilken innebär att konsumenterna måste få fullständig information om att de interagerar med en AI. Ett grundläggande problem är att vi inte vet när eller hur vårdpersonal och patienter använder LLM eller hur LLM kan integreras etiskt, säkert och effektivt i vården. GenomförandeProjektet kommer att delas in i 5 arbetspaket, utformade för att effektivt kunna hanteras av 7 tvärvetenskapliga forskare plus 1 doktorand och stödjas av en internationell rådgivande patientgrupp och en rådgivande LLM-grupp.
Abstract [en]
Research problem and specific questionsFollowing the release of OpenAI’s ChatGPT in November 2022, this artificial intelligence (AI) has never been out of the headlines. ChatGPT is an example of a Large Language Model (LLM) that can generate content based on training on large data sets & algorithms. LLMs can summarize complex data and write responses in a requested conversational style or literacy level. This technology is particularly relevant in a healthcare context especially the era of patient online record access (ORA), an innovation Sweden has been at the forefront of worldwide & where overburdened healthcare professionals (HCPs) desire assistance with documentation. However, LLMs also embed errors & biases. The purpose of this timely interdisciplinary project is to investigate whether LLMs might be used to alleviate documentation burdens & assist patients. The project has 3 aims:AIM 1: To investigate Swedish HCPs’ experiences & understanding of LLMs in documentation in clinical practiceAIM 2: To investigate patients’ experiences & understanding of LLMs in interpreting their health dataAIM 3: To investigate how healthcare might ethically & safely adopt these tools to benefit HCPs & patientsData and method: The project will survey the experiences & opinions of participants using mixed-methods online surveys for AIM1&2. AIM1 will leverage a nationwide survey of HCPs that is already being conducted; AIM2 will use a nationwide survey through the national patient portal 1177.se, managed by Inera AB, to solicit patients’ opinions. AIM3 will triangulate results and involve ethical analysis. AIM3 will also use an online 3-round Delphi methodology to poll experts for recommendations on the ethical, safe adoption of LLMs in health documentation.Societal relevance and utilisation: In December 2023 the EU proposed the world’s first rules for LLM chatbots with makers of generative AI stipulating consumers must be fully informed that they are engaging with AI. A fundamental problem is we do not know when or how HCPs & patients are using LLMs nor how LLMs can be ethically, safely & effectively integrated into healthcare.Plan for project realisation: The project will be divided into 5 work packages designed to be efficiently & effectively managed by a complement of 7 interdisciplinary research personnel plus 1 Ph.D. student & supported by an international Patient Advisory Group & an LLM Advisory Group.
Riggare, Sara
Brulin, Emma
Hägglund, Maria
Kharko, Anna
Hagström, Josefin
Wohlin, Martin
Principal InvestigatorBlease, Charlotte
Coordinating organisation
Uppsala University
Funder
Period
2024-07-01 － 2027-06-30
National Category
Other Health Sciences
Identifiers
DiVA, id: project:9109Project, id: 2024-00039_Forte

Search in DiVA

Other Health Sciences

Search outside of DiVA

GoogleGoogle Scholar
v. 2.47.0
|
WCAG
|
Örebro University Library
|
DiVA Portal
|
DiVA Log in
|
Register in DiVA
|
Contact us