FlowDule använder AI som hjälp med dokumentation i journalen och för översättning. Modellen är Anthropic Claude via Amazon Bedrock i EU, och tal, bilder och supportärenden behandlas med Amazon Transcribe, Amazon Textract och Amazon Translate. AI fattar inga yrkesmässiga beslut. De flesta resultat är utkast som behandlaren ska gå igenom innan de förs in i journalen eller delas. Dina klienters data används inte för att träna AI-modeller.
Den här artikeln är till dig som administrerar en klinik eller en kedja. Den text som dina klienter läser står i AI-information.
Vem har åtkomst, och hur stänger du av AI
AI-funktionerna i journalen är tillgängliga för de kedjor som har aktiverat journalmodulen och för kedjans användare utifrån deras roll. Det finns i dag inget aktiveringssteg för varje enskild funktion: när journalmodulen är aktiverad är funktionerna tillgängliga, och anteckningsåterkoppling och journalrensning körs automatiskt i bakgrunden. Översättning av kedjans egna texter är tillgänglig för administratörer, oavsett om journalmodulen är aktiverad.
Du kan inte själv stänga av AI och behålla journalmodulen. Vill du ha AI avstängt ber du om det på support@flowdule.com, och då stänger FlowDule av det för kedjan. Det omfattar AI-funktionerna i journalen, titelförslag, mallverktygen och översättning av fritext. Det omfattar inte översättning av delat innehåll för klienten och översättning av kedjans katalog, mallar, policyer och meddelandemallar; de kan i dag endast stoppas för hela plattformen.
Vilka funktioner finns det
- Formatering och korrektur: behandlaren kan få sin anteckning rättad och strukturerad enligt en mall, till exempel korrektur eller språkförbättring.
- Sammanfattning: en sammanfattning av en anteckning med nyckelord och förslag på nästa steg.
- Diktering: ljud som behandlaren spelar in omvandlas till text.
- Text från bild: text på ett foto av ett dokument eller en handskrift känns igen och infogas i anteckningen.
- Rapportutkast: ett utkast till en rapport utifrån en rapportmall och de anteckningar som behandlaren väljer.
- Professionella insikter: på behandlarens begäran en reflektionsanalys av behandlarens egna förlopp under en vald period.
- Anteckningsåterkoppling och lärandeprofil: avslutade och rättade anteckningar poängsätts automatiskt i bakgrunden, så att behandlaren kan få återkoppling på sina anteckningar. Endast siffror och fasta koder sparas, alltså mått på hur anteckningen är skriven och koder för de interventioner och teman som anteckningen handlar om, inte text. Resultaten sammanställs i en lärandeprofil för varje behandlare, som bara behandlaren själv kan se.
- Journalrensning: avslutade anteckningar gås igenom automatiskt i bakgrunden, och en rensad version föreslås om anteckningen till exempel innehåller tolkning framställd som fakta, dömande språk, identifierande uppgifter om andra personer, spekulation, interna kommentarer eller känsliga uppgifter utan relevans.
- Översättning av delat innehåll för klienten: en klient kan få en anteckning eller en rapport som behandlaren har delat översatt till sitt eget språk. Översättningen är maskinellt gjord och visas för klienten utan att en behandlare har granskat den.
- Översättning av kedjans egna texter: administratörer kan få till exempel katalog, mallar, policyer, meddelandemallar och bokningstexter översatta.
- Titelförslag och mallverktyg: förslag på en titel till en anteckning samt verktyg där administratörer kan testa och förbättra en malls instruktion till AI.
- Översättning av supportärenden och plattformsmeddelanden: meddelanden i supportärenden och FlowDules meddelanden på plattformen översätts till mottagarens språk.
Vad AI inte får användas till
- självständig diagnos, triage eller riskpoäng;
- val, ändring eller rekommendation av behandling;
- beslut om tillgång till behandling, tjänst eller annan individuell rättighet;
- automatiskt färdigställande eller signering av journaler utan aktivt mänskligt godkännande;
- dold profilering, känsloigenkänning eller biometrisk kategorisering;
- forskning, marknadsföring, modellträning eller allmän produktutveckling på klient- eller journaldata;
- återanvändning av output till andra kunder eller till andra ändamål än din egen anvisning.
Den mänskliga bedömningen
AI-utdata som ska användas i journalen eller gentemot en klient är ett utkast. Före användning ska en kompetent användare:
- kontrollera att materialet rör rätt person och ärende;
- jämföra output med den ursprungliga texten, ljudet eller annat källmaterial;
- gå igenom fakta, negationer, siffror, datum, namn, medicinska eller yrkesmässiga begrepp och väsentliga utelämnanden;
- rätta eller avvisa osäkert eller missvisande innehåll;
- ta självständigt ansvar för den slutliga texten och den yrkesmässiga åtgärden;
- spara, godkänna eller dela resultatet först när det är genomgånget.
Så fungerar kontrollen i FlowDule:
| Funktion | Kontroll |
|---|---|
| Formatering och korrektur | Utkastet visas i skrivverktyget och blir en del av journalen först när behandlaren sparar. Behandlaren kan få ändringarna visade jämfört med sina egna anteckningar. |
| Sammanfattning | Sammanfattning, nyckelord och nästa steg skrivs på anteckningen när behandlaren har bett om dem. Behandlaren ska läsa dem och kan rätta eller ta bort dem. |
| Diktering | Transkriptionen infogas i skrivverktyget, och anteckningens text ändras först när behandlaren sparar. Dikteras det till en anteckning som redan har skapats sparas den råa transkriptionen tillsammans med anteckningen så snart den är klar. Behandlaren läser och rättar texten som all annan text. |
| Text från bild | Den igenkända texten infogas i skrivverktyget och blir en del av journalen först när behandlaren sparar. Bilden och texten visas inte sida vid sida, så behandlaren måste själv jämföra dem. |
| Rapportutkast | Rapporten måste godkännas innan den kan delas med en kollega eller visas för klienten. |
| Professionella insikter | Analysen skrivs aldrig in i journalen och visas bara för behandlaren själv. |
| Anteckningsåterkoppling och lärandeprofil | Inget godkännandesteg. Poängsättningen sker automatiskt i bakgrunden när en anteckning avslutas eller rättas och skriver inget i journalen. |
| Journalrensning | Förslaget ändrar inte anteckningen. Först när författaren tillämpar förslaget sparas en ny version av anteckningen; författaren kan också avvisa det. |
| Översättning av delat innehåll för klienten | Inget godkännandesteg. Översättningen är maskinellt gjord och visas för klienten utan att en behandlare har granskat den. Endast det ursprungliga innehållet är genomgånget av behandlaren. |
| Översättning av kedjans egna texter | Administratören ser översättningen och väljer själv att spara den. |
| Titelförslag och mallverktyg | Användaren väljer själv om förslaget ska användas. |
| Översättning av supportärenden och plattformsmeddelanden | Inget godkännandesteg. Meddelandet översätts automatiskt till mottagarens språk; det ursprungliga meddelandet bevaras. |
Roller och data
Du är personuppgiftsansvarig för din behandling av klient- och journaluppgifter och fastställer den rättsliga grunden enligt artikel 6 GDPR och, där det är relevant, artikel 9 samt eventuell nationell grund. FlowDule behandlar uppgifterna som personuppgiftsbiträde enligt Personuppgiftsbiträdesavtalet och kedjans inställningar i plattformen, som tillsammans är din anvisning till oss.
Beroende på funktionen kan behandlingen omfatta journaltext, fritext, dokumentbilder, ljud, transkription, prompt, output och nödvändiga tekniska metadata. Dina användare ska begränsa input till det som är nödvändigt för ändamålet.
FlowDule får inte använda dina klient- eller journaldata för egna AI-ändamål, för träning av allmänna modeller, för marknadsföring eller för analys på tvärs av kunder.
Leverantörer, region och modellträning
AI-funktionerna använder AWS-tjänster under FlowDules avtal med AWS. Modellen är Anthropic Claude, närmare bestämt Claude Sonnet och Claude Haiku, som AWS tillhandahåller genom Amazon Bedrock; FlowDule har inget direkt avtal med Anthropic.
| Funktion | Tjänst | Behandlade data | Region |
|---|---|---|---|
| Formatering och korrektur, sammanfattning, rapportutkast, professionella insikter, anteckningsåterkoppling, journalrensning, översättning av delat innehåll och av kedjans egna texter, titelförslag och mallverktyg | Amazon Bedrock med Anthropic Claude | Anteckningstext, valda anteckningar, mallens instruktion, ord från kedjans ordlista, text som ska översättas och output | EU |
| Diktering | Amazon Transcribe | Ljud och transkription | EU |
| Text från bild | Amazon Textract | Bild av dokument eller handskrift och igenkänd text | EU |
| Översättning av supportärenden och plattformsmeddelanden | Amazon Translate | Meddelandetext och översättning | EU |
Anropen till Amazon Bedrock behandlas i en av de EU-regioner som konfigurationen omfattar. Den gällande listan över leverantörer finns i Underbiträden och leverantörer.
Dina data används inte för att träna AI-modeller. FlowDule tränar inte modeller på dina data, och enligt AWS villkor för Amazon Bedrock används prompt och output inte för att träna modellerna.
Prompt och resultat från formatering, sammanfattning, diktering och text från bild lagras krypterat hos FlowDule, så att behandlaren kan granska resultatet. Personuppgifterna i dem tas bort automatiskt efter 90 dagar. Igenkänd text från en bild som inte kopplas till en anteckning raderas efter 7 dagar. Maskinöversättningar av delat innehåll sparas krypterat, så att samma översättning inte behöver göras igen. Anteckningsåterkopplingen sparar endast siffror och fasta koder. Det som behandlaren sparar i journalen följer kedjans lagringsregler, se Lagring och radering för kliniken.
Kvalitet, begränsningar och fel
AI kan hallucinera, missförstå ett sammanhang, förbise negationer, blanda ihop personer, förvanska siffror eller datum, översätta facktermer fel och återge bias från modellen eller källmaterialet. Ett flytande och övertygande svar är inte i sig ett riktigt svar.
FlowDule går igenom korrektur, språkförbättring och sammanfattning mot en fast uppsättning påhittade exempel. De övriga funktionerna har inte en motsvarande genomgång, och behandlarens egen bedömning är därför särskilt viktig. Allvarliga eller upprepade fel kan innebära att FlowDule omedelbart stänger av den berörda funktionen eller modellen, för en kedja eller för alla kedjor.
Fel i AI kan anmälas till support@flowdule.com. Säkerhetsincidenter och möjlig exponering av personuppgifter anmäls omedelbart till security@flowdule.com.
Vad du ska berätta för dina klienter
Du ska själv bedöma när en klient ska informeras om AI-användning enligt GDPR, yrkesregler och AI-förordningen. Din lokala text ska minst vara rättvisande om:
- vilket ändamål AI används till;
- vilka uppgifter som behandlas;
- vilka resultat en behandlare går igenom, och att översättning av delat innehåll är maskinellt gjord och inte granskad av en behandlare;
- relevanta leverantörer, regioner, lagring och överföringar;
- hur klienten kan kontakta dig om rättigheter eller frågor.
Interagerar en person direkt med ett AI-system ska personen upplysas om det, om det inte är uppenbart i sammanhanget. FlowDule har ingen AI-chattbot. När en klient väljer att se delat innehåll på ett annat språk upplyser klientportalen om att översättningen görs automatiskt med AI, och länkar till AI-information.
Automatiska beslut och profilering
FlowDules AI-funktioner fattar inte beslut som enbart grundas på automatisk behandling och har rättsverkan eller motsvarande väsentlig verkan för en person. Du får inte kringgå det genom att göra en AI-rekommendation praktiskt bindande utan en verklig, kompetent och självständig mänsklig bedömning.
Anteckningsåterkoppling och lärandeprofil är profilering av behandlaren enligt artikel 4.4 GDPR: avslutade och rättade anteckningar poängsätts automatiskt i bakgrunden utan att behandlaren startar det, och resultaten sammanställs i en profil av behandlarens anteckningar. Syftet är att ge behandlaren återkoppling. Profilen visas bara för behandlaren själv, administratörer kan inte se den, och den används inte för beslut om behandlaren. Du ska som personuppgiftsansvarig informera dina behandlare om den behandlingen.
Kan en funktion påverka diagnos, behandling, tillgång till tjänster, försäkring, sysselsättning eller andra väsentliga förhållanden ska den bedömas särskilt enligt artikel 22 GDPR, AI-förordningen och eventuella regler om medicintekniska produkter innan den tas i bruk.
AI-kunnighet hos dina användare
Åtkomsten till AI-funktionerna styrs av användarens roll i kedjan. FlowDule följer inte upp om den enskilda användaren har genomgått en utbildning. Du ska säkerställa att de användare som använder AI-funktionerna har tillräcklig AI-kunnighet, jfr artikel 4 i AI-förordningen. Det omfattar minst:
- funktionens avsedda och förbjudna användning;
- hallucination, bias och bedömning av källor;
- dataminimering och hantering av särskilda kategorier;
- mänskligt godkännande och yrkesmässigt ansvar;
- rapportering av fel, incidenter och säkerhetsbrott.
Frågor från klienter
Är en klient osäker på sin journal, på tillgång, rättelse, radering eller rättslig grund ska klienten fråga dig. Vi hjälper dig enligt din anvisning. Rör frågan FlowDules egna behandlingar kan man skriva till privacy@flowdule.com. Se även Integritetspolicyn och Underbiträden och leverantörer.
Behöver du hjälp?
Under Support i appen kan du skapa ett ärende till FlowDule-teamet. Du kan också skriva till support@flowdule.com.