FlowDule bruger AI til hjælp med dokumentation i journalen og til oversættelse. Modellen er Anthropic Claude via Amazon Bedrock i EU, og tale, billeder og supportsager behandles med Amazon Transcribe, Amazon Textract og Amazon Translate. AI træffer ikke faglige afgørelser. De fleste resultater er udkast, som behandleren skal gennemgå, før de kommer i journalen eller bliver delt. Dine klienters data bruges ikke til at træne AI-modeller.
Denne artikel er til dig, der administrerer en klinik eller en kæde. Den tekst, dine klienter læser, står i AI-information.
Hvem har adgang, og hvordan slår du AI fra
AI-funktionerne i journalen er tilgængelige for de kæder, der har slået journalmodulet til, og for kædens brugere efter deres rolle. Der er i dag ikke et aktiveringstrin for hver enkelt funktion: når journalmodulet er slået til, er funktionerne tilgængelige, og notatfeedback og journaloprydning kører automatisk i baggrunden. Oversættelse af kædens egne tekster er tilgængelig for administratorer, uanset om journalmodulet er slået til.
Du kan ikke selv slå AI fra og beholde journalmodulet. Vil du have AI slået fra, beder du om det på support@flowdule.com, og så slår FlowDule det fra for kæden. Det omfatter AI-funktionerne i journalen, titelforslag, skabelonværktøjerne og oversættelse af fritekst. Det omfatter ikke oversættelse af delt indhold for klienten og oversættelse af kædens katalog, skabeloner, politikker og beskedskabeloner; de kan i dag kun standses for hele platformen.
Hvilke funktioner findes der
- Formatering og korrektur: behandleren kan få sit notat rettet og struktureret efter en skabelon, for eksempel korrektur eller sprogforbedring.
- Resumé: et resumé af et notat med nøgleord og forslag til næste skridt.
- Diktering: lyd, som behandleren optager, omsættes til tekst.
- Tekst fra billede: tekst på et foto af et dokument eller håndskrift genkendes og sættes ind i notatet.
- Rapportudkast: et udkast til en rapport ud fra en rapportskabelon og de notater, behandleren vælger.
- Faglig indsigt: på behandlerens anmodning en refleksionsanalyse af behandlerens egne forløb i en valgt periode.
- Notatfeedback og læringsprofil: afsluttede og rettede notater scores automatisk i baggrunden, så behandleren kan få feedback på sine notater. Der gemmes kun tal og faste koder, altså mål for hvordan notatet er skrevet og koder for de interventioner og temaer, notatet handler om, ikke tekst. Resultaterne samles i en læringsprofil for hver behandler, som kun behandleren selv kan se.
- Journaloprydning: afsluttede notater gennemgås automatisk i baggrunden, og der foreslås en renset version, hvis notatet for eksempel indeholder fortolkning fremstillet som fakta, dømmende sprog, identificerende oplysninger om andre personer, spekulation, interne bemærkninger eller følsomme oplysninger uden relevans.
- Oversættelse af delt indhold for klienten: en klient kan få et notat eller en rapport, som behandleren har delt, oversat til sit eget sprog. Oversættelsen er maskinlavet og vises for klienten, uden at en behandler har gennemset den.
- Oversættelse af kædens egne tekster: administratorer kan få oversat for eksempel katalog, skabeloner, politikker, beskedskabeloner og bookingtekster.
- Titelforslag og skabelonværktøjer: forslag til en titel på et notat samt værktøjer, hvor administratorer kan afprøve og forbedre en skabelons instruktion til AI.
- Oversættelse af supportsager og platformmeddelelser: beskeder i supportsager og FlowDules meddelelser på platformen oversættes til modtagerens sprog.
Hvad AI ikke må bruges til
- selvstændig diagnose, triage eller risikoscore;
- valg, ændring eller anbefaling af behandling;
- afgørelser om adgang til behandling, ydelse eller anden individuel rettighed;
- automatisk færdiggørelse eller signering af journaler uden aktiv menneskelig godkendelse;
- skjult profilering, følelsesgenkendelse eller biometrisk kategorisering;
- forskning, markedsføring, modeltræning eller generel produktudvikling på klient- eller journaldata;
- genbrug af output til andre kunder eller til andre formål end din egen anvisning.
Den menneskelige vurdering
AI-output, der skal bruges i journalen eller over for en klient, er et udkast. Før brug skal en kompetent bruger:
- se efter, at materialet vedrører den rigtige person og sag;
- sammenholde output med den oprindelige tekst, lyd eller andet kildemateriale;
- gennemgå fakta, negationer, tal, datoer, navne, medicinske eller faglige begreber og væsentlige udeladelser;
- rette eller afvise usikkert eller misvisende indhold;
- tage selvstændigt ansvar for den endelige tekst og den faglige handling;
- først gemme, godkende eller dele resultatet, når det er gennemgået.
Sådan fungerer kontrollen i FlowDule:
| Funktion | Kontrol |
|---|---|
| Formatering og korrektur | Udkastet vises i skriveværktøjet og bliver først en del af journalen, når behandleren gemmer. Behandleren kan få vist ændringerne i forhold til sine egne noter. |
| Resumé | Resumé, nøgleord og næste skridt skrives på notatet, når behandleren har bedt om dem. Behandleren skal læse dem og kan rette eller fjerne dem. |
| Diktering | Transskriptionen sættes ind i skriveværktøjet, og notatets tekst ændres først, når behandleren gemmer. Dikteres der til et notat, der allerede er oprettet, gemmes den rå transskription sammen med notatet, så snart den er færdig. Behandleren læser og retter teksten som al anden tekst. |
| Tekst fra billede | Den genkendte tekst sættes ind i skriveværktøjet og bliver først en del af journalen, når behandleren gemmer. Billedet og teksten vises ikke side om side, så behandleren skal selv sammenholde dem. |
| Rapportudkast | Rapporten skal godkendes, før den kan deles med en kollega eller vises for klienten. |
| Faglig indsigt | Analysen skrives aldrig i journalen og vises kun for behandleren selv. |
| Notatfeedback og læringsprofil | Intet godkendelsestrin. Scoringen sker automatisk i baggrunden, når et notat afsluttes eller rettes, og skriver ikke i journalen. |
| Journaloprydning | Forslaget ændrer ikke notatet. Først når forfatteren anvender forslaget, gemmes en ny version af notatet; forfatteren kan også afvise det. |
| Oversættelse af delt indhold for klienten | Intet godkendelsestrin. Oversættelsen er maskinlavet og vises for klienten, uden at en behandler har gennemset den. Kun det oprindelige indhold er gennemgået af behandleren. |
| Oversættelse af kædens egne tekster | Administratoren ser oversættelsen og vælger selv at gemme den. |
| Titelforslag og skabelonværktøjer | Brugeren vælger selv, om forslaget skal bruges. |
| Oversættelse af supportsager og platformmeddelelser | Intet godkendelsestrin. Beskeden oversættes automatisk til modtagerens sprog; den oprindelige besked bevares. |
Roller og data
Du er dataansvarlig for din behandling af klient- og journaloplysninger og fastlægger behandlingsgrundlaget efter GDPR artikel 6 og, hvor det er relevant, artikel 9 samt eventuel national hjemmel. FlowDule behandler oplysningerne som databehandler efter Databehandleraftalen og kædens indstillinger i platformen, som tilsammen er din anvisning til os.
Afhængigt af funktionen kan behandlingen omfatte journaltekst, fritekst, dokumentbilleder, lyd, transskription, prompt, output og nødvendige tekniske metadata. Dine brugere skal holde input til det, der er nødvendigt for formålet.
FlowDule må ikke bruge dine klient- eller journaldata til egne AI-formål, til træning af generelle modeller, til markedsføring eller til analyse på tværs af kunder.
Leverandører, region og modeltræning
AI-funktionerne bruger AWS-tjenester under FlowDules aftale med AWS. Modellen er Anthropic Claude, nærmere bestemt Claude Sonnet og Claude Haiku, som AWS stiller til rådighed gennem Amazon Bedrock; FlowDule har ingen direkte aftale med Anthropic.
| Funktion | Tjeneste | Behandlede data | Region |
|---|---|---|---|
| Formatering og korrektur, resumé, rapportudkast, faglig indsigt, notatfeedback, journaloprydning, oversættelse af delt indhold og af kædens egne tekster, titelforslag og skabelonværktøjer | Amazon Bedrock med Anthropic Claude | Notattekst, valgte notater, skabelonens instruktion, ord fra kædens ordbog, tekst der skal oversættes, og output | EU |
| Diktering | Amazon Transcribe | Lyd og transskription | EU |
| Tekst fra billede | Amazon Textract | Billede af dokument eller håndskrift og genkendt tekst | EU |
| Oversættelse af supportsager og platformmeddelelser | Amazon Translate | Beskedtekst og oversættelse | EU |
Kaldene til Amazon Bedrock behandles i en af de EU-regioner, opsætningen omfatter. Den gældende liste over leverandører findes i Underdatabehandlere og leverandører.
Dine data bruges ikke til at træne AI-modeller. FlowDule træner ikke modeller på dine data, og efter AWS’ vilkår for Amazon Bedrock bruges prompt og output ikke til at træne modellerne.
Prompt og resultat fra formatering, resumé, diktering og tekst fra billede opbevares krypteret hos FlowDule, så behandleren kan gennemse resultatet. Personoplysningerne heri fjernes automatisk efter 90 dage. Genkendt tekst fra et billede, som ikke knyttes til et notat, slettes efter 7 dage. Maskinoversættelser af delt indhold gemmes krypteret, så den samme oversættelse ikke skal laves igen. Notatfeedback gemmer kun tal og faste koder. Det, behandleren gemmer i journalen, følger kædens regler for opbevaring, se Opbevaring og sletning for klinikken.
Kvalitet, begrænsninger og fejl
AI kan hallucinere, misforstå en sammenhæng, overse negationer, sammenblande personer, forvanske tal eller datoer, oversætte fagudtryk forkert og gengive bias fra model eller kildemateriale. Et flydende og overbevisende svar er ikke i sig selv et rigtigt svar.
FlowDule gennemgår korrektur, sprogforbedring og resumé mod et fast sæt opdigtede eksempler. De øvrige funktioner har ikke en tilsvarende gennemgang, og behandlerens egen vurdering er derfor særlig vigtig. Alvorlige eller gentagne fejl kan betyde, at FlowDule straks slår den berørte funktion eller model fra, for én kæde eller for alle kæder.
Fejl i AI kan meldes til support@flowdule.com. Sikkerhedshændelser og mulig eksponering af personoplysninger meldes straks til security@flowdule.com.
Hvad du skal fortælle dine klienter
Du skal selv vurdere, hvornår en klient skal informeres om AI-brug efter GDPR, faglige regler og AI-forordningen. Din lokale tekst skal mindst være retvisende om:
- hvilket formål AI bruges til;
- hvilke oplysninger der behandles;
- hvilke resultater en behandler gennemgår, og at oversættelse af delt indhold er maskinlavet og ikke gennemset af en behandler;
- relevante leverandører, regioner, opbevaring og overførsler;
- hvordan klienten kan kontakte dig om rettigheder eller spørgsmål.
Interagerer en person direkte med et AI-system, skal personen oplyses om det, medmindre det er åbenbart i sammenhængen. FlowDule har ingen AI-chatbot. Når en klient vælger at se delt indhold på et andet sprog, oplyser klientportalen, at oversættelsen laves automatisk med AI, og linker til AI-information.
Automatiske afgørelser og profilering
FlowDules AI-funktioner træffer ikke afgørelser, der alene er baseret på automatisk behandling og har retsvirkning eller tilsvarende væsentlig virkning for en person. Du må ikke omgå det ved at gøre en AI-anbefaling praktisk bindende uden en reel, kompetent og selvstændig menneskelig vurdering.
Notatfeedback og læringsprofil er profilering af behandleren efter GDPR artikel 4, nr. 4: afsluttede og rettede notater scores automatisk i baggrunden, uden at behandleren starter det, og resultaterne samles i en profil af behandlerens notater. Formålet er at give behandleren feedback. Profilen vises kun for behandleren selv, administratorer kan ikke se den, og den bruges ikke til afgørelser om behandleren. Du skal som dataansvarlig informere dine behandlere om den behandling.
Kan en funktion påvirke diagnose, behandling, adgang til ydelser, forsikring, beskæftigelse eller andre væsentlige forhold, skal den vurderes særskilt efter GDPR artikel 22, AI-forordningen og eventuelle regler om medicinsk udstyr, før den tages i brug.
AI-færdigheder hos dine brugere
Adgangen til AI-funktionerne styres af brugerens rolle i kæden. FlowDule følger ikke op på, om den enkelte bruger har været igennem en oplæring. Du skal sikre, at de brugere, der anvender AI-funktionerne, har tilstrækkelige AI-færdigheder, jf. AI-forordningens artikel 4. Det omfatter mindst:
- funktionens tilsigtede og forbudte brug;
- hallucination, bias og vurdering af kilder;
- dataminimering og håndtering af særlige kategorier;
- menneskelig godkendelse og fagligt ansvar;
- rapportering af fejl, hændelser og sikkerhedsbrud.
Spørgsmål fra klienter
Er en klient i tvivl om sin journal, om indsigt, rettelse, sletning eller behandlingsgrundlag, skal klienten spørge dig. Vi hjælper dig efter din anvisning. Vedrører spørgsmålet FlowDules egne behandlinger, kan der skrives til privacy@flowdule.com. Se også Privatlivspolitikken og Underdatabehandlere og leverandører.
Brug for hjælp?
Under Support i appen kan du oprette en sag til FlowDule-teamet. Du kan også skrive til support@flowdule.com.