FlowDule bruker KI til hjelp med dokumentasjon i journalen og til oversettelse. Modellen er Anthropic Claude via Amazon Bedrock i EU, og tale, bilder og supportsaker behandles med Amazon Transcribe, Amazon Textract og Amazon Translate. KI treffer ikke faglige avgjørelser. De fleste resultatene er utkast som behandleren skal gjennomgå før de kommer inn i journalen eller blir delt. Dataene til klientene dine brukes ikke til å trene KI-modeller.
Denne artikkelen er til deg som administrerer en klinikk eller en kjede. Den teksten klientene dine leser, står i AI-informasjon.
Hvem har tilgang, og hvordan slår du av KI
KI-funksjonene i journalen er tilgjengelige for de kjedene som har slått på journalmodulen, og for kjedens brukere etter deres rolle. Det finnes i dag ikke et aktiveringstrinn for hver enkelt funksjon: når journalmodulen er slått på, er funksjonene tilgjengelige, og notattilbakemelding og journalopprydding kjører automatisk i bakgrunnen. Oversettelse av kjedens egne tekster er tilgjengelig for administratorer, uansett om journalmodulen er slått på.
Du kan ikke selv slå av KI og beholde journalmodulen. Vil du ha KI slått av, ber du om det på support@flowdule.com, og så slår FlowDule det av for kjeden. Det omfatter KI-funksjonene i journalen, tittelforslag, malverktøyene og oversettelse av fritekst. Det omfatter ikke oversettelse av delt innhold for klienten og oversettelse av kjedens katalog, maler, retningslinjer og meldingsmaler; de kan i dag bare stanses for hele plattformen.
Hvilke funksjoner finnes
- Formatering og korrektur: behandleren kan få notatet sitt rettet og strukturert etter en mal, for eksempel korrektur eller språkforbedring.
- Sammendrag: et sammendrag av et notat med nøkkelord og forslag til neste steg.
- Diktering: lyd som behandleren tar opp, gjøres om til tekst.
- Tekst fra bilde: tekst på et foto av et dokument eller håndskrift gjenkjennes og settes inn i notatet.
- Rapportutkast: et utkast til en rapport ut fra en rapportmal og de notatene behandleren velger.
- Faglig innsikt: på behandlerens anmodning en refleksjonsanalyse av behandlerens egne forløp i en valgt periode.
- Notattilbakemelding og læringsprofil: avsluttede og rettede notater scores automatisk i bakgrunnen, slik at behandleren kan få tilbakemelding på notatene sine. Det lagres bare tall og faste koder, altså mål for hvordan notatet er skrevet og koder for de intervensjonene og temaene notatet handler om, ikke tekst. Resultatene samles i en læringsprofil for hver behandler, som bare behandleren selv kan se.
- Journalopprydding: avsluttede notater gjennomgås automatisk i bakgrunnen, og det foreslås en renset versjon hvis notatet for eksempel inneholder tolkning framstilt som fakta, dømmende språk, identifiserende opplysninger om andre personer, spekulasjon, interne merknader eller sensitive opplysninger uten relevans.
- Oversettelse av delt innhold for klienten: en klient kan få et notat eller en rapport som behandleren har delt, oversatt til sitt eget språk. Oversettelsen er maskinlaget og vises for klienten uten at en behandler har gjennomgått den.
- Oversettelse av kjedens egne tekster: administratorer kan få oversatt for eksempel katalog, maler, retningslinjer, meldingsmaler og bookingtekster.
- Tittelforslag og malverktøy: forslag til en tittel på et notat samt verktøy der administratorer kan prøve ut og forbedre en mals instruksjon til KI.
- Oversettelse av supportsaker og plattformmeldinger: meldinger i supportsaker og FlowDules meldinger på plattformen oversettes til mottakerens språk.
Hva KI ikke skal brukes til
- selvstendig diagnose, triage eller risikoskår;
- valg, endring eller anbefaling av behandling;
- avgjørelser om tilgang til behandling, ytelse eller annen individuell rettighet;
- automatisk ferdigstilling eller signering av journaler uten aktiv menneskelig godkjenning;
- skjult profilering, følelsesgjenkjenning eller biometrisk kategorisering;
- forskning, markedsføring, modelltrening eller generell produktutvikling på klient- eller journaldata;
- gjenbruk av output til andre kunder eller til andre formål enn din egen anvisning.
Den menneskelige vurderingen
KI-output som skal brukes i journalen eller overfor en klient, er et utkast. Før bruk skal en kompetent bruker:
- se etter at materialet gjelder riktig person og sak;
- sammenholde output med den opprinnelige teksten, lyden eller annet kildemateriale;
- gjennomgå fakta, negasjoner, tall, datoer, navn, medisinske eller faglige begreper og vesentlige utelatelser;
- rette eller avvise usikkert eller misvisende innhold;
- ta selvstendig ansvar for den endelige teksten og den faglige handlingen;
- først lagre, godkjenne eller dele resultatet når det er gjennomgått.
Slik fungerer kontrollen i FlowDule:
| Funksjon | Kontroll |
|---|---|
| Formatering og korrektur | Utkastet vises i skriveverktøyet og blir først en del av journalen når behandleren lagrer. Behandleren kan få vist endringene sammenlignet med sine egne notater. |
| Sammendrag | Sammendrag, nøkkelord og neste steg skrives på notatet når behandleren har bedt om dem. Behandleren skal lese dem og kan rette eller fjerne dem. |
| Diktering | Transkripsjonen settes inn i skriveverktøyet, og notatets tekst endres først når behandleren lagrer. Dikteres det til et notat som allerede er opprettet, lagres den rå transkripsjonen sammen med notatet så snart den er ferdig. Behandleren leser og retter teksten som all annen tekst. |
| Tekst fra bilde | Den gjenkjente teksten settes inn i skriveverktøyet og blir først en del av journalen når behandleren lagrer. Bildet og teksten vises ikke side om side, så behandleren må selv sammenholde dem. |
| Rapportutkast | Rapporten må godkjennes før den kan deles med en kollega eller vises for klienten. |
| Faglig innsikt | Analysen skrives aldri inn i journalen og vises bare for behandleren selv. |
| Notattilbakemelding og læringsprofil | Ikke noe godkjenningstrinn. Scoringen skjer automatisk i bakgrunnen når et notat avsluttes eller rettes, og skriver ikke i journalen. |
| Journalopprydding | Forslaget endrer ikke notatet. Først når forfatteren tar i bruk forslaget, lagres en ny versjon av notatet; forfatteren kan også avvise det. |
| Oversettelse av delt innhold for klienten | Ikke noe godkjenningstrinn. Oversettelsen er maskinlaget og vises for klienten uten at en behandler har gjennomgått den. Bare det opprinnelige innholdet er gjennomgått av behandleren. |
| Oversettelse av kjedens egne tekster | Administratoren ser oversettelsen og velger selv å lagre den. |
| Tittelforslag og malverktøy | Brukeren velger selv om forslaget skal brukes. |
| Oversettelse av supportsaker og plattformmeldinger | Ikke noe godkjenningstrinn. Meldingen oversettes automatisk til mottakerens språk; den opprinnelige meldingen beholdes. |
Roller og data
Du er behandlingsansvarlig for din behandling av klient- og journalopplysninger og fastsetter behandlingsgrunnlaget etter GDPR artikkel 6 og, der det er relevant, artikkel 9 samt eventuell nasjonal hjemmel. FlowDule behandler opplysningene som databehandler etter Databehandleravtalen og kjedens innstillinger i plattformen, som til sammen er anvisningen din til oss.
Avhengig av funksjonen kan behandlingen omfatte journaltekst, fritekst, dokumentbilder, lyd, transkripsjon, prompt, output og nødvendige tekniske metadata. Brukerne dine skal holde input til det som er nødvendig for formålet.
FlowDule skal ikke bruke klient- eller journaldataene dine til egne KI-formål, til trening av generelle modeller, til markedsføring eller til analyse på tvers av kunder.
Leverandører, region og modelltrening
KI-funksjonene bruker AWS-tjenester under FlowDules avtale med AWS. Modellen er Anthropic Claude, nærmere bestemt Claude Sonnet og Claude Haiku, som AWS stiller til rådighet gjennom Amazon Bedrock; FlowDule har ingen direkte avtale med Anthropic.
| Funksjon | Tjeneste | Behandlede data | Region |
|---|---|---|---|
| Formatering og korrektur, sammendrag, rapportutkast, faglig innsikt, notattilbakemelding, journalopprydding, oversettelse av delt innhold og av kjedens egne tekster, tittelforslag og malverktøy | Amazon Bedrock med Anthropic Claude | Notattekst, valgte notater, malens instruksjon, ord fra kjedens ordliste, tekst som skal oversettes, og output | EU |
| Diktering | Amazon Transcribe | Lyd og transkripsjon | EU |
| Tekst fra bilde | Amazon Textract | Bilde av dokument eller håndskrift og gjenkjent tekst | EU |
| Oversettelse av supportsaker og plattformmeldinger | Amazon Translate | Meldingstekst og oversettelse | EU |
Kallene til Amazon Bedrock behandles i en av de EU-regionene oppsettet omfatter. Den gjeldende listen over leverandører finnes i Underdatabehandlere og leverandører.
Dataene dine brukes ikke til å trene KI-modeller. FlowDule trener ikke modeller på dataene dine, og etter AWS’ vilkår for Amazon Bedrock brukes prompt og output ikke til å trene modellene.
Prompt og resultat fra formatering, sammendrag, diktering og tekst fra bilde oppbevares kryptert hos FlowDule, slik at behandleren kan gjennomgå resultatet. Personopplysningene i dem fjernes automatisk etter 90 dager. Gjenkjent tekst fra et bilde som ikke knyttes til et notat, slettes etter 7 dager. Maskinoversettelser av delt innhold lagres kryptert, slik at den samme oversettelsen ikke må lages på nytt. Notattilbakemelding lagrer bare tall og faste koder. Det behandleren lagrer i journalen, følger kjedens regler for oppbevaring, se Oppbevaring og sletting for klinikken.
Kvalitet, begrensninger og feil
KI kan hallusinere, misforstå en sammenheng, overse negasjoner, blande sammen personer, forvrenge tall eller datoer, oversette fagbegreper feil og gjengi bias fra modell eller kildemateriale. Et flytende og overbevisende svar er ikke i seg selv et riktig svar.
FlowDule gjennomgår korrektur, språkforbedring og sammendrag mot et fast sett oppdiktede eksempler. De øvrige funksjonene har ikke en tilsvarende gjennomgang, og behandlerens egen vurdering er derfor særlig viktig. Alvorlige eller gjentatte feil kan bety at FlowDule straks slår av den berørte funksjonen eller modellen, for én kjede eller for alle kjeder.
Feil i KI kan meldes til support@flowdule.com. Sikkerhetshendelser og mulig eksponering av personopplysninger meldes straks til security@flowdule.com.
Hva du skal fortelle klientene dine
Du skal selv vurdere når en klient skal informeres om KI-bruk etter GDPR, faglige regler og KI-forordningen. Din lokale tekst skal minst være retvisende om:
- hvilket formål KI brukes til;
- hvilke opplysninger som behandles;
- hvilke resultater en behandler gjennomgår, og at oversettelse av delt innhold er maskinlaget og ikke gjennomgått av en behandler;
- relevante leverandører, regioner, oppbevaring og overføringer;
- hvordan klienten kan kontakte deg om rettigheter eller spørsmål.
Samhandler en person direkte med et KI-system, skal personen opplyses om det, med mindre det er åpenbart i sammenhengen. FlowDule har ingen KI-chatbot. Når en klient velger å se delt innhold på et annet språk, opplyser klientportalen at oversettelsen lages automatisk med KI, og lenker til AI-informasjon.
Automatiske avgjørelser og profilering
FlowDules KI-funksjoner treffer ikke avgjørelser som utelukkende er basert på automatisert behandling og har rettsvirkning eller tilsvarende vesentlig virkning for en person. Du skal ikke omgå det ved å gjøre en KI-anbefaling praktisk bindende uten en reell, kompetent og selvstendig menneskelig vurdering.
Notattilbakemelding og læringsprofil er profilering av behandleren etter GDPR artikkel 4 nr. 4: avsluttede og rettede notater scores automatisk i bakgrunnen uten at behandleren starter det, og resultatene samles i en profil av behandlerens notater. Formålet er å gi behandleren tilbakemelding. Profilen vises bare for behandleren selv, administratorer kan ikke se den, og den brukes ikke til avgjørelser om behandleren. Du skal som behandlingsansvarlig informere behandlerne dine om den behandlingen.
Kan en funksjon påvirke diagnose, behandling, tilgang til ytelser, forsikring, sysselsetting eller andre vesentlige forhold, skal den vurderes særskilt etter GDPR artikkel 22, KI-forordningen og eventuelle regler om medisinsk utstyr før den tas i bruk.
KI-ferdigheter hos brukerne dine
Tilgangen til KI-funksjonene styres av brukerens rolle i kjeden. FlowDule følger ikke opp om den enkelte brukeren har vært gjennom en opplæring. Du skal sørge for at de brukerne som bruker KI-funksjonene, har tilstrekkelige KI-ferdigheter, jf. KI-forordningens artikkel 4. Det omfatter minst:
- funksjonens tiltenkte og forbudte bruk;
- hallusinasjon, bias og vurdering av kilder;
- dataminimering og håndtering av særlige kategorier;
- menneskelig godkjenning og faglig ansvar;
- rapportering av feil, hendelser og sikkerhetsbrudd.
Spørsmål fra klienter
Er en klient i tvil om journalen sin, om innsyn, retting, sletting eller behandlingsgrunnlag, skal klienten spørre deg. Vi hjelper deg etter anvisningen din. Gjelder spørsmålet FlowDules egne behandlinger, kan det skrives til privacy@flowdule.com. Se også Personvernerklæringen og Underdatabehandlere og leverandører.
Trenger du hjelp?
Under Support i appen kan du opprette en sak til FlowDule-teamet. Du kan også skrive til support@flowdule.com.