FlowDule setzt KI als Hilfe bei der Dokumentation im Journal und für Übersetzungen ein. Das Modell ist Anthropic Claude über Amazon Bedrock in der EU, und Sprache, Bilder und Supportfälle werden mit Amazon Transcribe, Amazon Textract und Amazon Translate verarbeitet. KI trifft keine fachlichen Entscheidungen. Die meisten Ergebnisse sind Entwürfe, die die behandelnde Person prüfen muss, bevor sie in das Journal gelangen oder geteilt werden. Die Daten Ihrer Klientinnen und Klienten werden nicht zum Training von KI-Modellen verwendet.
Dieser Artikel richtet sich an Sie, wenn Sie eine Praxis oder eine Kette verwalten. Der Text, den Ihre Klientinnen und Klienten lesen, steht unter KI-Informationen.
Wer Zugang hat und wie Sie KI ausschalten
Die KI-Funktionen im Journal stehen den Ketten zur Verfügung, die das Journalmodul eingeschaltet haben, sowie den Nutzenden der Kette entsprechend ihrer Rolle. Es gibt heute keinen Aktivierungsschritt für jede einzelne Funktion: Ist das Journalmodul eingeschaltet, sind die Funktionen verfügbar, und Notiz-Feedback sowie Journalbereinigung laufen automatisch im Hintergrund. Die Übersetzung der eigenen Texte der Kette steht Administratoren zur Verfügung, unabhängig davon, ob das Journalmodul eingeschaltet ist.
Sie können KI nicht selbst ausschalten und dabei das Journalmodul behalten. Möchten Sie KI ausgeschaltet haben, bitten Sie darum über support@flowdule.com, und FlowDule schaltet es dann für die Kette aus. Das umfasst die KI-Funktionen im Journal, Titelvorschläge, die Vorlagenwerkzeuge und die Übersetzung von Freitext. Es umfasst nicht die Übersetzung geteilter Inhalte für die Klientin oder den Klienten und die Übersetzung von Katalog, Vorlagen, Richtlinien und Nachrichtenvorlagen der Kette; diese können heute nur für die gesamte Plattform gestoppt werden.
Welche Funktionen es gibt
- Formatierung und Korrektur: Die behandelnde Person kann ihre Notiz nach einer Vorlage korrigieren und strukturieren lassen, zum Beispiel Korrektur oder sprachliche Verbesserung.
- Zusammenfassung: eine Zusammenfassung einer Notiz mit Schlüsselwörtern und Vorschlägen für die nächsten Schritte.
- Diktat: Ton, den die behandelnde Person aufnimmt, wird in Text umgewandelt.
- Text aus Bild: Text auf einem Foto eines Dokuments oder einer Handschrift wird erkannt und in die Notiz eingefügt.
- Berichtsentwurf: ein Entwurf für einen Bericht auf Grundlage einer Berichtsvorlage und der Notizen, die die behandelnde Person auswählt.
- Fachliche Einsicht: auf Anfrage der behandelnden Person eine Reflexionsanalyse der eigenen Verläufe der behandelnden Person in einem gewählten Zeitraum.
- Notiz-Feedback und Lernprofil: Abgeschlossene und berichtigte Notizen werden automatisch im Hintergrund bewertet, sodass die behandelnde Person ein Feedback zu ihren Notizen erhalten kann. Gespeichert werden nur Zahlen und feste Codes, also Maße dafür, wie die Notiz geschrieben ist, und Codes für die Interventionen und Themen, um die es in der Notiz geht, kein Text. Die Ergebnisse werden in einem Lernprofil je behandelnder Person gesammelt, das nur die behandelnde Person selbst sehen kann.
- Journalbereinigung: Abgeschlossene Notizen werden automatisch im Hintergrund durchgesehen, und es wird eine bereinigte Fassung vorgeschlagen, wenn die Notiz zum Beispiel eine als Fakt dargestellte Deutung, wertende Sprache, identifizierende Angaben über andere Personen, Spekulation, interne Bemerkungen oder sensible Daten ohne Relevanz enthält.
- Übersetzung geteilter Inhalte für die Klientin oder den Klienten: Eine Klientin oder ein Klient kann eine Notiz oder einen Bericht, die die behandelnde Person geteilt hat, in die eigene Sprache übersetzen lassen. Die Übersetzung ist maschinell erstellt und wird der Klientin oder dem Klienten angezeigt, ohne dass eine behandelnde Person sie durchgesehen hat.
- Übersetzung der eigenen Texte der Kette: Administratoren können zum Beispiel Katalog, Vorlagen, Richtlinien, Nachrichtenvorlagen und Buchungstexte übersetzen lassen.
- Titelvorschläge und Vorlagenwerkzeuge: Vorschläge für einen Titel einer Notiz sowie Werkzeuge, mit denen Administratoren die Anweisung einer Vorlage an die KI erproben und verbessern können.
- Übersetzung von Supportfällen und Plattformmitteilungen: Nachrichten in Supportfällen und Mitteilungen von FlowDule auf der Plattform werden in die Sprache der empfangenden Person übersetzt.
Wofür KI nicht verwendet werden darf
- eigenständige Diagnose, Triage oder Risikobewertung;
- Wahl, Änderung oder Empfehlung einer Behandlung;
- Entscheidungen über den Zugang zu Behandlung, Leistung oder einem anderen individuellen Recht;
- automatisches Abschließen oder Signieren von Journalen ohne aktive menschliche Freigabe;
- verdecktes Profiling, Emotionserkennung oder biometrische Kategorisierung;
- Forschung, Marketing, Modelltraining oder allgemeine Produktentwicklung auf Klienten- oder Journaldaten;
- Weiterverwendung von Ausgaben für andere Kunden oder für andere Zwecke als Ihre eigene Weisung.
Die menschliche Beurteilung
KI-Ausgaben, die im Journal oder gegenüber einer Klientin oder einem Klienten verwendet werden sollen, sind ein Entwurf. Vor der Verwendung muss eine fachlich kompetente Person:
- prüfen, dass das Material die richtige Person und den richtigen Fall betrifft;
- die Ausgabe mit dem ursprünglichen Text, dem Ton oder dem sonstigen Quellmaterial abgleichen;
- Fakten, Verneinungen, Zahlen, Daten, Namen, medizinische oder fachliche Begriffe und wesentliche Auslassungen durchgehen;
- unsichere oder irreführende Inhalte berichtigen oder ablehnen;
- eigenständig die Verantwortung für den endgültigen Text und die fachliche Handlung übernehmen;
- das Ergebnis erst speichern, freigeben oder teilen, wenn es geprüft ist.
So funktioniert die Kontrolle in FlowDule:
| Funktion | Kontrolle |
|---|---|
| Formatierung und Korrektur | Der Entwurf wird im Schreibwerkzeug angezeigt und wird erst Teil des Journals, wenn die behandelnde Person speichert. Die behandelnde Person kann sich die Änderungen gegenüber den eigenen Notizen anzeigen lassen. |
| Zusammenfassung | Zusammenfassung, Schlüsselwörter und nächste Schritte werden auf die Notiz geschrieben, wenn die behandelnde Person sie angefordert hat. Die behandelnde Person muss sie lesen und kann sie korrigieren oder entfernen. |
| Diktat | Die Transkription wird in das Schreibwerkzeug eingefügt, und der Text der Notiz ändert sich erst, wenn die behandelnde Person speichert. Wird zu einer bereits angelegten Notiz diktiert, wird die rohe Transkription zusammen mit der Notiz gespeichert, sobald sie fertig ist. Die behandelnde Person liest und korrigiert den Text wie jeden anderen Text. |
| Text aus Bild | Der erkannte Text wird in das Schreibwerkzeug eingefügt und wird erst Teil des Journals, wenn die behandelnde Person speichert. Bild und Text werden nicht nebeneinander angezeigt, die behandelnde Person muss sie also selbst abgleichen. |
| Berichtsentwurf | Der Bericht muss freigegeben werden, bevor er mit einer Kollegin oder einem Kollegen geteilt oder der Klientin oder dem Klienten angezeigt werden kann. |
| Fachliche Einsicht | Die Analyse wird nie in das Journal geschrieben und nur der behandelnden Person selbst angezeigt. |
| Notiz-Feedback und Lernprofil | Kein Freigabeschritt. Die Bewertung erfolgt automatisch im Hintergrund, wenn eine Notiz abgeschlossen oder berichtigt wird, und schreibt nicht in das Journal. |
| Journalbereinigung | Der Vorschlag ändert die Notiz nicht. Erst wenn die verfassende Person den Vorschlag anwendet, wird eine neue Version der Notiz gespeichert; die verfassende Person kann ihn auch ablehnen. |
| Übersetzung geteilter Inhalte für die Klientin oder den Klienten | Kein Freigabeschritt. Die Übersetzung ist maschinell erstellt und wird der Klientin oder dem Klienten angezeigt, ohne dass eine behandelnde Person sie durchgesehen hat. Nur der ursprüngliche Inhalt ist von der behandelnden Person geprüft. |
| Übersetzung der eigenen Texte der Kette | Die Administration sieht die Übersetzung und entscheidet selbst, sie zu speichern. |
| Titelvorschläge und Vorlagenwerkzeuge | Die Nutzerin oder der Nutzer entscheidet selbst, ob der Vorschlag verwendet wird. |
| Übersetzung von Supportfällen und Plattformmitteilungen | Kein Freigabeschritt. Die Nachricht wird automatisch in die Sprache der empfangenden Person übersetzt; die ursprüngliche Nachricht bleibt erhalten. |
Rollen und Daten
Sie sind Verantwortlicher für Ihre Verarbeitung von Klienten- und Journaldaten und legen die Rechtsgrundlage nach Art. 6 DSGVO und, wo einschlägig, Art. 9 DSGVO sowie eine etwaige nationale Rechtsgrundlage fest. FlowDule verarbeitet die Daten als Auftragsverarbeiter nach dem Auftragsverarbeitungsvertrag und den Einstellungen der Kette in der Plattform, die zusammen Ihre Weisung an uns bilden.
Je nach Funktion kann die Verarbeitung Journaltext, Freitext, Dokumentbilder, Ton, Transkription, Prompt, Ausgabe und erforderliche technische Metadaten umfassen. Ihre Nutzenden müssen die Eingaben auf das beschränken, was für den Zweck erforderlich ist.
FlowDule darf Ihre Klienten- oder Journaldaten nicht für eigene KI-Zwecke, für das Training allgemeiner Modelle, für Marketing oder für Analysen über Kunden hinweg verwenden.
Anbieter, Region und Modelltraining
Die KI-Funktionen nutzen AWS-Dienste unter dem Vertrag von FlowDule mit AWS. Das Modell ist Anthropic Claude, genauer Claude Sonnet und Claude Haiku, die AWS über Amazon Bedrock bereitstellt; FlowDule hat keinen unmittelbaren Vertrag mit Anthropic.
| Funktion | Dienst | Verarbeitete Daten | Region |
|---|---|---|---|
| Formatierung und Korrektur, Zusammenfassung, Berichtsentwurf, fachliche Einsicht, Notiz-Feedback, Journalbereinigung, Übersetzung geteilter Inhalte und der eigenen Texte der Kette, Titelvorschläge und Vorlagenwerkzeuge | Amazon Bedrock mit Anthropic Claude | Notiztext, ausgewählte Notizen, die Anweisung der Vorlage, Wörter aus dem Wörterbuch der Kette, zu übersetzender Text und Ausgabe | EU |
| Diktat | Amazon Transcribe | Ton und Transkription | EU |
| Text aus Bild | Amazon Textract | Bild eines Dokuments oder einer Handschrift und erkannter Text | EU |
| Übersetzung von Supportfällen und Plattformmitteilungen | Amazon Translate | Nachrichtentext und Übersetzung | EU |
Die Aufrufe an Amazon Bedrock werden in einer der EU-Regionen verarbeitet, die die Einrichtung umfasst. Die geltende Liste der Anbieter findet sich unter Unterauftragsverarbeiter und Anbieter.
Ihre Daten werden nicht zum Training von KI-Modellen verwendet. FlowDule trainiert keine Modelle mit Ihren Daten, und nach den Bedingungen von AWS für Amazon Bedrock werden Prompt und Ausgabe nicht zum Training der Modelle verwendet.
Prompt und Ergebnis aus Formatierung, Zusammenfassung, Diktat und Text aus Bild werden bei FlowDule verschlüsselt aufbewahrt, damit die behandelnde Person das Ergebnis durchsehen kann. Die personenbezogenen Daten darin werden nach 90 Tagen automatisch entfernt. Erkannter Text aus einem Bild, der keiner Notiz zugeordnet wird, wird nach 7 Tagen gelöscht. Maschinelle Übersetzungen geteilter Inhalte werden verschlüsselt gespeichert, damit dieselbe Übersetzung nicht erneut erstellt werden muss. Das Notiz-Feedback speichert nur Zahlen und feste Codes. Was die behandelnde Person im Journal speichert, folgt den Aufbewahrungsregeln der Kette, siehe Aufbewahrung und Löschung für die Praxis.
Qualität, Grenzen und Fehler
KI kann halluzinieren, einen Zusammenhang missverstehen, Verneinungen übersehen, Personen vermischen, Zahlen oder Daten verfälschen, Fachbegriffe falsch übersetzen und Bias aus Modell oder Quellmaterial wiedergeben. Eine flüssige und überzeugende Antwort ist für sich genommen keine richtige Antwort.
FlowDule prüft Korrektur, sprachliche Verbesserung und Zusammenfassung gegen einen festen Satz erfundener Beispiele. Die übrigen Funktionen haben keine entsprechende Prüfung, und die eigene Beurteilung der behandelnden Person ist deshalb besonders wichtig. Schwerwiegende oder wiederholte Fehler können dazu führen, dass FlowDule die betroffene Funktion oder das betroffene Modell sofort ausschaltet, für eine Kette oder für alle Ketten.
Fehler in der KI können an support@flowdule.com gemeldet werden. Sicherheitsvorfälle und eine mögliche Offenlegung personenbezogener Daten werden sofort an security@flowdule.com gemeldet.
Was Sie Ihren Klientinnen und Klienten sagen müssen
Sie müssen selbst bewerten, wann eine Klientin oder ein Klient nach der DSGVO, den fachlichen Vorschriften und der KI-Verordnung über den Einsatz von KI zu informieren ist. Ihr lokaler Text muss mindestens zutreffend sein zu:
- welchem Zweck KI dient;
- welche Daten verarbeitet werden;
- welche Ergebnisse eine behandelnde Person prüft und dass die Übersetzung geteilter Inhalte maschinell erstellt und nicht von einer behandelnden Person durchgesehen ist;
- einschlägigen Anbietern, Regionen, Aufbewahrung und Übermittlungen;
- wie die Klientin oder der Klient Sie zu Rechten oder Fragen kontaktieren kann.
Interagiert eine Person unmittelbar mit einem KI-System, ist sie darüber zu informieren, sofern es im Zusammenhang nicht offensichtlich ist. FlowDule hat keinen KI-Chatbot. Wählt eine Klientin oder ein Klient, geteilte Inhalte in einer anderen Sprache zu sehen, teilt das Klientenportal mit, dass die Übersetzung automatisch mit KI erstellt wird, und verlinkt auf die KI-Informationen.
Automatisierte Entscheidungen und Profiling
Die KI-Funktionen von FlowDule treffen keine Entscheidungen, die ausschließlich auf einer automatisierten Verarbeitung beruhen und rechtliche Wirkung oder eine vergleichbare erhebliche Wirkung für eine Person entfalten. Sie dürfen das nicht dadurch umgehen, dass Sie eine KI-Empfehlung ohne eine echte, kompetente und eigenständige menschliche Beurteilung praktisch verbindlich machen.
Notiz-Feedback und Lernprofil sind ein Profiling der behandelnden Person nach Art. 4 Nr. 4 DSGVO: Abgeschlossene und berichtigte Notizen werden automatisch im Hintergrund bewertet, ohne dass die behandelnde Person es startet, und die Ergebnisse werden in einem Profil der Notizen der behandelnden Person gesammelt. Zweck ist es, der behandelnden Person ein Feedback zu geben. Das Profil wird nur der behandelnden Person selbst angezeigt, Administratoren können es nicht sehen, und es wird nicht für Entscheidungen über die behandelnde Person verwendet. Sie müssen als Verantwortlicher Ihre behandelnden Personen über diese Verarbeitung informieren.
Kann eine Funktion Diagnose, Behandlung, den Zugang zu Leistungen, Versicherung, Beschäftigung oder andere wesentliche Belange beeinflussen, ist sie vor der Inbetriebnahme gesondert nach Art. 22 DSGVO, der KI-Verordnung und etwaigen Vorschriften über Medizinprodukte zu bewerten.
KI-Kompetenzen Ihrer Nutzenden
Der Zugang zu den KI-Funktionen wird durch die Rolle der Nutzerin oder des Nutzers in der Kette gesteuert. FlowDule verfolgt nicht, ob die einzelne Nutzerin oder der einzelne Nutzer eine Schulung durchlaufen hat. Sie müssen sicherstellen, dass die Nutzenden, die die KI-Funktionen verwenden, über ausreichende KI-Kompetenzen verfügen, vgl. Art. 4 der KI-Verordnung. Das umfasst mindestens:
- die vorgesehene und die verbotene Verwendung der Funktion;
- Halluzination, Bias und die Bewertung von Quellen;
- Datenminimierung und den Umgang mit besonderen Kategorien;
- menschliche Freigabe und fachliche Verantwortung;
- die Meldung von Fehlern, Vorfällen und Sicherheitsverletzungen.
Fragen von Klientinnen und Klienten
Ist eine Klientin oder ein Klient unsicher zum eigenen Journal, zu Auskunft, Berichtigung, Löschung oder Rechtsgrundlage, muss sie oder er Sie fragen. Wir unterstützen Sie nach Ihrer Weisung. Betrifft die Frage die eigenen Verarbeitungen von FlowDule, kann an privacy@flowdule.com geschrieben werden. Siehe auch die Datenschutzerklärung und Unterauftragsverarbeiter und Anbieter.
Brauchen Sie Hilfe?
Unter Support in der App können Sie ein Anliegen an das FlowDule-Team senden. Sie können auch an support@flowdule.com schreiben.