Anwendungsfälle

In vielen Branchen werden unzählige Dokumente generiert und gespeichert. Die Anzahl an verfügbaren Dokumenten erschwert es dem Personal, die relevanten Informationen aus der Vielzahl der Daten zu extrahieren, aufzubereiten und schnelle, informierte Entscheidungen zu treffen.

In Kliniken werden täglich umfangreiche Arztbriefe erstellt. Aufgrund zeitlicher Engpässe ist es für das medizinische Personal herausfordernd, eine schnelle Einschätzung des vorliegenden Sachverhalts zu erhalten.

Large Language Models (LLMs) bieten vielversprechende Möglichkeiten für die Extraktion relevanter Daten aus klinischen Dokumentationen. Die extrahierten Daten können in strukturierter Form für weitere Analysen oder zur Entscheidungsunterstützung genutzt werden, was zu einer erheblichen Entlastung des medizinischen Personals und einer Verbesserung der Dokumentationsqualität im Arbeitsalltag führen kann.

Herausforderungen der Gesundheitsdatenanalyse

Die eigene Gesundheit und auch die Verantwortung über die Gesundheit der Patienten ist ein hochsensibles Thema. Um das Vertrauen der Ärzte und Patienten in die KI-gestützte Gesundheitsversorgung langfristig zu sichern, gilt es einige Aspekte zu berücksichtigen.

Datenschutz

Die DSGVO klassifiziert Gesundheitsdaten als „besondere Kategorie personenbezogener Daten“, die nur unter bestimmten Bedingungen verarbeitet werden dürfen. Auch die Medical Device Regulation (MDR) fordert die Einhaltung des Datenschutzes, insbesondere bei klinischen Prüfungen. Aus diesem Grund ist es notwendig, lokal gehostete LLMs zu verwenden, um die Kontrolle über die personenbezogenen Daten zu behalten. Zugriff dritter Parteien ist somit ausgeschlossen.

Erklärbarkeit

Da es sich beim medizinischen Bereich um eine kritische Domäne handelt, die unmittelbar an die Gesundheit von Menschen gekoppelt ist, müssen die Ergebnisse KI-gestützter Lösungen transparent und erklärbar sein. Die Herausforderung für die Umsetzung entsprechender Produkte stellt die Auswahl geeigneter Modelle dar. Es existieren grundsätzlich zwei Arten von LLMs:

1. Proprietäre Modelle: Proprietäre LLMs, wie GPT oder Gemini, sind wie eine Blackbox – es gibt keine Einsicht in die Struktur und die Vorgänge innerhalb der Modelle. Die genauen Modell-Architekturen sind also unbekannt, was zu schwer nachvollziehbaren und Entscheidungsprozessen führt.

   
   

2. Open Source Modelle: Bei Open Source Modellen ist der Quellcode öffentlich einsehbar. Daraus ergeben sich zahlreiche Vorteile gegenüber proprietären Lösungen:

   • Kosteneffizienz

   • Flexibilität

   • Öffentlicher Quellcode

   • Vertrauenswürdigkeit

   • Potenzielle Erklärbarkeit

Open Source Modelle bieten damit eine optimale Kombination aus Sicherheit und Kontrolle.

Umsetzung einer KI-gestützten App

CarByte hat auf Basis von lokalen Open Source Modellen eine App entwickelt, mit der Ärzte, als auch Patienten, durch KI unterstützt werden. Zu den Funktionalitäten gehören:

• Einlesen von medizinischen Dokumenten

• Automatische Erkennung und Kategorisierung von Laborwerten & Fließtext

• Analyse der Dokumente

• Erstellung von strukturierten Zusammenfassungen

• Verständliche Erläuterungen von medizinischen Fachbegriffen für Patienten

• Übersetzungsfunktion

• Übersichtliche Darstellung der extrahierten Text- und Sounddaten auf Basis eines Dashboards

• Speech-to-Text-Funktionalität, zum Beispiel für die Aufnahme der Anamnese

• Erstellung von Arztbriefen

• Integrierte Feedback-Loop zum Finetuning der Modelle anhand des Feedbacks der Nutzer

Zu beachten ist, dass die App lediglich als Unterstützung für medizinisches Personal dienen wird und die ärztliche Kraft weiterhin die primäre Instanz für jegliche Entscheidungen ist.

Ausblick

Es ist zu erwarten, dass LLM-basierte Systeme zukünftig in allen deutschen medizinischen Fachbereichen Einzug erhalten, um eine hohe Qualität der medizinischen Versorgung zu gewährleisten. Dies unterstützt sowohl die Arbeit des Fachpersonals, als auch das Verständnis der Patienten. Die lokale Anwendung trägt zum Schutz der personenbezogenen Daten jedes Einzelnen und zur Förderung des Vertrauens von KI-gestützten Lösungen im Gesundheitswesen bei.