„Etablierung einer Plattform zur Entwicklung und Validierung von KI- Lösungen in der klinischen Routine“ lautet der Titel eines Projekts, das vom Bundesministerium für Gesundheit mit 1,7 Mio. Euro gefördert wird. Maßgeblich mitgestaltet wird das Projekt von der Machine Learning and Data Science Group am Institut für Diagnostische und Interventionelle Radiologie der Uniklinik Köln. Priv.-Doz. Dr. Daniel Pinto dos Santos hat die Mittel zur Erforschung von Algorithmen der Künstlichen Intelligenz (KI) in der Radiologie eingeworben. Ursula Katthöfer ( textwiese.com ) fragte ihn nach den Zielen des Projekts.

Redaktion: Was soll die geplante Plattform leisten?

Dr. Daniel Pinto dos Santos: Ziel ist ein Zusammenspiel von Radiologe und KI. Indem der Radiologe strukturierte Befunddaten erhebt, legt er die Grundlage für das Training eines KI-Algorithmus. Das geschieht in der laufenden Klinik-Routine. Der Algorithmus lernt dazu, er wird mit jedem Befund besser. Irgendwann ist er so gut, dass der Radiologe die KI zuschalten und darüber Befunde generieren kann. Dann erleichtert KI die Arbeit des Radiologen. Der Clou ist, dass das Zusammenspiel in beide Richtungen funktioniert.

Redaktion: Wie lässt sich das an einem Beispiel beschreiben?

Dr. Daniel Pinto dos Santos: Das Forschungsprojekt arbeitet mit dem Beispiel der Lungenembolie. Am Tag Null erkennt KI noch gar nichts. Der Radiologe befundet, es kommen Tag für Tag neue Daten hinzu, also beispielsweise CTs, in denen eine Lungenembolie gefunden wurde, und CTs ohne Lungenembolie. So sieht die KI genug Daten und lernt, Lungenembolien recht gut zu erkennen. Von da an kann die KI bei einem neuen CT den Befund schon vorbefüllen. Der Radiologe kontrolliert dann den Befund des Algorithmus und korrigiert, wenn nötig. Diese Korrektur wird der KI wiederum zurückgemeldet, sodass diese aus ihren Fehlern weiter lernen kann.

Redaktion: Könnte der Algorithmus sich irren?

Dr. Daniel Pinto dos Santos: Wir haben zwei Sicherheitsebenen eingebaut. Erstens überwacht ein weiterer Algorithmus, ob viel mehr oder weniger Lungenembolien in den finalen Befunden auftauchen als üblich. Gibt es statistische Ausreißer, kann der Radiologe noch einmal nachsehen, ob es sich um eine echte besondere Häufung handelt, oder ob vielleicht fehlerhafte KI-Befunde übernommen wurden. Zweitens wird die KI abgeschaltet, wenn der Radiologe den KI-Befund zu oft ändert. Dann liegt KI offenbar zu oft falsch. Sie wird dann erstmal weiter trainiert und erst wieder zugeschaltet, wenn sie sich weiter verbessert hat. Durch die Kontrollmechanismen handelt es sich um ein organisches Tool, das sich mit jedem Einsatz weiterentwickelt und verbessert.

Redaktion: Welche Rolle spielt dabei die im Titel des Projekts ausdrücklich benannte klinische Routine?

Dr. Daniel Pinto dos Santos: Da die Daten in einem klinischen Prozess mit strukturierter Befunderstellung sowieso anfallen, entsteht kein zusätzlicher Aufwand. Die Plattform wird so entwickelt werden, dass prinzipiell jede Klinik mit ihren strukturierten Daten überlegen könnte, eigene Tools für eigene spezielle Fragestellungen zu trainieren. In unserem Projekt haben wir uns zunächst die Lungenembolien herausgegriffen. Prinzipiell müsste es aber mit der Technik möglich sein, KIs dahin zu trainieren, auch z. B.

• Schlaganfälle,

• Knochenbrüche,

• Pleuraergüsse etc. zu erkennen.

So ließen sich im Grunde KI-Tools auf Basis der Bedürfnisse der eigenen klinischen Routine entwickeln und nutzen.

Redaktion: Ist es nicht sehr langwierig, mit Tag Null anzufangen?

Dr. Daniel Pinto dos Santos: Im Prinzip natürlich schon. Da wir diese Technologien jetzt aber erst einmal im Rahmen eines Forschungsprojekts ausprobieren werden, können wir die Entwicklung etwas beschleunigen und trainieren die KI sozusagen im Zeitraffer mit den Datensätzen von Patienten, die in den vergangenen Jahren mit der Frage nach einer Lungenembolie zu uns kamen. Das Tool werden wir zunächst natürlich nicht in der Patientenversorgung einsetzen, aber wir werden in realistischen Simulationen eines klinischen Arbeitsplatzes schauen, wie Radiologen mit einem solchen Tool interagieren würden. Denn aus unserem Projekt könnte ein zukünftiges Modell für die Patientenversorgung werden.

Redaktion: Wie lange würde das dauern?

Dr. Daniel Pinto dos Santos: Das hängt vor allem von regulatorischen Aspekten ab. KI-Tools müssen natürlich zertifiziert werden. Sind sie einmal auf dem Markt, dürfen sie sich kaum verändern oder müssen erneut zertifiziert werden. Doch unser Modell basiert ja gerade darauf, dass es sich durch das Training ständig wandelt. Zu unserem Projekt gehören daher auch Wirtschaftswissenschaftler, die untersuchen, wie solche Tools sich regulatorisch erfassen lassen.

Redaktion: Ein Ziel des Projekts ist, die patientenzentrierte Versorgung zu verbessern. Wie kann das geschehen?

Dr. Daniel Pinto dos Santos: Wir haben uns ein potenziell kritisches Krankheitsbild wie die Lungenembolie auch deshalb herausgesucht, um den Vorteil für den Patienten zu zeigen. Kommt jemand beispielsweise mit einem Verdacht auf Lungenembolie ins CT, entstehen meist keine Verzögerungen in der Diagnostik. Der Radiologe ist vor Ort und gibt den Befund direkt weiter. Aber es gibt Fälle, z. B. Patienten zur Tumorverlaufskontrolle, bei denen das CT eventuell für ein paar Stunden unbefundet liegen bleibt. In so einem Fall würde der Algorithmus dann eine möglicherweise relevante Lungenembolie früher erkennen und könnte schon vorab eine Meldung herausgeben, sodass der Radiologe sich sofort kümmern kann. Wir hoffen, dass sich manche Abläufe so beschleunigen lassen.

Redaktion: Profitieren auch niedergelassene Radiologen von der Plattform?

Dr. Daniel Pinto dos Santos: Prinzipiell sicherlich auch, aber soweit ich weiß, sind manche Abläufe in Praxen anders. Oft ist es üblich, dass der Radiologe den Befund unmittelbar direkt nach Untersuchung ansieht. Dann wäre der oben genannte Anwendungsfall nicht relevant. Denkbar wäre auch, solch eine Technologie institutionsübergreifend einzusetzen. Dann könnten Niedergelassene und Kliniken Daten beitragen und so das Training der KI jeweils beschleunigen. In unserem Projekt werden wir das allerdings zunächst nicht umsetzen.

Redaktion: Sicherheit ist ein großes Thema. Wie gewährleisten Sie, dass Patientendaten geschützt werden?

Dr. Daniel Pinto dos Santos: Wir haben die Plattform für die klinische Routine zunächst lokal angelegt, sodass keine Daten verschickt werden müssen und der Schutz sensibler Patientendaten jederzeit gewährleistet ist. In dem Projekt setzen wir uns aber auch mit Fragen zum Datenschutz auseinander, um abzuschätzen, ob und wie ein solches Tool institutionsübergreifend genutzt werden könnte.

Redaktion: Wie ordnen Sie Ihr Projekt in die aktuelle KI-Entwicklung in der Radiologie ein? Wohin geht die Reise?

Dr. Daniel Pinto dos Santos: Es passiert zurzeit sehr viel im Hinblick auf KI in der Radiologie. Hersteller bringen immer wieder neue Tools auf den Markt. Ich glaube, dass bei einigen dieser Tools noch nicht klar ist, wie sie die Arbeit des Radiologen effektiv unterstützen und helfen können, Zeit zu sparen. Die Investition muss sich ja auch lohnen. Vermutlich wird es noch einige Zeit dauern, aber am Ende der Reise wird KI sicher einen relevanten Stellenwert in der Radiologie haben.

Technisch würde ich sagen, dass wir mit unserem Projekt relativ innovativ sind. Nachdem Deep Learning inzwischen etabliert ist, kommen neue Technologien wie Federated Learning, also das Trainieren an unterschiedlichen Orten und Continuous Learning, also das ständige Weitertrainieren wie es unser Algorithmus tut, in den Fokus. Diese Themen gehen wir aktiv an und wollen schauen, welche Strukturen es dafür braucht. Was ist bei heutigen regulatorischen Bedingungen realistisch und wie müssten die Bedingungen sich ändern, damit solche Techniken in der klinischen Routine angewandt werden können? Diese Fragen wollen wir beantworten.