TIPLU erklärt KI: Was ist eigentlich der Unterschied zwischen Blackbox und Explainable AI
Im Zusammenhang mit Künstlicher Intelligenz (englisch: Artificial Intelligence [AI]) spricht man von „Blackbox AI“ und „Explainable AI“ Aber was bedeutet das eigentlich? Und warum sollte man sich damit beschäftigen – vor allem als Hersteller KI-gestützter Software?
- IT
E I N F A C H E R K L Ä R T
Im Zusammenhang mit Künstlicher Intelligenz (englisch: Artificial Intelligence [AI]) spricht man von „Blackbox AI“ und „Explainable AI“ Aber was bedeutet das eigentlich? Und warum sollte man sich damit beschäftigen – vor allem als Hersteller KI-gestützter Software?
Im Gesundheitswesen tragen Unternehmen eine besondere Verantwortung und müssen gut begründete Entscheidungen treffen. Künstliche Intelligenz kann aus einer für einen einzelnen Menschen kaum zu überblickenden Menge an Daten, Muster und Zusammenhänge lernen und diese anschließend anwenden.
In bestimmten Produkten – wie einer Clinical Decision Support-Software wie MAIA – eingesetzt, lernt die KI beispielsweise aus Labor- und Vitalparametern, verschiedenen Dokumenten und Informationen über frühere Behandlungen Muster für die Erkennung spezifischer Krankheiten oder Risiken. Diese Muster soll sie dann bei einzelnen Patient:innen wiedererkennen, um anschließend Mediziner:Innen durch Hinweise zu entsprechenden medizinischen Risiken unterstützen.
In der öffentlichen Diskussion geht es derzeit berechtigter Weise immer wieder darum, wie „Chat GPT“ und andere KI-Systeme ihre erstaunlichen Ergebnisse liefern, denn: Die Entstehung und Herkunft sind für Nutzer:innen oft nicht nachvollziehbar (Blackbox KI).
Umso wichtiger ist es uns, dass alle unsere KI-gestützten Systeme ihre Hinweise immer auch herleiten und begründen – so zeigt beispielsweise unsere Kodiersoftware MOMO immer an, aus welchen in der Patientenakte vorliegenden Informationen ein Kodiervorschlag abgeleitet wird, sodass dieser durch die Kodierfachkräfte nachvollzogen und überprüft werden kann (Explainable KI). Ähnliche erklärende Informationen zu den jeweiligen Hinweisen wird es auch in MAIA geben.
So schaffen wir nicht nur Vertrauen in unsere Produkte, sondern werden der Verantwortung gerecht, die wir gemeinsam mit den Mitarbeitenden in den Krankenhäusern, sowie als Hersteller KI-gestützter Software auch gesamtgesellschaftlich tragen.
tiplu.de
Gebündelt, stets aktuell und immer handverlesen werden alle Neuigkeiten gesammelt und anwenderbezogen aufbereitet.
