Forscher warnen: Big Tech darf KI im Gesundheitswesen nicht dominieren
Forscher warnen davor, dass Technologieriesen wie Google und Microsoft mit ihren KI-Entwicklungen das Gesundheitswesen dominieren könnten – mit potenziellen Risiken für Privatsphäre, Sicherheit und eine ausgewogene Versorgung.
- IT
- Medizin
- QM
In einem Artikel in *Nature* äußern Forscherinnen und Forscher die Befürchtung, dass große Technologiekonzerne wie Google und Microsoft den Einsatz generativer künstlicher Intelligenz (KI) im Gesundheitswesen dominieren könnten. Sie warnen davor, dass medizinische Fachkräfte und Institutionen die Führung bei der Entwicklung übernehmen sollten, um die Privatsphäre und die Sicherheit von Patientendaten zu gewährleisten. Die Forscher betonen, dass die Abhängigkeit von proprietären KI-Modellen Risiken birgt, wie unvorhersehbare Änderungen oder die Einstellung von Diensten, wenn deren Rentabilität nachlässt. Sie weisen auch auf die Gefahr von „Halluzinationen“ hin – falsche oder ungenaue KI-Antworten, die Patienten gefährden könnten. Auch Vorurteile in Bezug auf Geschlecht, Rasse und sozioökonomischen Status könnten verstärkt werden. Als Alternative empfehlen die Forscher die Entwicklung von Open-Source-KI-Modellen, die unter Beteiligung von Fachleuten, Patienten und Forschungseinrichtungen weltweit entwickelt werden sollten…
the-decoder.de.deCOD
