Beschreibung: Da sich Künstliche Intelligenz (KI) und Machine Learning (ML) weiterentwickeln und zunehmend in Gesundheitswesen und Medizin Einzug halten, ist es entscheidend, die ethischen und sozialen Implikationen dieser Entwicklungen zu berücksichtigen. Von Fragen zu Bias und Diskriminierung über Erklärbarkeit und Verantwortlichkeit bis hin zu Aspekten der Mensch-Maschine-Interaktion sind die ethischen und sozialen Herausforderungen rund um medizinische KI vielschichtig und erfordern eine sorgfältige und verantwortungsvolle Auseinandersetzung. 

MedAIcine befasst sich mit zentralen Herausforderungen und Spannungsfeldern einer verantwortungsvollen Gestaltung und Nutzung von KI in der medizinischen Bildgebung. Das Projekt wendet einen Embedded-Ethics-and-Social-Science Ansatz an und untersucht aöls interdisziplinäres Projektteam aus Wissenschafts- und Technikforschung (STS), Philosophie und Ethik empirisch soziale und ethische Aspekte, die in der Forschung und Implementierung medizinischer KI entstehen. Hierzu führen wir Fallstudien zum Einsatz von ML in der Radiologie und Dermatologie durch und arbeiten langfristig und integriert mit technologischen sowie medizinischen Forschenden und Praktiker*innen zusammen. Unsere Forschungsschwerpunkte umfassen Fragen der Erklärbarkeit, Vulnerabilität und Verantwortung im Kontext medizinischer KI-Technologien, die Wahrnehmung dieser Technologien durch Ärzt*innen und Patient*innen sowie Aspekte von Bias und Gerechtigkeit in Datenerhebung und -analyse. 

MedAIcine ist das erste Pilotprojekt des Center for Responsible AI Technologies, das im Februar 2022 von der Universität Augsburg (UNIA), der Hochschule für Philosophie München (HFPH) und der Technischen Universität München (TUM) gegründet wurde. Das Zentrum verfolgt das Ziel, philosophische, ethische und sozialwissenschaftliche Fragestellungen und Problemlagen in den gesamten Prozess der Entwicklung und Implementierung von KI-Technologien zu integrieren. 

Projektteam: Prof. Dr. Ruth Müller, Prof. Dr. Alena Buyx, Svenja Breuer, Theresa Willem

Zeitraum: 10/2022-09/2025

Projekttyp: Third-party funded Project

Fördergeber: Center for Responsible AI Technologies