Beschreibung: Die Integration verkörperter Künstlicher Intelligenz (KI) in Gesundheitswesen und Gesellschaft verspricht in den kommenden Jahrzehnten erhebliche Vorteile. Gleichzeitig gehen Innovationen wie KI-gestützte Operationsroboter, KI-Prothesen, Pflegeroboter - oder perspektivisch sogar Mikro- und Nanoroboter - mit einer Reihe ethischer, sozialer, politischer und rechtlicher Herausforderungen einher. Dazu zählen grundlegende Veränderungen in den Arbeitskulturen und im Fachwissen medizinischer und pflegerischer Fachkräfte. Diese Herausforderungen, die sich aus neuen Arbeitsteilungen zwischen Mensch und Maschine ergeben, müssen proaktiv adressiert werden, damit verkörperte KI erfolgreich und verantwortungsvoll in Medizin und Gesellschaft implementiert werden kann. 

Zwar existieren übergreifende Prinzipien wie jene der High-Level Expert Group on Artificial Intelligence der Europäischen Union sowie Standards wie die ISO-Normen für persönliche Assistenzroboter, doch fehlen bislang weitgehend konkrete und differenzierte Rahmenwerke für die verantwortungsvolle Integration verkörperter KI-Produkte in medizinische Praxis und Arbeitskulturen. Ebenso gibt es keine Best-Practice-Modelle für die interdisziplinäre Entwicklung von Mensch-Maschine-Anwendungen in der Biomedizin, die ethische, soziale und regulatorische Aspekte systematisch berücksichtigen. 

Das Projekt RR-AI verfolgt daher drei Ziele: 

1. die empirische Untersuchung der sozialen, ethischen und rechtlichen Dimensionen zweier neuartiger KI-basierter Technologien – eines Serviceroboters namens GARMI sowie einer intelligenten Arm-Exoprothese – während ihrer Entwicklung und Implementierung in die medizinische Praxis;
2. die Entwicklung eines praxisorientierten Werkzeugkastens für zukünftige interdisziplinäre KI-Innovationen sowie konkreter Standards und Empfehlungen für die verantwortungsvolle Integration verkörperter KI in Arbeitspraktiken und Ausbildung im Gesundheitswesen;
3. die experimentelle Erprobung dieser Werkzeuge und Empfehlungen durch interdisziplinäre Ko-Kreation und die Integration verkörperter KI-Anwendungen in reale Arbeitsumgebungen.  

Das Projekt verfolgt damit einen innovativen „Embedded Ethics and Social Science“-Ansatz, bei dem ethische, soziale, rechtliche und politische Analysen integrale Bestandteile sowohl des Designprozesses von KI-Produkten als auch ihrer Integration in Arbeitskontexte sind. Die Projektergebnisse werden mit relevanten Stakeholdern diskutiert, in Pilotprojekten getestet und breit disseminiert. 

Das Projekt ist Teil des transdisziplinären Konsortiums „Digitalisierung“ (https://www.bidt.digital/bidt-foerdert-neun-forschungsprojekte-zur-digitalisierung/), das Fragen des digitalen Wandels in Wirtschaft und Arbeit, Politik und Gesellschaft sowie Medien und öffentlicher Kommunikation untersucht. Das Konsortium wird vom Bayerischen Forschungsinstitut für Digitale Transformation (bidt) der Bayerischen Akademie der Wissenschaften gefördert. Innerhalb des Konsortiums ist das Projekt „Responsible Robotics“ der Initiative „Wirtschaft und Arbeit“ zugeordnet. 

Projektteam: Maximilian Braun, Svenja Breuer, Prof. Dr. Ruth Müller, Prof. Alena Buyx, Prof. Sami Haddadin, Prof. Iris Eisenberger 

Zeitraum: 04.2020 - 06.2023

Projekttyp: Verbundprojekt

Fördergeber: Bayerisches Forschungsinstitut für digitale Transformation (bidt)