KI darf den Menschen nicht ersetzen: Medizinethikerin Alena Buyx fordert verantwortungsvollen Umgang mit künstlicher Intelligenz

KI zwischen Euphorie und Schreckensszenarien

Seit der Veröffentlichung von ChatGPT Ende 2022 sei die Debatte über Chancen und Risiken von KI von Extremen geprägt, so Buyx. Während die einen vor einem „Oppenheimer-Moment“ warnten und Szenarien einer unkontrollierbaren Superintelligenz zeichneten, hofften andere auf eine technologische Lösung aller Probleme. Buyx ordnete diese Positionen ein: „Es ist weder die Apokalypse noch die Utopie. KI ist ein mächtiges Werkzeug – nicht mehr und nicht weniger.“

Ethische Leitplanken für den Einsatz von KI

Besonders relevant für Projektmanagerinnen und Projektmanager sei die von Buyx formulierte Faustregel: KI darf wichtige Entscheidungen niemals allein treffen. „Wir können diesen Technologien nicht vertrauen, wenn es um Verantwortung geht“, erklärte sie. Künstliche Intelligenz könne berechnen, simulieren und optimieren – aber sie habe kein Bewusstsein für menschliche Werte, keine Empathie und kein Verantwortungsgefühl. Darum müsse jede Anwendung von KI transparent, kontrollierbar und auf das Ziel ausgerichtet sein, Handlungsspielräume von Menschen zu erweitern.

Europäische digitale Souveränität als Schlüssel

Ein weiterer Schwerpunkt von Buyx’ Vortrag war die geopolitische Dimension. Derzeit entstünden fast alle großen Sprachmodelle in den USA oder China. Europa dürfe sich hier nicht abhängen lassen. „Wir brauchen digitale Souveränität. Sonst machen wir uns abhängig von Technologien, deren Ziele und Werte wir nicht kontrollieren können“, sagte sie. Als positive Beispiele nannte Buyx das französische Start-up Mistral oder das gemeinwohlorientierte Sprachmodell aus der Schweiz. Europa habe das Know-how, müsse aber den politischen Willen und die nötigen Investitionen aufbringen.

Chancen und Risiken im Alltag

Buyx warnte vor einer unkritischen Nutzung von KI im persönlichen Bereich. Besonders problematisch seien Anwendungen im Bereich mentaler Gesundheit, bei denen Chatbots von Jugendlichen wie Freunde oder Berater in Anspruch genommen würden – mit teils tragischen Folgen. „Diese Systeme sind empathisch programmiert, aber nicht verantwortungsbewusst“, so Buyx. Gleichzeitig verwies sie auf die enormen Effizienzgewinne, die verantwortungsvoll eingesetzte KI ermöglichen könne: In ihrer eigenen Forschungsgruppe habe sich die Zahl der Publikationen durch KI-Unterstützung nahezu verdoppelt. Auch im Projektmanagement ließen sich Zeitpläne optimieren, Risiken besser vorhersagen und Ressourcen effizienter einsetzen.

Appell an Führungskräfte

Zum Abschluss richtete Buyx einen Appell an die anwesenden Führungskräfte: „Nutzen Sie KI – aber nutzen Sie sie bewusst. Entwickeln Sie klare Richtlinien für Transparenz und Kontrolle. Fördern Sie lokale Lösungen und geben Sie europäischen Entwicklern eine Chance.“ Die Gestaltung liege nicht allein bei der Politik, sondern in den Händen jedes Einzelnen, der Verantwortung in Organisationen trage. „KI kann uns entlasten, aber sie darf uns nicht ersetzen. Entscheidend ist, dass wir unser menschliches Selbstbewusstsein behalten und die Technologie im Dienst des Menschen einsetzen.“