Daten, Algorithmen, KI: Was bringen die neuen Leitlinien für Unternehmen?
Die Datenethikkommission stellt einen Bericht zu ethischen Leitlinien für Datenpolitik vor. Eine Einordnung von OTTO-CIO Müller-Wünsch und IT-Experte Böhmann
Der Umgang mit Algorithmen, KI und Innovationen braucht in der heutigen digitalen Zeit Handlungsempfehlungen und Richtlinien. Das Bundesministerium des Innern, für Bau und Heimat sowie das Bundesministerium Justiz und Verbraucherschutz hat eine Datenethikkommission ins Leben gerufen. Hier arbeiten 16 Expert*innen aus unterschiedlichen Bereichen wie Forschung, Informatik, Theologie und Recht zusammen, um Leitlinien zu entwickeln. Im Umgang mit KI, Algorithmen und Daten stellen sich zahlreiche ethische und rechtliche Fragen. Denn Automatisierung kann das wirtschaftliche und gesellschaftliche Leben beeinflussen. OTTO-CIO Michael Müller-Wünsch und Prof. Tilo Böhmann reden im Doppelinterview über gefährliche Algorithmen, die Vorteile einer Leitlinie für Unternehmen und böse KI.
Hallo Müwü, hallo Tilo. Die Leitlinien für Datenpolitik sollen Richtlinien im Umgang mit Algorithmen, KI, Daten und digitaler Innovation bieten. Braucht es wirklich Leitlinien für den Einsatz von Künstlicher Intelligenz?
TILO BÖHMANN: Die Diskussion über Leitlinien für Künstliche Intelligenz (KI) zeigt, wie tief digitale Technologien in unsere Gesellschaft vorgedrungen sind. Die Anwendung von KI-Verfahren, die jetzt schon stattfindet und in Zukunft noch erheblich zunehmen werden, werfen bei allen Chancen berechtigte Fragen auf: nach der Erklärbarkeit von Empfehlungen und Entscheidungen auf Basis solcher Verfahren, nach ihrer Fairness, nach Auswirkungen auf Privatheit oder Meinungsvielfalt. Daher müssen wir uns gesellschaftlich mit der Frage auseinandersetzen, wie wir unsere digitale Zukunft gestalten wollen. Leitlinien können einen Impuls dazu liefern.
Leitlinien helfen dabei, zumindest den Durchblick zu behalten, einen Faden zu haben
MICHAEL MÜLLER-WÜNSCH: Das sehe ich genauso. Wir wissen, dass die Beherrschbarkeit der Datenströme für den Menschen an Grenzen stößt. KI verarbeitet viele Daten, dadurch lernen die Algorithmen und Entscheidungen können durch Software herbeigeführt und exekutiert werden. Leitlinien helfen dabei, einen Rahmen zu haben – für die Wirtschaft, wie für Privatpersonen, wie wir mit dieser Chance umgehen wollen. Es ist viel gewonnen, wenn wir uns immer wieder bewusst machen, dass Technologisierung auch Widerstand erzeugt. Menschen fragen sich, wie eine Innovation künftig ihr Leben beeinflusst, wie Technologie ihren Arbeitsalltag berührt. Die große Kunst besteht darin, in einen differenzierten Dialog zu treten, zuzuhören, Mehrwerte aufzuzeigen.
Was können solche Leitlinien aber eurer Meinung nicht leisten?
MÜWÜ: Ich erhoffe mir, dass sie einiges leisten, vor allen Dingen Vertrauen in neue technologische Lösungen basierend auf KI generieren und nicht für mehr Verwirrung sorgen. Sie können zumindest für den Markt klare Rahmenbedingungen aufzeigen. Allerdings wäre es naiv zu hoffen, dass damit absolute Sicherheit geschaffen werden kann. Wir brauchen deswegen eher Rahmen, die sich entwickeln, als vermeintlich, absolute Bedingungen.
TILO: Auf jeden Fall braucht es eine mitlernende Regulierung, weil die Entwicklung zu dynamisch ist, um heute konkrete technische Lösungen festzuschreiben. Die Leitlinien ermöglichen, diese Grundsätze in Entscheidungen über die Ausgestaltung und Verwendung von KI-Verfahren einzubeziehen. Das halte ich für wünschenswert.
Kann uns KI eines Tages gefährlich werden?
TILO: Diese Frage wurde bei der Erfindung der Eisenbahn, des Automobils und des Flugzeugs auch gestellt. Jede Technologie bietet Chancen und Risiken. Umso wichtiger ist ein kontinuierliches Überprüfen von Risiken, um diesen zu begegnen.
MÜWÜ: KI ist auch nur Software und folgt damit den gleichen Grundprinzipien der Software-Entwicklung: Reduktion der Problemkomplexität durch Bereitstellung von Prinzipien, Methoden und Werkzeugen. Ohne Regeln, ohne Richtungen, ohne klare Kanten kann KI Risiken bergen. Aber eben auch Chancen: KI-Lösungen unterstützen schon heute Aufgaben aus der Arbeitswelt, teilweise könnten diese auch ersetzt werden. Beispielsweise dort, wo ein Job von nur einer Aufgabe geprägt ist. Hier arbeitet die Maschine in der Regel effizienter als wir. Aber: Im Gegensatz zu Menschen können Maschinen nicht kreativ im menschlichen Sinne sein. Während die Maschine also das wachsende Volumen abarbeitet – entlang menschlich definierter Vorgaben – gewinnen wir wertvolle Kapazitäten, um unser Potenzial in Bereiche zu investieren, in denen wir den Maschinen immer überlegen sein werden. Es sind spannende Zeiten, aber vor allem beim Thema Robotics, Spracherkennung und autonomes Fahren braucht es klare Richtlinien.
Was haben die Kund*innen von Leitlinien und welche Herausforderungen erwarten Unternehmen?
MÜWÜ: Unternehmen müssen Verantwortung übernehmen. Wenn Entscheidungen durch KI-Software getroffen werden können, brauchen wir ethische Mindeststandards. Handlungsleitender Rahmen muss die Einhaltung ethischer Grundsätze beim Einsatz von neuen Technologien sein, weil wir als Unternehmer*innen nicht nur für unser eigenes Handeln verantwortlich sind, sondern auch für dessen Auswirkungen auf die Gesellschaft. Davon profitieren auch Kund*innen.
TILO: Ich weiß nicht, ob die Leitlinien für alle Bürger*innen unmittelbar relevant werden. Aber informierte Individuen und Organisationen können sie heranziehen, um Verwender von KI-Verfahren zu überprüfen und herauszufordern. Daher müssen Unternehmen und Verwaltungen nachvollziehbare Praktiken für Entwicklung, Verwendung und Überwachung ihrer KI-Verfahren etablieren, um im Sinne verantwortlichen Handels auch darüber Rechenschaft geben zu können.
Sollten sich Wirtschaft, Wissenschaft & Politik beim Thema Ethik in der Datenpolitik besser gegenseitig unterstützen?
MÜWÜ: Es hat sich in den vergangenen Jahren ein recht aktiver Dialog entwickelt. So war OTTO Gastgeber bei einer Veranstaltung zum Thema „Verantwortliches Experimentieren mit KI – Was wollen wir wagen?“, die die Universität Hamburg mit Expert*innen aus Wissenschaft, Recht, Ethik und Wirtschaft zusammen mit der Interface Society veranstaltet hat. Solche und weitere Formate tragen dazu bei, dass der Weg hin zu Corporate Digital Responsibility sich für alle Mitglieder unserer Gesellschaft konkretisiert! Mit unserer Digitalministerin hat Deutschland quasi einen CTO. Reicht das? Oder braucht es weitere neu definierte politische Ämter, um den neuen Herausforderungen zu begegnen? Zum Beispiel einen Digital Chief Ethical Officer? Vielleicht kann es den temporären Bedarf am DEO geben, vergleichbar zum CDO.
TILO: Gerade in Hamburg besteht eine aktive Zusammenarbeit zwischen Informatik, Recht und Ethik unter der Überschrift „Information Governance Technologies“, die auf reges Interesse auch bei Unternehmen und Verwaltung stößt. In der Entwicklung einer breiten Verwendung digitaler Technologien in unserer Gesellschaft stehen wir vor großen Herausforderungen, bei denen die Akteur*innen voneinander lernen, gemeinsam innovieren und sich auch gegenseitig positiv herausfordern können.
