Nachfolgend finden Sie einen Auszug aus einem Interview mit Iris Phan. Sie ist Volljuristin und hat sich auf KI und automatisierte Systeme spezialisiert. In diesem Interview geht es um die Risiken und Chancen von KI sowie um die Rolle von Ethik, Datenschutz und Transparenz. Das Interview liegt in einer übersetzten und gekürzten Fassung vor.

Gehen Sie hier zu ihrem LinkedIn-Profil.

 ⠀ 

Guten Tag Ihnen. Können Sie sich bitte vorstellen?

Mein Name ist Iris Phan, ich bin seit über 6 Jahren hier im Rechenzentrum der Leibniz Universität Hannover tätig. Ich arbeite im Bereich des Rechenzentrums als Juristin für IT-Recht und Datenschutzrecht. In der heutigen Zeit sind viele Systeme automatisiert worden. Daher bin ich auch viel in diesem Bereich tätig. Außerdem habe ich Wissenschaftsphilosophie studiert und bin seit drei Jahren Lehrbeauftragter am Institut für Philosophie der Leibniz Universität.

Vielen Dank für die Gelegenheit, Sie interviewen zu dürfen. Die erste Frage lautet: Ist KI überhaupt industrietauglich?

Ich denke, das ist der beste Ansatzpunkt: KI klingt so, als ginge es wirklich um Intelligenz, wie in der Alltagssprache. Die Menschen und insbesondere die Medien stellen oft Vergleiche zwischen künstlicher und menschlicher Intelligenz an. Wenn man über Ersatzszenarien nachdenkt, muss man das angestrebte Ziel bestimmen und die Elemente identifizieren, die ersetzt werden müssen. Meistens handelt es sich um langweilige, gefährliche und schmutzige Arbeit. Das ist an sich eine sehr positive Entwicklung, aber so neu ist das nicht. Maschinen ersetzen den Menschen und seine Arbeit schon seit relativ langer Zeit.

Wie wirkt sich der Einsatz von KI auf die Umweltauswirkungen aus?

Die Eignung hängt in hohem Maße von der spezifischen KI, die eingesetzt wird, und ihrem Zweck ab. So hilft die vorausschauende Wartung natürlich der Umwelt, indem sie verhindert, dass wir zu viel Industrieabfall oder Dinge produzieren, die wir gar nicht brauchen. Stattdessen können wir unsere Beschaffung einfach besser und kontrollierter an den Bedarf anpassen. Das entlastet natürlich die Umwelt. Ich kann mir viele Anwendungen vorstellen, bei denen es sich positiv auswirkt.

Lässt sich die Entwicklung von KI vorhersagen oder steuern?

Oft findet der Prozess in einer Blackbox statt. Das würde bedeuten, dass wir ihn nicht kontrollieren können. Im Ländervergleich zeigt sich jedoch, dass politische Agenden den Prozess bis zu einem gewissen Grad steuern können. Eine entscheidende Rolle spielt das, was politisch gewollt ist und was sich idealerweise mit den Forderungen der Gesellschaft deckt. Auch die Vergabe von Forschungsgeldern spielt eine Rolle. Sie können die Entwicklung vorhersagen und steuern, aber nur bis zu einem gewissen Grad.

Gibt es Gefahren beim Einsatz von Künstlicher Intelligenz im industriellen Kontext?

Die Gefahr liegt nicht in der Technologie selbst, sondern in der unbedachten Entwicklung. Wenn man nicht über Probleme nachdenkt und einfach weitermacht, dann würde ich das als Gefahr bezeichnen. Es ist völlig normal, dass bei der Entwicklung Fehler passieren. Aber wenn man nicht darüber nachdenkt und ethische Bedenken ignoriert, kann sich das negativ auswirken und den Fortschritt verlangsamen.

Was soll KI entscheiden dürfen und was nicht?

Gerade in Industrieunternehmen gibt es oft ermüdende Arbeitsabläufe. Bei Maschinen passiert das nicht. Sie mögen unterschiedliche Ermüdungsgrade haben, aber wie ich gehört habe, versuchen Sie in Ihrem aktuellen Tätigkeitsfeld dem entgegenzuwirken: Im Sinne von Predictive Maintenance versucht man, die Ermüdung von Maschinen zu bestimmen. Personen mit viel Erfahrung können das vielleicht tun, aber es gibt nur sehr wenige von ihnen. Dieser Bereich ist also eine Superentlastung für die Menschen, spart Ressourcen und schont die Umwelt. Es hat viele Vorteile. Im Bereich der gerichtlichen Entscheidungen sehe ich das etwas anders. Es geht um Menschen und um Entscheidungen für Menschen, also sollte sich das mindestens einer, in manchen Fällen sogar noch mehr anschauen. Maschinen sind sehr rational, aber das kann in manchen Fällen auch irreführend sein. Man muss immer individuell von Person zu Person schauen. Daher kann ich mir die Anwendung von KI in diesem Bereich im Moment nicht vorstellen, aber vielleicht ist meine Vorstellungskraft nur ein bisschen begrenzt.

Warum müssen Ethik, Datenschutz und Transparenz bei der Entwicklung von KI berücksichtigt werden?

Es ist wichtig, sich frühzeitig damit zu befassen. Schließlich ist es wie bei der Überwachung. Es wäre schön, wenn wir es schaffen könnten, solche Prozesse im Voraus zu durchdenken. Zum Beispiel durch jemanden aus dem Bereich der Ethik, einen Juristen, einen Naturwissenschaftler und so weiter. So kann man bestimmte Risiken im Voraus erkennen. Die Bedingungen ändern sich ständig, so dass man diesen Prozess immer wieder neu beginnen muss, auch nach einigen Jahren. Deshalb halte ich diesen Bereich für besonders wichtig. Es ist wichtig, solche Dinge viel früher in der Entwicklung zu berücksichtigen.

Vielen Dank, dass Sie sich die Zeit für das Interview genommen haben.

Ja, natürlich. Wunderbar, danke auch.

Bild von Freepik.