DigitalisierungWie gerecht ist Künstliche Intelligenz?

Von Alexa oder Siri über personalisierte Produktempfehlungen bis hin zu smarten Tools im Gesundheitswesen, bei Banken oder im Bewerbungsprozess: Wir alle sind nahezu täglich mit KI-Anwendungen konfrontiert. Doch tatsächlich behandelt die Künstliche Intelligenz (KI) nicht alle von uns gleich. Spätestens seit dem Hype um den KI-Chatbot ChatGPT sollten wir deshalb auch über Themen wie KI-Ethik und Diversität in der Technologie sprechen. Eine, die sich schon früh genau dafür stark gemacht hat, ist Mina Saidze. Als Frau und Person of Color ist die Autorin und Gründerin selbst eine Ausnahme in der Branche – und wünscht sich vor allem mehr Frauen an ihrer Seite. 

Frau Saidze, Sie sind 1993 geboren, als gerade erst ein gesellschaftliches Bewusstsein für das Internet entstand. Wie waren Ihre ersten digitalen Schritte – und wann haben Sie erstmals von Künstlicher Intelligenz gehört? 

Als Jugendliche war ich bei StudiVZ und Myspace. Meine Lieblingsmusik war Heavy Metal und auf diesen Plattformen habe ich Verbündete gefunden. Ich habe mich aber auch schon früh aktivistisch und gemeinnützig engagiert und digital vernetzt. Und mit Künstlicher Intelligenz sind wir tatsächlich öfter konfrontiert, als wir denken: Wenn E-Mails in den Spam-Ordner verschoben werden, wenn uns beim Streaming eine neue Serie vorgeschlagen wird oder wir ein Match auf einer Dating-Plattform haben.

Technologie ist kein Selbstzweck und KI nicht immer die Lösung. Wie hoch das Potenzial von KI ist, kommt sehr auf die Branche, Prozesse oder Anwendungsfälle an.

Seit das Start-up OpenAI im November 2022 den Chatbot ChatGPT veröffentlicht hat, ist KI in aller Munde – auch in den Unternehmen. Welche Rolle spielt Künstliche Intelligenz in der Arbeitswelt?
ChatGPT hat einen enormen Hype ausgelöst und ein kollektives Bewusstsein darüber entstehen lassen, welche Möglichkeiten Künstliche Intelligenz bietet. Wir sind erstaunt, wie die KI mit uns kommuniziert und dass sie gute Texte schreibt. Natürlich sorgt das auch für Ängste und Sorgen, vor allem in der Kultur- und Kreativbranche. Geschichtlich betrachtet ist das aber nichts Neues. Ähnliche Fragen wurden gestellt, als die erste industrielle Spinnmaschine erfunden oder Excel veröffentlicht wurde. Künstliche Intelligenz sorgt dafür, dass sich Arbeit verändert und sich unsere Tätigkeiten verschieben.

Durch den Hype wollen viele Unternehmerinnen und Unternehmer jetzt mit KI arbeiten. Aber müssen wirklich alle sofort mitziehen? 

Nein, Technologie ist kein Selbstzweck und KI nicht immer die Lösung. Es mag den Anschein machen, alle anderen wären schon ganz vorne mit dabei. Aber oft wird mehr geredet als getan. Wie hoch das Potenzial von KI ist, kommt sehr auf die Branche, Prozesse oder Anwendungsfälle an. Und darauf, ob die Mitarbeitenden schon bereit sind, solche Technologien in ihren Arbeitsalltag zu integrieren – oder ob zunächst zum Beispiel Change-Management-Maßnahmen nötig sind.

Warum ist KI-Ethik so wichtig?

Weil KI nicht immer alle von uns einschließt. Zum Beispiel, wenn es um Gesichtserkennung geht. Auch hier kommt es darauf an, mit welchem Datensatz die KI gefüttert wurde. Sind es Bilder, die hauptsächlich weiße Menschen aus Europa zeigen – wie soll die KI dann lernen, Menschen mit anderen Hautfarben zu erkennen? Und wenn Frauen in den Trainingsdaten der KI unterrepräsentiert sind, sprechen wir von einem Gender Data Gap. Im medizinischen Bereich kann das sogar lebensbedrohliche Folgen haben.

Damit unser Zusammenleben als Gesellschaft funktioniert, gibt es viele Regeln. Und Sanktionen oder zumindest Konsequenzen, wenn man die Regeln bricht. Brauchen wir Regulierungsinstanzen für Künstliche Intelligenz?     

Unbedingt. KI hat einen enormen Einfluss auf unser Leben, daher ist es unerlässlich, dass sie angemessen reguliert wird. Die EU hat gerade den AI Act verabschiedet, das weltweit erste Gesetz zur Regulierung von KI – das ist zumindest ein Anfang. Jetzt können gesellschaftliche, rechtliche und regulatorische Fragestellungen nicht mehr ignoriert werden – und KI-Ethik darf nicht länger wie ein Stiefkind behandelt werden. Ob Anwendungen genutzt oder selbst entwickelt werden: KI-Ethik muss in den Unternehmen von Beginn an mitgedacht werden und es muss dafür klare Zuständigkeiten geben. Ich fordere außerdem einen Zusammenschluss von Politik, Privatwirtschaft und Zivilgesellschaft: eine Institution, die sicherstellt, dass die Technologie unserer Zukunft unseren ethischen Ansprüchen genügt, damit die nächsten Generationen in Frieden und Sicherheit aufwachsen können. Und die die rote Karte zieht, wenn wir davon abweichen.

Ich fordere einen Zusammenschluss von Politik, Privatwirtschaft und Zivilgesellschaft: Eine Institution, die sicherstellt, dass die Technologie unserer Zukunft unseren ethischen Ansprüchen genügt.

Was muss denn eine KI mitbringen, um „fair“ zu sein?

In den Medien ist oft von diskriminierenden Algorithmen die Rede. Aber es ist nicht die KI, die diskriminierend, rassistisch oder sexistisch ist. Der Algorithmus trifft seine Entscheidungen auf Basis von Trainingsdaten – und hier liegt das Problem: Denn in den Trainingsdaten sind bestimmte Gruppen, etwa Frauen, oft unterrepräsentiert. Diskriminierung entsteht also nicht erst durch KI, sondern durch menschliches Verhalten. Die schnelle Verbreitung von KI zeigt uns gerade deutlich die Mängel unserer Gesellschaft: Dass Rassismus ein strukturelles Problem ist und Gleichberechtigung noch lange nicht erreicht wurde. Deswegen muss der Trainingssatz, mit dem wir die KI füttern, divers sein. Sind darin bestimmte Attribute, etwa Ethnie oder Geschlecht, unter- oder überrepräsentiert, sollte uns das alarmieren. Nur weil etwas Realität ist – zum Beispiel, dass Führungspositionen öfter von weißen Männern bekleidet werden – heißt das nicht, dass eine KI dies als richtig erlernen soll. Um eine gerechtere Gesellschaft zu schaffen, müssen die Daten von Menschen mit unterschiedlichen Lebensrealitäten ausgewogen im Trainingssatz der KI abgebildet sein. Diversität in der Tech-Branche ist keine Luxusdebatte. Vielmehr geht es darum, wie unsere Welt von morgen aussieht.

Spielt dabei auch eine Rolle, wie divers das Team ist, das die KI entwickelt? 

Zwar bin ich als migrantische Frau in einem Tech-Team nicht automatisch Expertin in Gender- und Anti-Rassismus-Fragen – aber dennoch steigt, weil ich Teil des Teams bin, die Wahrscheinlichkeit, dass meine Perspektive und Bedürfnisse bei der Entwicklung von KI-Anwendungen berücksichtigt werden. Einer der Gründe, warum wir mehr Frauen in der Tech-Branche brauchen. Damit das gelingt, müssen Tech-Unternehmen ihre Stellenanzeigen und Recruiting-Prozesse stärker auf Frauen ausrichten und Möglichkeiten zum Quereinstieg schaffen. Hier erwarte ich von den Unternehmen größere Flexibilität und von der Arbeitsmarktpolitik eine stärkere Förderung. Vor allem in die Quereinstiege von Frauen. Frauen arbeiten überproportional häufig im Dienstleistungs- oder Servicesektor und weisen im Durchschnitt leider immer noch einen niedrigeren Bildungsstand auf. Deswegen sind sie stärker als Männer davon bedroht, ihren Job aufgrund von Automatisierung zu verlieren.

KI, aber fair? So geht’s: Die Checkliste zum Start