Alibabas CTO über alles, was Sie schon immer über KI-Ethik wissen wollten (aber zu viel Angst hatten zu fragen)

Die Alibaba Group hat einen Technologieausschuss mit sechs Leitprinzipien gegründet, um die Forschung und Entwicklung der Ethik der künstlichen Intelligenz zu steuern.

Das Ethikkomitee wird einen ethischen Rahmen für KI entwerfen und umsetzen, der Vorschriften und Mechanismen für die Rechenschaftspflicht in Schlüsselbereichen wie Algorithmus-Governance und Schutz der Privatsphäre umfasst.

2022 09 Cheng Li Alibaba Group
“Das Tech-Ethik-Komitee soll ein Gatekeeper für Tech-Innovationen werden”, sagte Cheng Li, Chief Technology Officer der Alibaba Group, der das Komitee leiten wird. ©Alibaba Group

Sieben unabhängige Experten aus den Bereichen Technologie, Recht und Philosophie werden dem Ausschuss angehören. Sie werden neben Mitgliedern der Alibaba-Forschungsabteilung DAMO Academy, den Rechts- und Compliance-Teams des Unternehmens und anderen sitzen.

“Das Tech-Ethik-Komitee soll ein Gatekeeper für Tech-Innovationen werden”, sagte Cheng Li, Chief Technology Officer der Alibaba Group, der das Komitee leiten wird.

Am Vorabend des Starts sprach Alizila mit Cheng über die Gründung des Ausschusses und bat ihn, einige der wichtigsten ethischen Bedenken in Bezug auf KI und maschinelles Lernen anzusprechen.

Q. Was sind die größten Sorgen der Menschen, wenn es um KI geht?

A. KI und maschinelles Lernen haben sich mit immer breiteren Anwendungen in verschiedenen Aspekten der Gesellschaft ausgebreitet. Inzwischen stehen wir aber auch vor verschiedenen Herausforderungen, darunter ethische Dilemmata, die die Öffentlichkeit beunruhigen.

So nutzen beispielsweise E-Commerce-Plattformen Empfehlungsalgorithmen, um den Verbrauchern maßgeschneiderte Produktvorschläge zu machen. Während die KI die Treffergenauigkeit kostengünstig verbessert, wirft sie auch Kontroversen auf, wie etwa den Matthew-Effekt, der bewirkt, dass “die Reichen reicher und die Armen ärmer werden”.

Wenn ein KI-Modell Varianten wie Klickrate und Konversionsrate einbezieht, begünstigt es Spitzenverkäufer und schafft einen unfairen Markt für kleinere Händler.

Es gibt viele Faktoren, die die Fairness von Algorithmen untergraben, z. B. minderwertige Trainingsdaten, ein unzureichendes Bewusstsein für die KI-Governance und Schwächen im Design des Algorithmus selbst.

Q. Wie kann Alibaba dazu beitragen, diesen “Winner takes all”-Effekt zu verringern?

A. Verschiedene Faktoren führen zu KI-Dilemmata, wie zum Beispiel der Matthew Effekt. Wenn man sich bei der Entwicklung von Algorithmen zu sehr auf Klick- und Konversionsraten verlässt, führt dies zu einer schlechten Nutzererfahrung. Die Blackbox des Deep Learning schafft auch Herausforderungen für die Systemoptimierung und das menschliche Eingreifen.

Aus diesem Grund haben wir in Spitzentechnologien wie erklärbare KI und die Optimierung des Verwaltungsverfahrens investiert, um ein faires Umfeld für Händler zu schaffen. Wir haben zum Beispiel einen speziellen Bereich für neue Produkte eingerichtet. Dies hilft kleinen Händlern, neue Artikel zu finden, die sonst aufgrund des geringen Verkehrsaufkommens unbemerkt geblieben wären.

In der Zwischenzeit haben wir einen Algorithmus entwickelt, der auf multimodalem Transfer-Lernen basiert, um das Wachstumspotenzial neuer Produkte von kleinen Händlern vorherzusagen und den Traffic kostengünstig auf diese vielversprechenden neuen Artikel zu lenken.

Q. Was leitet Alibaba bei der Entwicklung von KI?

A. Das Technology Ethics Committee von Alibaba hat sechs zentrale Leitprinzipien vorgeschlagen, an die wir uns bei der Entwicklung unserer eigenen KI-Technologien halten werden. Diesen Prinzipien folgend werden wir auch unsere Investitionen in verwandte Technologien erhöhen, einschließlich datenschutzfreundlicher Berechnungen, erklärbarer KI und Datensicherheit.

Zu den sechs vom Ausschuss vorgeschlagenen Grundprinzipien gehören: Menschenzentriertheit, Inklusivität und Integrität, Sicherheit und Zuverlässigkeit, Schutz der Privatsphäre, Vertrauenswürdigkeit und Verantwortlichkeit sowie Offenheit und Zusammenarbeit.

Q. Können Sie einige von Alibabas ethischen KI-Praktiken nennen?

A. Wir haben bereits in die Förderung ethischer KI-Praktiken in Bereichen wie dem Schutz persönlicher Daten und algorithmischer Fairness investiert. Nehmen Sie den Suchalgorithmus auf unseren E-Commerce-Plattformen als Beispiel. Wir haben Technologien entwickelt, um die Vielfalt der Suchergebnisse zu erhöhen und Shops von neuen Händlern zu fördern.

Außerdem haben wir in jeder Alibaba-Geschäftseinheit Kollegen für den Schutz der Privatsphäre und die Datensicherheit benannt. So hat beispielsweise Taobao in diesem Jahr einen Dienst zum Schutz privater Telefonnummern eingeführt, so dass die Telefonnummern der Verbraucher nicht sichtbar sind, wenn sie Händler oder Logistikdienstleister kontaktieren.

Wir investieren auch in verschiedene Spitzentechnologien wie erklärbare KI und datenschutzfreundliche Berechnungen, um die Transparenz und Fairness der Algorithmen zu erhöhen, die Privatsphäre unserer Nutzer zu schützen und die Datensicherheit zu verbessern. Wir haben bereits mehrere wissenschaftliche Arbeiten über erklärbare KI veröffentlicht, indem wir unsere eigenen erklärbaren Deep-Learning-Modelle und Kausalschlussmodelle sowie White-Box-Modelle entwickelt haben.

In der Zwischenzeit haben wir den Einsatz von erklärbarer KI in Bereichen wie der intelligenten Risikobewertung erforscht. Wir haben unsere erklärungsfähigen KI-Technologien im Alibaba-Ökosystem eingesetzt, um unsere Kunden zu unterstützen, z. B. Stromnetze und neue Energiekraftwerke für Stromverbrauchsprognosen.

Q. Wie sieht Alibaba Herausforderungen wie Deepfakes und wie geht es damit um?

A. Deepfakes sind eigentlich das Produkt der Deep-Synthesis-Technologie, die Deep Learning und virtuelle Realität nutzt, um Text, Bild, Audio, Video und eine virtuelle Szene zu erzeugen. Sie kann in Bereichen wie der medizinischen Forschung hilfreich sein. Sie kann aber auch dazu verwendet werden, Videos und Bilder zu erstellen, die Dinge darstellen, die nie passiert sind.

Solche gefälschten Videos mit unangemessenen Kommentaren könnten den Ruf von Personen schädigen, insbesondere wenn es sich um Persönlichkeiten des öffentlichen Lebens handelt. Alibaba hat einen KI-Governance-Rahmen vorgeschlagen, um den unangemessenen Einsatz von KI zu bekämpfen.

Wir sind optimistisch, dass führende Technologien wie KI zum Nutzen der Gesellschaft und des Gemeinwohls eingesetzt werden können.

Wir hoffen, dass wir gemäß den sechs vom Alibaba Technology Ethics Committee vorgeschlagenen Grundprinzipien die nachhaltige Entwicklung fortschrittlicher Technologien vorantreiben können, die der Gesellschaft insgesamt zugutekommen, echte Werte für heutige und künftige Generationen schaffen und das Wirtschaftswachstum langfristig ankurbeln.