Die dunkle Seite der Künstlichen Intelligenz: China geht den falschen Weg

Laut Kai-Fu Lee, dem weltbekannten KI-Experten und ehemaligen Präsidenten von Google China, stehen die Vereinigten Staaten kurz davor, von China in der KI-Entwicklung überholt zu werden. Im Gespräch mit TechCrunch erläuterte der hochkarätige Investor, wie sich das Kräfteverhältnis durch die Übernahme der ursprünglich in den USA entwickelten Technologie und die Nutzung der riesigen Datenbestände Chinas veränderte:

"China, als größter Marktplatz mit der größten Datenmenge, nutzt die KI, um jede Möglichkeit zu finden, um einen Mehrwert für traditionelle Unternehmen, das Internet und alle Bereiche zu schaffen. Das chinesische Unternehmer-Ökosystem ist riesig, so dass heute die wertvollsten KI-Unternehmen in den Bereichen Computer Vision, Spracherkennung und Drohnen alle chinesischen Unternehmen sind."

Es ist schwer, an Dinge wie Gesichtserkennung und Drohnen in China zu denken, ohne sich auch an die jüngsten Horrorgeschichten über die Unterdrückung von Dissidenten und Minderheiten im Land zu erinnern. Unterdrückung, die durch die Technologie umso effizienter wird.

AI und der Polizeistaat

Die Überwachung mit Gesichtserkennung und KI wird in China verstärkt und kann sich einiger Erfolge rühmen, wenn es darum geht, Kriminelle zu festzunehmen. Genutzt wird dazu etwa eine Sonnenbrille mit Gesichtserkennung, die die Polizei beim Scannen von Reisenden und Nummernschildern an Bahnhöfen und stark frequentierten Kontrollpunkten trägt. Ursprünglich auf ein Testgebiet in der Zhengzhou East Railway in der Provinz Henan beschränkt, werden sie auch in Peking und anderen Gebieten immer stärker eingesetzt.

Natürlich sind neben der Brille auch altmodische Kameras immer noch beliebt. China verfügt bereits über geschätzte 200 Millionen Überwachungskameras - viermal so viele wie die Vereinigten Staaten. In einigen Städten zeigen Billboard-Displays die Gesichter von unachtsamen Fußgängern und listen die Namen von Schuldnern auf, um sie zu beschämen. 

Obwohl die Datenbanken und Überwachungssysteme derzeit noch auf bestimmte Bereiche beschränkt sind, arbeitet China an einem nationalen Gesichtserkennungssystem, das darauf abzielt, jeden seiner 1,3 Milliarden Bürger innerhalb von drei Sekunden identifizieren zu können. 

Das sind viele Daten, die gesammelt werden müssen, aber Gesichtserkennungssysteme können jetzt schon dazu genutzt werden, Zugang zu Universitäten, Büros und Wohnanlagen zu gewähren, Zahlungen zu autorisieren und natürlich Smartphones freizuschalten. Das heißt aber nicht, dass die Menschen diese Technologie nicht zu schätzen wissen oder dass sie zu keiner Verbesserung des Komforts und der Lebensqualität führt. Das tut sie durchaus. Das Problem ist, dass, wenn alle personenbezogenen Daten über die Bürger von den Behörden auf diese Weise erfasst und verfolgt werden, dies auch die Entwicklung eines Hightech-Polizeistaates fördert.

So soll beispielsweise in der Grenzregion Xinjiang ein Gesichtserkennungssystem, das die Behörden alarmiert, wenn Zielpersonen sich mehr als 300 Meter von ihrem Zuhause oder Arbeitsplatz entfernen, eine Schlüsselrolle beim Zusammentreiben von uigurischen Muslimen, einer chinesischen Minderheit, in Lager spielen. China hat eine unmenschliche Behandlung von politischen Dissidenten und religiösen Minderheitengruppen zu verzeichnen, und die Technologie erlaubt es nun, dies effektiver umzusetzen.

Ist sowas auch im Rest der Welt möglich?

Ihr könntet nun versucht sein, die Situation in China als etwas abzutun, das nur unter einem offen autoritären Regime wie der Kommunistischen Partei möglich ist. Aber das würde bedeuten, den unersättlichen Hunger der Geheimdienste dieser Welt nach Daten und die Geschichte ihrer heimlichen Sammlung naiv zu ignorieren. 

Bereits 2013 stellte der ehemalige CIA-Vertragspartner Edward Snowden ein geheimes Überwachungsprogramm der NSA vor, das persönliche Daten sammelte und die Aktivitäten von Dutzenden Millionen Menschen überwachte. Das Prism-Programm der NSA hat direkt auf die Server von neun Internetunternehmen, darunter Facebook, Google, Microsoft und Yahoo, zugegriffen, um die Online-Kommunikationen zu verfolgen.

Während Chinas Grad der Überwachung wie eine Horrorgeschichte aus einem fernen Land erscheinen mag, vergesst nicht, dass wenn solche Behörden auf entsprechende Krisen hinweisen, selbst angeblich freiheitsliebende Nationen bereit sind, ein Stück der Freiheit für die Sicherheit zu opfern. Der Patriot Act der USA wurde in der Atmosphäre der Unsicherheit nach dem Terroranschlag vom 11. September 2001 verabschiedet, und obwohl die staatliche Überwachung offiziell in einigen Funktionen zurückgefahren wurde, braucht es nur einen weiteren Moment der Angst, um eine weitere Möglichkeit für die staatlichen Autoritäten zur Erweiterung ihrer Befugnisse zu schaffen.

Chinas Überwachung mag durch die offizielle Ansprache und die angebliche soziale Verantwortung verschleiert sein, aber sie wird offen ausgeübt. Und es geht nicht nur um die Regierung. Wir vertrauen viele unserer personenbezogenen Daten kommerziellen Diensten wie Facebook, Twitter und Google an, aber wie sicher sind sie wirklich? Erst nach dem Cambridge-Analytica-Skandal von Facebook nimmt der öffentliche Diskurs die Frage ernst, wie die riesigen Datenmengen, die wir unbedacht an Technologieunternehmen weitergegeben haben, um auf ihre Dienste zuzugreifen, missbraucht werden können.

Sowohl für Privatunternehmen als auch für Regierungsbehörden sollten ethische Fragen aufgeworfen werden, denn beide werden immer miteinander verbunden sein, sei es im Kapitalismus, im Kommunismus oder in anderen Bereichen dazwischen. In der heutigen globalen Wirtschaft ist ein Technologieunternehmen, das auf einem riesigen Datenspeicher sitzt, nicht unbedingt an die Regierung einer Nation gebunden.

Google zum Beispiel entdeckte sein Gewissen, als es unter dem Druck der Mitarbeiter beschloss, Project Maven, sein militärisches Drohnenprogramm, das maschinelles Lernen für die Objekterkennung der Waffen nutzte, einzustellen. Andererseits arbeitet das gleiche Unternehmen auch an Project Dragonfly, einer zensierten Suchmaschine für China, die die Suche mit Telefonnummern verknüpft, um es einfacher zu machen, Personen zu finden, die nach gefährlichen Themen suchen.

Westliche Unternehmen arbeiten an Projekten, die, obwohl sie angeblich dazu dienen, uns genau die Hemden zu verkaufen, die wir mögen oder die uns für Dienstleistungen interessieren, die unserem Geschmack entsprechen, unter entsprechenden Voraussetzungen gegen uns verwendet werden können. Im Moment ist die Fähigkeit von Unternehmen und Regierungen, große Datenmengen zu sammeln, weitaus größer als der Schutz der einfachen Menschen, und das muss sich ändern.

AI kann viel bewegen, aber wir müssen unsere Rechte schützen

Ich will hier keine Horrorgeschichte erzählen und verlangen, dass die Welt umgekrempelt wird. Ich bin ein Technik-Enthusiast und glaube immer noch, dass die KI große Dinge für uns tun wird - nicht nur, um Konsumgüter bequemer zu machen, sondern auch als ein Werkzeug, das humanitäre oder wohltätige Bemühungen effizienter machen kann, so wie sie Unterdrückung effizienter machen kann. Projekte wie AI for Humanitarian Action, bei denen Microsoft mit den Vereinten Nationen zusammenarbeitet, um humanitären NGOs und Menschenrechtsgruppen zu helfen, sind lobenswert und zeigen ein anderes Potenzial für die Entwicklung von KI. Es geht darum, die Technologie so zu steuern, dass sie zum Wohle der Menschheit eingesetzt wird.

Der erste Schritt dazu wäre eine breitere Anerkennung der Rechte der Bürger an ihren personenbezogenen Daten und eine Garantie einer gewissen Kontrolle über die Daten, die wir an Technologieunternehmen weitergeben. Die DSGVO-Vorschriften der Europäischen Union sind ein erster wichtiger Schritt, der aber durchaus noch seine Schwächen hat. Andere Nationen, wie z.B. die USA, tun sich mit solchen Veränderungen leider immer wieder sehr schwer.

Mit Social Media und Tech-Giganten, die vom US-Kongress aktuell wie nie zuvor untersucht werden, könnte es sein, dass das goldene Zeitalter für die Titanen der Tech-Industrie vorbei ist. An dieser Stelle ist es wichtig, unseren Gesetzgebern eine klare Botschaft zu übermitteln: dass die Bürger Schutz, ein Recht auf Privatsphäre und das Eigentum an ihren Daten verlangen.

Letztendlich müssen wir alle mit der Künstlichen Intelligenz sorgsam umgehen, denn alles und jeder ist heutzutage miteinander verbunden. Nicht in irgendeiner Art von Science Fiction vom Typ Skynet, sondern in einer Geschichte der Konsolidierung und des Machtmissbrauchs, die so alt ist wie die Geschichte selbst.

Quelle: TechCrunch