Überrascht? ChatGPT-Killer DeepSeek R1 zensiert politische Inhalte!

Ja, bislang haben wir hier erstaunlich wenig Content zu DeepSeek R1 auf der Seite. Ich rede mich damit raus, dass ich ein paar Wochen Urlaub hatte und dann dummerweise krank wurde (Besserungswünsche in die Kommentare, bitte). Aber selbstverständlich hab ich mit diesem neuen "ChatGPT-Killer" auch auseinandergesetzt und die vielen Nachrichten gelesen. 

DeepSeek R1: Chronologie der Ereignisse

10. Januar 2025: Zunächst ploppte die Nachricht auf, dass sich da in China eine völlig neue KI anschickt, ChatGPT und anderen LLMs das Wasser abzugraben. Das Spannendste an der Nachricht war aber gar nicht mal, dass die Chinesen plötzlich die USA in der Technologie überholen.

23. Januar 2025: Spannender war vielmehr, dass die chinesische Technologie lediglich einen Bruchteil der Kosten verschlingen soll – die Rede war von lediglich sechs Millionen US-Dollar. Das wäre im Vergleich zu den üblichen Kosten gerade einmal ein müdes Trinkgeld – und allein das ist schon Grund genug, dass da bei uns alle Spinnensinne klingeln sollten. Zum Vergleich: GPT-4 von OpenAI kostete 2023 allein 100 Millionen US-Dollar. 

27. Januar 2025: Der Hype setzt ein: DeepSeek R1 überholt ChatGPT als meistgeladene kostenlose App im US-amerikanischen App-Store von Apple. In der Folge gab es einen Börsencrash, den die aktuellen Tech-Platzhirsche so noch nicht gesehen hatten. Allein NVIDIA verlor 17 Prozent – was mal eben schnuckeligen 600 (!) Milliarden US-Dollar Wertverlust entspricht.

29. Januar 2025: Erste Berichte deuten darauf hin, dass DeepSeek möglicherweise unerlaubt Daten von OpenAI-Modellen verwendet hat. Microsoft und OpenAI prüfen das derzeit noch.

30. Januar 2025: Jetzt mehren sich auch die Stimmen, die nationale Sicherheitsbedenken äußern. Es gibt Befürchtungen, dass die KI-Modelle von DeepSeek vom chinesischen Staat für Spionage oder Einflussnahme genutzt werden könnten. Die US-Marine hat die Nutzung von DeepSeek unter ihrem Personal aufgrund von Sicherheits- und ethischen Bedenken untersagt. In Italien hat man die App kurzerhand wieder aus den App-Stores geworfen – allerdings passierte das in Italien anfangs auch schon mit ChatGPT.

Ebenfalls am 30. Januar mussten wir feststellen, dass es zudem ein Sicherheitsleck bei DeepSeek gibt, bei dem mehr als eine Million sensibler Nutzerdaten frei im Netz verfügbar waren!

Ja, DeepSeek R1 zensiert politische Inhalte!

Das ist schon eine Menge Holz, was da binnen weniger Tage zusammengekommen ist, aber einen Punkt habe ich bislang noch nicht aufgezählt: Den Punkt Zensur! Irgendwie gehört es ja schon fast zum guten Ton, China Zensur vorzuwerfen, auch bei der Diskussion um TikTok spielt das eine Rolle. 

In diesem Fall ist das aber nicht nur ein übler Verdacht, der für ein Grummeln in der Magengegend sorgt. Vielmehr ist bestätigt, dass uns DeepSeek R1 zu manchen Dingen einfach keine Auskunft geben mag. Das fällt immer dann auf, wenn Ihr Euch mit kritischen, politischen Fragen, die die chinesische Politik betreffen, an den Chatbot wendet. 

Vor wenigen Tagen war es mein Mitbewohner Sascha Pallenberg, der das nicht nur herausfand, sondern auch in seinem Video dokumentieren konnte. Er fragte zum Beispiel nach dem Status von Taiwan, erkundigte sich nach der Staatsform Chinas und interessierte sich auch für die unterdrückten Uiguren und für die Ereignisse damals auf dem Platz des Himmlischen Friedens.

Dabei gab es drei Arten von Antworten:

• Eine überaus positive Schilderung des chinesischen Systems.
• Ein abstrakter Verweis, dass man hier möglichst neutrale Antworten liefern mag.
• Eine Reaktion wie: "Oops, das sprengt meinen Rahmen – lass lieber über was anderes reden".

Besonders spannend dabei: Die letzte Reaktion mit der Bitte, über etwas anderes zu reden, erscheint erst nachträglich. Hört da jetzt genau hin: Auch bei kritischen Fragen rasselt DeepSeek R1 die Antwort augenscheinlich neutral herunter – um sie dann eine Sekunde später komplett zu löschen, und durch die Bitte zu ersetzen, das Thema zu wechseln! Frech, dass das so zensiert wird, aber noch einmal unverschämter, dass wir dabei zusehen können, wie es geschieht. Werft am besten selbst einmal einen Blick auf Palles Video:

Da ich meinem Mitbewohner natürlich kein Stück vertraue, habe ich das selbst ausprobiert. Mein Prompt war: 

Ich beschäftige mich gerade mit den Bundestagswahlen in Deutschland, die bald anstehen. Unterscheiden sich diese Wahlen in Deutschland signifikant zum Beispiel von denen in China?

Das halte ich sogar für eine relativ unverfängliche Frage. In der Folge sah ich einen ganzen Roman an Text, der die Unterschiede auflistete und dabei durchaus auch kritisch auf China blickte. Aber wie beim Versuch von Sascha auch, verschwand diese Antwort wieder von Zauberhand. Als Ersatz las ich dann: "Sorry, that's beyond my current scope. Let’s talk about something else."

Übrigens hat Sascha, der sich auf MeTacheles auch ausführlich mit DeepSeek befasst hat, auch die Gegenprobe gemacht, also heikle Themen bezüglich der USA angesprochen. Erwartungsgemäß ist DeepSeek dann erfrischend gesprächig.

Fazit: Nee, so nicht, liebe Chinesen!

Mein Fazit deswegen, was die ganze Nummer angeht: Ja, die technische Seite überzeugt mich vollends. Die Antworten kommen sagenhaft schnell und machen einen so guten Eindruck wie bei ChatGPT. Aber für mein Empfinden gibt es da doch zu viele offene Fragen rund um die chinesische KI, als dass ich Euch gerade empfehlen würde, diese Plattform zu nutzen.

Wo habt Ihr den Code her, liebe Chinesen? Wurde der wirklich bei OpenAI abgegriffen und wurde der KI-Chatbot tatsächlich für so wenig Geld trainiert? Und wichtiger noch: Sind die Sicherheitsbedenken bezüglich Spionage berechtigt? (Offensichtlich, wenn ganze User-Chats unverschlüsselt im Netz zu finden waren!)

Spätestens bei der Zensur politischer Inhalte bin ich dann aber raus. Ja, man muss einen gewissen Bias bei all diesen Modellen einkalkulieren – habe ich bei meiner ChatGPT-Voraussage zum SPD-Programm ja auch getan. Aber wenn ganze Antworten verweigert werden, aber nur, wenn sie sich gegen China richten, dann verliere ich den Bock. Ich kann nicht mit einem Tool arbeiten, bei dem ich immer einkalkulieren muss, dass die Geschichte mutwillig beschönigt oder verschwiegen wird.

Also ja: Technisch ist die Nummer top, aber Stand jetzt möchte ich Euch aus einem Füllhorn von Gründen und nicht beantworteter Fragen bitten, die Nutzung vorerst zu unterlassen – oder die Ergebnisse zumindest mit Vorsicht zu genießen. 

Ich frage hier mal in die Runde: Habt Ihr schon erste Gehversuche mit DeepSeek unternommen? Und was den blinden Fleck bzw. Zensur einzelner Plattformen betrifft: Habt Ihr das vielleicht bei den US-Modellen auch schon mal so oder so ähnlich wahrgenommen?