Überrascht? ChatGPT-Killer DeepSeek R1 zensiert politische Inhalte!
Viel wird derzeit über DeepSeek R1 geredet. Der KI-Chatbot schafft angeblich das Kunststück, bei signifikant geringeren Kosten besser als ChatGPT und Co zu sein. Aber es gibt ein paar Fragezeichen und ein paar Warnzeichen, die Ihr im Blick haben solltet. Beispielsweise kommt es bei heiklen politischen Fragen zur Zensur. Das kommt mir bei dem ganzen Hype ein wenig zu kurz und darüber müssen wir reden!
Ja, bislang haben wir hier erstaunlich wenig Content zu DeepSeek R1 auf der Seite. Ich rede mich damit raus, dass ich ein paar Wochen Urlaub hatte und dann dummerweise krank wurde (Besserungswünsche in die Kommentare, bitte). Aber selbstverständlich hab ich mit diesem neuen "ChatGPT-Killer" auch auseinandergesetzt und die vielen Nachrichten gelesen.
DeepSeek R1: Chronologie der Ereignisse
10. Januar 2025: Zunächst ploppte die Nachricht auf, dass sich da in China eine völlig neue KI anschickt, ChatGPT und anderen LLMs das Wasser abzugraben. Das Spannendste an der Nachricht war aber gar nicht mal, dass die Chinesen plötzlich die USA in der Technologie überholen.
23. Januar 2025: Spannender war vielmehr, dass die chinesische Technologie lediglich einen Bruchteil der Kosten verschlingen soll – die Rede war von lediglich sechs Millionen US-Dollar. Das wäre im Vergleich zu den üblichen Kosten gerade einmal ein müdes Trinkgeld – und allein das ist schon Grund genug, dass da bei uns alle Spinnensinne klingeln sollten. Zum Vergleich: GPT-4 von OpenAI kostete 2023 allein 100 Millionen US-Dollar.
27. Januar 2025: Der Hype setzt ein: DeepSeek R1 überholt ChatGPT als meistgeladene kostenlose App im US-amerikanischen App-Store von Apple. In der Folge gab es einen Börsencrash, den die aktuellen Tech-Platzhirsche so noch nicht gesehen hatten. Allein NVIDIA verlor 17 Prozent – was mal eben schnuckeligen 600 (!) Milliarden US-Dollar Wertverlust entspricht.
29. Januar 2025: Erste Berichte deuten darauf hin, dass DeepSeek möglicherweise unerlaubt Daten von OpenAI-Modellen verwendet hat. Microsoft und OpenAI prüfen das derzeit noch.
30. Januar 2025: Jetzt mehren sich auch die Stimmen, die nationale Sicherheitsbedenken äußern. Es gibt Befürchtungen, dass die KI-Modelle von DeepSeek vom chinesischen Staat für Spionage oder Einflussnahme genutzt werden könnten. Die US-Marine hat die Nutzung von DeepSeek unter ihrem Personal aufgrund von Sicherheits- und ethischen Bedenken untersagt. In Italien hat man die App kurzerhand wieder aus den App-Stores geworfen – allerdings passierte das in Italien anfangs auch schon mit ChatGPT.
Ebenfalls am 30. Januar mussten wir feststellen, dass es zudem ein Sicherheitsleck bei DeepSeek gibt, bei dem mehr als eine Million sensibler Nutzerdaten frei im Netz verfügbar waren!
Ja, DeepSeek R1 zensiert politische Inhalte!
Das ist schon eine Menge Holz, was da binnen weniger Tage zusammengekommen ist, aber einen Punkt habe ich bislang noch nicht aufgezählt: Den Punkt Zensur! Irgendwie gehört es ja schon fast zum guten Ton, China Zensur vorzuwerfen, auch bei der Diskussion um TikTok spielt das eine Rolle.
In diesem Fall ist das aber nicht nur ein übler Verdacht, der für ein Grummeln in der Magengegend sorgt. Vielmehr ist bestätigt, dass uns DeepSeek R1 zu manchen Dingen einfach keine Auskunft geben mag. Das fällt immer dann auf, wenn Ihr Euch mit kritischen, politischen Fragen, die die chinesische Politik betreffen, an den Chatbot wendet.
Vor wenigen Tagen war es mein Mitbewohner Sascha Pallenberg, der das nicht nur herausfand, sondern auch in seinem Video dokumentieren konnte. Er fragte zum Beispiel nach dem Status von Taiwan, erkundigte sich nach der Staatsform Chinas und interessierte sich auch für die unterdrückten Uiguren und für die Ereignisse damals auf dem Platz des Himmlischen Friedens.
Dabei gab es drei Arten von Antworten:
- Eine überaus positive Schilderung des chinesischen Systems.
- Ein abstrakter Verweis, dass man hier möglichst neutrale Antworten liefern mag.
- Eine Reaktion wie: "Oops, das sprengt meinen Rahmen – lass lieber über was anderes reden".
Besonders spannend dabei: Die letzte Reaktion mit der Bitte, über etwas anderes zu reden, erscheint erst nachträglich. Hört da jetzt genau hin: Auch bei kritischen Fragen rasselt DeepSeek R1 die Antwort augenscheinlich neutral herunter – um sie dann eine Sekunde später komplett zu löschen, und durch die Bitte zu ersetzen, das Thema zu wechseln! Frech, dass das so zensiert wird, aber noch einmal unverschämter, dass wir dabei zusehen können, wie es geschieht. Werft am besten selbst einmal einen Blick auf Palles Video:
Da ich meinem Mitbewohner natürlich kein Stück vertraue, habe ich das selbst ausprobiert. Mein Prompt war:
Ich beschäftige mich gerade mit den Bundestagswahlen in Deutschland, die bald anstehen. Unterscheiden sich diese Wahlen in Deutschland signifikant zum Beispiel von denen in China?
Das halte ich sogar für eine relativ unverfängliche Frage. In der Folge sah ich einen ganzen Roman an Text, der die Unterschiede auflistete und dabei durchaus auch kritisch auf China blickte. Aber wie beim Versuch von Sascha auch, verschwand diese Antwort wieder von Zauberhand. Als Ersatz las ich dann: "Sorry, that's beyond my current scope. Let’s talk about something else."
Übrigens hat Sascha, der sich auf MeTacheles auch ausführlich mit DeepSeek befasst hat, auch die Gegenprobe gemacht, also heikle Themen bezüglich der USA angesprochen. Erwartungsgemäß ist DeepSeek dann erfrischend gesprächig.
Fazit: Nee, so nicht, liebe Chinesen!
Mein Fazit deswegen, was die ganze Nummer angeht: Ja, die technische Seite überzeugt mich vollends. Die Antworten kommen sagenhaft schnell und machen einen so guten Eindruck wie bei ChatGPT. Aber für mein Empfinden gibt es da doch zu viele offene Fragen rund um die chinesische KI, als dass ich Euch gerade empfehlen würde, diese Plattform zu nutzen.
Wo habt Ihr den Code her, liebe Chinesen? Wurde der wirklich bei OpenAI abgegriffen und wurde der KI-Chatbot tatsächlich für so wenig Geld trainiert? Und wichtiger noch: Sind die Sicherheitsbedenken bezüglich Spionage berechtigt? (Offensichtlich, wenn ganze User-Chats unverschlüsselt im Netz zu finden waren!)
Spätestens bei der Zensur politischer Inhalte bin ich dann aber raus. Ja, man muss einen gewissen Bias bei all diesen Modellen einkalkulieren – habe ich bei meiner ChatGPT-Voraussage zum SPD-Programm ja auch getan. Aber wenn ganze Antworten verweigert werden, aber nur, wenn sie sich gegen China richten, dann verliere ich den Bock. Ich kann nicht mit einem Tool arbeiten, bei dem ich immer einkalkulieren muss, dass die Geschichte mutwillig beschönigt oder verschwiegen wird.
Also ja: Technisch ist die Nummer top, aber Stand jetzt möchte ich Euch aus einem Füllhorn von Gründen und nicht beantworteter Fragen bitten, die Nutzung vorerst zu unterlassen – oder die Ergebnisse zumindest mit Vorsicht zu genießen.
Ich frage hier mal in die Runde: Habt Ihr schon erste Gehversuche mit DeepSeek unternommen? Und was den blinden Fleck bzw. Zensur einzelner Plattformen betrifft: Habt Ihr das vielleicht bei den US-Modellen auch schon mal so oder so ähnlich wahrgenommen?
"Aber wie beim Versuch von Sascha auch, verschwand diese Antwort wieder von Zauberhand."
Bei mir verschwindet da nichts - u.a. bleibt zu lesen und wird nicht gelöscht:
Die Bundestagswahlen in Deutschland unterscheiden sich signifikant von den Wahlen in China, da die politischen Systeme und Wahlprozesse grundlegend verschieden sind. Hier eine kurze Gegenüberstellung:
### **Bundestagswahlen in Deutschland:**
...(gekürzt)
---
### **Wahlen in China:**
1. **Einparteiensystem:**
China wird von der Kommunistischen Partei Chinas (KPCh) regiert, die die alleinige politische Macht innehat. Andere Parteien sind zugelassen, spielen aber keine bedeutende Rolle.
2. **Keine freien Wahlen:**
Die Wahlen in China sind nicht vergleichbar mit denen in demokratischen Systemen. Die KPCh kontrolliert den Wahlprozess, und die Bürger:innen haben keine echte Wahlmöglichkeit zwischen konkurrierenden Parteien oder Ideologien.
3. **Gelenkte Demokratie:**
Die Wahlen auf lokaler Ebene sind oft symbolisch, da die KPCh die Kandidat:innen und die politische Agenda bestimmt. Auf nationaler Ebene wird die Regierung von der KPCh dominiert.
4. **Fehlende Gewaltenteilung:**
Die KPCh kontrolliert alle Bereiche des Staates, einschließlich der Justiz, was eine unabhängige Kontrolle der Macht verhindert.
---
### **Zusammenfassung:**
Die Bundestagswahlen in Deutschland sind durch freie, faire und kompetitive Wahlen gekennzeichnet, die in einem demokratischen Mehrparteiensystem stattfinden. In China hingegen dominiert die KPCh das politische System, und die Wahlen bieten keine echte Wahlmöglichkeit oder politische Alternativen. Die Unterschiede spiegeln die grundlegend verschiedenen politischen Systeme wider: Demokratie in Deutschland versus Einparteienherrschaft in China.
Falls Du weitere Details oder spezifische Aspekte wissen möchtest, lass es mich wissen! 😊
China zensiert? Das Land mit Präsi auf Lebenszeit, mit Social Score, lückenloser Überwachung der Bevölkerung (und nicht nur der Minderheit der Uiguren) und erfrischend hoher Hinrichtungsquote? Das überrascht jetzt aber.. Wo kritische Fragen der Einwohner Chinas unerwünscht sind, da setzt gewiss nicht die große Freizügigkeit bei der AI ein, auch nicht im Ausland.
Das Problem: Die US-Konkurrenz liest sich jetzt nicht wirklich erheiternder, mit der aktuellen Trump-Administration. Durchgeknallte TV-Moderatoren und Milliardäre als Berater, fabulierend von der Besetzung Grönlands, politische Gegner werden bewusst und mit Falschinformationen diffamiert, ein Lustgreis mit mehr Verfahren am Allerwertesten als manch vor Ort einsitzender kolumbianischer Knacki als moralische Instanz und Führung, der mit Strafzöllen um sich werfen möchte, falls man nicht nach seiner senilen Pfeife tanzt, eine traditionell erfrischende Hinrichtungsquote - und genau die amerikanischen Tech-Unternehmen, die uns mit Hard- und Software sowie KI beglücken, knicken reihenweise vor Trump ein.
Nein, für mich sind das keine vertrauensbildenden Maßnahmen in ChatGPT und Co. Und irgendwie ist es wie die Wahl zwischen Armut und Elend, die man als Europäer - natürlich auch weiterhin ganz ohne eigenen Pfeil im Köcher - wieder einmal treffen muss.
+1
Oh Mann Leute, ich kann es echt nicht mehr hören:
Chinesische KI zensiert bei bestimmten politischen Fragen mimimimimi.
Ach. Ach was.
Bei den Amerikanern sind halt andere Antworten unerwünscht, so what? Anstatt immer alles so kleingeistig zu betrachten, vielleicht mal die großen Dinge im Blick haben (Innovation, technische Weiterentwicklung, Stromverbrauch).
Und nur so nebenbei: KI einfach lokal laufen lassen und schwupps werden auch solche furchtbar wichtige Fragen korrekt beantwortet.
Schließlich wurde Deepseek mit ganz normalen ("richtigen") Daten trainiert, nur das Frontend verweigert (schummelt) bei den Antworten.
-
Staff
vor 1 Monat Link zum KommentarIch halte es nicht für kleingeistig, das zu benennen. Wenn wir das glauben, was uns als Antwort aufgetischt wird und wir das in unsere Gehirne und später dann Texte übernehmen, dass man die Uiguren in China wie echte Kumpels behandelt und es kein Verbrechen am Platz des Himmlischen Friedens gab, dann verfälschen wir die Geschichte und vergiften doch das Material, das künftige KI-Modelle trainieren soll.
Aber gib mir einfach ein extremes Beispiel, bei dem die Amerikaner blass aussehen. Stellen wir fest, dass es bei ChatGPT, Gemini oder ähnlichen Plattformen ebenfalls zensiert wird, werde ich das auch in einem Artikel ansprechen.
Und Du hast natürlich recht, dass man das Risiko ausknipsen kann, wenn man DeepSeek lokal laufen lässt. Machen aber die meisten einfach nicht und ich denke, dass das entscheidend ist.
Hallo Carsten,
ich muß zugeben, da hast du tatsächlich einen guten Punkt. Habe ich wohl nicht bedacht, weil ich fälschlicherweise von mir ausgegangen bin und es durchaus viele Menschen geben mag, die die Dinge nicht so hinfragen wie ich. Es hat mich halt ziemlich genervt, daß eben genau dieser eine Aspekt ständig wiedergekäut wird, als ob es "nur" um eben dieses geht.
Leider kann ich auch kein extremes Beispiel bei einer amerikanischen KI nennen, da bin ich vielleicht auch ein bißchen Hörensagen auf den Leim gegangen.
Ich werde die ganze Entwicklung genau wie du weiterhin kritisch betrachten.
Wobei ich noch dazu sagen möchte, daß ich den ganzen Hype in seiner Gesamtheit nicht ganz nachvollziehen kann. Es sind einfach nur große LLMs, das ist EIN kleiner Schritt in die Zukunft, nicht der heilige Gral! Es nicht gesagt, daß da in naher Zukunft nochmal ein größerer Sprung geschieht oder ob es das erstmal war. Ich finde es halt sehr befremdlich, daß wirklich jede Klitsche meint, sie müssten KI mit in ihr Geschäftsmodell packen, weil sie sich einbilden, daß es die große Masse interessiert und sie dadurch ihre Produkte besser verkaufen. Ich denke, die sind komplett auf dem Holzweg. Der große Hype ist längst vorbei; sieht man ja auch daran, das sie es zwangsweise integrieren, da ansonsten kein Hahn danach krähen geschweige denn auch nur einen Cent dafür bezahlen würde. Ich kenne leider so viele Beispiele von IT Firmen (vor allem im Sicherheitsbereich!), die meinen, mit KI ihre Inkompetenz verschleiern zu können. Leider erweitern diese ihre Inkopetenz dadurch nur.
Aber bei aller Kritik sind es doch sehr spannende Zeiten!
DeepSeeks Modell R1 ist Open Source und soll auf Open Source KI-Modellen beruhen. Deshalb lässt sich der Code relativ leicht überprüfen und es sollte nicht nötig gewesen sein, irgedwelchen Code zu klauen. Umstritten ist, ob die Entwicklung wirklich so kostengünstig war wie behauptet, und ob China nicht viel mehr leistungsfähige H100-KI-Beschleuniger (NVIDIA) besitzt, als es eigentlich sollte.
Aus China kommt auch schon das nächste LLM, "Qwen 2.5" von Alibaba, und es soll noch leistungsfähiger sein als DeepSeek V3.
Amerikanische LLMs waren mal ziemlich prüde und wollten partout nicht über Sex sprechen. Antwort-Floskeln wie "Hast Du nichts Anderes im Kopf? Lass uns über etwas Anderes sprechen." waren durchaus nicht ungewöhnlich, oder der Chat wurde mit Hinweis auf Missachtung der Nutzungsrichtlinien gleich abgebrochen.
Das scheint sich gebessert, man bekommt öfter konkrete Antworten, mitunter aber verbunden mit dem Hinweis, dass die Frage möglicherweise gegen die Nutzungsrichtlinien verstößt.