Gefährliche KI: Angestellte von Google und OpenAI sind besorgt

Angestellte von KI-Firmen sind besorgt

Im März hatte bereits ein Software-Ingenieur bei Microsoft seine Sorge über den hauseigenen KI-Assistenten Copilot zu Protokoll gegeben und das Programm als "gefährlich und verstörend" bezeichnet. Jetzt wenden sich auch Mitarbeiter von OpenAI und Google DeepMind in einem offenen Brief an die Allgemeinheit. Auch sie warnen vor Gefahren durch künstliche Intelligenz.

Dem Brief zufolge gäbe es aufgrund der momentanen Entwicklungen das Risiko einer weiteren Verfestigung bestehender Ungleichheiten, der Manipulation und Fehlinformation sowie des Verlusts der Kontrolle über autonome KI-Systeme, was laut dem Schreiben zum Aussterben der Menschheit führen könnte.

Verfasser fordern besseren Schutz für Whistleblower

Die KI-Unternehmen hätten "starke finanzielle Anreize", eine Beaufsichtigung durch öffentliche Einrichtungen zu verhindern. Weiter heißt es:

"Solange es keine wirksame staatliche Aufsicht über diese Unternehmen gibt, gehören die derzeitigen und ehemaligen Mitarbeiter zu den wenigen Personen, die sie gegenüber der Öffentlichkeit zur Rechenschaft ziehen können. Doch weitreichende Vertraulichkeitsvereinbarungen hindern uns daran, unsere Bedenken zu äußern, es sei denn, wir wenden uns an die Unternehmen selbst, die diese Probleme möglicherweise nicht angehen. Der übliche Schutz für Informanten ist unzureichend, da er sich auf illegale Aktivitäten konzentriert, während viele der Risiken, die uns Sorgen bereiten, bislang nicht geregelt sind."

Die Verfasser fordern daher einen besseren Schutz für Whistleblower, unterbreiten aber gleichzeitig Vorschläge für interne Unternehmensprozesse, damit es erst gar nicht zu einem entsprechenden Vorfall kommen muss. Neben sieben ehemaligen Angestellten von OpenAI haben auch vier momentan dort Arbeitende den Brief unterzeichnet. Auch ein ehemaliger sowie ein aktueller Mitarbeiter von Google DeepMind sind an dem Schreiben beteiligt.

Warnungen von Experten häufen sich

In letzter Zeit melden sich immer wieder Mitarbeiter von KI-Firmen oder Experten aus dem Bereich der Forschung zu künstlicher Intelligenz zu Wort und warnen vor möglichen verheerenden Folgen. Erst vor ein paar Wochen teilten mehrere Koryphäen auf dem Gebiet ihre Sorge mit. Auch sie warnten ebenfalls vor einer Auslöschung der Menschheit durch KI, wenn bei der aktuellen Entwicklung und Nutzung der Technologie nicht vermehrt auf Sicherheit geachtet würde.

Zusammenfassung

• Mitarbeiter von OpenAI und Google DeepMind warnen in einem offenen Brief vor KI
• Risiken: Verfestigung bestehender Ungleichheiten, Manipulation und Fehlinformation
• Verlust der Kontrolle über autonome KI-Systeme könnte zum Aussterben führen
• KI-Unternehmen haben finanzielle Anreize, Schutzmaßnahmen zu vernachlässigen
• Vertraulichkeitsvereinbarungen hindern Mitarbeiter, Bedenken zu äußern
• Forderung nach besserem Schutz für Whistleblower in der KI-Branche
• Auch andere Experten warnen vor verheerenden Folgen, wenn Sicherheitsaspekte vernachlässigt werden