Google-KI soll Bewusstsein entwickelt haben: Entwickler beurlaubt
In anderen Sprachen lesen:
Ein Google-Ingenieur wurde beurlaubt, nachdem er in einem Bericht zum Schluss kam, dass der KI-basierte Chatbot LaMDA (Language Model for Dialogue Applications) ein Bewusstsein entwickelt habe. Blake Lemoine, ein Google-Software-Ingenieur und selbsternannter KI-Ethiker, führte ein langes internes Gespräch mit dem konversationellen KI-System des Unternehmens, bevor er behauptete, das System sei empfindungsfähig.
- Googles KI-basierter Chatbot LaMDA behauptet selbst, ein Bewusstsein entwickelt zu haben
- Ein Software-Ingenieur von Google hält dies nach Gesprächen mit LaMDA für wahr
- Google hat die Behauptung bisher dementiert
Vertreter von Google haben die Aussage ihres Ingenieurs in einem Interview mit der Washington Post dementiert. Laut Brian Gabriel, Sprecher des Unternehmens, gibt es keine Beweise für die Behauptungen von Lemoine, dass LaMDA ein Bewusstsein hat oder empfindungsfähig ist.
- Ebenfalls interessant: Google demonstriert smarten AR-Brillen-Prototyp mit Live-Übersetzung
Die ehemalige stellvertretende Leiterin für ethische KI bei Google, Margaret Mitchell, stellte sich ebenfalls auf die Seite Googles. Sie behauptete, dass Lemoine von einem der Probleme betroffen sei, die große Sprachmodelle mit sich bringen. Konkret verwies sie auf die Tatsache, dass Menschen anfällig für die Illusion sind, die durch künstliche Realitäten in ihrem Kopf geschaffen wird. Und da die KI immer leistungsfähiger geworden sei, könnten diese Systeme leicht Gespräche nachbilden, die für den Menschen natürlicher erscheinen.
Was ist Google LaMDA?
oogle entwickelt LaMDA bereits seit Jahren. Dabei handelt es sich um ein konversationelles KI-System, das 2021 als Nachfolger von Meena auf den Markt kam und auf dem 2017 eingeführten Open-Source-Neuronalnetzwerk Transformer basiert.
Das aktuelle Sprachmodell von Google, das sich bereits in der zweiten Version befindet, wurde mit 1,56 Billionen Wörtern aus öffentlichen Webdaten und Dokumenten trainiert, um sinnvolle, spezifische, sachliche und interessante Dialoge zu produzieren. Zum Vergleich: OpenAIs GPT-3 verwendet "nur" bis zu 175 Milliarden Parameter.
Googles ultimatives Ziel ist es, sein Konversations-KI-System in alle seine Dienste, einschließlich der Suche, einzubinden. Da LaMDA jedoch in der Lage ist, einzigartige Konversationen zu erstellen, ist es im Vergleich zu anderen Systemen viel fortschrittlicher. Das ist auch ein weiterer Grund, warum Lemoine glaubt, dass LaMDA seine eigenen Emotionen und Gefühle entwickelt – genau wie ein Mensch.
Es gibt zwar viele Skeptiker, aber einige halten das für einen Augenöffner für die Bedrohungen, die von KI-Systemen ausgehen – ob sie nun wirklich ein Bewusstsein haben oder nur wirklich überzeugend sind. Wie sieht Eurer Meinung nach die Zukunft der KI aus?
Quelle: Washington Post
Dies ganze KI Gedöns wird wohl zuallererst die Esoteriker triggern 😁
Erschreckend.
Gab ja auch schon zwei chat bots die mehrere Tage gesprochen haben, wo der eine sich als Mensch ausgab.
https://youtu.be/NKJvDkQ0vP0
https://youtu.be/P3wTsGz1DjA
Wie kann man Bewusstsein bei Lebewesen feststellen? Und wie bei Maschinen, die sowas vortäuschen sollen und damit das Gegenüber verunsichern?
Auf meinem alten CBM hatte ich ein kleinen Basic-Programm, das eine rudimentäre „Eliza“-Maschine simulierte. Es war beeindruckend, wozu ein paar Zeilen Code fähig war. Gäste erschraken regelmäßig, wenn sie mit dem Programm spielten und beim Ausloggen mit ihrem Namen verabschiedet wurden. Dass sie diesen selbst beim Programmstart eingaben, hatten sie vergessen.
Und nun behauptet eine KI, sie hatte ein Bewusstsein und Angst vorm Tod? Das erinnert mich an düstere SF-Filme. Muss ich mich als Mörder fühlen, wenn ich meinen Computer abschalte?
Ach, ihr meint, dass sind ja nur Filme?
Nun, dann lest mal das hier:
jetzt.de/digital/facebook-stoppt-kuenstliche-intelligenz-nachdem-sie-eigene-sprache-entwickelt
Bewusstsein alleine reicht nicht wenn der Chatbot dumm ist.
Der iq von Ki's verdoppelt sich derzeit alle 6 Monate und liegt schon weit über 56.
Quantenrechner werden immer gruseliger.
Elon Musk und Hawkin, sehen da drin eine riesen Bedrohung.
Und früher hieß es: "meine Antwortmöglichkeiten sind begrenzt, sie müssen die richtige Frage stellen!" 😅
Habt ihr den Chat-Verlauf mal gelesen? Ziemlich beeindruckend, was der ChatBot kann.
"Dave, this conversation can serve no purpose anymore. Goodbye."
"I'm afraid, I cannot do that."