Privatgespräche abgehört: Alexa, halt Dir die Ohren zu!
In anderen Sprachen lesen:
Hey Alexa, wie spät ist es? Alexa, mach das Licht an. Alexa, wie backt man Streuselkuchen? Viele Menschen reden ziemlich oft mit ihrem Echo-Lautsprecher. Dass Amazon Menschen beschäftigt, diese Sprachbefehle und Sätze, die immer wieder auch irrtümlich aufgezeichnet werden, anhören und bewerten, wissen die meisten nicht.
Was ist passiert? Bloomberg hat aufgedeckt, dass Amazon ungefähr 1.000 Mitarbeiter in den USA, Costa Rica, Indien und Rumänien beschäftigt, die sich täglich tausende Aufzeichnungen anhören und auswerten, die Alexa über die Amazon-Echo-Geräte aufgezeichnet hat. Darüber soll die Spracherkennung trainiert werden, da das ganz automatisch nicht möglich sei, so Amazon. Eine Information darüber an die Kunden gibt es jedoch nicht, die Nutzungsbedingungen zu Alexa schweigen darüber ebenfalls.
"Zum Beispiel verwenden wir Ihre Befehle an Alexa, um unsere Systeme zur Spracherkennung und zum Verstehen natürlicher Sprachen zu trainieren", heißt es in Fragen und Antworten auf einer Amazon-Seite. Dass hierbei aber Menschen eingesetzt werden und nicht nur Computer verrät Amazon nicht. In den Einstellungen von Alexa kann man dieser Verwendung der Aufnahmen zur Weiterentwicklung des Dienstes allerdings widersprechen.
Besonders pikant: Amazon speichert zwar keine kompletten Namen, Adressen oder Kundennummern zu den Aufzeichnungen. Allerdings sind die Account-Nummer, der Vorname und die Seriennummer des Endgeräts mit den Aufnahmen verknüpft und für die Mitarbeiter einsehbar. Darüber kann man die meisten Echos wohl durchaus realen Personen zuordnen. Im Bericht von Bloomberg ist zudem von einem internen Chat-System die Rede, über das sich die Mitarbeiter Aufzeichnungen hin und her schicken können, wenn ihnen der Inhalt unklar ist - oder auch, wenn sie irgendetwas lustig oder peinlich finden.
Warum verfälscht Amazon die Aufnahmen nicht?
Damit eins klar ist: Auch bei Google und Apple werden die Sprachassistenten nicht komplett automatisiert trainiert. Doch dort wird wenigstens alles komplett anonymisiert und ohne jedwede Namen oder Kundennummern verarbeitet. Google geht sogar so weit, die Audio-Aufnahmen automatisch zu verzerren, bevor sie ein menschlicher Mitarbeiter zu hören bekommt. Damit wird die Zuordnung zu einer echten Person unmöglich gemacht.
Amazon könnte das auch machen, zumal die Zuordnung zum Vornamen und der Karteinummer ohnehin nur einen zweifelhaften Nutzen beim Trainieren der Spracherkennung haben dürfte - in vielen Haushalten wird Alexa von mehr als einer Person benutzt, und wenn alle Sprecher derselben Kombination aus Nummer und Name zugeordnet werden, verfälscht das die Ergebnisse eher.
Unter dem Strich ist fraglich, wie bedeutend das Problem mit den Sprachaufnahmen bei Alexa tatsächlich ist. Amazon betont, es werde nur ein Bruchteil der aufgezeichneten Aufnahmen von Mitarbeitern abgehört. In der Alexa-App lässt sich zudem kontrollieren und abhören, was Alexa aufgezeichnet hat. Bei mir bleibt trotzdem ein fader Beigeschmack übrig, und ich denke darüber nach, vielleicht doch die Echos im Haushalt einmal abzuschalten und dem Google Assistant einen Platz in meinem Wohnzimmer anzubieten. Aber zuhören muss der nun einmal auch.
Was meint Ihr, schießt Amazon hier über das Ziel hinaus oder ist das alles noch im Rahmen? Diskutiert gerne weiter dazu in unserem Forum:
Quelle: Spiegel Online, Computerbase, Bloomberg
-
Admin
13.04.2019 Link zum KommentarVerbraucherschutzministerin fordert Abhörstopp durch Alexa
https://www.golem.de/news/amazon-verbraucherschutzministerin-fordert-abhoerstopp-durch-alexa-1904-140661.html
https://www.linkedin.com/pulse/alexa-german-angst-und-die-lust-am-skandal-dennis-knake/
Wen das jetzt überrascht, der ist entweder grenzenlos naiv oder ein Heuchler. Wie in den anderen Kommentaren bereits angerissen, dürfte das nicht nur Amazon betreffen. Das ich mir aber freiwillig eine Wanze in die Wohnung stelle, die auch offiziell als Wanze verkauft wird und dann Zeter und Mordio schreie, daß ich abgehört werde, ist schon grenzwertig bis debil.
@Michael P
Da stimme ich dir zu. Ich bezeichne mich schon ziemlich technikaffin, achte aber schon aus beruflichen Gründen und erst recht im privaten Umfeld sehr auf Datenschutz. Trotzdem muss ich, wenn ich nicht KOMPLETT ohne digitale (!) Hilfsmittel auskommen will, ein gewisses Maß an Vertrauen haben, dass, wenn einer sagt, ich höre dich nicht ab, er es auch nicht tut. Sonst darf ich mich eben gar keiner digitalen Hilfsmittel bedienen, die in irgendeiner Form mit der Außenwelt kommunizieren. Das gilt ja ein wenig auch im normalen Alltag: Ich vertraue dem Ferienwohnung-Vermieter, dass er nicht meine Sachen durchsucht oder den Bankmitarbeitern, dass sie mein Konto nicht plündern.
Bei Einstellungen für Apps auf meinem smartPhone versuche ich natürlich erst mal, vermeintlich nicht benötigte Einstellungen zu deaktivieren. GPS ist bei mir z. B. nur an, wenn ich navigiere. Aber wenn es nicht geht und es keine alternative App gibt, dann kann es schon sein, dass ich sie nach meiner ganz persönlichen (Daten-)Kosten-Nutzen-Abwägung behalte. Aber dass die Deaktivierung eingehalten wird, darauf muss ich vertrauen. Oder mich in ein Erdloch zurück ziehen.
So würde ich Alexa (oder Google oder Siri oder ...), wenn ich mir so etwas zulege, erst mal durchsuchen, alle Einstellungen checken und sie entsprechend de- oder aktivieren. Und darauf vertrauen, dass es eingehalten wird. Gerade bei großen Unternehmen ist die Gefahr des Aufdeckens einer Zuwiderhandlung deutlich höher als bei kleineren. Siehe FB und Co. Komischerweise waren die Aufschreie bei den Verfehlungen Mark Zuckerbergs kaum so laut zu hören...
Dass viele Menschen sich keine Gedanken über Einstellungen, Privatsphäre oder Datenschutz machen, ist deren Sache.
Aber (nur den) EINEN Hersteller, den "bösen Amazon", an den Pranger zu stellen für etwas, was zumindest den meisten Menschen im Zuge der digitalen Entwicklung selbstverständlich erscheint und wozu man sein Einverständnis geben oder eben auch entziehen kann, halte ich für ziemlich opportun, wenn man sich (=seine Daten) gleichzeitig in den sozialen Medien bereitwillig veröffentlicht!
Nicht falsch verstehen - ich sehe Amazon keinesfalls als Vorbild für Datenschutz, aber um KI weiter zu entwickeln (das gehört nun mal inzwischen zu unserer Evolution!), bedarf es verschiedener
Werkzeuge. Und deep learning gehört dazu. Natürlich unterliegt das - zumindest in demokratischen Ländern - gewissen Regeln, die eingehalten werden müssen. Und in diesem Fall ist es die Einspruchsmöglichkeit. Die ist vorhanden.
Jeder kann für sich selbst entscheiden, ob er überhaupt ein solches Gerät nutzt, ob er es immer oder nur ab und zu anschaltet und ob er der Nutzung der Aufzeichnung zustimmt oder nicht. Schlimm ist nur, wenn ich diese Entscheidung nicht (mehr) treffen kann.
Google macht es mir inzwischen übrigens sehr leicht und erinnert mich daran, mein GPS nach dem Navigieren wieder auszuschalten, indem es mich fragt, wie die Navigation war ;-)
tja so kann man sich täuschen - die Mühe mit dem GPS abschalten kannst du dir sparen, Google protokolliert deinen Standort immer mit:
www.tagesspiegel.de/wirtschaft/standortueberwachung-google-weiss-wo-du-warst/22935468.html
So, und nun dürfte dein Vertrauen hinreichend zerstört sein ;)
GPS ist aber noch das Feature wo ich am wenigsten Bedenken hätte, das ist eine passive Sache womit ich keine Daten versende, man empfängt die GPS-Signale ja nur.
Und natürlich kann man gewissen Dingen vertrauen. Das Bankmitarbeiter dein Konto plündern, an solche Fälle kann ich mich gar nicht erinnern. Aber Datenleaks, Passwort-Klau und ähnliches passiert ständig, die Medien sind voll davon - im Gegensatz zu Konto-plündernden Bankmitarbeitern. Und was interessiert mich KI und deep learning - ich hab nicht danach verlangt, ich hab auch keinen Alexa-Assistenten gefordert. Den ganzen Krempel braucht im Grunde keine Sau, der nicht vorhanden Bedarf wird erst mit massenweise Werbung und Manipulation geweckt. Allerdings nicht bei mir. Wie man dazu kommt einem weltweit operierenden Konzern das Recht einzuräumen, mich 24/7/365 zu belauschen, und das auch nur, dass mir das Licht auf Zuruf ausgemacht wird oder ähnlich völlig überflüssiger Bullshit, ist mir nach wie vor ein Rätsel. Ich stelle auch nicht nur einen Anbieter an den Pranger, das betrifft die Big 5 (MS, Google, FB, Amazon, Apple) und noch eine ganze Reihe mehr.
Und warum zu allem Übel nimmst du auch noch Google zum navigieren ?? Da gibt es weiß Gott bessere Navi-Apps.
Bei mir ist "Meine Aktivitäten" im Google-Account leer, da ich alles deaktiviert habe. Das heisst aber nicht das Google nicht anderweitig aufzeichnet. Sogar auf reinen WiFi-Geräten ohne GPS und SIM-Funktion ist Google-Maps installiert (habe ich aber deaktiviert). Google spioniert so gut es geht.
Kopfkino: Ich habe einen Laden und eine Freundin namens Summer und die ruft mich an und will wissen wo ich bin und ich antworte O Summer i bin im Laden. 30 Min später steht SEK und GSG9 mit gezogenen Waffen vor meiner Tür ^^
Sprichst du deine Freundin immer mit Nachnamen an ? Weil sonst hätte ich "Donna" zu ihr gesagt :D
Der Fakt, dass alles im Hintergrund durch reale Menschen optimiert wird, finde ich gar nicht verwunderlich oder störend. Wichtig wäre nur, das von vornherein transparent zu machen für jeden, der sich Alexa anschafft.
Tja, dass kommt davon wenn man sich ein nutzloses Abhörgerät in die Wohnung stellt... Und auch noch dafür zahlt ;)
Solang man nicht körperlich oder Geistig beeinträchtigt ist sind diese ganzen Dinger Elektro Schrott für mich.
#####Was meint Ihr, schießt Amazon hier über das Ziel hinaus oder ist das alles noch im Rahmen?#####
Selbstverständlich schießt man hier übers Ziel hinaus.
Triebfeder ist wohl Arroganz und Größenwahn.........
Ich habe mal bei einem Voice Bot PoC mitgearbeitet. Dort hatten wir ein Backend das die Transkribierung automatisch gemacht hat und man dann einfach noch kontrollieren musste ob es stimmt das die Software gehört hat. Um so ein System zu trainieren muss man Daten analysieren. Mich verwundert aber das bei Amazon das Leute alles von Hand machen.
Zudem: Google, Siri & Co. hören wahrscheinlich auch mit. Würde mich doch sehr verwundern wenn es nicht so wäre..
Und wie sehr hat euch da das Privatleben der Nutzer interessiert?
völlig uninteressant, ob ihn oder seine Kollegen das Privatleben der Nutzer interessiert hat. Geh einfach davon aus es sind Menschen und es gibt darunter immer welche die das interessiert und auch ausnützen. Manche sind grundsätzlich schlecht, andere haben gerade einen schwachen Moment... war schon immer so und wird auch immer so sein. Ich kannte Leute in der Buchhaltung großer Firmen, die haben mit ihrem Wissen über Kreditkartennummern der Kunden einfach angefangen Geld abzubuchen - obwohl sie eigentlich hätten wissen müssen, dass das irgendwann auffliegt (was dann auch passiert ist). Und das war schon lange vor Alexa-Wanzen-Zeiten. Ich weiß gar nicht, woher du das Gottvertrauen in die Konzerne und ihre Mitarbeiter nimmst - gibt es dafür irgendwelche Anhaltspunkte ?
Ich glaube es ist kein "Gottvertrauen" (das klingt so absolut), das er in die Konzerne setzt, sondern die Annahme bzw. ein wenigstens hinreichendes Vertrauen, dass das Risiko für ihn als Einzelnen ausreichend gering ist.
Es ist ja auch kein "Gottvertrauen" erforderlich, um das Haus zu verlassen und auf die Straße zu gehen - das Risiko einen Unfall durch einen rücksichtslosen Verkehrsteilnehmer zu erleiden wird von uns als hinreichend gering eingestuft, obwohl es immer wieder zu Unfällen durch solche kommt. Aber hier wägen wir ab und sagen "Ja, es gibt rücksichtslose Verkehrsteilnehmer, und wir könnten durch einen solchen Schaden erleiden. Wir wagen uns dennoch nach draussen", weil wir die Vorteile des Draussenseins als entscheidender gewichten als die Risiken (kannst Du Dir alternativ, wenn Du von Schaden durch jemand mit bösem Willen ausgehst, auch mit Straßenräubern, Taschendieben o.ä. überlegen).
Und so wird wohl auch hier abgewogen - die Vorteile der Techniknutzung gegenüber ihren Risiken (wobei gerade bei der Techniknutzung den allermeisten - in vielen Fällen auch uns hier, sieht man z.B. oft in Kommentaren zum Hypewort "KI" - das nötige Wissen fehlt, um eine halbwegs realistische Einschätzung vorzunehmen, und selbst mit diesem Wissen mag es schwer sein. Vor diesem Hintergrund, aber auch vor dem Hintergrund unterschiedlicher persönlicher Präferenzen, Eigenschaften wie Leichtsinn oder Furchtsamkeit, etc, kommen die Leute dann zu unterschiedlichen Risikoeinschätzungen. Aber wer mag objektiv festlegen, was die "richtige" ist? Im Endeffekt steht dann in den Extremen ein "Du bist zu unbekümmert!" gegen ein "Du bist paranoid" - und sinnvolle Positionen liegen vermutlich irgendwo in der Mitte... aber auch hier was ist "sinnvoll"?...).
Alexa hört mit und der Rest schreibt mit, alles was wir irgendwo eintippen wird registriert und ausgewertet.
Mir tun die Mitarbeiter leid, die sich den ganzen Tag den Sprachmüll wildfremder Leute anhören müssen.
Niemand muss dort arbeiten. Wenn dort niemand mehr arbeitet hört die Schnüffelei ganz von allein auf. 😉
Herrje, was für ne reißerische Überschrift mal wieder...
Wie wäre es mit was realistischem wie "Alexas KI wird durch Auswertung von realen Audio-Samples trainiert"? Aber das wäre ja etwas, das man sich a) denken könnte und b) würde das tatsächlich nur die technikinteressierten anziehen und nicht auch die, die sich eher durch BILD Headlines angesprochen fühlen.
und was ändert deine "technikaffine" Überschrift an der Tatsache, das Alexa alle deine Gespräche aufzeichnen kann und dies auch offensichtlich tut ? Nichts. Und das reale Menschen deine Gespräche auch noch abbhören, war den meisten Leuten schon mal gar nicht klar. Auch da ändert deine technische Überschrift nichts daran. In solchen Fällen ist so eine plakative Überschrift gar nicht verkehrt, so kriegt jedenfalls auch der letzte DAU-Dödel mit, was hier mit Alexa abgeht.