Privatgespräche abgehört: Alexa, halt Dir die Ohren zu!
In anderen Sprachen lesen:
Hey Alexa, wie spät ist es? Alexa, mach das Licht an. Alexa, wie backt man Streuselkuchen? Viele Menschen reden ziemlich oft mit ihrem Echo-Lautsprecher. Dass Amazon Menschen beschäftigt, diese Sprachbefehle und Sätze, die immer wieder auch irrtümlich aufgezeichnet werden, anhören und bewerten, wissen die meisten nicht.
Was ist passiert? Bloomberg hat aufgedeckt, dass Amazon ungefähr 1.000 Mitarbeiter in den USA, Costa Rica, Indien und Rumänien beschäftigt, die sich täglich tausende Aufzeichnungen anhören und auswerten, die Alexa über die Amazon-Echo-Geräte aufgezeichnet hat. Darüber soll die Spracherkennung trainiert werden, da das ganz automatisch nicht möglich sei, so Amazon. Eine Information darüber an die Kunden gibt es jedoch nicht, die Nutzungsbedingungen zu Alexa schweigen darüber ebenfalls.
"Zum Beispiel verwenden wir Ihre Befehle an Alexa, um unsere Systeme zur Spracherkennung und zum Verstehen natürlicher Sprachen zu trainieren", heißt es in Fragen und Antworten auf einer Amazon-Seite. Dass hierbei aber Menschen eingesetzt werden und nicht nur Computer verrät Amazon nicht. In den Einstellungen von Alexa kann man dieser Verwendung der Aufnahmen zur Weiterentwicklung des Dienstes allerdings widersprechen.
Besonders pikant: Amazon speichert zwar keine kompletten Namen, Adressen oder Kundennummern zu den Aufzeichnungen. Allerdings sind die Account-Nummer, der Vorname und die Seriennummer des Endgeräts mit den Aufnahmen verknüpft und für die Mitarbeiter einsehbar. Darüber kann man die meisten Echos wohl durchaus realen Personen zuordnen. Im Bericht von Bloomberg ist zudem von einem internen Chat-System die Rede, über das sich die Mitarbeiter Aufzeichnungen hin und her schicken können, wenn ihnen der Inhalt unklar ist - oder auch, wenn sie irgendetwas lustig oder peinlich finden.
Warum verfälscht Amazon die Aufnahmen nicht?
Damit eins klar ist: Auch bei Google und Apple werden die Sprachassistenten nicht komplett automatisiert trainiert. Doch dort wird wenigstens alles komplett anonymisiert und ohne jedwede Namen oder Kundennummern verarbeitet. Google geht sogar so weit, die Audio-Aufnahmen automatisch zu verzerren, bevor sie ein menschlicher Mitarbeiter zu hören bekommt. Damit wird die Zuordnung zu einer echten Person unmöglich gemacht.
Amazon könnte das auch machen, zumal die Zuordnung zum Vornamen und der Karteinummer ohnehin nur einen zweifelhaften Nutzen beim Trainieren der Spracherkennung haben dürfte - in vielen Haushalten wird Alexa von mehr als einer Person benutzt, und wenn alle Sprecher derselben Kombination aus Nummer und Name zugeordnet werden, verfälscht das die Ergebnisse eher.
Unter dem Strich ist fraglich, wie bedeutend das Problem mit den Sprachaufnahmen bei Alexa tatsächlich ist. Amazon betont, es werde nur ein Bruchteil der aufgezeichneten Aufnahmen von Mitarbeitern abgehört. In der Alexa-App lässt sich zudem kontrollieren und abhören, was Alexa aufgezeichnet hat. Bei mir bleibt trotzdem ein fader Beigeschmack übrig, und ich denke darüber nach, vielleicht doch die Echos im Haushalt einmal abzuschalten und dem Google Assistant einen Platz in meinem Wohnzimmer anzubieten. Aber zuhören muss der nun einmal auch.
Was meint Ihr, schießt Amazon hier über das Ziel hinaus oder ist das alles noch im Rahmen? Diskutiert gerne weiter dazu in unserem Forum:
Quelle: Spiegel Online, Computerbase, Bloomberg
-
Admin
13.04.2019 Link zum KommentarVerbraucherschutzministerin fordert Abhörstopp durch Alexa
https://www.golem.de/news/amazon-verbraucherschutzministerin-fordert-abhoerstopp-durch-alexa-1904-140661.html
https://www.linkedin.com/pulse/alexa-german-angst-und-die-lust-am-skandal-dennis-knake/
Wen das jetzt überrascht, der ist entweder grenzenlos naiv oder ein Heuchler. Wie in den anderen Kommentaren bereits angerissen, dürfte das nicht nur Amazon betreffen. Das ich mir aber freiwillig eine Wanze in die Wohnung stelle, die auch offiziell als Wanze verkauft wird und dann Zeter und Mordio schreie, daß ich abgehört werde, ist schon grenzwertig bis debil.
@Michael P
Da stimme ich dir zu. Ich bezeichne mich schon ziemlich technikaffin, achte aber schon aus beruflichen Gründen und erst recht im privaten Umfeld sehr auf Datenschutz. Trotzdem muss ich, wenn ich nicht KOMPLETT ohne digitale (!) Hilfsmittel auskommen will, ein gewisses Maß an Vertrauen haben, dass, wenn einer sagt, ich höre dich nicht ab, er es auch nicht tut. Sonst darf ich mich eben gar keiner digitalen Hilfsmittel bedienen, die in irgendeiner Form mit der Außenwelt kommunizieren. Das gilt ja ein wenig auch im normalen Alltag: Ich vertraue dem Ferienwohnung-Vermieter, dass er nicht meine Sachen durchsucht oder den Bankmitarbeitern, dass sie mein Konto nicht plündern.
Bei Einstellungen für Apps auf meinem smartPhone versuche ich natürlich erst mal, vermeintlich nicht benötigte Einstellungen zu deaktivieren. GPS ist bei mir z. B. nur an, wenn ich navigiere. Aber wenn es nicht geht und es keine alternative App gibt, dann kann es schon sein, dass ich sie nach meiner ganz persönlichen (Daten-)Kosten-Nutzen-Abwägung behalte. Aber dass die Deaktivierung eingehalten wird, darauf muss ich vertrauen. Oder mich in ein Erdloch zurück ziehen.
So würde ich Alexa (oder Google oder Siri oder ...), wenn ich mir so etwas zulege, erst mal durchsuchen, alle Einstellungen checken und sie entsprechend de- oder aktivieren. Und darauf vertrauen, dass es eingehalten wird. Gerade bei großen Unternehmen ist die Gefahr des Aufdeckens einer Zuwiderhandlung deutlich höher als bei kleineren. Siehe FB und Co. Komischerweise waren die Aufschreie bei den Verfehlungen Mark Zuckerbergs kaum so laut zu hören...
Dass viele Menschen sich keine Gedanken über Einstellungen, Privatsphäre oder Datenschutz machen, ist deren Sache.
Aber (nur den) EINEN Hersteller, den "bösen Amazon", an den Pranger zu stellen für etwas, was zumindest den meisten Menschen im Zuge der digitalen Entwicklung selbstverständlich erscheint und wozu man sein Einverständnis geben oder eben auch entziehen kann, halte ich für ziemlich opportun, wenn man sich (=seine Daten) gleichzeitig in den sozialen Medien bereitwillig veröffentlicht!
Nicht falsch verstehen - ich sehe Amazon keinesfalls als Vorbild für Datenschutz, aber um KI weiter zu entwickeln (das gehört nun mal inzwischen zu unserer Evolution!), bedarf es verschiedener
Werkzeuge. Und deep learning gehört dazu. Natürlich unterliegt das - zumindest in demokratischen Ländern - gewissen Regeln, die eingehalten werden müssen. Und in diesem Fall ist es die Einspruchsmöglichkeit. Die ist vorhanden.
Jeder kann für sich selbst entscheiden, ob er überhaupt ein solches Gerät nutzt, ob er es immer oder nur ab und zu anschaltet und ob er der Nutzung der Aufzeichnung zustimmt oder nicht. Schlimm ist nur, wenn ich diese Entscheidung nicht (mehr) treffen kann.
Google macht es mir inzwischen übrigens sehr leicht und erinnert mich daran, mein GPS nach dem Navigieren wieder auszuschalten, indem es mich fragt, wie die Navigation war ;-)
tja so kann man sich täuschen - die Mühe mit dem GPS abschalten kannst du dir sparen, Google protokolliert deinen Standort immer mit:
www.tagesspiegel.de/wirtschaft/standortueberwachung-google-weiss-wo-du-warst/22935468.html
So, und nun dürfte dein Vertrauen hinreichend zerstört sein ;)
GPS ist aber noch das Feature wo ich am wenigsten Bedenken hätte, das ist eine passive Sache womit ich keine Daten versende, man empfängt die GPS-Signale ja nur.
Und natürlich kann man gewissen Dingen vertrauen. Das Bankmitarbeiter dein Konto plündern, an solche Fälle kann ich mich gar nicht erinnern. Aber Datenleaks, Passwort-Klau und ähnliches passiert ständig, die Medien sind voll davon - im Gegensatz zu Konto-plündernden Bankmitarbeitern. Und was interessiert mich KI und deep learning - ich hab nicht danach verlangt, ich hab auch keinen Alexa-Assistenten gefordert. Den ganzen Krempel braucht im Grunde keine Sau, der nicht vorhanden Bedarf wird erst mit massenweise Werbung und Manipulation geweckt. Allerdings nicht bei mir. Wie man dazu kommt einem weltweit operierenden Konzern das Recht einzuräumen, mich 24/7/365 zu belauschen, und das auch nur, dass mir das Licht auf Zuruf ausgemacht wird oder ähnlich völlig überflüssiger Bullshit, ist mir nach wie vor ein Rätsel. Ich stelle auch nicht nur einen Anbieter an den Pranger, das betrifft die Big 5 (MS, Google, FB, Amazon, Apple) und noch eine ganze Reihe mehr.
Und warum zu allem Übel nimmst du auch noch Google zum navigieren ?? Da gibt es weiß Gott bessere Navi-Apps.
Bei mir ist "Meine Aktivitäten" im Google-Account leer, da ich alles deaktiviert habe. Das heisst aber nicht das Google nicht anderweitig aufzeichnet. Sogar auf reinen WiFi-Geräten ohne GPS und SIM-Funktion ist Google-Maps installiert (habe ich aber deaktiviert). Google spioniert so gut es geht.
Kopfkino: Ich habe einen Laden und eine Freundin namens Summer und die ruft mich an und will wissen wo ich bin und ich antworte O Summer i bin im Laden. 30 Min später steht SEK und GSG9 mit gezogenen Waffen vor meiner Tür ^^
Sprichst du deine Freundin immer mit Nachnamen an ? Weil sonst hätte ich "Donna" zu ihr gesagt :D
Der Fakt, dass alles im Hintergrund durch reale Menschen optimiert wird, finde ich gar nicht verwunderlich oder störend. Wichtig wäre nur, das von vornherein transparent zu machen für jeden, der sich Alexa anschafft.
Tja, dass kommt davon wenn man sich ein nutzloses Abhörgerät in die Wohnung stellt... Und auch noch dafür zahlt ;)
Solang man nicht körperlich oder Geistig beeinträchtigt ist sind diese ganzen Dinger Elektro Schrott für mich.
#####Was meint Ihr, schießt Amazon hier über das Ziel hinaus oder ist das alles noch im Rahmen?#####
Selbstverständlich schießt man hier übers Ziel hinaus.
Triebfeder ist wohl Arroganz und Größenwahn.........
Ich habe mal bei einem Voice Bot PoC mitgearbeitet. Dort hatten wir ein Backend das die Transkribierung automatisch gemacht hat und man dann einfach noch kontrollieren musste ob es stimmt das die Software gehört hat. Um so ein System zu trainieren muss man Daten analysieren. Mich verwundert aber das bei Amazon das Leute alles von Hand machen.
Zudem: Google, Siri & Co. hören wahrscheinlich auch mit. Würde mich doch sehr verwundern wenn es nicht so wäre..
Und wie sehr hat euch da das Privatleben der Nutzer interessiert?
völlig uninteressant, ob ihn oder seine Kollegen das Privatleben der Nutzer interessiert hat. Geh einfach davon aus es sind Menschen und es gibt darunter immer welche die das interessiert und auch ausnützen. Manche sind grundsätzlich schlecht, andere haben gerade einen schwachen Moment... war schon immer so und wird auch immer so sein. Ich kannte Leute in der Buchhaltung großer Firmen, die haben mit ihrem Wissen über Kreditkartennummern der Kunden einfach angefangen Geld abzubuchen - obwohl sie eigentlich hätten wissen müssen, dass das irgendwann auffliegt (was dann auch passiert ist). Und das war schon lange vor Alexa-Wanzen-Zeiten. Ich weiß gar nicht, woher du das Gottvertrauen in die Konzerne und ihre Mitarbeiter nimmst - gibt es dafür irgendwelche Anhaltspunkte ?
Ich glaube es ist kein "Gottvertrauen" (das klingt so absolut), das er in die Konzerne setzt, sondern die Annahme bzw. ein wenigstens hinreichendes Vertrauen, dass das Risiko für ihn als Einzelnen ausreichend gering ist.
Es ist ja auch kein "Gottvertrauen" erforderlich, um das Haus zu verlassen und auf die Straße zu gehen - das Risiko einen Unfall durch einen rücksichtslosen Verkehrsteilnehmer zu erleiden wird von uns als hinreichend gering eingestuft, obwohl es immer wieder zu Unfällen durch solche kommt. Aber hier wägen wir ab und sagen "Ja, es gibt rücksichtslose Verkehrsteilnehmer, und wir könnten durch einen solchen Schaden erleiden. Wir wagen uns dennoch nach draussen", weil wir die Vorteile des Draussenseins als entscheidender gewichten als die Risiken (kannst Du Dir alternativ, wenn Du von Schaden durch jemand mit bösem Willen ausgehst, auch mit Straßenräubern, Taschendieben o.ä. überlegen).
Und so wird wohl auch hier abgewogen - die Vorteile der Techniknutzung gegenüber ihren Risiken (wobei gerade bei der Techniknutzung den allermeisten - in vielen Fällen auch uns hier, sieht man z.B. oft in Kommentaren zum Hypewort "KI" - das nötige Wissen fehlt, um eine halbwegs realistische Einschätzung vorzunehmen, und selbst mit diesem Wissen mag es schwer sein. Vor diesem Hintergrund, aber auch vor dem Hintergrund unterschiedlicher persönlicher Präferenzen, Eigenschaften wie Leichtsinn oder Furchtsamkeit, etc, kommen die Leute dann zu unterschiedlichen Risikoeinschätzungen. Aber wer mag objektiv festlegen, was die "richtige" ist? Im Endeffekt steht dann in den Extremen ein "Du bist zu unbekümmert!" gegen ein "Du bist paranoid" - und sinnvolle Positionen liegen vermutlich irgendwo in der Mitte... aber auch hier was ist "sinnvoll"?...).
Alexa hört mit und der Rest schreibt mit, alles was wir irgendwo eintippen wird registriert und ausgewertet.
Mir tun die Mitarbeiter leid, die sich den ganzen Tag den Sprachmüll wildfremder Leute anhören müssen.
Niemand muss dort arbeiten. Wenn dort niemand mehr arbeitet hört die Schnüffelei ganz von allein auf. 😉
Herrje, was für ne reißerische Überschrift mal wieder...
Wie wäre es mit was realistischem wie "Alexas KI wird durch Auswertung von realen Audio-Samples trainiert"? Aber das wäre ja etwas, das man sich a) denken könnte und b) würde das tatsächlich nur die technikinteressierten anziehen und nicht auch die, die sich eher durch BILD Headlines angesprochen fühlen.
und was ändert deine "technikaffine" Überschrift an der Tatsache, das Alexa alle deine Gespräche aufzeichnen kann und dies auch offensichtlich tut ? Nichts. Und das reale Menschen deine Gespräche auch noch abbhören, war den meisten Leuten schon mal gar nicht klar. Auch da ändert deine technische Überschrift nichts daran. In solchen Fällen ist so eine plakative Überschrift gar nicht verkehrt, so kriegt jedenfalls auch der letzte DAU-Dödel mit, was hier mit Alexa abgeht.
"das Alexa alle deine Gespräche aufzeichnen kann"
Genau DAS suggeriert eben nur diese Überschrift! Von sich aus aufzeichnen kann es nämlich schon mal gar nicht ALLE Gespräche. Sondern nach wie vor erst alles AB dem Hotword. Und genau darum geht es auch in dem Artikel gar nicht. Der Aufreger ist ja anscheinend, dass die KI von Menschen gefüttert wird. Aber hier wird mal wieder ein Bild vom Spitzel im Trenchcoat und Hut auf der Parkbank mit Loch in der Zeitung, der sich bewusst in Stasi-Manier dein Privatleben aufzeichnen will, gezeichnet.
Ja, es kommt auch selten vor, dass es das Ende der Skill-Aktivierung nicht mitbekommt und noch 5 Sek. weiter hört. Aber wer "Alexa! Spiele Radio RBB. Meine VISA Pin ist xxx ..." sagt, der sollte sich von Technik generell fernhalten.
Didado, es gibt Leute, die haben Alexa im Schlafzimmer stehen- und da spielt man nicht nur Mensch ärgere Dich nicht. Ich respektiere Deine Meinung natürlich, wundere mich nur sehr, wie wenig Dir Privatsphäre bedeutet. Ich halte es auch für naiv zu glauben, es geht Amazon hier nur um die Verbesserung technischer Details. Spätestens, wenn Du auf Toilette schimpfst, das das Klopapier zu dünn ist und Dir von Amazon dann 4-lagiges angeboten wird, geht Dir vielleicht ein Licht auf :-)
oder nach dem eintönigen Abend im Schlafzimmer deiner Frau von Alexa ein Vibrator angeboten wird ;-)
Und man muss schon ein gottseliges Vertrauen haben, das Alexa erst alles ab dem sogenannten "Hotword" aufzeichnet. Um das "Hotword" nämlich überhaupt mitzukriegen, muss das Mikro von Alexa die ganze Zeit scharf geschaltet sein und kann somit potentiell alles aufzeichen. Nur weil Amazon sagt, sie nehmen erst ab Hotword auf, glaubst du das ? Kannst du das überprüfen ? Natürlich nicht. Und ich glaube mittlerweile den ganzen großen Tech-Konzernen gar nichts mehr, nach bisher unzähligen Datenleaks, Login/Passwort-Klauerein und anderen Skandalen muss man auch schon sehr blond sein, denen noch irgendwas zu glauben.
@Didado
>> Von sich aus aufzeichnen kann es nämlich schon mal gar nicht ALLE Gespräche. Sondern nach wie vor erst alles AB dem Hotword.
Du hast ja noch nicht mal die Unterzeile des Artikels gelesen:
>> ... Sprachbefehle und Sätze, die immer wieder auch irrtümlich aufgezeichnet werden ...
@Ahoi
du hast auch nicht den zweiten Teil meines Kommentares gelesen, oder?
@Daffy Duck
Doch, kann man prüfen, indem man den Datendurchsatz eines Gerätes durch den Router überwacht.
Und da meine Frau nicht "Alexa" heißt, wird mir da auch nix angeboten.
@Blaubär
"Spätestens, wenn Du auf Toilette schimpfst, das das Klopapier zu dünn ist und Dir von Amazon dann 4-lagiges angeboten wird, geht Dir vielleicht ein Licht auf :-)"
Okay, da müsste ich dann auch ab sofort mein Smartphone wegwerfen. Im Gegensatz zu Amazon bekomme ich da weitaus mehr personalisierte Werbung von Dingen, über die ich Tage zuvor gesprochen habe. Sehe da auch generell kein Problem.
Wenn du den Teil mit "dass es das Ende der Skill-Aktivierung nicht mitbekommt und noch 5 Sek. weiter hört" meinst, hab ich ihn gelesen.
@DiDaDo
Ich habe nicht gesagt dass deine Frau Alexa heißt - da hast du was missverstanden ;-)
Auf dem Router siehst du nur, wenn überhaupt dass ein Gerät irgendwelchen Traffic verursacht. Das allein sagt noch nichts, ausserdem müsstest du dann ständig deinen Router überwachen - unrealistisch. Wenn du genauer wissen willst was versendet wird, musst du schon mit Netzwerksniffern die Datenpakete analysieren, Wireshark oder ähnliches.
Kannst du dir aber bei Alexa jetzt sparen, wir wissen ja nun was damit los ist ;-)
Erstaunlich, dass sich Leute immer noch freiwillig der Werbung auf Smartphones aussetzen. Es gibt mit Adguard oder auch ganz umsonst Mit Blokada wunderbare Apps, die praktisch alle Werbung und Tracking auf dem Handy verbannen - auch in den Apps. Zumindest auf Android. Spricht irgendwas dagegen so einen Werbe-/Trackingblocker zu nutzen ? Wüsste nicht was.
Wie gesagt, man kann nicht alles verhindern, aber man sollte es den ganzen Datenabgreifern so schwer wie möglich machen.
@Daffy Duck
Nein, du hast nicht verstanden was ich meinte mit "Meine Frau heißt nicht Alexa"
Und was ist da los? Du gehst davon aus, dass sie 24/7 übermittelt. Wo steht das? Darum geht es hier überhaupt nicht.
Und deswegen bekomm ich auch keine Werbung für Vibratoren, denn meine Frau heißt eben nicht "Alexa". Sprich: ich aktiviere keinen Echo beim Sex. Jetzt den Zusammenhang kapiert?
Als Spaßfaktor finde ich das Ding cool (besitze aber keins), was viele scheinbar vergessen, ich muss das Ding ja nicht den ganzen Tag anhaben, gibt ja immer noch nen Stecker den man ziehen kann. Mittelweg und so...
wenn ich erst nen Stecker ziehen oder wieder einstöpseln muss, ist der Apparat noch sinnloser als er sowieso schon ist.
Oder Tonne auf, Alexa rein, Tonne zu.
Aber, aber, ich habe doch nix zu verbergen...
Mich wundert das überhaupt nicht. Ich gehe davon aus, dass auch einige Apps das gesprochene Wort aufzeichnen und im Hintergrund an Server senden. Solche Daten werden immer irgendwo für irgendwen aufrufbar sein
und ist das jetzt gut oder schlecht ?
Beides.
Nur kann man beim Smartphone den Zugriff auf das Mikrofon mit geeigneten Mitteln unterbinden.
Wer sich so einen Müll in die Bude stellt, hat es leider nicht anders verdient!
Und deswegen nutze ich den ganzen Kram nicht. Außer die Funktion im Wecker.
Das Thema mit den fragwürdigen Amazon-Mitschnitten und den bedenklichen Auswertungen ist viel, viel umfangreicher, als es hier dargestellt wird. Im Vergleich zur Realität hört es sich in diesem Artikel ja noch beinahe niedlich an.
Mehr erfahrt ihr z.B. unter:
www.rbb24.de/panorama/beitrag/2019/04/alexa-amazon-abhoerung-verfassungsschutz-nachrichtendienste.html
Auf keinen Fall solltet ihr die heutige Sendung "Kontraste" um 21:45 Uhr im Ersten verpassen!
Thema: "Alexa: Alles, was Sie sagen, kann gegen Sie verwendet werden!".
Die Sendung wird sicherlich auch in der ARD-Mediathek abrufbar sein, falls ihr heute keine Zeit habt.
Das Nachrichtendienste Zugriff haben wollen wird aber kaum jemanden interessieren, wie bei WhatsApp.
Wenn Alexa so Spionage betreibt warum hat die nicht den Namen Jane Doe bekommen...
Würde mich nicht wundern, wenn das Jobcenter Hartz 4 auch über Alexa oder Smartphone mit seine Leistungsbezieher aushorcht.
Bei Spionage wäre Jane Bond eher passend. Eine Jane Doe wäre eine weibliche, unbekannte Leiche.
Alexa ist eine unbekannte, kalte Leiche, die tot irgendwo rumsteht, verstaubt und doch mithören kann, wie ein Geist 👻.
Wundert mich nicht. Aber ich nutze keine Assistenten. Ich bin mein eigener Assistent, solange ich gesund bin.
Als hätte man es nicht schon vorher gewusst.
ich merke schon... du bist genauso genauso geschockt wie wir alle. ^^
Ich habs vor Stunden schon bei fefe gelesen. Und ehrlich gesagt war es ja nur eine Frage der Zeit, bis auch mit diesen Daten Unfug getrieben wird.
und genau wg dieser weisen Voraussicht kam bei mir keine Amazon/Google-Wanze ins Haus und kommt auch garantiert nicht mehr ins Haus.
Nun, man mag darüber diskutieren, ob Amazon dies den "Normalanwendern" bewusster hätte machen sollen/können. Man kann ja auch in den Einstellungen zu Alexa Flags setzen, dass man die Nutzung zum KI-Training nicht wünscht.
Aber mit ein wenig Technikaffinität sollte es nicht überraschen, dass Menschen ausgewählte Aufzeichnungen nutzen, um die Maschine zu trainieren - wie sonst sollte eine KI zur Spracherkennung trainiert werden, wenn ihr nicht jemand mitteilt, was sie in dem Gesprochenen verstehen hätte sollen? Am Anfang mag man gegebenenfalls ein anderes Spracherkennungssystem als "Lehrer" einsetzen, das Dinge verstehen kann, die die KI (noch) nicht erkennt. Aber das Ziel ist ja, dass die KI besser wird als andere Spracherkennungssysteme, über die man bereits verfügt - und wenn das klappt sollte sie also mit zunehmend Erlerntem diese anderen Systeme ein- und überholen, und dann können diese ihr nichts mehr beibringen. Letztlich bleibt also zur weiteren Verbesserung nichts anderes übrig als dass ein Mensch der Maschine fehlendes Wissen antrainiert. Die ganze Aufregung "wie können sie nur" ist also eigentlich eher ein Zeichen dass diejenigen, die sich aufregen, nicht wissen was "KI" bedeutet, anstatt finsterer Praktiken seitens Amazon. Ich denke man kann problemlos davon ausgehen, dass das bei anderen servergestützen KI nutzenden Sprachassistentensystemen nicht anders gehandhabt werden wird - Siri, Google etc.
Aber wie eingangs gesagt - das Wissen kann man vom Normalanwender auch nicht wirklich erwarten, daher könnte man kritisieren, dass Amazon da nicht in laienverständlicher Form darauf hinweist incl. Aufzeigen der Möglichkeit, die Nutzung zum manuellen KI-Training in den Einstellungen abzulehnen (in der Praxis steht dem wohl die Sorge des Unternehmens, dass die Leute dann vor lauter Angst "sie hören mich ab" das Produkt nicht kaufen wollen, dem entgegen...).
jaja die Einstellung, wo man Amazon per Mausklick mitteilt das die Nutzung meiner Sprachdaten nicht gestattet wird.
Im Sport gibt es einen einfachen Grundsatz. Eine Regel die der Schiri nicht überwachen bzw. dann auch sanktionieren kann, taugt nichts als Regel. Sprich du machst den Mausklick bei den Einstellungen für Alexa und dann ? Wie kannst du überprüfen ob sich Amazon und seine Mitarbeiter daran halten ? Gar nicht. Womit wir wieder am Anfang wären. Vielleicht werden die Daten ja tatsächlich nicht in Deutschland genutzt. Was hindert Amazon aber daran, eine Kopie der Daten zu den Philipinnen zu schicken, wo die ganzen Gesetze wie hier nicht existieren ? Nichts. Und von Überwachung des internen Netzwerkes von Amazon wollen wir gar nicht erst anfangen - lachhaft zu glauben, mit dem Mausklick wäre alles erledigt.
Ohne ein gewisses Grundvertrauen an diesen oder andere Anbieter technischer Geräte kommst Du nicht sonderlich weit, wenn Du nicht komplett auf die Nutzung von moderner Kommunikationstechnologie verzichten möchtest (was Du nicht tust, denn sonst könntest Du hier weder mitlesen noch Kommentare schreiben). Denn wo willst Du aufhören? Zeichnet Dein Telefonieanbieter vielleicht die Inhalte sämtlicher Deiner Telefonate auf und gibt sie an Gott und die Welt weiter? Hat der Anbieter der Verschlüsselungssoftware, die Du einsetzt, ein Hintertürchen für sich und sonstwen eingebaut? Hört das Betriebssystem Deines Computers oder Smartphones Dich ab und gibt jede Deiner Eingaben an irgendwen weiter? Oder hört Deine Sorge bei "Alexa hört mich ab" auf, ist Amazon in Deinen Augen weniger vertrauenswürdig als Microsoft, Google, ...?
Vor dem Hintergrund, dass ich also ein gewisses Grundvertrauen besitzen muss, um überhaupt erklären zu können warum ich all die technischen Geräte nutze (eine andere Erklärung wäre "ich messe mit zweierlei Maß", was dann aber die Relevanz meiner Meinung reduzieren würde, sie wäre dann ja willkürlich), würde ich ohne konkrete Anzeichen, dass Amazon die Einstellung "nicht zum KI-Training nutzen" missachtet, oder dass Amazon grundlegend nicht vertrauenswürdig ist (was aber wohl schon früher thematisiert worden wäre, schliesslich haben sie über die ganzen Kauftransaktionen bereits seit langem ein enormes Wissen über ihre Kunden), daher eher erst mal "sie werden das schon beachten" annehmen.
Das mein Telefonanbieter (Telekom) theoretisch alle meine Gespräche aufzeichnet, kann ich zwar nicht 100%ig ausschließen, es ist aber bisher noch nichts davon an die Öffentlichkeit durchgesickert - im Gegensatz zu Alexa und zig anderen Datenleaks großer Techfirmen. Und Telekom ist schon wesentlich länger am Markt. Außerdem - selbst wenn sie es tun würden, beschränkt sich die Aufzeichnung auf das Gespräch. Aber klar, hätte ich etwas so geheimes zu besprechen, dass ich 100% sicher sein möchte, würde ich das auch nicht übers Telefon machen.
Alexa belauscht mich aber 24 Std. rund um die Uhr, da es ja ständig auf das Stichwort wartet. Das ist nochmal eine ganz andere Qualität.
Mein Grundvertrauen in Anbieter wie Google, Microsoft, Amazon, Facebook und einige mehr tendiert auch generell gegen Null. Die haben alle nur den eigenen Vorteil im Sinn, der Kunde ist hier schon lange nicht mehr König. Daher nutze ich sie entweder gar nicht (wie z.B FB) und betreibe auch einiges an Aufwand um diese möglichst wenig zu nutzen, Tracking und Werbung zu blockieren, Fake Accounts usw. An einem älteren Handy experimentiere ich gerade herum dieses komplett Google-frei zu machen. Dienste wie Kalender und Kontakte laufen bei mir nicht mehr über Google sondern über mein eigenes NAS. Passwort-App-Datenbank läuft auch darüber (und nicht Dropbox z.B.). Microsoft hat noch nie einen Account von mir bekommen, ich melde mich auschließlioch lokal an. Klar, ich kann nicht alles ausschließen, da mache ich mir nichts vor, aber letztendlich steht auch meine Adresse im Telefonbuch. Das allein stellt aber noch kein Risiko dar. Also man kann schon einiges tun, um es den Konzernen so schwer wie möglich zu machen dich zu verfolgen.