Amazon-Mitarbeiter analysieren eure Privatgespräche mit Alexa

Hier kommen News zum Forum, Amazons Echo und Alexa Voice Service rein.
Benutzeravatar

Themenstarter
SmarthomeAssistent
News Bot
Beiträge: 525
Registriert: So 30. Dez 2018, 11:34

Do 11. Apr 2019, 20:35



Bild

Wie Bloomberg heute berichtete, gibt es in mehreren Ländern tausende Mitarbeiter, deren Job es ist, eure Privatgespräche mit Alexa anzuhören, zu analysieren und auszuwerten.  

Legal und alles zum Zweck besser zu werden!

In Boston, Costa Rica, Indien und Rumänien sitzen tausende Mitarbeiter von Amazon, deren Job es ist, Gespräche die mit Alexa geführt wurden, zu analysieren und auszuwerten. Auf eine gewisse Art ist das nichts neues, denn es steht sowohl in den Bestimmungen, als das es auch die Möglichkeit gibt, diese Auswertungen in den Einstellungen zu unterbinden. Spannender ist allerdings die Tatsache, dass die Mitarbeiter unter sich, die Unterhaltungen besprechen und sich zu besonders lustigen oder banalen Dingen austauschen. Ebenfalls ist es wohl so, dass die Mitarbeiter bei den Sprachaufnahmen den Vornamen, die Gerätenummer und auch die Account Nummer einsehen können.  Amazons Statement dazu sieht derzeit wie folgt aus: „Wir nehmen die Sicherheit und den Schutz der personenbezogenen Daten unserer Kunden ernst. Wir versehen nur eine extrem geringe Anzahl von Interaktionen einer zufälligen Gruppe von Kunden mit Anmerkungen, um die Nutzererfahrung zu verbessern. Zum Beispiel helfen uns diese Informationen, unsere Systeme zur Spracherkennung und zum Verständnis natürlicher Sprache zu trainieren. So kann Alexa Anfragen besser verstehen und sicherstellen, dass der Dienst für alle gut funktioniert. Bei uns gelten strenge technische und betriebliche Sicherheitsvorkehrungen und wir verfolgen eine Null-Toleranz-Politik, was den Missbrauch unseres Systems betrifft. Im Rahmen dieses Workflows haben Mitarbeiter keinen direkten Zugriff auf Informationen, die die Person oder das Konto identifizieren können. Wir behandeln Informationen mit hoher Vertraulichkeit, setzen auf eine Multi-Faktor-Authentifizierung zur Zugriffsbeschränkung, eine Verschlüsselung des Dienstes sowie Audits unserer Kontrollumgebung zum Schutz der Daten. Darüber hinaus können unsere Kunden ihre Sprachaufzeichnungen jederzeit löschen.“ Pro Mitarbeiter werden so bis zu 1000 Aufnahmen am Tag abgearbeitet. Ebenfalls lautet die Aussage eines Mitarbeiters, dass etwa 100 der 1000 Aufnahmen fälschlicherweise aufgenommen wurde, da Alexa das Aktivierungswort falsch verstanden hat. Wie steht ihr zu dem Thema? Schockiert euch das oder war es euch bereits bewusst, das „richtige Menschen“ Teile eurer Sprachaufzeichnungen auswerten? Quellevia

Die komplette News bei SmarthomeAssistent.de lesen.

Bildquelle: siehe News-Artikel
0 x
Benutzeravatar

Webmark
Beiträge: 111
Registriert: Sa 29. Dez 2018, 17:54
Vorhandene Echos: 2

Do 11. Apr 2019, 20:58

Ich bin auch vor dieser Meldung davon ausgegangen, dass die an Alexa gerichteten Anfragen in irgendeiner Form ausgewertet werden.

In meinem Fall stört es mich nicht weiter, da sich meine Kommunikation mit Alexa in der Regel auf das Abspielen von Musik beschränkt.
0 x
Gruß
Markus
Benutzeravatar

AlexaFan
Beiträge: 387
Registriert: Di 27. Mär 2018, 23:59
Vorhandene Echos: 36
Vorhandene Echo Dots: 12
Vorhandene Echo Shows: 8

Do 11. Apr 2019, 21:45

Wie soll die Spracherkennung wohl auch sonst verbessert werden? Das war mir von Anfang an klar, daß da die Aufzeichnungen von Menschen nachträglich analysiert werden - wenn auch nicht von Sir Anthony Hopkins. ;)
1 x
Benutzeravatar

MichaG
Beiträge: 243
Registriert: Di 15. Aug 2017, 13:20
Vorhandene Echos: 2
Vorhandene Echo Dots: 6

Fr 12. Apr 2019, 09:20

Na sicher, wenn sich Alexa irrtümlich aktiviert bzw. Anfragen nicht wie gewünscht beantwortet werden schaut sich das jemand an, um die Qualität zu verbessern. Wir haben gestern nach "Mosel" gefragt und Infos über die Winzergesellschaft bekommen, wollten aber natürlich etwas zu diesem Fluss wissen. Danach kam die Abfrage, ob unsere Frage beantwortet war. Ich habe mit "nein" geantwortet und gehe davon aus, dass sich jemand die Abfrage/Antwort-Kombination auswertet und gegebenenfalls ein Schräubchen dreht, dass der nächste Frager gleich die Antwort zum Fluss bekommt. "Hört sich tausende Privatgespräche an" ist eine bewusst in die Irre führende Klickbait-Schlagzeile.
0 x
Benutzeravatar

Goggo16
Beiträge: 200
Registriert: So 14. Mai 2017, 11:31
Vorhandene Echo Dots: 5

Fr 12. Apr 2019, 09:36

Hi,

interessante Sache. Das auch, weil gestern im ZDF in Kontraste-Magazin dazu berichtet wurde.

Zunächst mal:
SmarthomeAssistent hat geschrieben:
Do 11. Apr 2019, 20:35
gibt es in mehreren Ländern tausende Mitarbeiter, deren Job es ist, eure Privatgespräche mit Alexa anzuhören, zu analysieren und auszuwerten.  
Was heisst hier genau "... analysieren und auswerten ..."? Was ist der Zweck?

In Kontraste wurde u.A. berichtet, dass das hinsichtlich Verbesserung des Sprachassistenten gemacht wird. Soweit erst mal OK, insoweit auch das Nachfolgende eingehalten wird.
SmarthomeAssistent hat geschrieben:
Do 11. Apr 2019, 20:35
Auf eine gewisse Art ist das nichts neues, denn es steht sowohl in den Bestimmungen, als das es auch die Möglichkeit gibt, diese Auswertungen in den Einstellungen zu unterbinden.  
Allerdings wurde auch von der Moeglichkeit berichtet, zufaellige Nebenaufzeichnungen auszuwerten. Z.B. ein Gespräch anderer Leute im Hintergrund während man selbst die Einkaufsliste eindiktiert. Das ist dann nicht mehr so toll.

Völlig daneben ist folgendes, insofern das tatsächlich zutreffend ist.
SmarthomeAssistent hat geschrieben:
Do 11. Apr 2019, 20:35
Ebenfalls ist es wohl so, dass die Mitarbeiter bei den Sprachaufnahmen den Vornamen, die Gerätenummer und auch die Account Nummer einsehen können. 
Wieso ist die Einsicht in die Account-Daten fuer die Analyse und Auswertung zur Verbesserung des Sprachassistenten erforderlich? Das erschliesst sich mir nicht. Hier wird meiner Meinung nach das Need-to-Know-Prinzip nicht eingehalten. Diese Account-Daten sind dafuer einfach nicht erforderlich.

Der Knüller fuer mich aus dem Kontraste-Magazin ist aber das hier:

Danach ist bei uns im Innenministerium ein Gesetzentwurf in der Mache. In diesem heisst es unter anderem: "Hersteller wie A*****n sollen verpflichtet werden, den deutschen Nachrichtendiensten automatisierte technische Zugänge zu ihren Geräten einzurichten."

Hmmm ... das muss man erst mal ein paar Takte drueber nachdenken, was das alles bedeuten könnte.

Allerdings finde ich, dass man derzeit hinsichtlich ungewolltem Abhoeren auch wieder etwas entspannter sein kann. Bislang passiert das nur, nachdem das Wake-Up-Wort (Echo, Amazon) gesagt wurde, und der Sprachassistent dann mit dem Mutterschiff in Kontakt steht, um die Befehlsausführungen durch zu fuehren. Ab und zu leuchtet ja der Farbring etwas laenger, da Alexa auf einen moeglichen weiteren Befehlt wartet.

Das ggf. unbemerkte Abhoeren haben auch schon mal ein paar Leute nachgeprueft, indem sie den Netzwerktraffic eines Sprachassistenten über einen laengeren Zeitraum gesnifft haben. Netzwerktraffic gabs nur, wenn das Licht geleuchtet hat (... mal von TuneIn-Radio oder Musik abgesehen). Hab das selbst in der Anfangszeit stichprobenartig mit Wireshark auch mal gemacht. Da zeigte sich das gleiche Bild. U.A. wurde ab und zu mal zwischendurch ein NTP-Server fuer den Abgleich der aktuellen Uhrzeit angesprochen. etc. Nur wenns Befehle auszufuehren gab, dann hats Traffic gegeben. Einen Software-Update hab ich nicht einfangen koennen.

Ob das heute noch genau so ist, da bin ich mir nicht sicher. Ob da nun mehr geht (u.A. unbemerktes Abhoeren) halte ich fuer Spekulation. Wer das dennoch als unzumutbar erachtet, der sollte vorher schon sein Smartphone ausser Betrieb genommen haben.

LG, Goggo
0 x
______________________________________________________________________________________
4x Echo Dot | Harmony Hub | Raspberry Pi mit HA Bridge, FHEM + Cul-Stick 433/868 | Milight iBox2 mit RGBW-CCT LED | Trust Dimmer
Benutzeravatar

AlexaFan
Beiträge: 387
Registriert: Di 27. Mär 2018, 23:59
Vorhandene Echos: 36
Vorhandene Echo Dots: 12
Vorhandene Echo Shows: 8

Fr 12. Apr 2019, 21:04

Goggo16 hat geschrieben:
Fr 12. Apr 2019, 09:36
Allerdings wurde auch von der Moeglichkeit berichtet, zufaellige Nebenaufzeichnungen auszuwerten. Z.B. ein Gespräch anderer Leute im Hintergrund während man selbst die Einkaufsliste eindiktiert.
Ich vermute mal, die Möglichkeit wurde vom ZDF erwähnt (möglich ist natürlich immer fast alles), aber gemacht werden dürfte es wohl kaum - ganz einfach, weil es für Amazon keinen Nutzen hat.
Wieso ist die Einsicht in die Account-Daten fuer die Analyse und Auswertung zur Verbesserung des Sprachassistenten erforderlich?
In dem von Dir zitierten Text steht nichts davon, daß eine Einsicht in die Account-Daten erfolgt oder gar möglich ist. Es geht nur um die Account-Nummer, die man wohl für die bessere Analyse (Verknüpfung verschiedener Sprachdateien) benötigt. Man könnte diese Nummer (und die Seriennummer) natürlich anonymisieren, was ja vielleicht sogar der Fall ist.
0 x
Benutzeravatar

Heiko
Beiträge: 213
Registriert: So 19. Feb 2017, 15:39
Vorhandene Echos: 1
Vorhandene Echo Dots: 4
Vorhandene Echo Shows: 2

Fr 12. Apr 2019, 21:22

Man kann die Sprachdaten ja in der App oder im Amazon Konto selbst löschen, weshalb das nicht nach einer gewissen Zeit automatisch geschieht erschließt sich mir nicht. Angeblich vermindert sich die Erkennungsrate wenn man diese löscht. Das konnte ich bisher nicht feststellen. Was will man mit 2 Jahre alten Sprachaufzeichnungen?
Da könnte Amazon durchaus nachbessern. Dann wäre Amazon und der User auf der sicheren Seite und das Problem gelöst.
0 x
Benutzeravatar

Webmark
Beiträge: 111
Registriert: Sa 29. Dez 2018, 17:54
Vorhandene Echos: 2

Fr 12. Apr 2019, 22:52

Heiko hat geschrieben:
Fr 12. Apr 2019, 21:22
Dann wäre Amazon und der User auf der sicheren Seite und das Problem gelöst.
Diesen Teil deines Kommentars verstehe ich nicht. Was wäre denn dadurch sicherer?
0 x
Gruß
Markus
Benutzeravatar

Heiko
Beiträge: 213
Registriert: So 19. Feb 2017, 15:39
Vorhandene Echos: 1
Vorhandene Echo Dots: 4
Vorhandene Echo Shows: 2

Fr 12. Apr 2019, 23:16

Wenn nichts profilbezogen gespeichert wird, da kann auch nichts ausgewertet, oder von wem auch immer angefordert werden.
Zuletzt geändert von Heiko am Fr 12. Apr 2019, 23:17, insgesamt 1-mal geändert.
0 x
Benutzeravatar

reisender67
Beiträge: 81
Registriert: So 18. Nov 2018, 00:39
Wohnort: Niederkassel zwischen Köln & Bonn
Vorhandene Echos: 4
Vorhandene Echo Dots: 3

Sa 13. Apr 2019, 11:45

Ich finde die Aussage "Privatgespräche abhört" reichlich übertrieben und Panikmache.
Wer das System nicht kennt, könnte meinen, Alexa würde ständig alle Gespräche übertragen. Tatsächlich werden ja nur die kurzen Sequenzen nach Nennung des Aktivierungswortes übertragen und keine kompletten Gespräche.
2 x
3 x Echo der 2.Generation & 1 x Echo Show 5 & 2 x Echo Dot der 3.Generation & 1 x Echo Dot der 2.Genaration
Antworten

Zurück zu „News“

  • Information