Laut einem Elternteil, der Screenshots von Alexas Aktivitätsverlauf veröffentlichte, gab der Amazon-Sprachassistent, als er von einem Kind gebeten wurde, eine Herausforderung anzubieten, ein Beispiel für ein tödliches Experiment mit Elektrizität, wobei seine Beschreibung aus dem Kontext eines zufälligen Artikels gerissen wurde. Die Echo-Kolumne berichtete über ein bei TikTok-Fans beliebtes Experiment mit der Verwendung einer Münze und eines Ladegeräts für ein Smartphone – zahlreiche Zwischenfälle, Verletzungen und Brände nach seiner Durchführung wurden von verschiedenen Medien mehr als einmal gemeldet. Offenbar hat das Gerät die Idee zu dieser Challenge von einem Artikel bekommen, der es als gefährlich bezeichnete und einen Bericht über eine angeblich existierende TikTok-Challenge zitierte.
Laut einem Screenshot von Christine Livdahl antwortete Echo, als er gebeten wurde, „mir eine Aufgabe zu zeigen“, „Hier ist etwas, das ich online gefunden habe.“ Laut ourcommunitynow.com ist die Aufgabe einfach: „Stecken Sie das Telefonladegerät etwa zur Hälfte in die Steckdose und berühren Sie dann die blanken Stifte mit einem Cent.“
In einer Erklärung gegenüber der BBC bestätigte Amazon das Verhalten von Alexa und sagte: „Sobald wir auf diesen Fehler aufmerksam wurden, haben wir sofort Maßnahmen ergriffen, um ihn zu beheben.“ Livdahl hat gestern getwittert, dass die Herausforderungsanfrage nicht mehr funktioniert. Nutzer im Web testeten die Anfrage auch mit Alexa und kamen zu einem ähnlichen Ergebnis.
OMFG Meine 10-jährige hat gerade Alexa auf unserem Echo nach einer Challenge gefragt und das hat sie gesagt. Bildtwitter.com/HgGgrLbdS8
- Kristin Livdahl (@klivdahl) 26. Dezember 2021
Amazon ist nicht das einzige Unternehmen, das auf Probleme bei der Analyse von Webinhalten gestoßen ist. Im Oktober berichtete ein Nutzer, dass Google in einem seiner Snippets potenziell gefährliche Ratschläge anzeigte, wenn man „Sie haben einen Anfall, was zu tun ist“ in Google eingab – die Information stammte aus einem Abschnitt der Webseite, der beschreibt, was nicht zu tun, wenn jemand einen Anfall hat. Benutzer haben jedoch andere ähnliche Probleme gemeldet, darunter ein Benutzer, der berichtete, dass Google bei der Suche nach orthostatischer Hypertonie Ergebnisse für orthostatische Hypotonie zurückgibt, und ein anderer einen Screenshot von Google mit schrecklichen Ratschlägen zum Trost einer trauernden Person nach dem Motto „Ich bin froh, dass Sie alles in Ordnung“ oder „Sei nicht traurig! Aufheitern!".
Die Zusammenfassung der Google-Suche im Vergleich zur eigentlichen Seite Bildtwitter.com/OJxt1FrBqh
— weich.linde (｡•̀ᴗ-)✧ (@weich) 16. Oktober 2021
Wir haben auch Warnungen vor gefährlichem Verhalten gesehen, um das Problem größer zu machen, als es war – Anfang dieses Monats wurden einige US-Schulbezirke nach Berichten über Schussdrohungen auf TikTok gesperrt. Es stellte sich heraus, dass der soziale Sturm hauptsächlich dadurch verursacht wurde, dass die Menschen über die Bedrohungen sprachen, viel mehr als über die Bedrohungen, die tatsächlich existierten. Im Fall von Alexa wählte der Algorithmus den beschreibenden Teil der Warnung aus und verstärkte ihn ohne den ursprünglichen Kontext. Obwohl die Eltern da waren, um sofort einzugreifen, kann man sich leicht eine Situation vorstellen, in der dies nicht der Fall ist, und die Folgen.
Livdahl twitterte, dass sie die Gelegenheit nutzte, „mit ihrem Kind über Internetsicherheit zu diskutieren und dem, was Sie lesen, nicht zu vertrauen, ohne zu recherchieren und zu überprüfen“, was wir Ihnen auch empfehlen.
Lesen Sie auch: