Hoppsan – en Amazon Echo spelade in och delade konversation i smyg

Att ha AI-drivna röstassistenter som automatiserar uppgifter åt oss är en modern bekvämlighet som allt fler av oss testar på. Ibland kan det dock gå fel, vilket en amerikansk familj nyligen fick erfara.

En familj i Portland, Oregon i USA rapporterade nyligen att deras Amazon Echo-enhet hade spelat in en konversation i bakgrunden och skickat inspelningen till en kontakt adressboken. Enligt familjen hade röstassistenten Alexa inte fått något kommando om att spela in konversationen, och assistenten uppgavs inte heller ha indikerat att inspelningen ägde rum eller att den skickades till en kontakt.

Incidenten upptäcktes när ett företag i Seattle-området ringde upp familjen och bad dem koppla ur sina Echo-enheter eftersom företaget hade mottagit den inspelade konversationen. Familjen kontaktade då Amazon som lät en Alexa-ingenjör granska enhetens interna händelseloggar. Inledningsvis angavs ingen konkret anledning till varför misstaget skett, men efter en djupare analys menar Amazon att det är ett resultat av en serie olycksaliga sammanträffanden.

Enligt Amazons undersökning ska Echo-enheten ha uppfattat kommandot "Alexa" i konversationen och efter detta ska den även ha uppfattat kommandot "skicka meddelande". Alexa-assistenten ska då ha frågat vem meddelandet ska skickas till, och sedan plockat den kontakt som matchade det som sades i konversationen just då.

Alexa ska enligt Amazon till och med bett om att få det bekräftat att meddelandet skulle skickas till vald kontakt, och då uppfattat ord i konversationen som en bekräftelse på detta. En serie olycksaliga sammanträffanden alltså, men frågan är om detta är ett osannolikt isolerat fall eller om risken är större än Amazon vill framhålla.

Hur som helst kanske vi får tänka till en extra gång över vad vi delar med oss i konversationer i en framtid där smarta assistenter finns spridda över hemmets alla vrår och använder våra röster till att styra allt i vår vardag.

Källa: KIRO 7