Siri is niet zo netjes als je zou denken.
Het doek lijkt te vallen voor veel stemassistenten, want na het Google Assistent-schandaal van begin deze maand blijkt ook Apple’s Siri twijfelachtige trucjes toe te passen. Ze gaan daarentegen niet zo ver als Google. Nou ja, zover we weten.
The Guardian onthult dat ook Siri privégesprekken tussen mensen gebruikt voor het verbeteren van de slimme assistent, al is dat zoals bij Google niet altijd op een nette manier. Slimme assistenten moeten als het ware getraind worden en daar worden mensen voor ingezet.
Medewerkers luisteren (volgens Apple) naar minder dan 1% van alle Siri-opdrachten en checken of Siri de mensen wel heeft begrepen en of het verzoek goed is afgehandeld. Maar een insider van Apple zegt tegen The Guardian dat het veelal helemaal geen verzoeken van mensen zijn die bij de werknemers terecht komen.
De insider schetst een gevoelig beeld: “Je kunt regelmatig een dokter en patiënt horen praten over de medische historie van de patiënt. Of je hoort iemand, misschien met autogeluiden op de achtergrond, waarschijnlijk praten over een drugsdeal. Je kunt het gewoon horen gebeuren. En je hoort mensen seks hebben, wat per ongeluk is opgenomen op een pod of horloge.”
Die gevoelige geluidsopnamen worden vervolgens zonder zorg verwerkt door de medewerkers. Zoals de bron zegt, moeten de medewerkers targets halen en krijgen ze geen tijd om te rapporteren over de inhoud van een bericht. Een fragment van 30 seconden gekreun wordt dan ook weggezet als ‘technisch probleem’.
Dat betekent dat Apple of andere kwaadwillenden (zoals bij de lek van Google Assistant) met de privé-informatie aan de haal kunnen. De medewerker stelt dat werknemers nauwelijks gescreend worden voor de baan en dat ze worden ontmoedigd om na te denken over de privacy van de subjecten, zelfs als fragmenten ontzettend ongemakkelijk zijn om naar te luisteren. Verder zou bijna iedere medewerker toegang hebben tot veel bijkomende informatie (zoals meegestuurde appdata en locatiegegevens) waardoor mensen gemakkelijk geïdentificeerd kunnen worden.
Apple verklaarde in 2018 dat je iPhone niet stiekem met je mee luistert. De realiteit is dat, hoewel de slimme assistenten waarschijnlijk niet heel de dag aan staan, er zeer regelmatig per ongeluk gesprekken worden opgeslagen. Tja, dan luistert Siri per ongeluk mee, dat is bijna net zo erg.
Lees ook: Smart speaker test: Kan Siri op tegen Google Assistant?