Siri: So ernst nimmt Apple den Datenschutz

Sprachassistenten können den Alltag erleichtern. Dementsprechend steigen ihre Nutzerzahlen stetig. Da insbesondere Apple seit langem mit dem Datenschutz wirbt, wollen wir uns den hauseigene Spracherkennungsdienst Siri mal etwas genauer anschauen. Lesen Sie hier mehr zu allem wichtigen Rund um Siri und den Datenschutz.

Apples Sprachsteuerungssoftware Siri

Die Sprachassistentin Siri („Speech Interpretation and Recognition Interface“) ist seit dem iPhone 4S (2011) ein Teil des Apple-Kosmos. Als digitale Assistentin auf dem iPhone, iPads, Apple Watches, MacBooks und Apple TVs kann sie auf Fragen und Befehle reagieren. Die eingegebenen Sprachbefehle werden an die Server von Apple übermittelt und dort verarbeitet. Im Anschluss werden die Ergebnisse zurück an das eigene Gerät übertragen.

Zu den stetig erweiternden Funktionen gehören unter anderem das Anrufen von Kontakten, die Erstellung von Terminen und Notizen, das Senden von Nachrichten, das Abrufen der Wettervorhersage sowie das Starten von Apps (wie z.B. eine Routenführung).

Kann Siri die Nutzer abhören / Was hört Siri mit?

Gestartet wird Siri, neben dem Drücken eines Knopfes, mit den Worten „Hey Siri“. Die Spracheingabe ist dauerhaft eingeschaltet, wenn dies nicht abgeschaltet ist. Verbunden ist damit auch ein Dauerlauschen. Laut Apple wird die Spracheingabe zunächst nur lokal auf dem eigenen Gerät verarbeitet und erst mit den Aktivierungsworten „Hey Siri“ an die Server von Apple versendet.

Siri kann jedoch durch verschiedene Töne oder Geräusche fälschlicherweise ausgelöst werden. Diese Daten werden dann nicht nur durch eine KI verarbeitet, sondern, gerade in der Vergangenheit, durch Apple Mitarbeiter. Die Mitarbeiter überprüfen dabei, ob Siri fälschlicherweise ausgelöst wurde und ob, die Antwort von Siri die Frage des Nutzers angemessen beantwortet hat. Diese Überprüfungen hat Apple an Subdienstleister weltweit ausgelagert. Einer von ihnen, Thomas Le Bonniec, wurde bekannt als Whistleblower. Er berichtete dem Guardian, dass diese Überprüfung durch Menschen durchgeführt wurden und welche Erkenntnisse sie dabei erlangten.

Die Gespräche, die dabei mitgehört wurden, fielen auf eine weite Bandbreite an Themen. Es wurden zwar stets nur Fragmente von Gesprächen aufgezeichnet (bis zu 30 Sekunden), jedoch ging es hierbei häufig um sensible Daten. So wurden Gespräche zwischen Arzt und Patient, Vereinbarungen zu Straftaten, Personen beim Geschlechtsverkehr sowie Geschäftsgespräche belauscht. Die Missbrauchsgefahr dieser Daten ist entsprechend des sensiblen Charakters hoch.

Als Antwort auf die Enthüllungen versprach Apple folgende Verbesserungen:

• Standardmäßig werden keine Audioaufzeichnungen von Siri-Interaktionen mehr gespeichert. Es werden weiter computergenerierte Transkripte verwendet, um Siri zu verbessern.
• Nutzer können per Opt-in selbst entscheiden, ob Siri aus den Audioproben der Anfragen lernen kann.
• Wenn dies der Fall ist, hören ausschließlich Apple-Mitarbeiter Audioproben der Siri-Interaktionen. Diese werden daran arbeiten, jede Aufnahme, die als unbeabsichtigter Auslöser von Siri erkannt wurde, zu löschen.

Offline-Modus ab iOS 15 / iPadOS 15

iOS 15 und iPoadOS soll neben anderen Features vor allem in Punkto Datenschutz Siri verbessern. Siri wird auf allen Geräten mit einem A12-Chip (oder besser, also iPhone XS/XR) die Spracherkennung offline verarbeiten können. Dies würde das Problem der ungewünschten Gesprächsmitschnitte beheben. Wie gut Siri im Offline-Modus arbeiten wird und ob tatsächlich in keinem Fall Daten übertragen werden bleibt jedoch abzuwarten.

Was kritisieren Datenschützer an Siri?

Neben der ungewollten Aufnahme von Gesprächsfragmenten gibt es weitere Bereiche, die aus datenschutzrechtlicher Sicht problematisch erscheinen. Hierbei können zum Beispiel unbeteiligte Dritte genannt werden. Diese Personen werden ggf. unbewusst mitaufgenommen und deren Daten verarbeitet.

Für diese Aufnahmen wäre nicht nur grundsätzlich eine Einwilligung erforderlich. Auch müssten diese Personen Kenntnis von der Aufnahme und den daraus folgenden Rechten erlangen können. Dies stellte auch der wissenschaftliche Dienst des Bundestages in einem Gutachten zu Alexa fest. Weiterhin verwies man auf den Minderjährigenschutz, da auch Kinder, die noch keine Befehle in einen PC eingeben können, Sprachbefehle benutzen können.

Welche rechtlichen Vorgaben macht der Datenschutz?

Der Europäische Datenschutzausschuss (EDSA) hat kürzlich einen neuen Leitfaden zu virtuellen Sprachassistenten veröffentlicht. Dieser richtet sich an die Anbieter von virtuellen Sprachassistenten. Der Leitfaden beschreibt zum einen die Probleme aus datenschutzrechtlicher Sicht sowie die datenschutzrechtlichen Grundlagen.

Weiter werden neue Konzepte zur Erleichterung des Datenschutzes vorgeschlagen. Der EDSA schlägt unter anderem vor, bei bildschirmlosen Geräten, Informationspflichten nach Art. 13, 14 DSGVO durch sprachbasierte Benachrichtigungen zu erfüllen.

Der EDSA stellt bei der Nutzung von Sprachassistenten vier Hauptverarbeitungszwecke von personenbezogenen Daten heraus:

• Die Ausführung von Befehlen der Nutzer,
• die Verbesserung der Sprachassistenten durch maschinelles Lernen, einschließlich menschlicher Überprüfung der Daten,
• die Identifizierung des Nutzers durch die Stimme und
• Werbung sowie Personalisierung von Inhalten durch Profiling.

Der Leitfaden stellt fest, dass die Rechtsgrundlage für die Ausführung von Befehlen die Vertragserfüllung ist, also Art. 6 Abs. 1 S. 1 lit. b) DSGVO. Das Gleiche stellt die Leitlinie für das Profiling fest, wenn dies ein wesentliches Element des Sprachassistenten ist und vom Nutzer erwartet wird. Für die anderen Fälle sieht die Leitlinie die Einwilligung nach Art. 6 Abs. 1 S. 1 lit. a) DSGVO als Rechtsgrundlage vor.

Weiter wird festgestellt, dass nach der Ausführung des Befehls eines Benutzers die personenbezogenen Daten sofort gelöscht werden sollten, es sei denn, dass es eine Rechtsgrundlage für die weitere Verarbeitung besteht. Dies kann eine gesetzliche Verpflichtung sein, die bestimmte Aufbewahrungsfristen vorschreibt. Dies gilt auch für unbeabsichtigt verarbeitete personenbezogene Daten, wie etwa nach einem versehentlichen Auslösen des Sprachassistenten. Zusätzlich sollen Speicherfristen für die personenbezogenen Daten festgelegt werden.

Der EDSA weist auch auf die Möglichkeit hin, Aufnahmen zu anonymisieren, indem situative Informationen entfernt werden und die Stimme anonymisiert wird.

Was macht Apple mit den erhobenen Daten?

Die eingesprochenen Befehle übermittelt Siri mit weiteren Informationen an die Apple-Server. Zu diesen Daten gehören neben dem eingesprochenen Befehl, der Name des Besitzers, der Standort sowie die Beziehung zu bestimmten Kontakten (z.B. Kontakt XY ist der Vater des Nutzers). Die Daten werden analysiert und eine Antwort wird zurückgesendet. Zur Identifizierung des richtigen Empfängers wird nicht die Apple ID genutzt, sondern eine Zufalls-ID. Die Zufalls-ID wird nach spätestens 6 Monaten gelöscht, es sei denn das Aufbewahrungsfristen bestehen. Der Anfragenverlauf kann auch manuell unter „Siri & Diktierverlauf“ manuell gelöscht werden.

Laut Apple wird nur ein Teil der eingesprochenen Daten analysiert und nur mit der Einwilligung des Nutzers durch Apple Mitarbeiter ausgewertet.

Was kann der Nutzer tun?

Mit Einführung von iOS 15 ist es aus datenschutzrechtlicher Sicht empfehlenswert den Offline-Modus von Siri zu nutzen.

Der einzelne Nutzer sollte sich bewusst sein, dass Apple immer noch Daten sammelt und dass diese ggf. auch durch Mitarbeiter von Apple ausgewertet werden können. Gerade auf beruflichen Handys ist es daher empfehlenswert Siri komplett zu deaktivieren. Private Anwender sollten ggf. Apples Datenschutz Einstellungen in Bezug auf Siri ändern und weitere Maßnahmen treffen, wie z.B. regelmäßiges Löschen von Siri-Daten oder auf die Aktivierung durch Sprachbefehl verzichten.

Die Daten zu Anfragen an Siri können unter „Einstellungen“ > „Siri & Suchen“ > „Siri- und Diktierverlauf“ gelöscht werden. Die Einstellungen zur Teilnahme an Auswertungen der eigenen Sprachbefehle bei der Nutzung von Siri kann unter „Einstellungen“ > „Datenschutz“ > „Analyse & Verbesserungen“ ausgewählt werden.

Mehr zu den neuen Werbetracking-Einstellungen von Apple können Sie in diesem Artikel lesen.