Die Nachricht, dass Siri Ausschnitte unserer Gespräche mit dem Sprachassistenten aufzeichnet, ist nicht neu, aber behauptet, dass diese kurzen Aufzeichnungen von menschlichen Agenten abgehört werden – insbesondere angesichts des großen Drucks des Unternehmens auf die Privatsphäre.
Das ist schlechte Optik für Apple
Ich glaube leidenschaftlich an die Bedeutung der Privatsphäre.
Es ist nicht nur wichtig, um hart erkämpfte Freiheiten zu bewahren und den öffentlichen Diskurs zu schützen; Es ist auch in allen Bereichen der menschlichen Existenz von wachsender Bedeutung – für jede Schule, jede medizinische Einrichtung oder jedes Unternehmen. Die Geschichte zeigt, dass das Fehlen von Privatsphäre eine zerstörerische Wirkung auf die Gesellschaft hat, Familienmitglieder gegeneinander aufhetzt und Innovationen dämpft.
Apples Warnungen zum Datenschutz – einschließlich der Warnung von Apple-CEO Tim Cook, dass viele der Technologiefirmen, mit denen wir täglich zusammenarbeiten, uns in einen Überwachungszustand bringen – sind wichtig (wenn auch nicht immer praktisch für diejenigen, die argumentieren, dass Datenschutz nur etwas ist, das wir für die gut von den Robotern, die wir herstellen).
Die Enthüllung, dass Apple nicht deutlich gemacht hat, dass Aufzeichnungen unserer privaten Gespräche mit „Auftragnehmern“ zu „Qualitätskontroll-“ und „Schulungszwecken“ geteilt werden, ist jedoch ein wirklich schlechtes Bild für das Unternehmen.
Was Apple sagt
Apple gibt an:
„Ein kleiner Teil der Siri-Anfragen wird analysiert, um Siri und das Diktieren zu verbessern.“ Es verspricht auch, dass „Benutzeranfragen nicht mit der Apple-ID des Benutzers verknüpft sind. Siri-Antworten werden in sicheren Einrichtungen analysiert und alle Prüfer sind verpflichtet, die strengen Vertraulichkeitsanforderungen von Apple einzuhalten.“
Das ist bis zu einem gewissen Grad beruhigend, aber da Apples Rezensenten in einigen Fällen Berichten zufolge gehört haben, dass Personen persönliche Informationen, einschließlich ihrer Adresse, weitergegeben haben, reicht die Trennung von aufgezeichnetem Ton von der entsprechenden Apple-ID möglicherweise nicht aus.
Apple muss noch etwas tun.
Wie Apple Abhilfe schaffen kann
Beginnen Sie mit Transparenz
Versteckt in den Geschäftsbedingungen von Apple finden Sie Warnungen, dass Aufnahmen, die mit Siri gemacht wurden, manchmal zu Qualitätskontrollzwecken verwendet werden.
Sie finden auch ein Versprechen, dass diese Aufzeichnungen (im Gegensatz zu Mitbewerbern) in keiner Weise mit Ihrer Apple-ID oder persönlichen Identität verknüpft sind.
Diese Versprechen sind nicht ganz klar.
Deshalb sage ich, dass Apple viel klarere und leichter verständliche Datenschutzwarnungen zur Verwendung von Siri auf seinen Geräten einführen sollte. Es muss diese Warnungen in den Vordergrund rücken und kristallklar machen, dass es diese Aufzeichnungen nicht nur manchmal verwendet, sondern auch, wie es sie verwendet, wie es die Identität bei der Verwendung schützt und genau wie lange diese Aufzeichnungen aufbewahrt werden.
Aber gib den Leuten die Kontrolle
Apple sollte (glaube ich) Siri zu einem Opt-out machen.
Das heißt, beim Einrichten von Siri auf einem neuen Gerät sollte dem Benutzer die Möglichkeit gegeben werden, die Verwendung seiner Stimme für andere Zwecke als die ursprüngliche Anfrage ausdrücklich abzulehnen.
Sie sollten sagen können, dass Ihre Daten nicht für Schulungen oder Qualitätskontrollen verwendet werden sollen.
„Aber dann wird Apple den Assistenten nicht so schnell trainieren können“, mögen sich manche beschweren. Vielleicht nicht, aber es wird seine Führungsrolle beim Datenschutz beibehalten.
Darüber hinaus ist es fraglich, wie nützlich diese Aufnahmen tatsächlich sind.
Übernehmen Sie mehr Verantwortung
Wer sind die „Auftragnehmer“ von Apple, Google, Amazon und all den anderen, die diese kurzen Aufzeichnungen von dem, was wir sagen, überprüfen und anhören?
Wie werden sie eingestellt?
Wie lauten ihre Stellenbeschreibungen? Für wen arbeiten sie noch?
Auf welcher Grundlage kann ihnen vertraut werden und wie können Einzelpersonen Wiedergutmachung erlangen, falls sie dieses Vertrauen missbrauchen?
Und warum kennen Siri-Benutzer die Antworten auf all diese Fragen nicht bereits?
Dass diese Auftragnehmer ausgelagert werden, macht keinen Sinn.
Apple sollte diese Arbeit ins eigene Haus bringen, die volle Verantwortung dafür übernehmen, was seine Voice-Mitarbeiter und sein Management mit diesen Aufnahmen machen, und sicherstellen, dass Kunden eine Möglichkeit haben, jeden Verstoß gegen ihren Datenschutz zu ahnden.
Stellen Sie sicher, dass Sie die Informationen benötigen
Apple sagt, dass es nur kleine Abschnitte von Wörtern aufzeichnet und verwendet, die es hört, aber muss es überhaupt so viele Samples behalten oder überprüfen, wie es möchte?
Überlege es dir so:
Wenn Siri auf Ihrer Uhr oder Ihrem HomePod hört, was sie für den Befehl “Hey, Siri” hält, aber danach keine Anfrage gestellt wird, dann sollte es sicherlich schlau genug sein, um einen Fehlalarm zu erkennen.
Im Falle eines solchen Fehlalarms sollte Siri auf dem Gerät sicherlich schlau genug sein, um zu erfahren, was den versehentlichen Aufruf verursacht hat, und in Zukunft weniger empfindlich auf dieses Geräusch reagieren.
(EIN Wächter Bericht behauptet, dass das Geräusch von Reißverschlüssen Siri zum Beispiel manchmal aufweckt – sicherlich kann Siri lernen, das Geräusch von Reißverschlüssen als Reaktion darauf zu ignorieren.)
Die Quintessenz ist, dass für den Fall, dass Siri aufgerufen wird, aber keine spezifische Anfrage gestellt wird, das System intelligent genug sein sollte, die Interaktion zu ignorieren und alle Aufzeichnungen, die als Ergebnis dieser Interaktion erstellt wurden, über (möglicherweise) die ersten drei Sekunden hinaus zu löschen, in denen es glaubte den Auslösebefehl gehört zu haben.
Allein dieser Schritt würde einige der ungeheuerlicheren Aufnahmen verhindern, die Siri angeblich gehört und mit Auftragnehmern geteilt hat.
Ich möchte nicht, dass Siri besser darin wird, zuzuhören, was ich sage, wenn ich nicht möchte, dass sie zuhört. Ich möchte nur, dass es besser wird, wenn ich eine Anfrage stelle.
Ist der Mensch überhaupt notwendig?
Die Sprachtechnologie entwickelt sich rasant weiter. Dies wirft die Frage auf: „Ist es für menschliche Auftragnehmer überhaupt notwendig, sich Siri-bezogene Konversationsschnipsel anzuhören?“
Ich denke, in vielen Fällen ist es das einfach nicht.
Die Aufnahmen sollten zunächst Siri und andere Spracherkennungstechnologien durchlaufen, um die Genauigkeitsprüfung zu automatisieren.
Nur in den Fällen, in denen verschiedene Spracherkennungssysteme keinen Weg finden, sich auf das Gesagte zu einigen, sollte das menschliche Ohr erforderlich sein.
Ich bin kein KI-Experte, aber für diese Art von Analyse sind Random-Forest-Modelle/-Algorithmen gebaut – nur wenn die Technologie sich nicht einig ist, warum eine Anfrage falsch ist, sollte überhaupt ein Mensch notwendig sein.
Warum es wichtig ist
Dies sind nur eine kleine Sammlung von Vorschlägen, von denen ich hoffe, dass Apple Siri zum privatsten Sprachassistenten der Branche macht.
Dieses Zeug ist wichtig.
Denk darüber nach:
Die Worte, die wir verwenden, sind nicht nur unser Eigentum, sondern da sensorbasierte Technologien und KI in verschiedene Bereiche des täglichen Lebens eintreten – von Mapping bis hin zu allgegenwärtiger VR – wird das Bedürfnis nach Privatsphäre noch wichtiger, da so viel mehr von unserem Leben werden wird ein offenes Buch.
Die Entscheidungen, die wir heute rund um die Stimme treffen, werden jeden anderen Datenschutzbereich definieren.
Es gibt einige, die denken, dass Privatsphäre ein Preis ist, den wir für computergestützten Komfort zahlen sollten, aber ich habe ihnen nie zugestimmt.
Wir stehen an einem Punkt in der Geschichte der Menschheit, an dem die Entscheidungen, die wir in Bezug auf die Privatsphäre von Sprachassistenten treffen, in unserer Zukunft Resonanz finden werden.
Wir müssen dies auf effektive Weise lösen, denn wenn wir dies nicht tun, werden die Implementierungen unsicher und möglicherweise ethisch unbedenklich.
Und Apple muss seine Forderung nach einem digitalen Rechtekatalog in diesem Bereich vorantreiben, ein Gesetz, das die Benutzer in den Mittelpunkt der Datenschutzkontrolle stellt.
