Die Nachricht, dass Siri Ausschnitte aus unseren Gesprächen mit dem Sprachassistenten aufzeichnet, ist nicht neu, behauptet jedoch, dass diese kurzen Aufzeichnungen von menschlichen Agenten angehört werden – insbesondere angesichts des großen Drucks des Unternehmens auf die Privatsphäre.
Dies sind schlechte Optiken für Apple
Ich glaube leidenschaftlich an die Bedeutung der Privatsphäre.
Es ist nicht nur wichtig, hart erkämpfte Freiheiten zu bewahren und den öffentlichen Diskurs zu schützen. Es ist auch von wachsender Bedeutung in jedem Teil der menschlichen Existenz – für jede Schule, medizinische Einrichtung oder jedes Unternehmen. Die Geschichte zeigt, dass das Fehlen von Privatsphäre die Gesellschaft korrodiert, Familienmitglieder gegeneinander aufbringt und Innovationen dämpft.
Die Warnungen von Apple zum Thema Datenschutz – einschließlich der Warnung von Apple-CEO Tim Cook, dass viele der Technologiefirmen, mit denen wir täglich zusammenarbeiten, uns in einen Überwachungszustand versetzen – sind wichtig (wenn auch nicht immer bequem für diejenigen, die argumentieren, dass Datenschutz nur etwas ist, für das wir opfern sollten gut von den Robotern, die wir machen).
Die Entdeckung, dass Apple nicht klargestellt hat, dass Aufzeichnungen unserer privaten Gespräche mit „Auftragnehmern“ zu Zwecken der „Qualitätskontrolle“ und „Schulung“ geteilt werden, ist für das Unternehmen jedoch ein wirklich schlechtes Aussehen.
Was Apple sagt
Apple gibt an, dass:
“Ein kleiner Teil der Siri-Anfragen wird analysiert, um Siri und Diktat zu verbessern.” Es verspricht auch, dass „Benutzeranforderungen nicht mit der Apple ID des Benutzers verknüpft sind. Siri-Antworten werden in sicheren Einrichtungen analysiert und alle Prüfer sind verpflichtet, die strengen Vertraulichkeitsanforderungen von Apple einzuhalten. “
Das ist bis zu einem gewissen Grad beruhigend, aber angesichts der Tatsache, dass die Gutachter von Apple in einigen Fällen gehört haben, dass Personen persönliche Informationen, einschließlich ihrer Adresse, weitergeben, reicht es möglicherweise nicht aus, den aufgezeichneten Ton von der entsprechenden Apple-ID zu trennen.
Apple muss noch etwas mehr tun.
Wie Apple Abhilfe schaffen kann
Beginnen Sie mit Transparenz
In den Allgemeinen Geschäftsbedingungen von Apple sind Warnungen enthalten, dass mit Siri aufgenommene Aufzeichnungen manchmal zur Qualitätskontrolle verwendet werden.
Sie werden auch ein Versprechen finden, dass diese Aufzeichnungen (im Gegensatz zu Mitbewerbern) in keiner Weise mit Ihrer Apple ID oder Ihrer persönlichen Identität verknüpft sind.
Diese Versprechen sind nicht sehr klar.
Aus diesem Grund sage ich, dass Apple viel klarere und verständlichere Datenschutzwarnungen zur Verwendung von Siri auf seinen Geräten einführen sollte. Es muss diese Warnungen nach vorne und in die Mitte verschieben und klarstellen, dass diese Aufzeichnungen nicht nur manchmal verwendet werden, sondern auch, wie sie verwendet werden, wie die Identität bei ihrer Verwendung geschützt wird und wie lange diese Aufzeichnungen genau aufbewahrt werden.
Aber geben Sie den Menschen die Kontrolle
Apple sollte (glaube ich) Siri dazu bringen, die Aufnahme zu deaktivieren.
Das heißt, wenn Siri auf einem neuen Gerät eingerichtet wird, sollte dem Benutzer die Möglichkeit gegeben werden, die Verwendung seiner Stimme für einen anderen Zweck als die ursprüngliche Anforderung ausdrücklich abzulehnen.
Sie sollten sagen können, dass Sie nicht möchten, dass Ihre Daten für Schulungen oder Qualitätskontrollen verwendet werden.
“Aber dann kann Apple den Assistenten nicht so schnell ausbilden”, könnten sich einige beschweren. Vielleicht nicht, aber es wird weiterhin führend beim Schutz der Privatsphäre sein.
Nicht nur das, es ist auch fraglich, wie nützlich diese Aufnahmen tatsächlich sind.
Verantwortlicher werden
Wer sind die „Auftragnehmer“, die Apple, Google, Amazon und alle anderen verwenden, die diese kurzen Aufzeichnungen unserer Aussagen überprüfen und anhören?
Wie werden sie eingestellt?
Was sind ihre Stellenbeschreibungen? Für wen arbeiten sie noch?
Auf welcher Grundlage kann ihnen vertraut werden und wie können Einzelpersonen Wiedergutmachung erhalten, wenn sie dieses Vertrauen missbrauchen?
Und warum kennen Siri-Benutzer die Antworten auf all diese Fragen nicht bereits?
Dass diese Auftragnehmer ausgelagert sind, macht keinen Sinn.
Apple sollte diese Arbeit intern einbringen, vollständig dafür verantwortlich sein, was seine Spracharbeiter und das Management mit diesen Aufzeichnungen tun, und sicherstellen, dass Kunden eine Möglichkeit haben, Verstöße gegen ihren Datenschutz zu bestrafen.
Stellen Sie wirklich sicher, dass Sie die Informationen benötigen
Apple sagt, dass es nur kleine Wortabschnitte aufzeichnet und verwendet, die es hört, aber muss es überhaupt so viele Proben aufbewahren oder überprüfen, wie es möchte?
Denken Sie so darüber nach:
Wenn Siri auf Ihrer Uhr oder Ihrem HomePod hört, was es für den Befehl „Hey, Siri“ hält, aber anschließend keine Anfrage gestellt wird, sollte es sicher klug genug sein, um zu erkennen, dass ein Fehlalarm stattgefunden hat.
Im Falle eines solchen Fehlalarms sollte Siri auf dem Gerät sicher klug genug sein, um zu erfahren, was den versehentlichen Aufruf verursacht hat, und in Zukunft weniger empfindlich auf diesen Ton reagieren.
(EIN Wächter Berichten zufolge weckt das Geräusch von Reißverschlüssen beispielsweise Siri manchmal auf – Siri kann sicherlich lernen, das Geräusch von Reißverschlüssen als Reaktion darauf zu ignorieren.)
Das Fazit ist, dass für den Fall, dass Siri aufgerufen wird, aber keine spezifische Anforderung gestellt wird, das System intelligent genug sein sollte, um die Interaktion zu ignorieren und alle als Ergebnis dieser Interaktion vorgenommenen Aufzeichnungen über (möglicherweise) die ersten drei Sekunden hinaus zu löschen es glaubte den Triggerbefehl zu hören.
Nur diesen Schritt zu tun, würde einige der ungeheuerlicheren Aufnahmen, die Siri gehört und mit Auftragnehmern geteilt haben soll, so gut wie verhindern.
Ich möchte nicht, dass Siri besser zuhört, was ich sage, wenn ich nicht möchte, dass es zuhört. Ich möchte nur, dass es besser zuhört, wenn ich eine Anfrage stelle.
Sind Menschen überhaupt notwendig?
Die Sprachtechnologie schreitet rasant voran. Dies wirft die Frage auf: “Ist es überhaupt notwendig, dass menschliche Auftragnehmer überhaupt Siri-bezogene Gesprächsausschnitte anhören?”
Ich denke in vielen Fällen ist es einfach nicht.
Die Aufzeichnungen sollten zunächst über Siri und andere Spracherkennungstechnologien übertragen werden, um die Überprüfung der Genauigkeit zu automatisieren.
Nur in den Fällen, in denen verschiedene Spracherkennungssysteme keine Möglichkeit finden, sich auf das Gesagte zu einigen, sollten menschliche Ohren erforderlich sein.
Ich bin kein KI-Experte, aber diese Art der Analyse ist das, wofür Random Forest-Modelle / -Algorithmen entwickelt wurden – nur wenn sich die Technologie nicht darauf einigen kann, warum eine Anfrage falsch ist, sollte überhaupt ein Mensch notwendig sein.
Warum es wichtig ist
Dies ist nur eine kleine Sammlung von Vorschlägen, die Apple hoffentlich unternimmt, um Siri zum privatesten Sprachassistenten der Branche zu machen.
Dieses Zeug ist wichtig.
Denk darüber nach:
Wir verwenden nicht nur unser eigenes Eigentum, sondern mit dem Eintritt sensorgestützter Technologien und KI in verschiedene Bereiche des Alltags – von der Kartierung bis zur allgegenwärtigen VR – wird das Bedürfnis nach Privatsphäre noch wichtiger, da so viel mehr von unserem Leben wird ein offenes Buch.
Die Entscheidungen, die wir heute in Bezug auf die Stimme treffen, werden jeden anderen Datenschutzbereich definieren.
Es gibt einige, die glauben, dass Privatsphäre ein Preis ist, den wir für computergestützte Bequemlichkeit zahlen sollten, aber ich habe ihnen nie zugestimmt.
Wir stehen an einem Punkt in der Geschichte der Menschheit, an dem die Entscheidungen, die wir in Bezug auf die Privatsphäre von Sprachassistenten treffen, in unserer Zukunft eine Resonanz finden werden.
Wir müssen dies auf effektive Weise klären, denn wenn wir dies nicht tun, sind die Implementierungen unsicher und möglicherweise ethisch nicht vertretbar.
Und Apple muss seine Forderung nach einer digitalen Bill of Rights in diesem Bereich vorantreiben, die die Benutzer in den Mittelpunkt der Datenschutzkontrolle stellt.
