La noticia de que Siri registra fragmentos de nuestras conversaciones con el asistente de voz no es nueva, pero afirma que esas grabaciones breves son escuchadas por agentes humanos, particularmente a la luz del gran impulso de la compañía a la privacidad.
Estas son malas ópticas para Apple
Soy un apasionado creyente de la importancia de la privacidad.
No solo es importante en términos de preservar las libertades ganadas con esfuerzo y proteger el discurso público; también tiene una importancia creciente en todos los aspectos de la existencia humana, en todas las escuelas, centros médicos o empresas. La historia muestra que la ausencia de privacidad tiene un efecto corrosivo en la sociedad, volviendo a los miembros de la familia unos contra otros y frenando la innovación.
Las advertencias de Apple sobre la privacidad, incluida la advertencia del CEO de Apple, Tim Cook, de que muchas de las empresas de tecnología con las que trabajamos a diario nos están llevando a un estado de vigilancia, son importantes (si no siempre convenientes para aquellos que argumentan que la privacidad es algo que deberíamos sacrificar por la bueno de los robots que hacemos).
Sin embargo, la revelación de que Apple no ha dejado en claro que las grabaciones de nuestras conversaciones privadas se están compartiendo con “contratistas” con fines de “control de calidad” y “capacitación” es un mal aspecto para la empresa.
Que esta diciendo Apple
Apple afirma que:
“Una pequeña parte de las solicitudes de Siri se analizan para mejorar Siri y el dictado”. También promete que “las solicitudes de los usuarios no están asociadas con el ID de Apple del usuario. Las respuestas de Siri se analizan en instalaciones seguras y todos los revisores tienen la obligación de cumplir con los estrictos requisitos de confidencialidad de Apple “.
Eso es reconfortante hasta cierto punto, pero dado que en algunos casos, se informa que los revisores de Apple han escuchado a personas que comparten información personal, incluida su dirección, la decisión de divorciar el sonido grabado del ID de Apple relevante puede no ser suficiente.
Apple tendrá que hacer un poco más.
Cómo puede Apple remediar la situación
Empiece por la transparencia
Ocultas en los términos y condiciones de Apple, encontrará advertencias de que las grabaciones realizadas con Siri a veces se utilizan con fines de control de calidad.
También encontrará la promesa de que esas grabaciones (a diferencia de la competencia) no están vinculadas de ninguna manera con su ID de Apple o su identidad personal.
Estas promesas no son muy claras.
Por eso digo que Apple debería introducir advertencias de privacidad mucho más claras y fáciles de entender sobre el uso de Siri en sus dispositivos. Necesita mover estas advertencias al frente y al centro y dejar en claro que no solo a veces usa estas grabaciones, sino también cómo las usa, cómo protege la identidad cuando las usa y exactamente cuánto tiempo se retienen esas grabaciones.
Pero dale a la gente el control
Apple debería (creo) hacer que la grabación de Siri sea una opción de exclusión.
Es decir, al configurar Siri en un nuevo dispositivo, el usuario debe tener la oportunidad de rechazar explícitamente el uso de su voz para cualquier propósito que no sea la solicitud original.
Debería poder decir que no desea que sus datos se usen en capacitación o control de calidad.
“Pero entonces Apple no podrá entrenar al asistente tan rápido”, podrían quejarse algunos. Quizás no, pero mantendrá el liderazgo en protección de la privacidad.
No solo eso, sino que es discutible cuán útiles son estas grabaciones.
Sea más responsable
¿Quiénes son los “contratistas” que Apple, Google, Amazon y todos los demás están usando que verifican y escuchan estas breves grabaciones de lo que decimos?
¿Cómo se contratan?
¿Cuáles son sus descripciones de trabajo? ¿Para quién más trabajan?
¿Sobre qué base se puede confiar en ellos y cómo pueden las personas obtener reparación en caso de que abusen de esta confianza?
¿Y por qué los usuarios de Siri no conocen ya las respuestas a todas esas preguntas?
Que estos contratistas sean subcontratados no tiene sentido.
Apple debería llevar este trabajo internamente, ser completamente responsable de lo que hacen sus trabajadores de voz y la gerencia con estas grabaciones, y asegurarse de que los clientes tengan alguna forma de castigar cualquier infracción a la privacidad de sus datos.
Asegúrese de que necesita la información
Apple dice que registra y utiliza solo pequeñas secciones de las palabras que escucha, pero ¿es necesario que conserve o verifique tantas muestras como desee?
Piense en ello así:
Si Siri en su reloj o HomePod escucha lo que cree que es el comando “Hey, Siri”, pero no se realiza ninguna solicitud posteriormente, entonces seguramente debería ser lo suficientemente inteligente como para reconocer que se produjo una falsa alarma.
En el caso de una falsa alarma de este tipo, Siri en el dispositivo seguramente debería ser lo suficientemente inteligente como para saber qué causó la invocación accidental y ser menos sensible a ese sonido en el futuro.
(UN guardián El informe afirmó que el sonido de las cremalleras a veces despierta a Siri, por ejemplo; seguramente Siri puede aprender a ignorar el sonido de las cremalleras en respuesta).
La conclusión es que en el caso de que se invoque a Siri pero no se haga una solicitud específica, el sistema debe ser lo suficientemente inteligente como para ignorar la interacción y eliminar cualquier grabación realizada como resultado de esa interacción, más allá (posiblemente) de los primeros tres segundos en los que creyó oír el comando del gatillo.
Simplemente dar este paso evitaría en gran medida algunas de las grabaciones más atroces que se dice que Siri escuchó y compartió con los contratistas.
No quiero que Siri mejore al escuchar lo que digo cuando no quiero que escuche. Solo quiero que mejore la escucha cuando hago una solicitud.
¿Son los humanos siquiera necesarios?
La tecnología de voz avanza rápidamente. Esto plantea la pregunta: “¿Es necesario que los contratistas humanos escuchen fragmentos de conversaciones relacionados con Siri?”
Creo que en muchos casos simplemente no lo es.
Las grabaciones deben pasar por Siri y otras tecnologías de reconocimiento de voz en primera instancia para automatizar la verificación de precisión.
Solo en aquellos casos en que los diferentes sistemas de reconocimiento de voz no puedan encontrar una manera de ponerse de acuerdo sobre lo que se dice, deberían ser necesarios los oídos humanos.
No soy un experto en inteligencia artificial, pero este tipo de análisis es el tipo de cosas para las que se construyen los modelos / algoritmos de Random Forest, solo cuando la tecnología no puede ponerse de acuerdo sobre por qué recibió una solicitud incorrecta en caso de que un humano fuera necesario.
Por que importa
Esas son solo una pequeña colección de sugerencias que espero que Apple tome para hacer de Siri el asistente de voz más privado de la industria.
Esto importa.
Piénsalo:
Las palabras que usamos no solo son de nuestra propiedad, sino que a medida que las tecnologías basadas en sensores y la inteligencia artificial ingresan a diferentes esferas de la vida cotidiana, desde el mapeo hasta la realidad virtual ubicua, la necesidad de privacidad se vuelve aún más importante, ya que mucho más de nuestras vidas se convertirá en un libro abierto.
Las decisiones que tomemos en torno a la voz hoy definirán todas las demás esferas de privacidad.
Hay quienes piensan que la privacidad es un precio que deberíamos pagar por la conveniencia informática, pero nunca estuve de acuerdo con ellos.
Nos encontramos en un punto de la historia de la humanidad en el que las decisiones que tomemos sobre la privacidad del asistente de voz resonarán en nuestro futuro.
Necesitamos resolver esto de una manera eficaz porque, a menos que lo hagamos, las implementaciones serán inseguras y potencialmente éticamente incorrectas.
Y Apple debe seguir adelante con su demanda de una declaración de derechos digital en este espacio, una ley que coloca a los usuarios en el centro del control de la privacidad.
