Zoom está envuelto en un lío de privacidad de inteligencia artificial
Zoom en lío de privacidad de IA
¿Alguien lee los términos y condiciones de los servicios de software? Los abogados sí, pero incluso a ellos se les ha conocido por perder el interés. Hasta hace poco, nadie se había dado cuenta de que Zoom había cambiado sus Términos de Servicio (ToS) en marzo de 2023. Bajo sus nuevos términos, Zoom afirmaba tener el derecho de utilizar sus datos de video, audio y chat para sus programas de inteligencia artificial (IA).
¿Privacidad? ¿Seguridad? ¿Qué es eso?
También: No estamos preparados para el impacto de la IA generativa en las elecciones
Para ser exactos, los nuevos términos le daban a Zoom los derechos sobre cualquier “dato, contenido, archivos, documentos u otros materiales (en conjunto, ‘Entrada del Cliente’) al acceder o utilizar los Servicios o Software, y Zoom puede proporcionar, crear o poner a su disposición, a su entera discreción o como parte de los Servicios, ciertos derivados, transcripciones, análisis, salidas, visualizaciones o conjuntos de datos resultantes de la Entrada del Cliente (junto con la Entrada del Cliente, ‘Contenido del Cliente’).”
¿Cuáles son estos derechos sobre el “Contenido del Cliente”? En primer lugar, “Zoom puede redistribuir, publicar, importar, acceder, utilizar, almacenar, transmitir, revisar, divulgar, preservar, extraer, modificar, reproducir, compartir, utilizar, mostrar, copiar, distribuir, traducir, transcribir, crear obras derivadas y procesar el Contenido del Cliente.”
- GoodNotes 6 trae características de corrección ortográfica y autoco...
- Grimes quiere ser menos famosa (y ser reemplazada por IA)
- La ‘Batería Mágica’ de Apple alimentará los auriculares...
Pero espera, hay más. También le otorga a Zoom “una licencia perpetua, mundial, no exclusiva, libre de regalías, sublicenciable y transferible y todos los demás derechos necesarios o necesarios para redistribuir, publicar, importar, acceder, utilizar, almacenar, transmitir, revisar, divulgar, preservar, extraer, modificar, reproducir, compartir, utilizar, mostrar, copiar, distribuir, traducir, transcribir, crear obras derivadas y procesar el Contenido del Cliente y realizar todos los actos con respecto al Contenido del Cliente: (i) según sea necesario para que Zoom le proporcione los Servicios, incluido el soporte de los Servicios; (ii) con el propósito de desarrollo de productos y servicios, marketing, análisis, control de calidad, aprendizaje automático, inteligencia artificial, capacitación, pruebas, mejora de los Servicios, Software u otros productos, servicios y software de Zoom.”
También: Cómo bloquear el nuevo rastreador web de entrenamiento de IA de OpenAI para que no ingiera tus datos
La reacción a todo esto, cuando la gente del foro de Ycombinator, el acelerador de startups tecnológicas, se enteró, digamos que no fue buena. O, como lo expresó un comentarista, “Yo, por mi parte, no doy la bienvenida a nuestros señores supremos distópicos.”
Después de toda la controversia sobre esto durante el fin de semana, Zoom cambió sus Términos de Servicio. Ahora, Zoom jura por su honor: “No obstante lo anterior, Zoom no utilizará contenido de audio, video o chat del cliente para entrenar nuestros modelos de inteligencia artificial sin su consentimiento.”
Aja.
La Directora de Producto de Zoom, Smita Hashim, explicó en una publicación de blog que la compañía en realidad no hará las cosas descritas en sus ToS. Es cierto que Zoom utilizará algunos de tus datos para el aprendizaje automático. Pero según la publicación de blog, “Para la IA, no utilizamos contenido de audio, video o chat para entrenar nuestros modelos sin el consentimiento del cliente.”
Pero, ¿significa algo esa cláusula añadida y el blog? Sean Hogle, abogado de negocios y propiedad intelectual, piensa que no. En Ycombinator, escribió: “Los abogados de Zoom están tratando de engañar con estos Términos revisados. La nueva oración que requiere el consentimiento del usuario para entrenar IA se aplica solo al ‘Contenido del Cliente’, no a ‘Datos Generados por el Servicio’. Zoom puede usar estos datos, que se derivan de tus conferencias y materiales, sin tu consentimiento.”
También: ChatGPT Plus puede extraer datos corporativos para obtener información poderosa. Así es cómo
Hogle continuó: “Ahí está el problema. ‘Datos Generados por el Servicio’ = ‘cualquier dato de telemetría, dato de uso del producto, dato de diagnóstico y contenido o dato similar que Zoom recopila o genera en relación con tu uso de los Servicios o el uso de los Servicios por parte de tus Usuarios Finales.’ Al utilizar estos datos, Hogle concluyó: “Esta ‘aclaración’ no hace nada significativo para tranquilizar las graves preocupaciones de privacidad de datos planteadas por el uso de Zoom del contenido de video capturado de los usuarios.”
En su publicación de blog, Hashim continuó diciendo: “No utilizaremos el contenido de los clientes, incluidos los registros educativos o la información de salud protegida, para entrenar nuestros modelos de inteligencia artificial sin su consentimiento”. Por supuesto, todo eso ya estaba protegido bajo la Ley de Derechos Educativos de la Familia y la Ley de Portabilidad y Responsabilidad del Seguro de Salud, así que no es un gran problema. El Departamento de Justicia los habría investigado por eso.
Por supuesto, para usar algunas de las funciones de IA de Zoom, como Zoom IQ, que ofrece resúmenes automatizados de reuniones, debes aceptar que Zoom use tus datos. Además, no tienes ningún control sobre la privacidad de una reunión si solo asistes a una y la persona que la convocó ha aceptado permitir que Zoom eche un vistazo a tus hombros virtuales para tomar sus propias notas.
Pocas personas están contentas con esto. Como dijo el analista de Constellation Research, Dion Hinchcliffe: “Zoom ciertamente tocó un nervio importante en cuanto a los temores del mercado cuando sus Términos de Servicio actualizados recientemente le otorgaron una licencia prácticamente ilimitada a todo el contenido del usuario (video, audio, texto) que pasa por su plataforma… La gran preocupación es que la propiedad intelectual del cliente y la información privada de las personas se almacenarán en dichos modelos, donde podrían ser mal utilizados”.
También: IA generativa y la cuarta razón: construir confianza con tu cliente
Larry Dignan, ex editor en jefe de ENBLE y actual editor en jefe de Constellation Research, agregó: “Sin embargo, los términos de servicio aún le otorgan a Zoom la licencia independientemente… Los proveedores deberían esforzarse por tomar el camino correcto en cuanto a los datos del cliente. Aquellos que no establezcan y mantengan niveles muy altos de confianza con los clientes en cuanto a sus datos no disfrutarán de los beneficios de la próxima revolución de la IA”.
Allen Drennan, cofundador y principal de Cordoniq, una empresa de reuniones virtuales, está de acuerdo. En un correo electrónico, Drennan escribió: “Cuando las organizaciones privadas cargan información confidencial interna y propiedad intelectual en una reunión, no están considerando las ramificaciones de proporcionar sus datos a un proveedor externo administrado en una nube que no controlan. El problema no se limita solo a pantallas compartidas o documentos confidenciales de varias páginas compartidos. También se extiende a las grabaciones de las reuniones y al audio y video utilizados en la reunión. Realmente debes tener control tanto sobre la seguridad como la privacidad”.
Hinchcliffe agregó en Twitter, o X, Zoom aún obtiene “una licencia ‘perpetua y mundial’ para todo el contenido del cliente para que puedas ‘revisar, revelar, preservar, extraer, modificar, reproducir, compartir, usar, mostrar, copiar, distribuir, traducir, transcribir, crear trabajos derivados’. Eso es irrazonable y un exceso del contenido del cliente en gran medida”.
¿Quién puede discutir con eso? Aparte de Zoom, por supuesto.
También: La IA generativa pronto se volverá mainstream, según el 9 de cada 10 líderes de TI
En 2021, Zoom acordó pagar $85 millones en un caso de acción colectiva por compartir datos de usuarios con terceros no autorizados como Facebook, Google y LinkedIn y por tergiversar la fortaleza de sus protocolos de cifrado de extremo a extremo.
En el mismo año, Zoom llegó a un acuerdo con la Comisión Federal de Comercio (FTC), que requería que “implementara un programa integral de seguridad, revisara cualquier actualización de software en busca de fallas de seguridad antes de su lanzamiento y asegurara que las actualizaciones no obstaculizaran las funciones de seguridad de terceros”. La FTC también exigió a Zoom que no tergiversara sus prácticas de recopilación de datos.
Según John Davisson, director de litigios del grupo de defensa Electronic Privacy Information Center (EPIC), en comentarios a The Washington Post, esto “parece ser una violación importante y algo en lo que la FTC debe investigar de cerca”. La representante Jan Schakowsky (D-Ill.) agregó: “Zoom tiene un mal historial en la protección de los datos de los consumidores y en cumplir con sus promesas, como lo demuestra su orden de consentimiento y el acuerdo de 2021”.
Todo se reduce a si te sientes cómodo compartiendo información privada con Zoom. Por útil que haya sido Zoom durante la pandemia, la respuesta para muchas empresas y organizaciones frente a esta nueva amenaza de privacidad de la IA parece ser no. Como tuiteó Eliot Higgins, fundador de Bellingcat Productions: “Realizamos nuestros talleres de capacitación en Zoom, por lo que Zoom planea entrenar su IA con todo el contenido de nuestros talleres sin compensación, así que adiós Zoom”.
Estoy seguro de que no serán los únicos en decir adiós a Zoom.
