WhatsApp en la cuerda floja entre sus funciones de IA y mantener la privacidad de los usuarios
La aplicación de comunicación cifrada de extremo a extremo WhatsApp, usada por unos 3,000 millones de personas en todo el mundo, desplegará en las próximas semanas funciones de inteligencia artificial basadas en la nube y diseñadas para preservar las garantías de seguridad y privacidad de WhatsApp, al tiempo que ofrece a los usuarios acceso a herramientas de resumen y composición de mensajes.
Meta AI en todas partes
Meta ha estado incorporando funciones de IA generativa en todos sus servicios, basadas en su modelo de lenguaje de código abierto Llama. Y WhatsApp ya incorpora un círculo azul claro que da a los usuarios acceso al asistente de IA de Meta. Pero muchos usuarios se han mostrado reacios a esta incorporación, dado que las interacciones con el asistente de IA no están protegidas de Meta como lo están los chats cifrados de extremo a extremo de WhatsApp. La nueva función, denominada ‘Private Processing' (Procesamiento Privado), pretende abordar estas preocupaciones con lo que la compañía asegura que es una plataforma cuidadosamente diseñada y creada específicamente para procesar datos para tareas de IA sin que la información sea accesible para Meta, WhatsApp o cualquier otra parte. Aunque las primeras críticas de los investigadores sobre la integridad del sistema han sido positivas, algunos señalan que el avance hacia las funciones de IA podría, en última instancia, poner a WhatsApp en una pendiente resbaladiza.
"WhatsApp está en el punto de mira de muchos investigadores y actores de amenazas. Eso significa que internamente tiene un modelo de amenaza bien entendido", explica el director de ingeniería de seguridad de Meta, Chris Rohlf. "También existe un conjunto de expectativas de privacidad por parte de los usuarios, así que no se trataba solo de gestionar la expansión de ese modelo de amenazas y asegurarse de que se cumplían las expectativas de privacidad y seguridad, sino también de considerar cuidadosamente la experiencia del usuario y hacer que fuera opcional."
El cifrado de extremo a extremo de WhatsApp
Las comunicaciones cifradas de extremo a extremo solo son accesibles para el remitente y el destinatario, o las personas que participan en un chat de grupo. El proveedor del servicio, en este caso WhatsApp y su empresa matriz Meta, está aislado por diseño y no puede acceder a los mensajes o llamadas de los usuarios. Esta configuración es incompatible con las típicas plataformas de IA generativa que ejecutan grandes modelos de lenguaje (LLM) en servidores en la nube y necesitan acceder a las peticiones y datos de los usuarios para procesarlos. El objetivo de Private Processing es crear un marco alternativo a través del cual se puedan mantener las garantías de privacidad y seguridad de la comunicación cifrada de extremo a extremo a la vez que se incorpora la IA.
Los usuarios optan por utilizar las funciones de IA de WhatsApp, y también pueden evitar que las personas con las que chatean usen las herramientas de IA en las comunicaciones compartidas activando un nuevo control de WhatsApp conocido como "Privacidad avanzada del chat."
"Cuando el ajuste está activado, puedes bloquear a otros para que no exporten chats, autodescarguen contenido multimedia en su teléfono y utilicen mensajes para funciones de IA", escribió WhatsApp en una entrada de blog la semana pasada. Al igual que ocurre con los mensajes que desaparecen, cualquiera en un chat puede activar o desactivar la privacidad avanzada del chat (lo que queda registrado para que todos lo vean), por lo que los participantes solo tienen que estar atentos a cualquier ajuste.
Lo más visto
Astrónomos creen que han encontrado indicios del Planeta Nueve, el supuesto cuerpo oculto en el sistema solar
Espacio
Astrónomos creen que han encontrado indicios del Planeta Nueve, el supuesto cuerpo oculto en el sistema solar
Por Jorge Garay
Localizan la "tapa" que impide que el supervolcán Yellowstone haga erupción
Ciencia
Localizan la "tapa" que impide que el supervolcán Yellowstone haga erupción
Por Jorge Garay
El universo es una simulación y la clave para demostrarlo está en la gravedad, dice este matemático
Ciencia
El universo es una simulación y la clave para demostrarlo está en la gravedad, dice este matemático
Por Jorge Garay
Esta estructura cósmica del tamaño de cientos de miles de galaxias es aun más grande de lo que los físicos habían calculado
Espacio
Esta estructura cósmica del tamaño de cientos de miles de galaxias es aun más grande de lo que los físicos habían calculado
Por Jorge Garay
El Procesamiento Privado se construye con un hardware especial que aísla los datos sensibles en un "Entorno de Ejecución de Confianza", una región aislada y bloqueada de un procesador. El sistema está diseñado para procesar y retener datos durante el mínimo tiempo posible y está diseñado para detenerse y enviar alertas si detecta cualquier manipulación o ajuste. WhatsApp ya está invitando a terceros a realizar auditorías de los distintos componentes del sistema y lo incluirá en el programa de recompensas por fallos de Meta para animar a la comunidad de seguridad a enviar información sobre fallos y posibles vulnerabilidades. Meta también afirma que, en última instancia, planea que los componentes de Private Processing sean de código abierto, tanto para ampliar la verificación de sus garantías de seguridad y privacidad como para facilitar a otros la creación de servicios similares.
El año pasado, Apple estrenó un esquema similar, conocido como Private Cloud Compute, para su plataforma de IA, Apple Intelligence. Y los usuarios pueden activar el servicio en la aplicación de comunicación cifrada de extremo a extremo de Apple, Mensajes, para generar resúmenes de mensajes y redactar mensajes "Smart Reply" tanto en iPhones como en Macs.
Private versus Private
Sin embargo, comparar Private Cloud Compute y Private Processing es como comparar manzanas con naranjas. Private Cloud Compute de Apple es la base de toda la Inteligencia de Apple en cualquier lugar donde pueda aplicarse. El Procesamiento Privado, por otro lado, se creó específicamente para WhatsApp y no sustenta las funciones de IA de Meta de forma más amplia. Apple Intelligence también está diseñada para realizar la mayor cantidad posible de procesamiento de IA en el dispositivo y solo enviar solicitudes a la infraestructura de Computación en Nube Privada cuando sea necesario. Dado que este tipo de procesamiento "en el dispositivo" o "local" requiere un hardware potente, Apple solamente ha diseñado Apple Intelligence para que funcione en sus últimas generaciones de hardware móvil. Los iPhones y iPads antiguos nunca serán compatibles con Apple Intelligence.
Apple es un fabricante de smartphones de gama alta y otro hardware, mientras que Meta es una empresa de software, y cuenta con unos 3,000 millones de usuarios que tienen todo tipo de smartphones, incluidos dispositivos antiguos y de gama baja. Rohlf y Colin Clemmons, uno de los ingenieros principales de Private Processing, afirman que no era factible diseñar funciones de IA para WhatsApp que pudieran ejecutarse localmente en el espectro de dispositivos a los que WhatsApp presta servicio. En su lugar, WhatsApp se centró en diseñar el Procesamiento Privado para que fuera lo menos útil posible para los atacantes en caso de que fuera vulnerado.
"El diseño consiste en minimizar el riesgo", aclara Clemmons. "Queremos minimizar el valor de comprometer el sistema".
Sin embargo, todo este esfuerzo plantea una cuestión más básica: ¿por qué una plataforma de comunicación segura como WhatsApp necesita ofrecer funciones de inteligencia artificial? Meta es firme, sin embargo, en que los usuarios esperan las características en este punto e irán donde tengan que ir para conseguirlas.
Lo más visto
Astrónomos creen que han encontrado indicios del Planeta Nueve, el supuesto cuerpo oculto en el sistema solar
Espacio
Astrónomos creen que han encontrado indicios del Planeta Nueve, el supuesto cuerpo oculto en el sistema solar
Por Jorge Garay
Localizan la "tapa" que impide que el supervolcán Yellowstone haga erupción
Ciencia
Localizan la "tapa" que impide que el supervolcán Yellowstone haga erupción
Por Jorge Garay
El universo es una simulación y la clave para demostrarlo está en la gravedad, dice este matemático
Ciencia
El universo es una simulación y la clave para demostrarlo está en la gravedad, dice este matemático
Por Jorge Garay
Esta estructura cósmica del tamaño de cientos de miles de galaxias es aun más grande de lo que los físicos habían calculado
Espacio
Esta estructura cósmica del tamaño de cientos de miles de galaxias es aun más grande de lo que los físicos habían calculado
Por Jorge Garay
"Mucha gente quiere utilizar herramientas de inteligencia artificial que les ayuden cuando se comunican", explica Will Cathcart, director de WhatsApp, a WIRED en un correo electrónico. "Creemos que construir una forma privada de hacerlo es importante, porque la gente no debería tener que cambiar a una plataforma menos privada para tener la funcionalidad que necesitan".
"Cualquier sistema cifrado de extremo a extremo que utilice la inferencia de IA fuera del dispositivo va a ser más arriesgado que un sistema puro de extremo a extremo. Estás enviando datos a una computadora en un centro de datos, y esa máquina ve tus textos privados", señala Matt Green, criptógrafo de Johns Hopkins que adelantó algunas de las garantías de privacidad de Private Processing, pero no ha auditado el sistema completo. "Creo a WhatsApp cuando dicen que lo han diseñado para que sea lo más seguro posible, y les creo cuando dicen que no pueden leer tus textos. Pero también creo que hay riesgos. Más datos privados saldrán del dispositivo, y las máquinas que procesan estos datos serán un objetivo para los hackers y los adversarios del Estado-nación."
WhatsApp afirma también que, más allá de las funciones básicas de IA como el resumen de textos y las sugerencias de escritura, es de esperar que Private Processing cree una base para expandirse en el futuro a funciones de IA más complicadas que impliquen el procesamiento, y potencialmente el almacenamiento, de más datos.
Como expresa Green: "Dadas todas las locuras para las que la gente utiliza mensajeros seguros, todo esto convertirá a las computadoras de Private Processing en un objetivo muy grande."
Artículo originalmente publicado en WIRED. Adaptado por Mauricio Serfatty Godoy.