Apple podría estar utilizando tus datos personales para entrenar a su inteligencia artificial

¿Eres usuario Apple y tienes todo su ecosistema de dispositivos?  En caso de ser así, debes saber que la compañía anunció un plan para optimizar su inteligencia artificial con el objetivo de mejorar la experiencia de los usuarios de Cupertino mientras utilizan su iPhone, iMac o iPad.

Si bien, sabemos que Apple empezó a integrar funciones impulsadas por inteligencia artificial en sus dispositivos bajo el concepto de Apple Intelligence, este conjunto de herramientas inteligentes incluye desde asistentes de redacción capaces de cambiar el tono de un texto, hasta funciones que resumen notificaciones, redactan correos electrónicos, o crean emojis personalizados a partir de simples descripciones en texto.

Pero lo que realmente marca la diferencia es cómo Apple entrena estos modelos sin comprometer la privacidad de sus usuarios.

A diferencia de otras empresas tecnológicas que utilizan grandes volúmenes de datos personales para alimentar sus modelos de lenguaje, la marca se distancia con un enfoque radicalmente diferente con el uso de datos sintéticos y privacidad diferencial. Es decir, recopila patrones sin conocer ni almacenar directamente el contenido generado por los usuarios.

Todo comienza con la activación voluntaria de la opción “compartir análisis del iPhone”, ubicada en el menú de “privacidad y seguridad”. Solo los usuarios que deciden habilitar esta función contribuyen indirectamente al entrenamiento de los modelos, aunque el gigante tecnológico no accede a los correos, chats o documentos como tal, genera información artificial que imita el estilo y la estructura de los mensajes reales, sin copiar su contenido.

Por ejemplo, Apple puede crear un correo ficticio con un mensaje cotidiano como: “¿Te gustaría jugar al tenis mañana a las 11:30?”. Este correo no existe en ningún buzón, pero representa el tipo de intercambio habitual entre personas; después, el mensaje sintético se transforma en una incrustación o embedding, una representación matemática que contiene información clave sobre el texto (idioma, longitud, tema), pero sin conservar el mensaje en sí.

Estas incrustaciones viajan a un pequeño grupo de dispositivos con el análisis activado. Ahí, de forma completamente local y privada, el sistema compara los embeddings con los mensajes reales almacenados en el dispositivo del usuario para determinar cuál se parece más. Este proceso de comparación nunca sale del dispositivo.

Cuando muchos dispositivos coinciden en que ciertas incrustaciones son similares a textos reales, Apple interpreta la existencia de un patrón útil, de este modo puede generar nuevas versiones sintéticas sobre temas relacionados (por ejemplo, reemplazar “tenis” por “fútbol”) para seguir entrenando sus modelos sin leer ni un solo correo real.

Este método también se aplica a funciones creativas como Genmoji, una herramienta que permite crear emojis a partir de indicaciones en lenguaje natural. Si un usuario escribe “dinosaurio con sombrero vaquero”, Apple genera el emoji solicitado. Para mejorar esta función, la compañía analiza los prompts más populares entre los usuarios, pero lo hace de manera agregada y anónima, garantizando que ninguna solicitud pueda ser rastreada o identificada.

“Los datos sintéticos se crean para imitar el formato y las propiedades importantes de los datos del usuario, pero no contienen contenido generado por el usuario. Al crear datos sintéticos, nuestro objetivo es generar oraciones o correos electrónicos sintéticos con un tema o estilo lo suficientemente similar al real para mejorar nuestros modelos de resumen, pero sin que Apple recopile correos electrónicos del dispositivo”, se lee en la entrada del blog de la firma.

Inteligencia Artificial en dispositivos móviles, una necesidad básica para el usuario actual

El auge de la inteligencia artificial en dispositivos móviles sin duda está transformando la forma en que interactuamos con la tecnología ya sea para fotografía computacional, asistentes de voz, optimización de batería o seguridad.

Google, por ejemplo, lanzó modelos generativos en Android para resumir conversaciones, redactar correos o editar imágenes automáticamente. Samsung, por su parte, presentó su Galaxy AI en 2024, capaz de traducir llamadas en tiempo real y generar texto personalizado. Sin embargo, la recolección masiva de datos ha encendido alarmas en materia de privacidad.

Apple está respondiendo a esta tendencia con su enfoque centrado en el on-device learning, es decir, aprendizaje en el propio dispositivo reduciendo  la dependencia de la nube, mejorando los tiempos de respuesta y protegiendo la confidencialidad del usuario.

Además, el uso de técnicas como la privacidad diferencial que introduce ruido estadístico para ocultar datos individuales se considera uno de los métodos más avanzados en protección de datos en cuestión de IA.

Un paso hacia el futuro ético de la IA

Apple cree que es posible tener  modelos útiles, adaptables y personalizados sin renunciar a los derechos del usuario. Las funciones que hoy comienzan con correos más claros, respuestas automáticas y emojis a medida, podrían mañana evolucionar a asistentes aún más intuitivos y proactivos, sin romper la barrera de lo privado.

Estas funciones de Apple Intelligence están disponibles en los dispositivos con chip A17 Pro y versiones posteriores, comenzando con el iPhone 15 Pro. También estarán presentes en algunos modelos de iPad y Mac con procesadores Apple Silicon (M1 en adelante). La integración con Siri y otras herramientas del sistema operativo marcará el inicio de una nueva generación de dispositivos más inteligentes, pero también más seguros.

Apple Intelligence, como lo ha bautizado la compañía, es más que una actualización tecnológica. Representa un manifiesto ético frente a la inteligencia artificial que prioriza la privacidad del usuario y el uso responsable de los datos.

Lee más:

• 48% de los mexicanos ha sufrido un ciberataque en su celular
• México lidera la mensajería empresarial en América Latina
• Razer lanza en México el Kraken V4 Pro: audífonos de nueva generación para gamers