Alerta de privacidad: Chatbots de inteligencia artificial exponen números de teléfono reales de usuarios

Qué pasó

Un usuario de la plataforma Reddit reportó recientemente que su teléfono personal fue saturado por llamadas de desconocidos que buscaban contratar abogados, diseñadores o cerrajeros, quienes fueron redirigidos incorrectamente por la inteligencia artificial de Google. Aunque es difícil verificar cada caso de forma independiente, los expertos en privacidad señalan que estas fallas se deben probablemente a la presencia de información de identificación personal dentro de los inmensos conjuntos de datos utilizados para entrenar a estos modelos.

Las instancias documentadas son precisas y preocupantes. En marzo de este año, el desarrollador de software israelí Daniel Abraham, de 28 años, fue contactado a través de WhatsApp tras la indicación equivocada del chatbot Gemini de Google, el cual proporcionó instrucciones de servicio al cliente que incluían su número personal. Asimismo, en abril, un estudiante de doctorado de la Universidad de Washington logró que la misma herramienta de inteligencia artificial revelara el número de teléfono celular personal de un colega.

La empresa DeleteMe, dedicada a ayudar a clientes a eliminar su información personal de internet, registró un aumento del 400% en las consultas de usuarios relacionadas con inteligencia artificial en los últimos siete meses, alcanzando varios miles de solicitudes. Su director ejecutivo y cofundador, Rob Shavell, detalla que el 55% de estas preocupaciones apunta a ChatGPT, un 20% a Gemini, un 15% a Claude y un 10% a otras herramientas.

Las quejas de los clientes generalmente presentan dos escenarios críticos. En el primero, la inteligencia artificial devuelve datos precisos como domicilios, números telefónicos y detalles laborales al consultar sobre un individuo. En el segundo escenario, el sistema inventa información de contacto plausible pero errónea, que termina coincidiendo con los datos reales de un tercero completamente ajeno a la consulta, quien sufre las consecuencias.

Contexto

El ecosistema tecnológico global se encuentra en una carrera acelerada por integrar modelos de lenguaje en aplicaciones corporativas y de consumo, superando con creces los marcos de privacidad actuales. Para entrenar estos sistemas, las empresas tecnológicas absorben cantidades masivas de información disponible en la web, lo que a menudo incluye datos personales extraídos de foros, directorios corporativos y bases de datos expuestas.

La inteligencia artificial generativa no solo almacena datos, sino que tiene la capacidad de sintetizarlos y recombinarlos. Cuando los usuarios realizan consultas específicas, las barreras de seguridad de los sistemas fallan frecuentemente en bloquear la respuesta. Esto genera un desafío técnico complejo conocido como "machine unlearning", donde resulta sumamente difícil extirpar un dato específico de la vasta red neuronal de un modelo que ya ha sido entrenado.

A nivel regulatorio, las actuales normativas de protección de datos enfrentan serios obstáculos para aplicar el derecho al olvido sobre sistemas algorítmicos opacos. Las autoridades globales exigen mayor transparencia, pero las soluciones tecnológicas efectivas aún se encuentran en etapas de desarrollo, dejando a los usuarios en una posición de vulnerabilidad frente a la exposición no consentida de su información.

Impacto para empresas chilenas

Para el mercado local, esta situación representa un riesgo significativo para las empresas y pymes que están integrando soluciones de inteligencia artificial en sus operaciones de atención al cliente. Si una compañía chilena utiliza estos sistemas, existe el peligro concreto de que la herramienta revele datos personales de terceros o de sus propios trabajadores, lo que constituye una infracción grave a la legislación vigente en materia de protección de datos.

Las empresas en sectores clave como el retail, la banca y las telecomunicaciones dependen cada vez más de APIs externas para modernizar sus servicios. Al delegar interacciones a modelos de terceros, transfieren parcialmente el control sobre la privacidad de la información. Un incidente de esta naturaleza podría derivar en sanciones legales y un daño reputacional severo frente a los consumidores chilenos, quienes valoran cada vez más la seguridad digital.

Es imperativo que la industria nacional adopte protocolos estrictos de gobernanza de datos. Las empresas deben realizar procesos de anonimización de información y exigir garantías contractuales rigurosas a los proveedores tecnológicos internacionales para mitigar riesgos operativos y proteger la continuidad de sus negocios.

Qué sigue

El futuro cercano traerá un escrutinio mucho más riguroso sobre los conjuntos de datos utilizados por las grandes corporaciones tecnológicas. Es altamente probable que se produzca un aumento en los litigios y en las demandas regulatorias a nivel global, lo que obligará a los desarrolladores a implementar filtros de privacidad más robustos de manera predeterminada antes de lanzar nuevos modelos al mercado.

Asimismo, este fenómeno impulsará el surgimiento de un nuevo sector dentro de la industria tecnológica dedicado a la privacidad corporativa. Las herramientas especializadas en auditar, proteger y eliminar la huella digital del entrenamiento de algoritmos se volverán fundamentales para restablecer la confianza de usuarios y empresas en el ecosistema de la inteligencia artificial.