¿Quién decide qué información entrega la inteligencia artificial? La ex ejecutiva de Meta, Campbell Brown, plantea una solución.

Qué pasó

Campbell Brown, ex periodista de televisión y ex directora de noticias de Meta, fundó Forum AI hace 17 meses en Nueva York. La empresa se dedica a evaluar el rendimiento de los modelos fundacionales de inteligencia artificial en lo que Brown denomina “temas de alto riesgo”, es decir, aquellos que no tienen respuestas claras y requieren un análisis profundo, como la geopolítica, la salud mental, las finanzas y la contratación laboral.

El método de Forum AI consiste en reunir a expertos de primer nivel para diseñar benchmarks (puntos de referencia) y luego entrenar jueces de inteligencia artificial para evaluar los modelos a gran escala. En el área de geopolítica, Brown ha incorporado a figuras como Niall Ferguson, Fareed Zakaria, el ex Secretario de Estado Tony Blinken, el ex presidente de la Cámara de Representantes Kevin McCarthy, y Anne Neuberger, ex responsable de ciberseguridad durante la administración Obama.

El objetivo es que los evaluadores de IA alcancen un 90% de consenso con estos expertos humanos, un umbral que Forum AI ya habría logrado alcanzar. Esto representa un avance significativo en la estandarización de la calidad de la información que entregan estas plataformas.

Brown explicó que la motivación surgió durante su tiempo en Meta, cuando se lanzó ChatGPT. “Pensé que si no resolvemos esto, la información que recibiremos será de muy baja calidad”, señaló. Además, detectó un problema preocupante: las empresas desarrolladoras de modelos están más enfocadas en código y matemáticas, mientras que el área de noticias e información es más compleja y está siendo relegada.

Los primeros resultados de las evaluaciones de Forum AI revelaron deficiencias importantes. Por ejemplo, el modelo Gemini de Google habría utilizado

Contexto

El ecosistema de la inteligencia artificial generativa se ha desarrollado a un ritmo acelerado en los últimos años. Plataformas como ChatGPT, Gemini y Claude han cambiado la forma en que los usuarios acceden a la información. Sin embargo, este crecimiento ha estado acompañado de preocupaciones sobre la precisión, el sesgo y la confiabilidad de las respuestas generadas.

Las empresas tecnológicas que desarrollan estos modelos han priorizado capacidades técnicas, como la resolución de problemas matemáticos y la programación, dejando en un segundo plano el manejo de información compleja y matizada. Esto es relevante porque un número creciente de personas utiliza estos sistemas como fuente de datos y análisis para tomar decisiones.

La aparición de iniciativas como Forum AI refleja una demanda creciente en el mercado por mecanismos de evaluación y auditoría externos. A medida que la inteligencia artificial se integra en más procesos productivos y de servicios, la necesidad de garantizar la calidad y neutralidad de la información se vuelve un tema central para reguladores, empresas y usuarios.

El debate sobre la gobernanza de la inteligencia artificial se ha intensificado a nivel global. La Unión Europea ya aprobó el AI Act, y otros países están explorando marcos regulatorios. En este escenario, herramientas que permitan evaluar de forma objetiva el rendimiento de los modelos adquieren un valor estratégico para la industria tecnológica.

Impacto para empresas chilenas

Para las empresas y pymes chilenas que están incorporando inteligencia artificial en sus operaciones, la existencia de estándares de evaluación confiables es una buena noticia. Muchas organizaciones locales están utilizando modelos de IA para atención al cliente, análisis de mercado y generación de contenido, pero sin necesariamente contar con herramientas para verificar la calidad de las respuestas que estos sistemas entregan.

En un mercado local donde la digitalización avanza rápidamente, contar con benchmarks aprobados por expertos podría ayudar a las empresas chilenas a seleccionar mejores herramientas y reducir riesgos asociados a información errónea o sesgada. Esto es especialmente relevante en sectores regulados como las finanzas, la salud y el gobierno.

Además, la tendencia hacia la auditoría de modelos de IA abre oportunidades para emprendimientos locales en el área de servicios tecnológicos. Consultoras y startups chilenas podrían desarrollar capacidades para evaluar y certificar modelos de inteligencia artificial, adaptando estos estándares a la realidad y necesidades del mercado nacional y regional.

La adopción responsable de inteligencia artificial es un tema que también está en la agenda del sector público en Chile. Iniciativas que promuevan la transparencia y precisión de los modelos de IA podrían influir en futuras regulaciones y políticas públicas orientadas a proteger a consumidores y empresas de los riesgos de la desinformación automatizada.

Qué sigue

El avance de Forum AI plantea un escenario donde la evaluación de modelos de inteligencia artificial se convierta en una práctica estándar en la industria. Si esta metodología se consolida, las empresas desarrolladoras de IA podrían verse obligadas a someter sus modelos a auditorías externas antes de lanzarlos al mercado, elevando los estándares de calidad y confiabilidad.

En el mediano plazo, es probable que veamos un aumento en la demanda de servicios de evaluación y certificación de IA, tanto a nivel global como en mercados emergentes como Chile. Esto podría abrir un nuevo segmento dentro de la industria tecnológica, con oportunidades para empresas especializadas en la verificación de datos y algoritmos.

La presión por mejorar la precisión de la información entregada por la inteligencia artificial también podría influir en el desarrollo de nuevos modelos y herramientas, orientados a ofrecer respuestas más equilibradas y contextualizadas. Para el mercado chileno, esto representa una oportunidad para adoptar tecnologías más confiables y competitivas.