Los modelos de lenguaje IA proporcionan respuestas menos precisas a usuarios con menor dominio del inglés y educación formal

Un estudio reciente ha puesto de manifiesto una brecha preocupante en la fiabilidad de los grandes modelos de lenguaje (LLM): estos sistemas ofrecen respuestas significativamente menos precisas y veraces cuando interactúan con usuarios que tienen un dominio limitado del inglés o un nivel educativo formal inferior. La investigación, publicada en la Conferencia de la Asociación Estadounidense de Inteligencia Artificial (AAAI), sugiere que los modelos de lenguaje más populares tienden a amplificar las desigualdades existentes en el acceso a la información confiable. En lugar de democratizar el conocimiento como prometían sus creadores, estos sistemas parecen estar reproduciendo y profundizando las brechas de equidad digital. Este hallazgo resulta especialmente preocupante considerando que los usuarios con menor educación formal y dominio limitado del inglés—precisamente los colectivos más vulnerables a la desinformación—son los que reciben información de peor calidad de estas herramientas de inteligencia artificial. Mientras que usuarios educados con fluidez en inglés pueden identificar respuestas imprecisas o sesgadas, aquellos con competencias lingüísticas limitadas tienen menos capacidad para validar o cuestionar la información que reciben. Los investigadores sugieren que este problema tiene raíces múltiples. En primer lugar, los modelos de lenguaje se entrenan predominantemente con contenido en inglés de alta calidad, lo que genera sesgos lingüísticos inherentes. En segundo lugar, el lenguaje técnico y las estructuras gramaticales complejas que caracterizan a muchos textos de entrenamiento favorecen naturalmente a usuarios con educación formal avanzada. Esta conclusión cuestiona fundamentalmente la narrativa de inclusión que ha rodeado el despliegue masivo de herramientas de inteligencia artificial generativa. Empresas como OpenAI, Google y Anthropic han presentado sus sistemas como herramientas para democratizar el acceso al conocimiento especializado. Sin embargo, si estos sistemas funcionan peor precisamente para quienes más podrían beneficiarse de ellos, su impacto podría ser contraproducente. Las implicaciones para la política regulatoria y el desarrollo responsable de IA son profundas. Los desarrolladores tendrán que hacer esfuerzos significativos para mejorar la calidad de las respuestas en contextos multilingües y para usuarios con diferentes niveles educativos. Esto podría incluir entrenamientos más equilibrados, evaluaciones específicas de equidad y métricas de rendimiento diferenciadas según el perfil del usuario. El estudio también abre nuevas preguntas sobre cómo evaluar la confiabilidad de los sistemas de IA. Las pruebas de rendimiento estándar, que típicamente se realizan con usuarios educados y hablantes nativos de inglés, pueden no capturar estas vulnerabilidades críticas.