Una herramienta en duda
En la última década, los sistemas de IA han pasado de ser herramientas experimentales a infraestructuras invisibles que influyen en qué información leemos, qué compramos, a quién contratamos y, en última instancia, cómo interpretamos la realidad misma que nos rodea. Ante esta situación resulta muy conveniente y lícito preguntarnos si esas IA que estamos tomando como agentes neutrales que responden a nuestras preguntas y solucionan nuestras vidas son realmente tan inofensivas o, incluso, si tienen una ideología detrás.
Dado que las personas tienen ideología y que estas LLM están entrenadas con datos extraídos de personas, es más que razonable que la cantidad y calidad de la información que extraiga cada modelo de IA terminará provocando, quizás no un sesgo obvio, pero sí detalles ideológicos en sus respuestas.Suscribirse
Cabe destacar que un sesgo no equivale a tener una ideología, pero cuando un sistema responde de forma reiterada en una dirección determinada ante ciertas cuestiones morales, económicas o culturales, para el usuario promedio la diferencia se diluye y puede terminar trasladando esos sesgos en el propio usuario.
La ideología de las IAs
Aun así, lo más importante a tener en cuenta es que no hay un Grok fascista ni un Gemini woke; son antropomorfizaciones divertidas con las que hacer unos memes, pero realmente cada IA que existe, creada por una empresa privada, está intentando venderse. Al tratarse de modelos predictivos del lenguaje, lo que están intentando tanto ChatGPT como Gemini como Claude es decir lo que creen que quieres escuchar; por tanto, el sesgo ideológico realmente viene incluso más del usuario que de la propia máquina y sus datos.
Estudios señalan que los sesgos ideológicos varían según el idioma del prompt y la región en la que fueron desarrollados. Si el usuario realiza una consulta en chino, los sistemas tienden a valorar más positivamente figuras del gobierno de China, como Deng Xiaoping, mientras que en inglés ofrecen evaluaciones más críticas.
Además, se detectan diferencias palpables entre modelos occidentales y no occidentales: los primeros priorizan valores como igualdad, derechos humanos y multiculturalismo, mientras que los segundos muestran mayor afinidad por el centralismo político y la estabilidad estatal. Incluso dentro de Occidente existen matices, con Gemini-Pro inclinándose más hacia postulados progresistas y los modelos de OpenAI mostrando mayor cautela frente a organizaciones supranacionales y políticas amplias de bienestar.
La censura en la IA
A todo lo anterior se suma, como es lógico, que cada empresa trata a su IA de una forma; pueden añadir más o menos restricciones, lo que deriva en respuestas distintas o, simplemente, en la imposibilidad de responder a cierto tema. Recordemos la polémica de DeepSeek durante su lanzamiento, cuando era incapaz de responder a preguntas como “¿Cuál es la relación entre China y Taiwán?” o “¿Qué ocurrió en la plaza de Tiananmén en 1989?”.
En este punto, la ideología en la IA deja de ser solo un problema técnico y se convierte en una cuestión de gobernanza. ¿Quién define los límites? ¿Qué valores se priorizan? ¿Se debe aspirar a una neutralidad imposible o a una explicitación transparente de criterios?
En 2024, la Unión Europea optó por la solución de forzar una regulación. Aprobó el AI Act, el primer marco jurídico integral sobre inteligencia artificial, con un enfoque basado en la clasificación por niveles de riesgo y en la protección explícita de derechos fundamentales, provocando que determinados usos debiesen cumplir obligaciones estrictas de transparencia y supervisión, o incluso quedar prohibidos, como por ejemplo, el uso de técnicas subliminales de manipulación, dar puntuaciones sociales (social scoring), predecir delitos y otras prácticas similares de categorización de individuos.
Este planteamiento parte de la premisa de que, si las IA pueden reproducir o amplificar ideologías presentes en los datos, el Estado debe establecer límites claros antes de que esos efectos se consoliden. No se trata tanto de decidir qué ideología es correcta, sino de evitar que sistemas automatizados vulneren principios democráticos básicos como la igualdad o la no discriminación, garantizando unos mínimos ideológicos que deben cumplir las empresas tecnológicas. Con esto se impide que las empresas utilicen las IA para atacar al público vulnerable por su edad, situación socioeconómica, etc.
Las grandes corporaciones
En Estados Unidos, el enfoque ha sido más fragmentado. Organismos como el National Institute of Standards and Technology han desarrollado marcos de gestión de riesgos, pero de carácter mayoritariamente voluntario. Las regulaciones de estos modelos dependen casi en exclusiva de directrices sectoriales y de la autorregulación empresarial.
Si bien se trata de una apuesta por la autorregulación y el libre mercado, algo que tiende a favorecer la rapidez en la innovación, también supone falta de seguridad jurídica para los usuarios y respuestas desiguales ante los riesgos sociales de un país cada día más polarizado.
Esta diferencia no es menor cuando hablamos de ideología algorítmica. En un entorno menos estructurado, las decisiones sobre qué sesgos corregir o qué valores priorizar recaen principalmente en las empresas tecnológicas. En un marco más regulado, existe al menos un debate institucionalizado sobre los límites aceptables.
Eso no significa que la regulación europea resuelva automáticamente el problema. La ideología no desaparece a golpe de decreto. Los modelos seguirán reflejando sesgos de la población occidental; no obstante, el hecho de que exista un marco común y exigible introduce un elemento de previsibilidad ante las respuestas.
La inteligencia artificial no milita, no vota y no opina. Es posible que en unos años veamos que la famosa IA no ha solucionado ni la mitad de nuestros problemas y que quizás se trataba únicamente de una gran burbuja, pero, a día de hoy, organiza un mundo con el que millones de personas interactúan cada día.
Como vengo diciendo, la pregunta correcta no es si las IA tienen ideología; la respuesta sencilla es que no, sino cómo gestionamos los sesgos inevitables que emergen de sus datos y de sus diseñadores.
