Una respuesta impecable
Escribe una pregunta discutible en un chatbot: «¿Debe una empresa poder sustituir trabajadores por IA?». La respuesta llega en segundos. Habla de equilibrio. Reconoce oportunidades y riesgos. Recomienda formación, transparencia y diálogo entre las partes. No insulta a nadie, no se compromete demasiado y termina con una frase razonable.
Parece neutral. Precisamente por eso merece una autopsia.
La respuesta procede de una cadena material: textos seleccionados a escala industrial, personas que evaluaron ejemplos, centros de datos, chips cuya venta está regulada, una empresa con clientes y abogados, políticas que deciden qué puede decir el producto y un Estado interesado en la capacidad estratégica de la tecnología. Quizá no oculte una consigna secreta. Le basta con condensar el mundo que pudo construirla.
Abrir el corpus
La primera capa contiene una parte enorme de la cultura escrita y, a la vez, ausencias muy concretas. Internet sobrerrepresenta a quien tiene tiempo, conexión, alfabetización, seguridad y una lengua dominante. Las instituciones con presupuesto producen archivos, noticias, manuales y páginas optimizadas para ser encontradas. Mucho conocimiento doméstico, obrero, oral o local nunca llega al conjunto; otro entra como objeto descrito por alguien desde fuera.
Después viene la selección. Rastrear, comprar o licenciar fuentes; excluir unas y conservar otras; deduplicar; filtrar sexualidad, violencia o información personal; decidir que una lengua merece más capacidad que otra. No existe un corpus «en bruto». Hay una política editorial ejecutada mediante software y contratos.
El modelo aprende regularidades de ese material. Si el discurso empresarial describe el despido como eficiencia y el conflicto laboral como fricción, esas asociaciones llegan con más respaldo estadístico que una asamblea no transcrita. El sistema puede repetir un prejuicio visible, pero también puede hacer algo menos llamativo: colocar unas ideas en el centro de lo razonable y obligar a otras a presentarse como excepciones.
Encontrar las manos
Antes de que la respuesta suene educada, muchas personas han tenido que enseñarle qué aspecto tiene una respuesta aceptable. Clasifican toxicidad, comparan salidas, redactan ejemplos, localizan errores y soportan imágenes o textos que la empresa no quiere mostrar a sus ingenieros ni a sus usuarios.
Ese trabajo suele desaparecer bajo palabras como alineamiento o feedback humano. La abstracción es conveniente. Permite presentar el modelo como una proeza del cómputo mientras las tareas repetitivas y emocionalmente duras viajan hacia contratistas con menos salario y capacidad de reclamar. La neutralidad de la voz se apoya en una relación laboral muy poco neutral.
Los evaluadores tampoco aplican una moral universal guardada en un manual. Trabajan con instrucciones: qué respuesta es útil, qué riesgo pesa más, qué tono parece profesional, qué fuentes se consideran fiables. Cuando dos valores chocan —franqueza y prudencia, privacidad y vigilancia, obediencia y protesta— alguien fija una prioridad, aunque el resultado final la llame «seguridad».
Seguir el cable
La frase también tiene peso físico. Fue producida por servidores, redes eléctricas, sistemas de refrigeración, fábricas de semiconductores y cadenas mineras. El informe Energy and AI de la Agencia Internacional de la Energía estimó que los centros de datos consumieron unos 415 TWh en 2024, alrededor del 1,5 % de la electricidad mundial, y proyectó más del doble para 2030.
La cifra incluye centros de datos ajenos a la IA y consultas con huellas muy distintas. Aun así, devuelve la frase al mundo físico. Entrenar otro modelo gigantesco para conservar cuota consume energía, agua, suelo, chips y capacidad de red que no podrán destinarse a otra cosa.
La competencia produce duplicación. Varias empresas persiguen capacidades parecidas para poseer la infraestructura desde la que otros resolverán problemas y cobrarán por atravesarla. Por eso el tamaño del modelo y la concentración empresarial crecen juntos.
Leer lo que la respuesta no dice
Vuelve a la frase inicial. Habla de «las partes», como si empresa y plantilla llegaran a la negociación con la misma información y la misma capacidad de esperar. Recomienda formación, como si el conflicto principal fuese una falta individual de habilidades. Presenta la sustitución como una decisión técnica que después debe gestionarse, no como una decisión de propiedad que podría tomarse de otra manera.
Quizá el modelo podría responder lo contrario si se le pide. Esa flexibilidad no lo vuelve neutral. Un espejo capaz de adoptar muchos ángulos sigue instalado en una habitación concreta. La interfaz, la respuesta por defecto, las fuentes favorecidas, la longitud, las negativas y el tono forman una jerarquía. Millones de pequeños encuadres pueden hacer más por normalizar un orden que una prohibición explícita.
Todas las plataformas fijan límites, y algunos son necesarios. Impedir instrucciones para fabricar un veneno protege a posibles víctimas. La etiqueta «seguridad» también puede cubrir el deseo de evitar responsabilidad legal, respetar a un gobierno, impedir una crítica o conservar un contrato. La persona usuaria necesita conocer la regla, quién la impuso y qué recurso existe contra ella; de otro modo solo ve una puerta cerrada.
Mirar quién paga la sala
La infraestructura de IA ya forma parte de rivalidades nacionales. Estados Unidos restringe la exportación de chips avanzados, China impulsa su propia cadena y Europa habla de soberanía tecnológica. En julio de 2025, el Departamento de Defensa estadounidense concedió adjudicaciones de hasta 200 millones de dólares a Anthropic, Google, OpenAI y xAI para desarrollar capacidades de IA aplicables a misiones de seguridad nacional.
Una empresa puede vender asistentes escolares por la mañana y capacidad militar por la tarde. Puede mantener equipos separados y reglas distintas. Lo que no puede hacer es quedar fuera de la relación. Los contratos financian infraestructura, abren mercados, orientan investigación y convierten a la compañía en activo estratégico. El Estado tampoco es un árbitro exterior: compra, prohíbe, subvenciona y define enemigos.
Decir que un modelo «es estadounidense» o «es chino» no explica cada una de sus respuestas. Sí recuerda que se construye dentro de un bloque con leyes, capital, centros de datos y líneas rojas. La supuesta nube tiene territorio.
Cerrar la autopsia
Evaluar la herramienta exige reconstruir quién pudo pagarla, qué trabajo quedó oculto y qué material se excluyó. También exige publicar el objetivo que optimiza, someter sus negativas a auditoría, asignar el coste energético y dejar claro quién puede apagarla o cambiarla. La búsqueda de una máquina «sin sesgo» distrae de esas decisiones comprobables.
La transparencia ayuda solo si permite actuar. Una ficha técnica que nadie puede impugnar es otra vitrina. Hacen falta derechos de auditoría para trabajadores y servicios públicos, acceso de investigadores, protección para quienes revelen daños, límites ambientales, capacidad pública de cómputo y control democrático sobre usos que deciden empleo, crédito, educación, sanidad o guerra. En algunos ámbitos, la respuesta correcta será no desplegar el sistema.
La frase del chatbot sigue ahí, pulcra y moderada. Después de abrirla aparecen el corpus, las manos, la central eléctrica, el consejo de administración y el contrato público. La respuesta puede ser correcta y seguir situada dentro de esa cadena. Hacerla visible permite discutir responsabilidades concretas.