Unha resposta impecábel
Escribe unha pregunta discutíbel nun chatbot: «Debe unha empresa poder substituír traballadores por IA?». A resposta chega en segundos. Fala de equilibrio. Recoñece oportunidades e riscos. Recomenda formación, transparencia e diálogo entre as partes. Non insulta a ninguén, non se compromete demasiado e remata cunha frase razoábel.
Parece neutral. Precisamente por iso merece unha autopsia.
A resposta procede dunha cadea material: textos seleccionados a escala industrial, persoas que avaliaron exemplos, centros de datos, chips cuxa venda está regulada, unha empresa con clientes e avogados, políticas que deciden que pode dicir o produto e un Estado interesado na capacidade estratéxica da tecnoloxía. Talvez non agocha unha consigna secreta. Abóndalle con condensar o mundo que puido construíla.
Abrir o corpus
A primeira capa contén unha parte enorme da cultura escrita e, ao tempo, ausencias moi concretas. Internet sobrerrepresenta a quen ten tempo, conexión, alfabetización, seguridade e unha lingua dominante. As institucións con orzamento producen arquivos, noticias, manuais e páxinas optimizadas para seren atopadas. Moito coñecemento doméstico, obreiro, oral ou local nunca chega ao conxunto; outro entra como obxecto descrito por alguén desde fóra.
Despois vén a selección. Rastrexar, mercar ou licenciar fontes; excluír unhas e conservar outras; eliminar duplicados; filtrar sexualidade, violencia ou información persoal; decidir que unha lingua merece máis capacidade ca outra. Non existe un corpus «en bruto». Hai unha política editorial executada mediante software e contratos.
O modelo aprende regularidades dese material. Se o discurso empresarial describe o despedimento como eficiencia e o conflito laboral como fricción, esas asociacións chegan con máis respaldo estatístico ca unha asemblea non transcrita. O sistema pode repetir un prexuízo visíbel, mais tamén facer algo menos rechamante: colocar unhas ideas no centro do razoábel e obrigar outras a presentarse como excepcións.
Atopar as mans
Antes de que a resposta soe educada, moitas persoas tiveron que ensinarlle que aspecto ten unha resposta aceptábel. Clasifican toxicidade, comparan saídas, redactan exemplos, localizan erros e soportan imaxes ou textos que a empresa non quere amosar aos seus enxeñeiros nin ás persoas usuarias.
Ese traballo adoita desaparecer baixo palabras como aliñamento ou feedback humano. A abstracción é conveniente. Permite presentar o modelo como unha fazaña do cómputo mentres as tarefas repetitivas e emocionalmente duras viaxan cara a contratistas con menos salario e capacidade de reclamar. A neutralidade da voz apóiase nunha relación laboral moi pouco neutral.
As persoas avaliadoras tampouco aplican unha moral universal gardada nun manual. Traballan con instrucións: que resposta é útil, que risco pesa máis, que ton parece profesional, que fontes se consideran fiábeis. Cando dous valores chocan —franqueza e prudencia, privacidade e vixilancia, obediencia e protesta— alguén fixa unha prioridade, aínda que o resultado final a chame «seguridade».
Seguir o cable
A frase tamén ten peso físico. Foi producida por servidores, redes eléctricas, sistemas de refrixeración, fábricas de semicondutores e cadeas mineiras. O informe Energy and AI da Axencia Internacional da Enerxía estimou que os centros de datos consumiron uns 415 TWh en 2024, arredor do 1,5 % da electricidade mundial, e proxectou máis do dobre para 2030.
A cifra inclúe centros de datos alleos á IA e consultas con pegadas moi distintas. Aínda así, devolve a frase ao mundo físico. Adestrar outro modelo xigantesco para conservar cota consume enerxía, auga, solo, chips e capacidade de rede que non poderán destinarse a outra cousa.
A competencia produce duplicación. Varias empresas perseguen capacidades parecidas para posuír a infraestrutura desde a que outras persoas resolverán problemas e cobrar por atravesala. Por iso o tamaño do modelo e a concentración empresarial medran xuntos.
Ler o que a resposta non di
Volve á frase inicial. Fala das «partes», coma se empresa e persoal chegasen á negociación coa mesma información e a mesma capacidade de agardar. Recomenda formación, coma se o conflito principal fose unha falta individual de habilidades. Presenta a substitución como unha decisión técnica que despois debe administrarse, non como unha decisión de propiedade que podería tomarse doutro xeito.
Talvez o modelo poida responder o contrario se se lle pide. Esa flexibilidade non o volve neutral. Un espello capaz de adoptar moitos ángulos segue instalado nun cuarto concreto. A interface, a resposta por defecto, as fontes favorecidas, a lonxitude, as negativas e o ton forman unha xerarquía. Millóns de pequenos encadres poden facer máis por normalizar unha orde ca unha prohibición explícita.
Todas as plataformas fixan límites, e algúns son necesarios. Impedir instrucións para fabricar un veleno protexe posíbeis vítimas. A etiqueta «seguridade» tamén pode cubrir o desexo de evitar responsabilidade legal, respectar un goberno, impedir unha crítica ou conservar un contrato. A persoa usuaria necesita coñecer a regra, quen a impuxo e que recurso existe contra ela; doutro modo só ve unha porta pechada.
Mirar quen paga a sala
A infraestrutura de IA xa forma parte de rivalidades nacionais. Os Estados Unidos restrinxen a exportación de chips avanzados, China impulsa a súa propia cadea e Europa fala de soberanía tecnolóxica. En xullo de 2025, o Departamento de Defensa estadounidense concedeu adxudicacións de ata 200 millóns de dólares a Anthropic, Google, OpenAI e xAI para desenvolver capacidades de IA aplicábeis a misións de seguridade nacional.
Unha empresa pode vender asistentes escolares pola mañá e capacidade militar pola tarde. Pode manter equipos separados e regras distintas. O que non pode facer é quedar fóra da relación. Os contratos financian infraestrutura, abren mercados, orientan investigación e converten a compañía nun activo estratéxico. O Estado tampouco é un árbitro exterior: compra, prohibe, subvenciona e define inimigos.
Dicir que un modelo «é estadounidense» ou «é chinés» non explica cada resposta. Si lembra que se constrúe dentro dun bloque con leis, capital, centros de datos e liñas vermellas. A suposta nube ten territorio.
Pechar a autopsia
Avaliar a ferramenta esixe reconstruír quen puido pagala, que traballo quedou oculto e que material se excluíu. Tamén esixe publicar o obxectivo que optimiza, someter as negativas a auditoría, asignar o custo enerxético e deixar claro quen pode apagala ou cambiala. A procura dunha máquina «sen nesgo» distrae desas decisións comprobábeis.
A transparencia axuda só se permite actuar. Unha ficha técnica que ninguén pode impugnar é outra vitrina. Fan falta dereitos de auditoría para traballadores e servizos públicos, acceso de investigadores, protección para quen revele danos, límites ambientais, capacidade pública de cómputo e control democrático sobre usos que deciden emprego, crédito, educación, sanidade ou guerra. Nalgúns ámbitos, a resposta correcta será non despregar o sistema.
A frase do chatbot segue aí, limpa e moderada. Despois de abrila aparecen o corpus, as mans, a central eléctrica, o consello de administración e o contrato público. A resposta pode ser correcta e seguir situada dentro desa cadea. Facela visíbel permite discutir responsabilidades concretas.