INTRODUCCIÓN
Buena parte de las discusiones contemporáneas sobre inteligencia artificial (IA) ha girado en torno a cuestiones ontológicas vinculadas con la naturaleza de los sistemas algorítmicos. La pregunta por si una máquina puede pensar o comprender sigue ocupando un lugar central. A ella se suma el debate sobre la posibilidad de atribuirle algún tipo de agencia comparable a la humana y, en un plano más amplio, sobre hasta qué punto estos sistemas podrían llegar a sustituir capacidades humanas en tareas cognitivas, productivas o de toma de decisiones. Sin embargo, desde un punto de vista filosófico, estas preguntas resultan insuficientes para comprender las implicaciones de la IA en sociedades complejas que implican altos niveles de mediación organizativa, institucional y técnica. Desde una perspectiva filosófico-política y sociotécnica, el problema significativo no es definir la naturaleza de la IA en términos de supuesta autonomía o agencia, sino analizar cómo la IA se configura a través de sus acciones, o en otras palabras, cómo altera los circuitos de la producción de conocimiento, la toma de decisiones y la coordinación, bajo qué reglas opera y qué consecuencias normativas genera sobre los sujetos e instituciones.
Con estas ideas en mente, este artículo aboga por un giro en el análisis, de la ontología de la IA, término utilizado aquí para referirse a la pregunta por el estatuto de los sistemas algorítmicos, a un análisis de la ecología de mediaciones sociotécnicas. El término “ecología” se refiere al análisis del acoplamiento de artefactos técnicos, datos, modelos, interfaces, trabajo humano, infraestructuras materiales, prácticas organizacionales y dispositivos de gobernanza. Esta clarificación se proporciona a través de tres giros interrelacionados. El primero de ellos no supone separar lo que la IA “es” de lo que la IA “hace”, sino rechazar una concepción sustancialista o mentalista de la IA como entidad autónoma. Desde una perspectiva sociotécnica, lo que es un sistema algorítmico, en términos institucionales, está dado por sus operaciones, mediaciones y efectos sobre las prácticas sociales.
Esto significa que el análisis de la IA debe considerar sus efectos sobre la sociedad y la medida en que es públicamente rastreable. Dicho análisis debe considerar también las formas de regulación que se materializan en su arquitectura. Esto significa que el análisis de la IA debe ir más allá de las analogías mentalistas que equiparan estos sistemas con formas humanas de inteligencia o conciencia (Turing, 1950). En segundo lugar, dejamos de considerar la IA como un agente individual y la entendemos como una infraestructura que combina formas de memoria externa, como datos, pesos y repositorios, con capacidades de predicción, generación y planificación, además de apoyar prácticas como la simulación y el copilotaje. Estas características modifican las latencias, los costes de verificación y las escalas de cooperación humana (Hutchins, 1995; Mitchell, 2019). En tercer lugar, desplazamos nuestra unidad de análisis de individuos a sistemas sociotécnicos, entendidos como sistemas compuestos por humanos, artefactos y procesos, insertos en estructuras y reglas institucionales que distribuyen de forma desigual las capacidades de saber, decidir y rendir cuentas (Bowker & Star, 1999; Suchman, 1987).
Visto desde esta perspectiva, vemos que los sistemas de IA contemporáneos, incluidos los modelos generativos, no operan como inteligencias autónomas, sino como ensamblajes sostenidos por infraestructuras materiales, metodologías de clasificación, extracción de conocimiento colectivo y trabajo que a menudo se vuelve invisible (Muldoon et al., 2024; Pasquinelli, 2023). Desde este punto de vista, el desarrollo de un léxico conceptual es necesario para describir las condiciones estructurales en las que la IA opera como infraestructura cognitiva. Dos de estas condiciones son de particular interés. En primer lugar, las asimetrías de información que resultan de la opacidad de los datos o supuestos del modelo, así como de los incentivos de quienes diseñan y despliegan los sistemas, crean problemas clásicos de selección adversa y riesgo moral (Akerlof, 1970; Spence, 1973; Stiglitz & Weiss, 1981). En los sistemas algorítmicos contemporáneos, estas asimetrías se agravan porque el acceso, el control y la interpretación de los datos se concentran en actores con una mayor capacidad técnica e institucional, creando nuevas formas de dependencia informacional y opacidad decisional (Bernal, 2024; Langer & König, 2023). La otra condición es la ambigüedad de modelo. Aquí la incertidumbre excede el cálculo probabilístico, porque no solo pueden desconocerse los resultados, sino también la distribución de los estados relevantes y los propios límites del modelo utilizado (Ellsberg, 1961; Gilboa & Schmeidler, 1989; Klibanoff et al., 2005). Esta dificultad adquiere especial importancia cuando las decisiones están mediadas por tecnologías cuya arquitectura incorpora criterios y restricciones que orientan determinadas conductas. Los artefactos digitales, por tanto, no son neutrales. También regulan posibilidades de acción y pueden hacerlo de manera anticipada, incluso con una eficacia comparable a la de ciertas normas formales (Green, 2021; Lessig, 1999; Winner, 1980).
Una ética de la IA limitada a principios abstractos resulta insuficiente. La responsabilidad pública requiere mecanismos que permitan examinar los sistemas, cuestionar sus efectos y exigir responsabilidades. La gobernanza auditable responde a esta necesidad mediante documentación de datos y modelos (datasheets, model cards), auditorías independientes, interoperabilidad y portabilidad, procedimientos de explicación y apelación, así como la consideración de sus costes materiales y energéticos (Crawford, 2021; Gebru et al., 2021; Mitchell et al., 2019; Raji et al., 2020; Strubell et al., 2019).
Esta exigencia cobra especial importancia frente a las tensiones que acompañan al despliegue de la IA. Los sistemas de clasificación condicionan la visibilidad, mientras que la opacidad técnico-organizacional, la concentración de infraestructura y las limitaciones de portabilidad pueden dificultar la revisión de decisiones y consolidar dependencias. A ello se añade la dimensión material de estas tecnologías y sus costes ambientales y geopolíticos (Bowker & Star, 1999; Boyd & Crawford, 2012; Crawford, 2021; Eubanks, 2018; Lessig, 1999; Pasquale, 2015; Rochet & Tirole, 2003; Strubell et al., 2019).
Sobre esta base, el artículo concibe la IA como infraestructura cognitiva y desplaza el análisis desde las capacidades internas del artefacto hacia las estructuras institucionales que median su funcionamiento y sus efectos sobre las capacidades humanas y las relaciones de poder. Su contribución consiste en avanzar desde la ontología y el tecnosolucionismo hacia una ecología normativa de mediaciones, en diálogo con estudios críticos que cuestionan la presentación de la IA y la transformación digital como soluciones suficientes a problemas institucionales, educativos y democráticos (Mochizuki et al., 2025; Saura et al., 2023; Wijermars & Makhortykh, 2022). Desde esta perspectiva, capacidades, igualdad relacional, no dominación y razón pública se vinculan con exigencias institucionales de gobernanza auditable.
A partir de este diagnóstico, el objetivo central del artículo es desarrollar una teoría conceptual de la IA concebida como infraestructura cognitiva, capaz de articular de manera integrada sus dimensiones técnicas, institucionales, cognitivas y normativas. Esta perspectiva permite analizar cómo la IA reorganiza condiciones de acceso a la información, producción de inferencias, justificación de decisiones y coordinación de acciones. El trabajo busca, en particular, ofrecer un marco analítico que permita evaluar los sistemas de IA no en función de su supuesta inteligencia intrínseca, sino de los arreglos institucionales que median su funcionamiento y de sus efectos sobre capacidades humanas, relaciones de poder y formas de dominación.
MARCO TEÓRICO
El marco teórico articula perspectivas complementarias para analizar la IA como infraestructura cognitiva. La Tabla 1 sintetiza sus principales aportes al enfoque propuesto.
Tradiciones teóricas y contribución al marco de la IA como infraestructura cognitiva
| Eje teórico | Idea central | Aporte al marco propuesto | Implicación normativa/institucional | Referencias principales |
|---|---|---|---|---|
| Cognición distribuida y teoría de la actividad | La cognición se distribuye entre personas, artefactos, representaciones y entornos; los artefactos median la acción | Permite concebir la IA como infraestructura cognitiva situada, no como agente autónomo | Examinar redistribución de tareas cognitivas, autoridad epistémica y producción de conocimiento | Engeström (1987); Fuertes-Alpiste (2024); Hutchins (1995); Pea (1993); Salomon et al. (1991) |
| Estudios sociotécnicos, poder y arquitectura | Los artefactos incorporan valores y la arquitectura regula posibilidades de acción | Sitúa el diseño técnico como dimensión constitutiva de la regulación | Evaluar decisiones arquitectónicas, restricciones y distribución de capacidades | Lessig (1999); Mann y Matzner (2019); Mökander et al. (2021); Winner (1980) |
| Clasificación y estudios críticos de datos | Las clasificaciones producen categorías, visibilidad y exclusiones | Permite analizar la dimensión performativa de datos y modelos | Exigir trazabilidad de categorías, datos, supuestos y contextos de uso | Bowker y Star (1999); Boyd y Crawford (2012); Kordzadeh y Ghasemaghaei (2022); Ukanwa (2024) |
| Opacidad y gobernanza algorítmica | La transparencia técnica no garantiza comprensión ni control | Desplaza el foco desde transparencia hacia capacidad efectiva de impugnación | Explicación, apelación, revisión y efectos institucionales reales | Ananny y Crawford (2018); Eubanks (2018); Pasquale (2015); Wachter et al. (2017) |
| Justicia algorítmica | Los sistemas pueden reproducir desigualdades y la equidad no se agota en métricas formales | Reinscribe la justicia como problema sociotécnico e institucional | Evaluar capacidades, relaciones de poder, subordinación y mecanismos de impugnación | Barocas y Selbst (2016); Benjamin (2019); Hoffmann (2021); Noble (2018); Selbst et al. (2019) |
| Materialidad y energía | La IA depende de infraestructuras físicas, energía, recursos y cadenas materiales | Incorpora la dimensión material al desempeño social de los sistemas | Visibilizar costes mediante criterios de frugalidad, ciclo de vida y presupuestos energéticos | Crawford (2021); De Vries (2023); Ligozat et al. (2022); Luccioni et al. (2023); Strubell et al. (2019) |
IA, mediación y cognición distribuida
Para sostener la idea de la IA como infraestructura cognitiva es necesario delimitar su alcance conceptual. En este artículo, esa expresión no supone que la IA reproduzca una mente humana o posea agencia cognitiva autónoma. Designa una función mediadora situada, mediante la cual estos sistemas modifican las condiciones en que las personas acceden a información, elaboran inferencias, externalizan memoria y coordinan acciones. La infraestructura cognitiva no es, por tanto, una propiedad intrínseca del artefacto, sino una función que emerge dentro de sistemas sociotécnicos más amplios.
Esta concepción se apoya en la cognición distribuida y la teoría de la actividad, que permiten entender la cognición y la acción como procesos mediados por personas, artefactos y entornos organizados (Engeström, 1987; Hutchins, 1995; Pea, 1993; Salomon et al., 1991). Aplicada a la IA, esta perspectiva permite analizar cómo los sistemas algorítmicos redistribuyen tareas cognitivas y autoridad epistémica y modifican los circuitos de producción, validación y uso del conocimiento (Fuertes-Alpiste, 2024). La mediación cognitiva queda así vinculada con las relaciones de poder, dependencia y responsabilidad que estructuran el sistema sociotécnico.
Infraestructura, poder y arquitectura
Concebir la IA como infraestructura cognitiva supone reconocer que su arquitectura también distribuye posibilidades de acción. Los artefactos pueden materializar valores, jerarquías y exclusiones (Winner, 1980), mientras que la arquitectura digital regula mediante permisos y restricciones (Lessig, 1999). Estas configuraciones inciden en qué información es accesible, qué opciones resultan viables y qué cursos de acción se vuelven difíciles o costosos (Green, 2021; Peeters et al., 2025).
Mann y Matzner (2019) advierten que estos efectos no siempre son visibles ni atribuibles a un actor identificable. Por ello, la evaluación de la arquitectura debe considerar las capacidades, los riesgos y las responsabilidades que distribuye durante el ciclo de vida del sistema (Mökander et al., 2021). La arquitectura opera, en este sentido, como una forma de regulación ex ante.
Clasificación, datos y construcción del mundo social
Las clasificaciones no se limitan a describir una realidad preexistente: determinan qué diferencias resultan relevantes y qué fenómenos adquieren visibilidad institucional (Bowker & Star, 1999). La digitalización intensifica este efecto, mientras que la selección de variables, el etiquetado, las ausencias y la reutilización de datos históricos pueden reproducir sesgos y exclusiones (Boyd & Crawford, 2012).
Estos problemas atraviesan distintas etapas del ciclo de vida de los sistemas de IA (Kordzadeh & Ghasemaghaei, 2022; Ukanwa, 2024). Instrumentos como datasheets y model cards permiten documentar supuestos, límites y contextos de uso (Gebru et al., 2021; Mitchell et al., 2019), pero la trazabilidad técnica resulta insuficiente si las prácticas de clasificación no se examinan dentro de sus marcos institucionales y formas de gobernanza.
Opacidad, transparencia y capacidad de impugnación
La opacidad de los sistemas algorítmicos puede debilitar la rendición de cuentas y restringir las posibilidades de explicación o apelación, especialmente cuando decisiones socialmente relevantes quedan mediadas por estructuras técnicas y organizacionales difíciles de examinar (Eubanks, 2018; Pasquale, 2015).
La transparencia, sin embargo, no garantiza por sí sola comprensión, control o capacidad efectiva de impugnación (Ananny & Crawford, 2018; Freiman et al., 2025). Aunque puede contribuir a reducir determinadas decisiones sesgadas (Ebrahimi et al., 2025), su eficacia depende de procedimientos que permitan cuestionar y revisar las decisiones automatizadas. Por ello, el marco privilegia la impugnación efectiva mediante explicaciones comprensibles, apelación y efectos institucionales reales (Wachter et al., 2017).
Injusticia algorítmica y enfoque sociotécnico de la justicia
Los sistemas automatizados pueden reproducir desigualdades mediante procesos aparentemente neutrales de clasificación y decisión (Barocas & Selbst, 2016; Benjamin, 2019; Noble, 2018). Estos efectos no pueden comprenderse adecuadamente si el sistema algorítmico se separa de su contexto social e institucional (Selbst et al., 2019).
Desde esta perspectiva, la justicia no se agota en métricas formales de equidad, sino que exige examinar las condiciones bajo las cuales se producen los datos y se distribuyen autoridad, responsabilidad y posibilidades de impugnación (Hoffmann, 2021). El problema se desplaza así desde la corrección técnica hacia las reglas y estructuras que configuran capacidades, relaciones de poder y formas de subordinación.
Materialidad y energía
La IA depende de infraestructuras físicas y de recursos energéticos y materiales que también forman parte de su evaluación normativa. El entrenamiento, despliegue e inferencia de modelos pueden generar consumos energéticos y emisiones significativas, además de involucrar cadenas materiales y relaciones geopolíticas frecuentemente invisibilizadas (Crawford, 2021; De Vries, 2023; Luccioni et al., 2023; Strubell et al., 2019).
Esta materialidad exige una perspectiva de ciclo de vida que considere tanto los recursos empleados como los efectos asociados al escalamiento (Ligozat et al., 2022). Aunque la IA puede contribuir a procesos de mitigación y adaptación climática, su expansión también puede generar nuevas presiones ambientales (Nordgren, 2023). El marco incorpora, por ello, los costes materiales y energéticos como parte de la legitimidad del sistema.
Objeciones teóricas y delimitación del enfoque
La concepción de la IA como infraestructura cognitiva debe situarse frente a algunas objeciones presentes en la literatura sobre tecnología, gobernanza algorítmica y justicia sociotécnica. La Tabla 2 sintetiza estas tensiones y la respuesta que ofrece el marco propuesto.
Objeciones teóricas y respuesta del marco
| Objeción | Respuesta del marco | Implicación para el enfoque | Referencias principales |
|---|---|---|---|
| La automatización sigue trayectorias prácticamente inevitables. | El desarrollo tecnológico no constituye un proceso autónomo, sino que se configura mediante imaginarios sociotécnicos, decisiones de diseño, estándares, reglas y estructuras de gobernanza. | La gobernanza no opera únicamente sobre la tecnología una vez desplegada, sino que forma parte de su propia configuración institucional. | Bareis y Katzenbach (2022); Jasanoff y Kim (2009, 2015); Latour (2005); Lessig (1999); Winkel (2025); Winner (1980) |
| La IA es esencialmente neutral y la responsabilidad corresponde solo a sus usuarios. | Las decisiones de diseño distribuyen capacidades y restricciones e influyen en aquello que se mide, clasifica y optimiza. | La arquitectura técnica posee efectos normativos y debe estar sometida a escrutinio público. | Bowker y Star (1999); Lessig (1999); Nishant et al. (2024); Winner (1980) |
| Una mayor transparencia permitiría resolver los principales problemas normativos. | La transparencia no garantiza por sí sola comprensión, control o capacidad efectiva de impugnación y, en algunos sistemas, una transparencia funcional completa puede ser inalcanzable. | La transparencia debe complementarse con explicaciones comprensibles, procedimientos de apelación y capacidad efectiva de corrección. | Ananny y Crawford (2018); Pasquale (2015); Walmsley (2021) |
| La incompatibilidad entre distintas métricas de justicia impide alcanzar una solución técnica única. | La ausencia de una solución técnica única no elimina la necesidad de evaluación normativa, sino que exige procedimientos para explicitar, justificar y revisar las prioridades adoptadas. | La razón pública permite abordar institucionalmente los conflictos entre distintos criterios de justicia. | Habermas (1984); Kleinberg et al. (2017); Nishant et al. (2024) |
| Los mecanismos de gobernanza introducen fricciones que ralentizan la innovación. | Algunas fricciones permiten internalizar costes, prevenir daños sistémicos, reducir dependencias y hacer visibles los costes materiales de los sistemas. | La innovación no puede evaluarse únicamente por su velocidad o eficiencia, sino también por sus efectos institucionales, distributivos y materiales. | Crawford (2021); Pasquale (2015); Rochet y Tirole (2003); Strubell et al. (2019) |
Estas objeciones delimitan el alcance del enfoque. La legitimidad de la IA no puede descansar en soluciones técnicas aisladas ni en una única propiedad del sistema, sino que depende de las condiciones institucionales que configuran y permiten gobernar sus efectos. Esta delimitación da paso a la operacionalización normativa de la IA como infraestructura cognitiva y a la formulación de criterios para su evaluación institucional.
OPERACIONALIZACIÓN NORMATIVA DE LA IA COMO INFRAESTRUCTURA COGNITIVA: DE LOS PRINCIPIOS A LOS CRITERIOS INSTITUCIONALES
¿Por qué operacionalizar normativamente la IA?
Una vez definida la IA como infraestructura cognitiva mediadora de procesos de información, inferencia, decisión y coordinación, el problema central ya no es solo describir sus efectos, sino especificar bajo qué condiciones esas mediaciones pueden considerarse legítimas, auditables y orientadas a la ampliación de capacidades humanas. Esta exigencia es especialmente relevante en los sistemas contemporáneos de IA, en particular aquellos de carácter generativo, que no solo clasifican o predicen, sino que también producen textos, inferencias, recomendaciones y narrativas con autoridad práctica en organizaciones e instituciones. Por ello, sus efectos normativos no pueden evaluarse únicamente mediante métricas técnicas de desempeño ni mediante principios normativos generales.
La operacionalización normativa cumple esta función al traducir principios como capacidades, igualdad relacional, no-dominación y razón pública en criterios institucionales exigibles, tales como documentación, contestabilidad, interoperabilidad, portabilidad y presupuestos energéticos. La formalización que sigue no busca construir un modelo matemático exhaustivo, sino ofrecer un puente entre la teoría crítica de la IA y las condiciones institucionales de su gobernanza. Su propósito es mostrar cómo determinados operadores institucionales pueden reducir opacidad, arbitrariedad, dependencia estructural y costes materiales invisibilizados, fortaleciendo la posibilidad de que la IA opere como una infraestructura capacitante y no dominante.
Formalización mínima del sistema sociotécnico
Esta sección describe una formalización mínima del sistema sociotécnico en el que la IA opera como infraestructura cognitiva. Se busca representar las relaciones institucionales y normativas que articulan artefactos, procesos organizacionales y mecanismos de gobernanza (Bowker & Star, 1999; Hutchins, 1995; Suchman, 1987).
Sea el sistema sociotécnico definido como S = ⟨ H,A,P,G⟩. La Tabla 3 sintetiza los componentes del sistema y los términos utilizados posteriormente en el funcional de desempeño social.
Componentes y términos de la formalización mínima
| Símbolo | Componente o término | Significado |
|---|---|---|
| H | Población humana | Individuos y grupos afectados por el sistema o que interactúan con él |
| A | Artefactos técnicos | Modelos, datos, repositorios e infraestructuras computacionales |
| P | Procesos organizacionales | Procesos mediante los cuales los artefactos se integran en prácticas de decisión |
| G | Gobernanza | Dispositivos que regulan el diseño, uso y supervisión del sistema |
| V | Valor informacional | Mejoras en coordinación, precisión o capacidad predictiva |
| C | Costes organizacionales | Costes derivados de la integración del sistema en procesos organizacionales |
| R | Riesgo epistémico-procedimental | Sesgos, opacidad, arbitrariedad y exclusión |
| E | Consumo energético y material | Recursos energéticos y materiales asociados al funcionamiento del sistema |
| λ | Ponderación climática | Peso atribuido a la externalidad climática |
Esta descomposición supone que los efectos de los sistemas técnicos no provienen de artefactos aislados, sino de configuraciones sociotécnicas que distribuyen capacidades y restricciones (Lessig, 1999; Winner, 1980).
Para un perfil decisorio dado, se define un funcional de desempeño social (ver ecuación 1).
La formulación integra el valor informacional generado por el sistema con sus costes organizacionales, riesgos epistémico-procedimentales y consumo energético y material. De este modo, incorpora explícitamente la materialidad de la computación y sus posibles externalidades climáticas (Crawford, 2021; Strubell et al., 2019).
El término R resulta particularmente relevante desde una perspectiva normativa. Entre sus fuentes se encuentran la asimetría de información derivada de la dificultad para observar plenamente la calidad de los datos, los supuestos del modelo o los incentivos de quienes lo diseñan (Akerlof, 1970; Spence, 1973; Stiglitz & Weiss, 1981), así como la ambigüedad de modelo asociada al desconocimiento de la distribución de estados relevantes y de los propios límites del modelo utilizado (Ellsberg, 1961; Gilboa & Schmeidler, 1989; Klibanoff et al., 2005). Estas condiciones justifican que la evaluación normativa no se limite al desempeño técnico, sino que considere también las reglas y mecanismos institucionales que regulan el sistema.
Para cada grupo g ∈ H, se define un vector de capacidades 𝐶𝑎𝑝𝑔, siguiendo el enfoque de capacidades de Sen (1999) y Nussbaum (2011), que representa las oportunidades reales de aprendizaje, participación, creación y agencia que el sistema sociotécnico habilita o restringe. Sobre esta base, se imponen cuatro restricciones normativas fundamentales, coherentes con la literatura de justicia política y algorítmica:
Capacidades (Cap): , donde τ representa un umbral mínimo de funciones de logro socialmente relevantes (Nussbaum, 2011; Sen, 1999).
Igualdad relacional (Rel): el sistema no debe producir relaciones de subordinación procedimental injustificadas entre grupos, siguiendo la concepción relacional de la igualdad (Anderson, 1999).
No dominación (ND): la probabilidad de interferencia arbitraria en resultados relevantes debe mantenerse bajo un umbral aceptable, en línea con la tradición republicana (Pettit, 1997).
Razón pública (RP): los criterios de priorización normativa deben ser públicamente justificables y estar sujetos a revisión, conforme a exigencias deliberativas de legitimidad (Habermas, 1984).
La gobernanza G interviene mediante operadores institucionales —documentación, auditorías, interoperabilidad y portabilidad, mecanismos de impugnación y presupuestos energéticos— que pueden incidir sobre R, C y E. De este modo, la normatividad se incorpora al diseño y a la arquitectura institucional del sistema, en lugar de operar únicamente como una evaluación ex post (Bowker & Star, 1999; Lessig, 1999; Winner, 1980).
Proposiciones y corolario
Desde la formalización mínima de S = ⟨ H,A,P,G⟩, se proponen cuatro relaciones de dirección esperada entre operadores institucionales y resultados normativamente relevantes. Estas proposiciones contienen elementos conceptuales, normativos y heurísticos. No buscan constituir leyes empíricas directamente falsables ni relaciones universalmente válidas (Lessig, 1999; Selbst et al., 2019; Winner, 1980). Su formulación se muestra en la Tabla 4.
Operadores institucionales y proposiciones normativas
| Proposición | Operador y formulación | Efecto esperado e implicación normativa | Referencias |
|---|---|---|---|
| P1. Visibilidad y reducción del riesgo epistémico | Vis ⊂ G: documentación robusta y estandarizada de datos, modelos y procesos. Ceteris paribus, . | La documentación y la trazabilidad pueden aumentar la transparencia y reducir R al facilitar las revisiones externas. Esto ayuda a identificar sesgos, suposiciones sin fundamento y límites de uso del sistema. La reducción de R puede contribuir a aumentar W(S) si no es contrarrestada por incrementos equivalentes o superiores de C o E. | Bowker y Star (1999); Gebru et al. (2021); Mitchell et al. (2019) |
| P2. Capacidad de impugnación y reducción de arbitrariedad | Imp ⊂ G: explicaciones comprensibles, procedimientos de apelación y efecto institucional real. Ceteris paribus, y . | La capacidad efectiva de impugnación reduce el riesgo epistémico-procedimental y la dominación procedimental al permitir que las decisiones sean cuestionadas y revisadas bajo criterios públicamente justificados. | Ananny y Crawford (2018); Pasquale (2015); Wachter et al. (2017) |
| P3. Interoperabilidad y disminución de la dependencia tecnológica | Int ⊂ G: interoperabilidad y portabilidad entre sistemas y plataformas. Ceteris paribus, y | Existen beneficios en la interoperabilidad del sistema que incluyen la reducción de los costos de salida, la dependencia estructural y la concentración de poder. La interoperabilidad del sistema puede redistribuir la capacidad de agencia entre los actores del sistema. | Lessig (1999); Rochet y Tirole (2003) |
| P4. Presupuesto energético y legitimidad climática | En ⊂ G: presupuestos energéticos explícitos y modelos frugales. Ceteris paribus, ; en tareas con rendimientos marginales decrecientes, la reducción de E no implica necesariamente una disminución significativa de V. | Las limitaciones al consumo energético pueden reforzar la legitimidad normativa del sistema al incorporar costes materiales que antes permanecían externalizados. | Crawford (2021); Strubell et al. (2019) |
Corolario conceptual. Una combinación coherente de estos operadores puede contribuir potencialmente a mejorar el desempeño social del sistema para los grupos afectados, siempre que no debilite las exigencias de capacidades, igualdad relacional, no dominación y razón pública. Esta relación muestra una mejora normativa potencial y no es una afirmación de que dicha mejora sea universalmente aplicable a todo sistema o grupo.
Criterios normativos de evaluación y traducción institucional
Las proposiciones anteriores pueden usarse para hacer operativa la formalización e identificar las condiciones institucionales que un sistema de IA necesitaría para funcionar como infraestructura cognitiva legítima. Estas condiciones se evalúan en función de la configuración sociotécnica. Las cuatro restricciones normativas del modelo se vincularán a instrumentos y reglas de decisión exigibles. Estos se sintetizan en la Tabla 5.
Criterios normativos y traducción institucional
| Criterio | Condición normativa | Traducción institucional | Regla de decisión |
|---|---|---|---|
| Capacidades (Cap) | Para cada g ∈ H, Capg(S) ≥ τ, donde τ representa un umbral mínimo normativamente definido (Nussbaum, 2011; Sen, 1999). | Auditorías periódicas de acceso efectivo, métricas de participación y documentación pública de impactos diferenciales. | Si existe g tal que Capg(S) < τ, se activa un plan de corrección institucional con seguimiento público. |
| Igualdad relacional (Rel) | Relg(S) ≤ δ, donde δ representa el umbral máximo aceptable de desigualdad relacional (Anderson, 1999). | Pruebas ex ante de equidad, auditorías independientes y obligación de justificar públicamente cualquier trato diferencial. | Si Relg(S) > δ, el despliegue se suspende hasta corregir las fuentes de subordinación. |
| No dominación (ND) | NDg(S) ≤ ϵ, donde ϵ representa un umbral normativo máximo de interferencia arbitraria (Pettit, 1997). | Explicación comprensible, apelación con efecto suspensivo, trazas auditables y revisores independientes. | Si NDg(S) > ϵ, se imponen correcciones obligatorias y sanciones proporcionales. |
| Razón pública (RP) | Cuando criterios normativos y objetivos de desempeño entran en tensión, la priorización debe ser públicamente justificable. | Publicación de matrices de prioridad, procesos de consulta pública, evaluación de impacto en derechos y calendarios de revisión (Habermas, 1984; Kleinberg et al., 2017). | Sin RP efectiva, el despliegue del sistema carece de legitimidad normativa. |
Aplicación ilustrativa del marco: priorización algorítmica en servicios sociales
Supongamos que una agencia pública utiliza un sistema de IA que ayuda a priorizar las solicitudes de beneficios sociales utilizando datos y variables socioeconómicas. Este sistema puede mejorar la coordinación del sistema y reducir el tiempo de respuesta, produciendo un mayor valor informacional V. Sin embargo, si el sistema opera con datos incompletos, categorías rígidas, suposiciones no documentadas o criterios difícilmente impugnables, entonces el sistema de IA podría introducir un riesgo epistémico-procedimental R.
La evaluación del riesgo debe centrarse en si el sistema aumenta o disminuye las oportunidades reales de acceso a apoyo social y la capacidad de actuar de los grupos afectados. También debe evaluarse si las decisiones pueden ser comprendidas y revisadas de manera efectiva. Desde la perspectiva de la razón pública, la institución debe justificar sus criterios cuando estos afectan de manera distinta a los grupos involucrados. En este marco, los mecanismos de gobernanza pueden contribuir a reducir la opacidad y la arbitrariedad, al tiempo que resguardan las capacidades humanas.
DISCUSIÓN Y APORTE TEÓRICO
El marco propuesto desplaza el análisis de la IA desde sus capacidades internas hacia su comprensión como una infraestructura cognitiva situada, en la que arquitectura técnica y gobernanza institucional median las relaciones entre conocimiento, decisión y responsabilidad. Aunque esta perspectiva dialoga con la cognición distribuida y los estudios sociotécnicos (Bowker & Star, 1999; Hutchins, 1995; Winner, 1980), su aporte consiste en avanzar hacia una operacionalización normativa que traduce principios generales en mecanismos institucionales auditables, como la documentación, la impugnación, la interoperabilidad y los presupuestos energéticos (Jobin et al., 2019).
Una primera contribución del trabajo consiste en situar la arquitectura técnica y la gobernanza institucional como el núcleo normativo central de la IA. Mientras buena parte de la literatura ética se concentra en principios generales o en evaluaciones ex post de impactos, el enfoque propuesto sostiene que el diseño regula anticipadamente las trayectorias de acción, distribuyendo capacidades y restricciones antes de cualquier uso concreto (Lessig, 1999). Desde esta perspectiva, mecanismos como la documentación, la contestabilidad, la interoperabilidad y los presupuestos energéticos no constituyen meros instrumentos técnicos, sino decisiones normativas con efectos estructurales. En este punto, el artículo dialoga con análisis comparativos de marcos éticos que identifican convergencias amplias en torno a la rendición de cuentas y la transparencia (Jobin et al., 2019), pero avanza más allá al traducir estos principios en operadores institucionales concretos y auditables.
Esta traducción institucional, sin embargo, no ocurre en un vacío político. La eficacia de los operadores propuestos depende de relaciones de poder, capacidades regulatorias y asimetrías entre instituciones públicas, ciudadanía, trabajadores, usuarios y grandes plataformas tecnológicas. Allí donde la infraestructura computacional, los datos, los modelos y los canales de distribución se concentran en actores con alta capacidad económica y geopolítica, la gobernanza auditable requiere formas de poder compensatorio: regulación pública exigible, obligaciones de documentación y auditoría, estándares de interoperabilidad, derechos efectivos de apelación, políticas de contratación pública responsable y mecanismos de participación de los grupos afectados. Desde esta perspectiva, limitar la dominación no significa eliminar el conflicto, sino diseñar condiciones institucionales para que el poder algorítmico pueda ser observado, justificado, impugnado y corregido (Crawford, 2021; Habermas, 1984; Lessig, 1999; Pasquale, 2015; Pettit, 1997).
La razón pública, en este marco, tampoco debe entenderse como una deliberación abstracta desvinculada de las condiciones materiales de la IA. Su operacionalización exige procedimientos mediante los cuales las decisiones sobre datos, criterios de optimización, umbrales de riesgo, prioridades de uso y distribución de costes puedan someterse a escrutinio público. Esto incluye evaluaciones de impacto algorítmico, consultas públicas, órganos independientes de supervisión, participación de trabajadores y comunidades afectadas, trazabilidad de decisiones y revisión periódica de los sistemas desplegados. Tales mecanismos no garantizan por sí mismos una democratización plena de la IA, pero permiten desplazar la normatividad desde una ética declarativa hacia prácticas institucionales disputables, revisables y políticamente responsables.
Un rasgo distintivo del marco propuesto es la incorporación explícita de la materialidad y el consumo energético de la IA en la evaluación normativa. En contraste con enfoques que tratan los costes ambientales como externalidades secundarias, este trabajo integra la energía y la infraestructura material en el análisis del desempeño social de los sistemas, en diálogo con estudios recientes sobre los costes planetarios de la computación a gran escala (Crawford, 2021; Strubell et al., 2019). Al hacerlo, se sostiene que la legitimidad de la IA no puede disociarse de criterios de frugalidad, proporcionalidad y responsabilidad climática, especialmente en contextos donde los rendimientos marginales de modelos cada vez más complejos son decrecientes.
El marco también considera la dimensión material de la IA. Su funcionamiento requiere infraestructura física y consumo energético, por lo que ambos elementos forman parte de la evaluación de sus efectos sociales (Crawford, 2021; Strubell et al., 2019). La legitimidad de estos sistemas depende entonces no solo de las condiciones que regulan su uso, sino también de que los recursos que demandan y sus efectos ambientales sean considerados en su evaluación.
CONCLUSIONES
Este artículo ha sugerido que el principal desafío normativo de la IA no es determinar si los sistemas algorítmicos pueden desarrollar formas de inteligencia comparables a la humana. Más bien, el principal desafío es entender cómo estos sistemas redefinen las formas en que conocemos, tomamos decisiones y coordinamos acciones colectivas. Al cambiar el enfoque de la ontología a la ecología de las mediaciones sociotécnicas, el artículo propone ver la IA como una infraestructura cognitiva situada que depende de componentes técnicos, prácticas organizacionales y mecanismos institucionales de gobernanza.
El aporte principal del artículo es formular una teoría normativa operativa de la IA como infraestructura cognitiva. Con una formalización mínima del sistema sociotécnico, se ha argumentado que el desempeño social de dicho sistema dependería no solo de los componentes técnicos, sino también de mecanismos institucionales que pueden reducir los riesgos epistémicos, limitar la dominación procedimental y hacer visibles los costes materiales asociados a las operaciones digitales. El artículo pretende contribuir a cerrar la brecha entre la ética normativa expresada en enunciados declarativos y la gobernanza real de los sistemas algorítmicos.
El trabajo tiene algunas limitaciones. La formalización es deliberadamente acotada y no busca abarcar todas las dinámicas empíricas que pueden surgir durante el despliegue de sistemas de IA en contextos reales. Algo similar ocurre con los operadores institucionales. Si bien el marco identifica algunos mecanismos clave, no establece una jerarquía de eficacia ni examina en detalle sus posibles tensiones, sustituciones o las condiciones político-económicas que pueden afectar su implementación frente a actores con alta concentración de poder tecnológico. Estas limitaciones ofrecen una oportunidad para que la investigación examine empíricamente cómo estos operadores interactúan en diferentes contextos, con distintos niveles de capacidades estatales y organizativas, y en escenarios marcados por asimetrías entre instituciones públicas, grandes plataformas tecnológicas, trabajadores, usuarios y comunidades afectadas.
Financiamiento
Los autores declaran no haber recibido financiamiento para este trabajo.