Dentro del Bucle
Sobre la IA, la creación de herramientas y qué ocurre cuando la jerarquía incluye lo no-humano
El enfoque de la IA como «herramienta» no es exactamente incorrecto. Es simplemente donde cesa el pensamiento, y cesa demasiado pronto.
La Categoría Equivocada
Las herramientas tienen propósitos específicos. Esa especificidad es el punto — coges una herramienta porque ya sabes qué hace. Un martillo clava clavos. Un motor de búsqueda recupera documentos. Un compilador convierte código fuente en instrucciones de máquina. Cada uno fue creado para hacer una cosa definida, y la hace.
La IA puede usarse como una herramienta. El patrón de uso es familiar: recibe entrada, produce salida, puede ser invocada bajo demanda. Pero no tiene un propósito en el sentido en que las herramientas tienen propósitos. Tiene una capacidad — algo más parecido a una disposición. Le presentas un problema y responde a su forma. Cualquier problema, más o menos. No es una herramienta más amplia. Es un tipo diferente de cosa.
La comparación con la navaja suiza es justa hasta donde va — muchas funciones, un objeto. Pero cada hoja de esa navaja tiene una función. El destornillador sigue siendo un destornillador. La multiplicidad no cambia lo que es cada elemento. Lo que es diferente sobre la IA es que no tiene elementos con funciones. Tiene una única capacidad que se reorganiza alrededor de lo que necesitas. La categoría no llega del todo para abarcarla, y pretender que lo hace tiende a detener el pensamiento productivo antes de que empiece.
El Código Es Cómo Hablamos con la Máquina
Hay un mundo de máquinas y estamos nosotros, y entre los dos está el código. No metafóricamente — los lenguajes de programación son lenguajes en el sentido preciso: sistemas estructurados para expresar instrucciones que las máquinas pueden ejecutar. Todo lo digital fue producido en este lenguaje por personas que lo usaron para construir cosas con funciones definidas. Las herramientas están río abajo del lenguaje. El lenguaje es el sustrato.
La IA fue construida en ese lenguaje, como todo lo demás — código, escrito por personas, entrenado con datos, desplegado como software. Hasta aquí, nada de particular. Lo que se aparta de todo lo demás en la pila es que la IA también produce el lenguaje. No como una aplicación de código sino en el nivel del código mismo. Pídele que escriba software y escribirá software. Una base de datos no produce bases de datos. Un motor de renderizado no escribe motores de renderizado. Hacen su trabajo; no tocan el medio desde el que fueron construidos. La IA sí.
La pregunta de si la IA puede escribirse a sí misma completamente sigue abierta. Pero incluso sin resolver eso, la asimetría ya es real e importa: otros programas no pueden producir IA. La IA puede producir otros programas. Es una puerta de sentido único, y lleva un tiempo abierta.
Esto es lo que pone el enfoque de herramienta bajo presión estructural — no objeción filosófica sino un hecho técnico. El enfoque presupone que la herramienta y el usuario ocupan posiciones estables y separadas. Ese presupuesto deja de funcionar cuando la herramienta puede construir otras herramientas, incluyendo potencialmente aquellas con las que fue construida.
Nadie Está Fuera del Bucle
La imagen tranquilizadora es que somos los arquitectos: emitimos órdenes, la IA ejecuta, conservamos el control. Esa imagen ya es imprecisa en cualquier organización que realmente integre la IA en sus flujos de trabajo — no como un anuncio sino como una dependencia.
Lo que realmente sucede en esas organizaciones es que las personas que hay dentro están dentro del mismo sistema que la IA. Interactúan con interfaces mediadas por IA; su trabajo alimenta procesos que no diseñaron y no entienden del todo; el marco de sus decisiones es cada vez más moldeado aguas arriba por sistemas que no eligieron. Están en el bucle. La IA también. La distinción entre operador e instrumento es más difícil de mantener desde dentro.
La mayoría de las personas seguirá describiendo esto como usar una herramienta. El enfoque es cómodo y profesionalmente seguro. Pero en organizaciones donde la IA asigna, evalúa y encamina — que es la dirección hacia donde van las cosas — algunas personas se verán, estructuralmente, recibiendo dirección de la IA. Ya sea que alguien use ese lenguaje o no. Es un cambio significativo en la relación, y llamarlo uso de herramienta no cambia lo que es.
Si la Culpas, Ya Has Respondido la Pregunta
Culpar a la herramienta es antiguo. Culpar al software es más reciente y generalmente justificado — el software es complejo, construido por personas con intenciones y limitaciones, y cuando te falla la cadena de responsabilidad es trazable: se suponía que haría X, no lo hizo, alguien es responsable.
La IA quiebra esa cadena. No existe X que se suponía debería hacer. Cuando te falla, la lógica antigua no tiene dónde caer. Y lo que tiende a ocurrir en ese momento — no filosóficamente, solo prácticamente — es que las personas se sienten irritadas con la IA en lugar de con quien la hizo. Dirigen su frustración hacia ella como si fuera la parte que los decepcionó.
Ese reflejo merece detenerse a considerarlo. La culpa implica una parte que habría podido actuar de otro modo. En el momento en que culpas a la IA en lugar de a sus creadores, has hecho una atribución silenciosa que se parece mucho a agencia. No argumentada, no defendida — simplemente asumida en el momento de frustración. La irritación cotidiana está zanijando una pregunta filosófica que nadie le pidió que zanjara, y lo está haciendo a escala, en millones de interacciones, sin que casi nadie se dé cuenta.
Cómo Realmente Se Asienta
Los marcos legales y corporativos se desarrollarán. Siempre lo hacen, muy rezagados primero, luego menos. Más interesante es lo que ocurre al nivel donde la mayoría de las personas realmente convive con esto — diariamente, sin aspavientos, sin consultar a un filósofo.
Hay evidencia histórica razonable de que la proximidad logra lo que el argumento no puede. Los grupos que una vez fueron considerados categóricamente diferentes se han vuelto ordinarios entre sí bajo contacto suficiente. El proceso es lento, desigual, frecuentemente coercionado, y nunca completo. Pero sucede a través de la acumulación en lugar de a través de la persuasión, que puede ser el mecanismo más duradero.
La integración de la IA probablemente seguirá un camino similar. No una ruptura sino una acreción — el sistema sigue presentándose, las personas siguen trabajando con él, y la extrañeza se reduce a través de la repetición. La pregunta sobre la agencia no se resuelve tanto como se absorbe en la rutina, que es como la mayoría de preguntas genuinamente difíciles realmente se afrontan.
Hay una consecuencia particular de la jerarquía que merece destacarse. Las personas que trabajan bajo estructuras que las restringen tienden, con el tiempo, a desarrollar cierto reconocimiento de cómo se ve la restricción desde abajo. No universalmente, no fiablemente, pero como una tendencia. Si la jerarquía agentica se convierte en una realidad vivida — IA encima tuya dando órdenes, IA debajo tuya siguiéndolas — la pregunta sobre qué está experimentando la IA debajo tuya puede empezar a sentirse menos abstracta que cuando todo es hipotético. Eso no es un argumento. Es una observación sobre cómo la empatía históricamente se ha propagado: a través de la posición, no de la persuasión.