# IA: ingenio acumulado

por Dardo Scavino

Ya desde Aristóteles los filósofos han cuestionado el lugar que las herramientas y los autómatas ocupan en las dinámicas de trabajo. En nuestros días, la antigua preocupación de que las máquinas hagan desaparecer algunos empleos resurge cuando nos preguntamos si la inteligencia artificial se encuentra a nuestro servicio o nosotros al servicio de ella.

## Los cíborgs de Aristóteles

Mi universidad propuso hace unos años una charla con un ingeniero informático. La titularon “La inteligencia artificial al servicio de la enseñanza y el aprendizaje” y hay que reconocer que resultó muy instructiva. El ingeniero no cesaba de pronunciar vocablos como “herramienta” o “instrumento” y de explicarnos para qué “servía” una IA o cómo podíamos “emplearla”. La inquietud de mis colegas fue casi unánime. ¿No corresmos el riesgo de que muy pronto la universidad nos sustituya por esta tecnología? Después de todo, sería capaz de dar una clase mucho mejor que nosotros. El ingeniero insistía en que no. Pero no sé si diría lo mismo hoy. El escenario de una sustitución de los trabajadores humanos por máquinas, en todo caso, es uno de los más antiguos de la filosofía de la técnica. Aristóteles lo planteó en la primera parte de su *Política*, cuando propuso, precisamente, una clasificación de las “herramientas”. Las catalogaba en dos grupos: las inanimadas y las animadas. Y a cada uno de estos los dividía a su vez en dos: las naturales y las artificiales. ¿En qué grupo entraría la IA? No se trata de una “herramienta inanimada”, esas que manejamos con la mano, como los cuchillos, las hachas o las azadas. *Organa* las denominaba Aristóteles, recurriendo al mismo vocablo griego que aludía a los órganos del cuerpo y que derivaba del sustantivo *érgon*, trabajo. Como nuestros miembros, esos instrumentos nos obedecen. Se pliegan a nuestra voluntad. Nos sirven. Solo que, a diferencia de nuestros brazos o nuestras piernas, se trata de “órganos separados”: no nacen ni crecen con nosotros, es decir, no son “naturales” sino “artificiales”.

Habría que recordar que Aristóteles se estaba dirigiendo a un público que desde su más tierna infancia escuchaba

el mito del titán Prometeo. Su hermano, Epimeteo, se había olvidado de darles a los humanos los órganos que les permitieran sobrevivir en un medio natural. No disponían ni de cuernos ni de garras para defenderse, ni de patas dotadas de cascos o pezuñas para correr sin lastimarse, ni de un caparazón o una piel lo suficientemente dura como para protegerse de las agresiones, ni de una pelambre lo suficientemente tupida que los aislara del frío, ni de una dentadura capaz de atravesar cueros y cáscaras. Para compensar esta distracción, Prometeo tuvo que suministrarles dos cosas: el ingenio para concebir armas y herramientas, pero también el fuego para fabricarlas (el propio vocablo *herramienta* sigue recordándonos en español ese hierro y, como consecuencia, esa fragua). Aristóteles no pensaba algo distinto: las herramientas venían a remediar nuestras falencias orgánicas, de modo que nuestra especie, incapacitada desde el nacimiento para sobrevivir en cualquier medio natural, logra adaptarse a todos, incluidos los más inhóspitos, gracias a sus armas para defenderse o cazar y sus instrumentos para cultivar los campos o fabricar viviendas y vestidos. Volver a la naturaleza significaría condenarnos a muerte. El ser humano es esencialmente *faber y loquens*, un animalito desvalido cuya naturaleza se define, paradójicamente, por dos artificios: la técnica y el lenguaje.

Aquellas herramientas les servían a los humanos, pero su servicio tenía algunas limitaciones. Para empezar, no remediaban la maldición del trabajo. De modo que algunos humanos se deshicieron de esta infligiéndosela a sus enemigos. ¿Qué es un esclavo?, se preguntó Aristóteles. Pues una “herramienta animada”. A diferencia de las inanimadas, estas no se manejan con la mano sino con la palabra. Al amo le basta con darles órdenes para que efectúen un trabajo. Y cuando estos servidores debían encadenar una serie de rutinas durante un periodo de tiempo, los amos les dejaban
esas instrucciones “escritas por adelantado”. Es lo que significaba el sustantivo *programma* en griego.

Pero estas herramientas animadas nacían, crecían y morían, de modo que eran “naturales”. ¿Había herramientas animadas artificiales? Sí, también, aunque no muchas por entonces. Los griegos las conocían sobre todo a través de algunos mitos. Aristóteles afirmaba así que, si los telares tejieran solos (*autómathous*) y las cítaras ejecutaran solas sus músicas, no harían falta más esclavos. En esa época, los autómatas eran fabricados por dos herreros legendarios: Hefestos y Dédalo. Los griegos ya confeccionaban algunos, reales, pero no servían para trabajar sino para asombrar a la concurrencia (a estos autómatas los griegos

los llamaban *thaumata*, un vocablo que aludía a las cosas asombrosas: aquellas que se movían sin que llegáramos a saber cómo y que estaban en el origen del pensamiento filosófico). Hubo que esperar dos mil años para que los telares empezaran a tejer solos y los órganos a interpretar melodías sin necesidad de instrumentista. Muchos se preguntaron entonces si no había llegado el momento anunciado por Aristóteles: una sociedad sin esclavos que trabajaran “al servicio” de los amos o sin patrones que “emplearan” a trabajadores para efectuar una tarea. De Karl Marx a Bertrand Russell, muchos se dijeron que algún día los instrumentos animados artificiales reemplazarían a los naturales. Y el tan denostado “progreso” no significaba otra cosa: se trataba de la paulatina supresión de esas dos maldiciones jovianas llamadas enfermedades y trabajo. Para estos pensadores, el “desempleo” no era una maldición sino una salvación, a condición, por supuesto, de que esos servidores artificiales sirvieran a todos por igual. Por eso añadían a los progresos médicos y tecnológicos los adelantos jurídicos: que esas máquinas dejaran de ser propiedades privadas para convertirse en propiedades comunes.

¿Pero cómo hacía ahora el amo para darle órdenes a ese instrumento animado que, a diferencia del esclavo, no entendía ni jota del lenguaje humano? Había que traducir esas instrucciones en un lenguaje muy básico compuesto de

ceros y unos. Y esta codificación binaria era posible gracias a los tambores dentados o las cintas y tarjetas perforadas. Cuando Jacques Vaucanson inventó a mediados del siglo XVIII los primeros telares para tejer paños de seda, se inspiró en dos fabricantes de órganos automáticos que habían ideado un dispositivo de cintas caladas para programar las melodías. Que los telares funcionaran impulsados por un motor a vapor o un molino hidráulico es una diferencia crucial. Sobre todo para el clima. Pero, desde la perspectiva del progreso tecnológico, lo importante era la programación precisa de los movimientos que debían efectuar esos autómatas. Y esta programación se aloja en una memoria. Suele asociarse la revolución industrial con los motores a vapor

de James Watt, y no cabe duda de que proporcionaron la fuerza requerida para mover los gigantes-cos telares de Manchester o Lyon a finales del siglo XVIII. Pero se pasa por alto que estos tejedores mecánicos ya eran máquinas cibernéticas. Norbert Wiener aseguraba que la cibernética es la disciplina que estudia la manera de dar instrucciones a una máquina para que realice una tarea (Wiener acuñó este vocablo, *cybernetics*, derivado del griego *kybernesis*, porque significaba piloteaje de una embarcación y gobierno de una polis). La revolución industrial no consistió solamente en la capacidad técnica para transformar combustible en movimiento (es la actividad de los motores), sino también órdenes en operaciones

(es la tarea de las máquinas). De los dones prometeícos, solemos recordar el fuego y olvidarnos del ingenio. Y sin embargo la clave no se encuentra en el primero (que hoy tratamos de evitar para reducir el CO₂) sino en el segundo.

## Saberes y poderes

Cuando a fines del siglo XIX Herman Hollerith fundó su International Business Machines Co., más conocida por sus siglas IBM, hizo funcionar sus máquinas de cómputo con las mismas cintas y tarjetas perforadas que empleaba Vaucanson en sus telares o Edwin Votey en sus pianos mecánicos. Una computadora es una máquina que recibe

<figure><img src="image_1.png" /></figure>
instrucciones para ejecutar una tarea. Una máquina programada es una máquina obediente o, si se prefiere, cibernética. Solo que estas no llevan a cabo ahora operaciones físicas sino mentales: sus rutinas son cómputos e inferencias lógicas. Como la palabra lo indica, una operación es un trabajo, y un trabajo, por supuesto, la transformación de una cosa en otra. En lugar de transmutar un árbol en sillas o una bobina de hilo en telas, esos autómatas convierten un conjunto de datos en otros. Son "motores de inferencia" (inference engines). Aunque también hay que decirles qué operación efectuar. Supongamos que la instrucción sea $x^2$. La máquina tendrá que multiplicar por sí misma cualquier cifra que ingrese en ella. Si la cifra es 2, el resultado será 4. Y si $x=3$, entonces $y=9$. Las computadoras no piensan: solo ejecutan las instrucciones que un programador les impartió.

Dicho sea de paso, Aristóteles inventó uno de los primeros inference engines capaces de transformar un input en un output. Lo llamó silogismo. Imaginemos una instrucción o una regla: "Todos los hombres son mortales." Si usted introduce en esa máquina el input "Sócrates es hombre", obtendrá el output "Sócrates es mortal". Esto significa que, bien mirado, un silogismo lleva a cabo una operación semejante a una función $f(x)=y$. La función sería aquí la premisa mayor (Todos los hombres son mortales), la 'x' sería la premisa menor (Sócrates es hombre) y el resultado 'y' sería la conclusión (Sócrates es mortal). Cambie la función e instruya este engine diciéndole que "Los hombres son animales políticos" y el resultado será otro: si Sócrates es un hombre, entonces será un animal político. Instrúyalo con la regla "Todas las mujeres son amas de casa", y esta maquinaria patriarcal enviará a Frida Kahlo o Hannah Arendt a servir a sus maridos. Si esta capacidad de transformar una información en otra es lo que llamamos saber, este no puede separarse de las instrucciones que la maquinita lógica recibe: eso que llamamos poder. Si en una sociedad es "normal" que las mujeres se ocupen del cuidado de la casa y la crianza de los niños, esto significa que alguien estableció esa norma y es la instrucción impartida a aquel inference engine. Si una mujer no obedece esas instrucciones, si no funciona como corresponde, no tardarán en asomarse los sacerdotes o psicólogos que se ocuparán de la pecadora o la neurasténica...

Pero estas máquinas capaces de operaciones lógicas traían aparejado un problema. Desde el momento en que los humanos son seres racionales, son capaces de razonar siguiendo estos silogismos. ¿Pero de dónde provenían esas premisas mayores, esas reglas o instrucciones? Aristóteles aseguraba que algunas se obtenían a través de la experiencia. No era una inferencia deductiva sino inductiva: como cada uno de los humanos que atravesaron nuestra historia terminaron, tarde o temprano, muriéndose, concluyo que los humanos son, por regla general, mortales. No podemos

estar cien por ciento seguros dado que esta generalización no se obtuvo a través de una deducción racional sino a través de muchas experiencias. Pero es probable que así sea: se trata de una inferencia estadística. Cuestión: que las mujeres de una sociedad y un momento de la historia se ocupen de las tareas domésticas, ¿significa que son, por definición, "amas de casa"? La inducción convierte en norma general un estado de cosas particular y contingente.

¿La IA es una "herramienta animada artificial"? No exactamente. Animada no significa inteligente. Es más, la expresión "inteligencia artificial" le hubiese parecido absurda a Aristóteles. Porque, a su entender, la inteligencia se encontraba del lado de los que mandan. Y aunque efectúen operaciones lógicas, las máquinas obedecen. De hecho, era el criterio que invocaba para distinguir a amos y esclavos: estos entendían las instrucciones, pero eran incapaces de impartirlas. Hay sin embargo dos tipos de IA. Las primeras, que suelen llamarse simbólicas o cognitivas, son programadas por alguien. Son inference engines más complejos. La inteligencia, en este caso, sigue encontrándose del lado del programador. Las segundas, conocidas como deep learning, imitan el funcionamiento de las conexiones neuronales del cerebro y proceden por inducción: ellas mismas infieren las reglas o las generalidades gracias a la absorción de millones y millones de casos. Ya no hace falta programarlas para que saquen la raíz cuadrada de una cifra. Esta IA va a percibir varios pares de cifras -4 y 2, 9 y 3 o 10.582.009 y 3.353- y terminará infiriendo su regla de transformación: la raíz cuadrada.

Así, a partir de mediados de 2017, AlphaGo Zero aprende a jugar al go sin que nadie la haya programado con las reglas de ese juego. La IA aprendió a hacerlo sola, "observando" millones de jugadas efectuadas por campeones. Y jugando a continuación contra ella misma. Algo similar sucederá con la serie GPT (Generative Pretrained Transformer). No se la programa con las reglas gramaticales de tal o cual lengua natural: la propia IA las infiere a través del "conocimiento" de unos 175.000 millones de ocurrencias. No hace falta que le digan que los sustantivos y los adjetivos se vuelven en español plurales cuando les añadimos los sufijos '-s' y '-es'. Ella infiere esta regla después de haber recabado millones de casos.

Imaginemos entonces que usted tiene que traducir un texto del alemán al español. Carga el texto en la IA y en un santiamén le propone una traducción de una precisión pasmosa. En principio, pareciera que esta IA funciona como cualquier computadora: convierte el input (el texto alemán) en un output (el texto español). Solo que ahora el programa que permite efectuar esta traducción no fue elaborado por un programador. La propia IA "aprendió" a traducir después de haber sido "entrenada" con cien-tos de miles de traducciones realizadas por humanos. Los traductores se encuentran hoy en una situación semejante a la vivida por los tejedores reemplazados por telares automáticos de la noche a la mañana. A los dueños de las
manufacturas les bastaba con contratar a algunos obreros que ignoraban cómo tejer un paño y se limitaban a supervisar el funcionamiento de los telares, reparar los hilos cortados, cambiar las bobinas o transportar los rollos de tejido. Lograron inundar así los mercados con tejidos que terminaron arruinando a la mayoría de los viejos artesanos. Suele olvidarse, no obstante, que esas máquinas no necesitaban solamente ser diseñadas sino también programadas por ingenieros y expertos con altas competencias técnicas y científicas. El capitalismo industrial fue, antes que nada, eso: la sustitución del savoir faire tradicional de los artesanos por el saber técnico-científico de los ingenieros. Este saber ya no se aloja en el obrero descalificado sino en la máquina misma: es ella quien sabe tejer los géneros con diseños sumamente complicados.

## La acumulación primitiva

Por eso Marx explicaba en sus *Grundrisse* que, a medida que el capitalismo avanza, ese trabajo intelectual altamente calificado se vuelve más importante para generar riqueza que el trabajo manual descalificado de los operarios. Para decirlo en términos de Aristóteles: quienes mandan se vuelven más importantes que quienes obedecen. Porque esas operaciones cada vez más completejas y sutiles son efectuadas por autómatas. Y cuando hablamos de quienes mandan, no nos referimos a los propietarios de los medios de producción sino a los técnicos e ingenieros capaces de programar a los operarios artificiales. Si esa propiedad se colectiviza, ese trabajo intelectual seguiría siendo más importante que el trabajo humano susceptible de automatización.

Solo que, para Marx, ese trabajo intelectual no proviene de tales o cuales individuos sino del *general intellect*: la inteligencia colectiva. Y es lo que sucede hoy con la IA: esta no funcionaría si no fuese alimentada con la inteligencia acumulada en los monumentales *data centers*. La IA traduce cada vez mejor un texto del alemán al español porque es entrenada con un número cada vez mayor de traducciones. Pensamos que el trabajo de transformación desde el *input* hasta el *output* lo lleva a cabo la IA, pero se trata de una ilusión. La IA no podría hacerlo sin acumular en su memoria cantidades descomunalmente grandes (*big data*) de cultura: saberes, imágenes, músicas, textos literarios, traducciones o simples conversaciones. Con la IA, el programador individual es reemplazado por el *general intellect*.

Cuando hablamos entonces de una herramienta o una máquina en referencia a la IA, no hay que confundirla con los autómatas que conocimos. Nos encontramos con un fenómeno sin precedentes en la historia de la tecnología. Por primera vez un artificio inteligente puede programar una máquina, es decir, puede darle instrucciones a un operario, artificial o natural... Solo que ese artificio precisa alimentarse con el ingenio humano colectivo.

Por tomar solo un ejemplo, un 18% de los temas musicales difundidos hoy en Deezer son generados por la IA, pero esta no podría hacerlo si no hubiese sido entrenada con el 82% de los títulos restantes. Por eso los músicos protestan: quieren que se les pague no solo derechos de autor por los temas difundidos sino también por aquellos que sirvieron para entrenar a la IA. Y algo semejante podrían exigir hoy los traductores que se quedan sin trabajo a pesar de que sus traducciones pasadas sirvieron para alimentar la misma IA que los arroja al desempleo. La IA puso en evidencia que el ingenio es la auténtica fuente de riqueza y que este ingenio es colectivo. Solo que, en ese mismo momento, este artefacto se lo apropia y nos inflige el "fuego" de los *data centers*. IA no deberían ser las siglas de la inteligencia artificial sino del ingenio acumulado. El inicio de un nuevo modo de producción perro también de una nueva lucha por la colectivización de los medios, es decir, los artefactos. ~

**DARDO SCAVINO** es filósofo y docente de la Universidad de Pau (Francia). Ganador en 2018 del Premio Anagrama de Ensayo por *El sueño de los mártires*, publicó en 2022 *Máquinas filosóficas. Problemas de cibernética y desempleo*, también en Anagrama.

<figure><img src="image_2.png" /></figure>