Source: https://aadi.org.ar/index.php?acc=actividades&opc=5
Timestamp: 2020-04-03 09:35:32+00:00

Document:
"El impacto de la inteligencia artificial en el mundo del Derecho"
Relator: Guillermo Argerich
con la colaboración de Juan Jorge
A modo de acercamiento a las actividades que realizaremos durante la primera semana
de septiembre próxima en “La Docta”1, se sugiere la lectura -a quienes aún no lo hayan
hecho- del libro “Yo, robot” de Isaac Asimov.
Hemos elegido esta obra perteneciente al género de la ciencia ficción como una
inducción al trabajo que presentaremos en nuestra querida Sección. Las tres leyes de la
robótica son un compendio imprescindible de moral aplicable a supuestos robots
inteligentes, con las que nunca debería haber un conflicto si se cumplieran fielmente.
Los relatos del texto, no obstante, plantean diferentes situaciones en las que dichas "tres
1 Córdoba fue y sigue siendo llamada “La Docta” (del latín: docere, que significa “enseñar”), porque en
1613 se fundó allí la primera universidad Argentina, la Universidad Nacional de Córdoba; y acaso más
concretamente, por impartir desde entonces las carreras de Filosofía, Teología y Derecho. Siendo esta
Sección de la AADI aquella que se encuentra dedicada a la enseñanza del derecho, vaya este homenaje a
tan importante ciudad, punto de referencia histórico de nuestro país.
leyes" se cumplen, y aun así arrojan problemas, paradojas e ingeniosos ejercicios
intelectuales a los que tendrán que enfrentarse distintos especialistas en robótica. Si bien
la obra de Asimov ha sido escrita a mediados del siglo pasado, creemos que mantiene
plena vigencia en tanto indaga sobre la situación del hombre actual en el universo
tecnológico. Seguramente coincidirán con nosotros quienes ya hayan disfrutado de su
A continuación acompañamos un bosquejo argumental sobre el cual estamos basando
nuestro relato. Esperamos sea de utilidad e incentivo para la preparación de ponencias
en el área. Tanto a mi como a Juan Jorge, joven y prometedor investigador quien mucho
está colaborando en la elaboración de estas líneas, nos está maravillando día a día el
universo tecnológico que nos abraza con una indeclinable necesidad.
La explosión de la tecnología, y el solemne advenimiento de las máquinas y los
robots a fines del siglo XX, modificó la concepción del tiempo y el espacio. También,
naturalmente, la vida de las personas. Sin embargo, su evolución es aún constante,
rítmica y, sobre todo, inapelable. Ello se refleja en la relatividad de lo “novedoso”:
aquello que hoy es nuevo, al poco tiempo deviene en obsoleto o, en el mejor de los
casos, anticuado. Parafraseando a Sábato, “lo más nuevo que hay es el diario [introducir
el nombre de la creación tecnológica que le plazca], y lo más viejo, al día siguiente.”2
Así, se advierte como “nuestro teléfono celular o el software de nuestras computadoras
a veces cambian más rápido que nuestra capacidad de adaptación”3. Sin forzar la
memoria, es fácil recordar aquellos celulares que imponían una divisón discriminatoria
entre la pantalla y el teclado, integrado por botones sobresalientes que requerían ser
apretados hasta tres veces para dar con la letra deseada (por ejemplo, tres veces el
correspondiente al número “5”, para escribir la letra “L”). Sin embargo hoy, ante
nuestros ojos cansados, se presenta una vasta pantalla táctil, y uno sólo debe apoyar el
pulgar en la proyección de la “L” para que la inteligencia del rectángulo más preciado
predique la, lugar, libro o derivados, según los usos anteriores de su “amo”.
2 BARONE, Orlando, Diálogos Borges/Sábato, Buenos Aires, Emecé, 1996, p. 10.
3 ACIÓN, Laura, D’IPPÓLITO, Nicolás y SOSA ESCUDERO, Walter, No culpes a la big data, consultado en:
[http://revistaanfibia.com/ensayo/no-culpes-la-big-data/] el 11/12/2018.
Frente a ésta evidente transformación continua, es posible notar la irrupción de
dos grandes reacciones generalizadas. Por un lado, aquella que podríamos denominar
(con mayor o menor acierto) “utópica”, y que plantea un escenario en donde los seres
humanos aprovechan de modo razonable la eficiencia de los entes metálicos, y así
acrecientan enormemente los resultados productivos, a la vez que su felicidad, descanso
y esparcimiento merecido.
Por el contrario, también se vislumbra una “distópica”, propia de ciertas novelas /
películas de la segunda mitad del siglo XX, cuyo desenlace siempre es fatal y
paradójico: al fin y al cabo, las máquinas o los robots se apoderan de la humanidad, es
decir, de sus propios creadores.
Pero, precisamente, ¿de qué estamos hablando? La actualidad, ¿refleja descripciones
similares a las aludidas anteriormente? ¿vislumbra consecuencias de una magnitud
parecida? La tecnología, ¿cumple un rol de complementación o cooperación? Por lo
contrario, ¿debemos alertar sobre la sustitución o remplazo? ¿y qué hay de la
dominación? Acaso, ¿existen creaciones buenas o malas? Por otro lado, ¿cuál es su
verdadero impacto en el trabajo y, en particular, en el área del derecho? Una
aproximación a ello se hará a continuación.
II. ¿Qué es la Inteligencia Artificial?
Entre proyecciones y afirmaciones estridentes, florece una realidad cuyo origen
(al menos conceptualmente) podría encontrarse en 1956: en tal año, John Patrick
McCarthy, un prominente científico norteamericano, introdujo el término “inteligencia
artificial” (IA) en una conferencia llevada a cabo en la Universidad de Dartmouth,
Antes de profundizar en ella, debemos reconocer que toda definición adolece de
arbitrariedad; no obstante, es necesaria para indagar, entender y comprender mejor lo
significado. Sobre todo en un asunto que, si bien atraviesa cada partícula de nuestra
cotidianeidad, también ha motivado extensas investigaciones científicas, y su cabal
entendimiento en muchos casos exige un desarrollo intelectual complejo y/o ajeno.
Asimismo, vale señalar que “no existe una definición establecida y unánimemente
aceptada” de la IA, aunque sí hay “cierto consenso en que el concepto se refiere a
sistemas que cuentan con una inteligencia que intenta asemejarse a la que poseen los
seres humanos, lo que implica ir más allá del mero procesamiento de datos”.4
La RAE define a la IA como la “disciplina científica que se ocupa de crear programas
informáticos que ejecutan operaciones comparables a las que realiza la mente humana,
como el aprendizaje o el razonamiento lógico”.5
En adición, ciertos especialistas del tema -tales como Simon, Newell, Engelbert y
Feigenbaum- concibieron a la IA como “un tipo de procesamiento autónomo que
operaba en conjunción con la inteligencia humana, interaccionando con ella”.6
McCarthy, por su parte, atinó a explicar que la IA comprende "la ciencia e ingeniería de
crear máquinas inteligentes, en especial, programas de computación inteligentes” y que
“encuentra relación con la tarea de usar ordenadores para comprender la inteligencia
humana".7
También Laura Ación, Nicolás D’Ippólito y Walter Sosa Escudero comparten (además
de su participación en el CONICET) que “por lo general, se entiende como inteligencia
artificial a la capacidad de las máquinas de copiar el comportamiento humano”.8
Sin embargo, Juan Corvalán, abogado e inspirador de Prometea9, señala que “el
desarrollo de la inteligencia artificial no consiste -al menos exclusivamente- en imitar o
copiar el cerebro humano”10, aunque reconoce una asimilación entre el funcionamiento
del cerebro y el de la IA, ya que ambos se valen de cierta selección de información para
elaborar una conclusión.
4 FERNÁNDEZ, Diego, El Impacto de la Inteligencia Artificial en el Derecho, consultado en
[https://informacionlegal.com.ar/maf/app/document] el 10/10/2018.
5 RAE, Diccionario de la Lengua Española, consultado en [http://dle.rae.es/srv/fetch?id=LqtyoaQ] el
6 CASANOVAS, Pompeu, “Derecho, Tecnología, Inteligencia Artificial y Web Semántica. Un Mundo para
Todos y para Cada Uno”, en FABRA ZAMORA, Jorge Luis y NÚÑEZ VAQUERO, Álvaro, Enciclopedia de
Filosofía y Teoría del Derecho – Volumen Uno, México, Instituto de Investigaciones Jurídicas de la
Universidad Nacional Autónoma de México, 2015, p. 876.
7 Traducción libre de: MCCARTHY, John, What is Artificial Intelligence?, consultado en [http://wwwformal.
stanford.edu/jmc/whatisai/whatisai.html] el 14/12/2018.
8 ACIÓN, Laura, D’IPPÓLITO, Nicolás y SOSA ESCUDERO, Walter, No culpes a la big data, consultado en:
9 Para mayor información, puede acceder a: [http://thomsonreuterslatam.com/2017/10/la-primerainteligencia-
artificial-predictiva-al-servicio-de-la-justicia-prometea/].
10 CORVALÁN, Juan G., Hacia una Administración digital e inteligente. Transformaciones en la era de la
inteligencia artificial, consultado en [https://sites.google.com/site/cn50septiembre2017/texto_corvalan] el
Por otro lado, especialistas suelen distinguir entre la IA “propiamente dicha”, la cual
comprende visión, habla y machine learning; de otra IA “fuerte” o “general”, que
abarca una posible conciencia y capacidad de sentir, que hoy pareciera no existir
desarrollada.11
III. La Inteligencia Artificial y el Trabajo
Sin dudas, la IA importa una “transformación profunda del ser humano y de su
entorno”12, e inevitablemente se proyecta en los distintos trabajos de la actualidad. Pero,
más allá de esta certeza, hay muchas dudas que emergen: ¿cuál es el futuro del trabajo?
¿qué relación tiene o tendrá la IA con él? ¿hay diferencias, según la clase de trabajo?
Ante esto, hay voces diversas. Algunos sectores introdujeron nuevos términos y
realidades, tales como: Industria 4.0 o Trabajador 4.0, en alusión a una cuarta
revolución industrial.13 Otros, también alertaron sobre nuevos paradigmas. Así, Joseph
Aoun refiere una “nueva alfabetización”, tecnológica, de datos y social.14
Paradójicamente, uno de los desafíos que plantea este autor -a raíz de la IA- es
humanizar la tecnología y proyectar la ética en sus avances; enfatizar las cuestiones
necesarias para educar al robot con conciencia social.15 En juego y debate siempre está
el sensacional antagonismo (o pseudo antagonismo) entre las máquinas y los hombres.
En este contexto, cabe mencionar el Informe sobre el Desarrollo Mundial (2016)
elaborado por el Banco Mundial, en dónde se proyecta que “desde el punto de vista
tecnológico, las dos terceras partes de los empleos del mundo en desarrollo pueden
automatizarse”16, aunque tales efectos -explican- son susceptibles de dilatación en el
11 RICCILLO, Marcela, Inteligencia Artificial – La Nación Más, consultado en:
[https://www.youtube.com/watch?v=WZuUba-sc1g] el 14/12/2018.
12 CORVALÁN, Juan G., Hacia una Administración digital e inteligente. Transformaciones en la era de la
13 SARRIÉS SANZ, Luis, El trabajador del futuro en la industria 4.0, consultado en
[https://www.negociosennavarra.com/trabajador-del-futuro-la-industria-4-0/] el 16/12/2018.
14 AOUN, Joseph, Robot-Proof – Higher Education in the age of Artificial Intelligence, Cambridge,
Massachusetts, The MIT Press, 2017.
15 Tal es así, que el mapa de habilidades pensado para 2022 abarca: aprendizaje activo y estrategias de
aprendizaje; pensamiento crítico y análisis; resolución de problemas complejos; liderazgo e influencia
social; inteligencia emocional; razonamiento, resolución de problemas e ideación; entre otras. Ver:
RATCHEVA, Vesselina S., LEOPORD, Till, 5 things to know about the future of Jobs, consultado en:
[https://www.weforum.org/agenda/2018/09/future-of-jobs-2018-things-to-know/] el 15/12/2018.
16 BANCO MUNDIAL, Informe sobre el desarrollo mundial 2016: Dividendos digitales, cuadernillo del
“Panorama general”, Washington D.C., Banco Mundial, 2016, p. 23.
tiempo según cómo, cuándo y de qué manera se adopte la tecnología. La particularidad:
Argentina lidera el ranking guiado por los porcentajes estimados de los empleos que
podrían automatizarse, con el 64,6%. ¿Ello implica que habrá menos trabajos? No
En efecto, el Foro Económico Mundial publicó un Informe del cual se extrae un posible
escenario para 2022, señalando el top 10 de los roles laborales emergentes, y el de
aquellos en decadencia.17
En el primer grupo, sobresalen científicos, y otras tareas íntimamente vinculadas con la
tecnología (especialistas en aprendizaje automático; desarrolladores y analistas de
software y aplicaciones; especialistas en big data; especialistas en transformación
digital; especialistas en nuevas tecnologías; servicios de IT; etc.); pero también
profesionales del marketing, gerentes generales y otros especialistas en desarrollo
organizacional, guiados por la innovación.
En el segundo grupo, se advierten trabajos tales como el de secretarias administrativas,
ensamblaje en fábricas, atención e información al cliente, contadores y auditores, y
empleados de correo, entre otros18.
Entonces, la expectativa guía a pensar en nuevos trabajos y oportunidades, que
reemplazarán a otros de mayor automatización o poca injerencia creativa, sin que ello
de lugar -necesariamente- a la disminución de la oferta laboral.
Pero la IA, en contra de lo que uno podría sospechar, también se inmiscuye y
transita con pompa escénica los caminos del arte y la creatividad, que parecían
exclusivos de la sensibilidad y la percepción humana, de la subjetividad puesta en
práctica. Así, el afán que ostentaban las musas, ahora es empañado por la intromisión de
algoritmos y cuantiosos datos seleccionados con criterio (positivo o negativo), que
reclaman ser los inspiradores de ciertas obras.
Entre otros ejemplos, se destacan el GANismo (nuevo estilo pictórico, cuyas siglas se
derivan de la tecnología que oficia de pintora: Generative Adversarial Networks)19;
17 RATCHEVA, Vesselina S., LEOPORD, Till, 5 things to know about the future of Jobs, consultado en:
18 Curiosamente, también se contemplan gerentes generales; en este caso, quizás no sea el trabajo el que
se encuentra en decadencia o peligro de extinción, sino la forma tradicional de ser llevado a cabo por
19 Para visualizar las obras, puede acceder a: [http://obvious-art.com/gallery.html].
Jetson (el artífice de “Sunspring”, el primer corto escrito por IA ideada por el cineasta
Oscar Sharp y Ross Goodwin)20; Watson (el sistema creado por IBM que, entre otras
cosas, colaboró con Lexus para escribir -por completo- el primer guión de una
propaganda comercial para TV)21; Aiva (el primer robot en ser reconocido oficialmente
como compositor, en La Sacem -sociedad de derechos de autor de Francia y
Luxemburgo-)22; AlphaGo (la máquina honrada por vencer por primera vez al campeón
mundial del Go -un antiguo juego de mesa chino-, Fan Hui)23; y Deep Blue (el sistema
precursor en ganar una partida de ajedrez ante el campeón mundial de aquel entonces,
Garry Kasparov)24, entre otros.
IV. Cómo impacta la Inteligencia Artificial en el Derecho
Desde aquella concepción en 1956, no solo ha transcurrido más de medio siglo,
sino también un sinfín de experiencias tecnológicas / robóticas que se extienden -cada
vez más ostensiblemente- en el campo del derecho.
Pero, incluso con anterioridad, es posible encontrar algunos augurios. En efecto, a fines
de los años 40, apareció la “computación legal”. Luego, en forma más elocuente, los
años 70 despertaron los “sistemas legales expertos” para el tratamiento de la
información legal.25 Su principal función: recoger, agrupar y ordenar un conjunto
infinito de legislación, jurisprudencia y doctrina que, librada al destino, parecería
representar un camino imposible para los/as abogados/as26. Los años 70 también fueron
testigos de los primeros estudios concretos sobre el tema.27
20 Para observar el corto, puede acceder a: [https://www.youtube.com/watch?v=LY7x2Ihqjmc].
21 Para mirar la propaganda, puede acceder a: [https://www.youtube.com/watch?v=-iaBJ5rqOdg].
22 Para escuchar composiciones, puede acceder a: [https://www.youtube.com/watch?v=HAfLCTRuh7U].
23 Para contemplar la jugada, puede acceder a: [http://www.usgo.org/news/2016/01/alphago-beats-pro-5-
0-in-major-ai-advance/].
24 Para ver la partida, puede acceder a: [https://www.chess.com/article/view/deep-blue-kasparov-chess].
25 FERNÁNDEZ HERNÁNDEZ, Carlos y BOULAT, Pierre, Inteligencia Artificial y Derecho. Problemas y
perspectivas, consultado en: [http://noticias.juridicas.com/conocimiento/articulos-doctrinales/10061-
inteligencia-artificial-y-derecho-problemas-y-perspectivas/] el 15/12/2018.
26 En tal escenario, se ajustan las palabras de Jorge Luis Borges utilizadas en Laberinto: “No esperes que
el rigor de tu camino / que tercamente se bifurca en otro, / que tercamente se bifurca en otro, / tendrá
fin...”
27 Para mayor información, ver: BUCHANAN, Bruce G. y HEADRICK, Thomas. E., Some Speculation about
Artificial Intelligence and Legal Reasoning, Stanford, California, Stanford Law Review, Vol. 23, No. 1,
En sintonía con lo anterior, los años 80 dieron lugar a novedosas construcciones: Hypo,
en 1987 (sistema ideado a partir del CBR28, para aplicar el razonamiento jurídico en el
derecho de patentes); Shyster, en 1993 (software diseñado para brindar asesoría legal
sobre jurisprudencia, previamente delimitada); Ross, en 2014 (idea concebida por IBM,
que cuenta con un perfil propio en las redes sociales, y responde a preguntas legales,
brindando hipótesis y conclusiones sencillas luego de procesar y analizar las fuentes del
derecho que se encuentran a su disposición29); y otras tales como Premonition;
MarginMatrix; y Verifi.30
Sin perjuicio de este nuevo actor emergente, el panorama actual del derecho
enseña que “la aplicación de la IA se relaciona principalmente a tareas que requieren de
una mayor automatización o repetición rutinaria y una menor capacidad de toma de
decisiones”.31
Así, se vislumbra que las tareas acaparadas por la IA esencialmente se ciñen o ceñirán
(según el territorio físico, y las posibilidades económicas) al almacenamiento
documental y aplicación en la gestión; en particular: a delimitar el campo de leyes,
doctrina y jurisprudencia susceptibles de ser aplicadas a un conflicto específico; a
realizar investigaciones exhaustivas, en el marco de abrumadores procesos de due
diligence; a evaluar estadísticas judiciales y proporcionar tasas de probabilidad de éxito
o posibles montos a fijar en una eventual sentencia; etc.
Quienes ejercen el arte del derecho, podrán valerse de los beneficios que
propicia la IA, y a su vez potenciar aquellas cualidades que los diferencian, como la
creatividad para resolver casos complejos y/o sin precedentes; o la empatía para
transmitir confianza y seguridad a su cliente o destinatario. En definitiva, empeñarse en
los retos o dificultades que ofrece a diario la novedosa realidad, los cuales tornan una
profesión / actividad realmente interesante.
28 Las siglas CBR aluden a “case-based reasoning” o, en español, “razonamiento basado en casos”.
29 Al respecto, se advierte -según estudios comparativos- que Ross resuelve en veinte minutos, lo que
cualquier hombre haría en veinte días. Ver: WECHSLER, Mariano, Abogadores y contadores en la “era del
conocimiento”, consultado en [https://informacionlegal.com.ar/maf/app/document] el 10/10/2018.
30 Para mayor información, ver: FERNÁNDEZ, Diego, El Impacto de la Inteligencia Artificial en el
Derecho, consultado en [https://informacionlegal.com.ar/maf/app/document] el 10/10/2018.
31 FERNÁNDEZ, Diego, El Impacto de la Inteligencia Artificial en el Derecho, consultado en
Hoy, se impone una tendencia de complementación tecnológica / robótica, y no la de
una relación de sustitución o dominación distópica tendiente a terminar con los
humanos. El derecho, en particular, ofrece grandes oportunidades.
V. Índice del relato
A continuación se transcriben los grandes temas a tratar, expuestos en forma de índice -
no definitivo- y sin la apertura con la que contará su versión final.
El contenido de cada uno de los módulos puede orientar a los ponentes a direccionar sus
investigaciones hacia alguna de las temáticas propuestas. Ello enmarcará el sector del
relato y orden de exposición de todos aquellos trabajos que sean aceptados para ser
expuestos durante el desarrollo de las deliberaciones.
3. Inteligencia Artificial y Trabajo
4. Inteligencia Artificial y Derecho
5. Inteligencia Artificial y Ética
VI. Palabras finales (pero no tanto)
Así como la realidad oficia de vanguardista frente al derecho, que por su
naturaleza siempre camina por detrás de ella; el trabajador del siglo XXI (y el abogado,
en particular) debe empeñarse en atender las necesidades emergentes, marcadas por la
difícil complementación entre la abundante información disponible, y la inmediatez
demandada diariamente.
Por supuesto existen dudas, inquietudes y problemas a la vista; pero como en toda gran
transformación, es ineludible esperar gran responsabilidad. Serán desafíos inminentes:
eliminar o disminuir posibles sesgos y discriminaciones al construir y capacitar a las IA;
edificar estas tecnologías sin prescindir de la ética32; introducirlas en los trabajos con
criterio y responsabilidad, para que la transición de empleos no impacte en aquellos más
vulnerables; educar y potenciar las capacidades de análisis, creatividad y sociabilidad,
es decir, las llamadas “habilidades blandas”, que cumplirán un rol protagónico.33
El ser humano puede sentir adorable inspiración por la profusa divulgación de ciencia
ficción espectacular, o verdadera tentación por hablar de fatalismos34. Pero debe
esforzarse por entender que la IA no es ni buena, ni mala, sino impostergable. Debe, a
sabiendas de sus defectos, estudiarla y comprenderla para disminuirlos. Debe utilizarla
y complementarse a ella, para no perder libertad y emerger con la fuerza de los míticos
centauros35.
Por lo tanto, estas palabras no son finales sino por el contrario, tienen la función de
animar y generar entusiasmo entre los asistentes al Congreso a participar de forma
activa el día 6 de septiembre de 2019.
32 Al respecto, la Organización Internacional del Trabajo concluyó que: “los recientes desarrollos llevados
a cabo en esta área que se basan en una metodología diferente (algoritmos genéticos, en lugar de redes
neuronales) podrían ofrecer una alternativa más transparente, pero por el momento es demasiado pronto
para evaluar su pleno potencial.” Traducción libre de: INTERNATIONAL LABOUR ORGANIZATION, The
economics of artificial intelligence: Implications for the future of work, consultado en:
[https://www.ilo.org/] el 5/12/2018.
33 WECHSLER, Mariano, Abogadores y contadores en la “era del conocimiento”, consultado en
34 Ilustrativo de ello -en el campo del derecho- es el popular blog español Jurista Enloquecido, que
profesa: 2039: Los jueces son robots superinteligentes que imprimen la sentencia al momento de acabar el
juicio en base a todas las leyes que tienen en la base de datos y los argumentos de las partes. Doctrina y
Jurisprudencia son unánimes por una vez en la vida. / 2051: Los abogados robots cruzan datos con jueces
robots y se crea un pensamiento jurídico común. Muchas posiciones quedan sin defensa. En: FERNÁNDEZ
HERNÁNDEZ, Adrián y GENDE, Abel, El Apocalipsis Jurídico - ¿Cómo será el futuro para los juristas?,
consultado en: [https://juristaenloquecido.es/posts/El_Apocalipsis_Jur%25C3%25ADdico] el 26/11/2018.
35 Ver: Bilinkis, Santiago, El futuro del empleo, disponible en: https://davinci.edu.ar/dvtv/ver/el-futurodel-
empleo-conferencia-de-santiago-bilinkis
Sección Documentación, Metodología y Enseñanza del Derecho Internacional
El impacto de la inteligencia artificial en el mundo del Derecho
I. Introducción ............................................................................................................. 1
II. Robbie: qué es la IA ................................................................................................ 6
1. Origen y definición ................................................................................................ 6
2. Glosario 4.0 ........................................................................................................... 9 Algoritmos
......................................................................................................... 9 Aprendizaje automático ................................................................................... 10
Aprendizaje profundo ...................................................................................... 12
Redes neuronales artificiales............................................................................ 13
3. Pasado, presente y futuro: juego de contrastes .................................................... 15 IA “débil” vs. IA “fuerte” ................................................................................ 15
IA “estrecha” vs. IA “general”......................................................................... 18
Superinteligencia artificial ............................................................................... 20
III. Pequeño robot perdido: educación e IA .............................................................. 21
1. Nuevos paradigmas ............................................................................................. 21
2. La IA en las escuelas: diversos usos .................................................................... 23
3. ¿Enseñanza robótica? .......................................................................................... 24
IV. Sentido giratorio: trabajo e IA ............................................................................ 26
1. Augurios repetidos ............................................................................................... 26
2. Reportes sobre el empleo del siglo XXI .............................................................. 27 La Organización Internacional del Trabajo ..................................................... 27
El Grupo Banco Mundial ................................................................................. 28
El Foro Económico Mundial ............................................................................ 29
3. Lo que viene ........................................................................................................ 30
V. El conflicto evitable: derecho e IA ....................................................................... 32
1. Tiempos modernos: ¿Hermandando a el derecho y la tecnología? ..................... 32
2. La nueva gestión: el sector jurídico frente a la IA ............................................... 34 El Poder Judicial y sus recelos históricos ........................................................ 35
El arbitraje: aliado a las nuevas tecnologías .................................................... 38
La intromisión de la IA en el estudio jurídico ................................................. 40
3. Caso de estudio: smart contracts y blockchains. ¿Un contrato puede ser inteligente? .................................................................................................................. 41
4. Algunos desafíos legales ..................................................................................... 44 La regulación de la IA ..................................................................................... 44
El futuro de la privacidad ................................................................................. 49
VI. Atrapa esa liebre: ética e IA ................................................................................. 51
1. Consciencia del futuro: próximos dilemas .......................................................... 51 Acerca de la superinteligencia artificial ........................................................... 52
Preguntas en torno a la IA “fuerte” o “general” .............................................. 53
IA “débil” o “estrecha”: la ética bajo el prisma del presente ........................... 54
2. ¿Son suficientes las Tres Leyes de la Robótica? ................................................. 55 Introspección .................................................................................................... 55
El ejemplo de la Comisión Europea ................................................................ 57
VII. Conclusiones ........................................................................................................... 60
La explosión de la tecnología y el inquietante desarrollo de la inteligencia artificial (a continuación, “IA”) modificaron –y seguirán modificando– todas nuestras relaciones personales, cualquiera sea su ámbito. Fruto de ello, también han sido trastocadas las históricas concepciones de tiempo y espacio, hoy fuertemente relativizadas.2 Al igual que Gregorio Samsa, la sociedad del siglo XXI avisa nuevas transformaciones en cada despertar.
¿Nueva era?3 ¿Revolución tecnológica?4¿Cuarta revolución industrial?5
1 Adelantamos nuestras sinceras disculpas ante usted, lector o lectora, por la abusiva utilización de notas a pie de página que descubrirá a continuación; si lo desea, puede aplazar su lectura para el final o simplemente obviarlas. En nuestra defensa, debemos advertirle que ello responde –principalmente– a un sencillo hecho elemental: no somos científicos ni especialistas en inteligencia artificial, por lo que esbozar una definición o comentario técnico sobre cuestiones tales como machine learning o neural networks, sin citar a la correspondiente fuente especializada de la cual obtuvimos la información, acabaría siendo un acto de egocentrismo, además de un palpable robo (o hurto, para el saber de los penalistas).
2 En palabras del sociólogo español Manuel Castells, se aproxima un espacio de flujos y un tiempo sin tiempo. Robert Hassan, por su parte, espera un entorno digital interconectado, la aniquilación del tiempo y el espacio, y la consiguiente disminución del sentido del pasado, presente y futuro. Ver: CALISE, SANTIAGO GABRIEL, “Tiempo y nuevas tecnologías desde la perspectiva de la teoría de sistemas”, Revista Iberoamericana de Ciencia, Tecnología y Sociedad, núm. 23, vol. 8, Ciudad de Buenos Aires, Centro de Estudios sobre Ciencia, Desarrollo y Educación Superior, 2013, pp. 1-23. Disponible en: https://ri.conicet.gov.ar/handle/11336/3810.
3 PALACE, VICTOR M., “What if Artificial Intelligence wrote this: Artificial Intelligence and Copyright Law”, Florida Law Review, 2019. Disponible en: www.heinonline.com.
4 NAZARIAN, ANGELLA, “The Technology Revolution and Its Role in Our Lives”, Huffpost, 2014. Disponible en: www.huffpost.com/entry/the-technology-revolution_b_4809786.
5 SCHWAB, KLAUS, “The Fourth Industrial Revolution: what it means, how to respond”, World Economic Forum, 2016. Disponible en: www.weforum.org/agenda/2016/01/the-fourth-industrial-revolution-what-it-means-and-how-to-respond/.
El humano más la máquina no es el futuro, sino el presente.
Más allá de los términos empleados, existe un consenso general: en los años venideros seremos testigos de creaciones tecnológicas más revolucionarios que todas las que ha producido la humanidad desde la invención de la rueda, hacia miles de años atrás.6
Algunos ejemplos ilustrativos de esta realidad son el GANismo (nuevo estilo pictórico, cuyas siglas se derivan de la tecnología que oficia de pintora: Generative Adversarial Networks);7 Jetson (el artífice de “Sunspring”, el primer corto escrito por IA, ideado por el cineasta Oscar Sharp y Ross Goodwin);8 Watson (el sistema creado por IBM que –entre otras cosas– triunfó en el programa estadounidense Jeopardy!, y colaboró con Lexus para escribir por completo el primer guion de una propaganda comercial para TV);9 Philyra (la IA que creó dos nuevas fragancias para la compañía de cosméticos brasileña O Boticário);10 AlphaGo (la tecnología que sorprendió al mundo tras vencer a diversos campeones del Go –tales como Fan Hui, Lee Se-Dol y Ke Jie–);11 Aiva (el primer robot en ser reconocido oficialmente como compositor, en la SACEM –sociedad de autores, compositores y editores de la música, que organiza los derechos de autor de Francia y Luxemburgo–);12 y Deep Blue (la máquina que supo ganarle una partida de ajedrez al campeón mundial de aquel entonces, Garry Kasparov),13 entre otros.14
6 OPPENHEIMER, ANDRÉS, ¡Crear o Morir!: la esperanza de Latinoamérica y las cinco claves de la innovación, Buenos Aires, Debate, 2014, p. 25.
7 Ver: http://obvious-art.com/gallery.html.
8 Ver: www.youtube.com/watch?v=LY7x2Ihqjmc.
9 Ver: www.youtube.com/watch?v=P18EdAKuC1U; y www.youtube.com/watch?v=-iaBJ5rqOdg.
10 Ver: www.ibm.com/blogs/research/2018/10/ai-fragrances/.
11 El Go (también conocido como “weiqi”, en idioma chino) es un histórico juego de mesa de oriente –inventado incluso con anterioridad a la escritura–, y considerado uno de los “cuatro talentos” a dominar por los literatos chinos desde los tiempos de Confucio. Actualmente, cuenta con millones de jugadores alrededor del mundo. La tecnología creada por Deep Mind triunfó en este juego luego de consecutivos aprendizajes y denominaciones (Crazy Stone, AlphaGo Fan, AlphaGo Lee, AlphaGo Master, AlphaGo Zero). Ver: HASSABIS, DEMIS, SILVER, DAVID, “AlphaGo Zero: Learning from Scratch”, Deep Mind, 2017. Disponible en: https://deepmind.com/blog/alphago-zero-learning-scratch/. En caso de mayor interés, recomendamos observar el documental de Netflix titulado “AlphaGo”, dirigido por Greg Kohs.
12 Ver: www.youtube.com/watch?v=HAfLCTRuh7U.
13 Ver: www.chess.com/article/view/deep-blue-kasparov-chess.
14 Otro ejemplo resonante es dado por la novela Konpyuta ga shosetsu wo kaku hi (“El día que una computadora escribe una novela”), escrita parcialmente por IA japonesa. Esta participó en un concurso literario de oriente denominado Hoshi Shinichi Literary Award, aunque no logró obtener una mención
Ante este escenario, el ser humano se enfrenta a un sinfín de oportunidades, inquietudes15 y dificultades. Entre otras cosas, se advierte como la tecnología cambia más rápido que nuestra capacidad de adaptación,16 y nos interpela a través de sus corrientes vertiginosas. En efecto, los avances en la materia son de tal magnitud y rapidez que aquello que hoy irrumpe como novedoso, al poco tiempo deviene en anticuado o –eventualmente– obsoleto. Como decía Jorge Luis Borges, “no se puede medir el tiempo (agregamos: sobre todo, estos tiempos) por días, como el dinero por centavos o pesos, porque los pesos son iguales y cada día es distinto y tal vez cada hora.”17
Sin forzar la memoria, es fácil recordar aquellos celulares que dividían las pequeñas pantallas, de los teclados con botones rudimentarios (que, a su vez, exigían combinaciones aritméticas para concretar la escritura). Hoy, ante nuestros ojos cansados, se advierte la progresiva extinción de los teclados y el nacimiento de vastas pantallas “inteligentes”, que responden (e incluso anticipan) las direcciones de su “dueño”. Parafraseando a Sábato, se podría decir que “lo más nuevo que hay es el diario [introduzca el nombre de cualquier creación tecnológica reciente], y lo más viejo, al día siguiente.”18
especial. Entre los fragmentos del texto, se destaca: “[l]a computadora, dando prioridad a la búsqueda de su propia alegría, dejó de funcionar para los humanos.” Ver: SHOEMAKER, NATALIE, “Japanese AI Writes a Novel, Nearly Wins Literary Award”, Big Think, 2016. Disponible en: https://bigthink.com/natalie-shoemaker/a-japanese-ai-wrote-a-novel-almost-wins-literary-award.
15 Las inquietudes acerca del devenir de la tecnología y su relación con la humanidad encuentran un ejemplo interesante en el libro Kentukis (2018), de la gran escritora argentina Samanta Schweblin, en cuyo final deja escrito: “… por primera vez se preguntó, con un miedo que casi podría quebrarla, si estaba de pie sobre un mundo del que realmente se pudiera escapar”. En: SCHWEBLIN, SAMANTA, Kentukis, Ciudad de Buenos Aires, Literatura Random House, 2018, p. 221.
16 ACIÓN, LAURA, D’IPPÓLITO, NICOLÁS, SOSA ESCUDERO, WALTER, “No culpes a la big data”, Revista Anfibia, 2018. Disponible en: http://revistaanfibia.com/ensayo/no-culpes-la-big-data/.
17 BORGES, JORGE LUIS, “Juan Muraña”, en El Informe de Brodie, Buenos Aires, Debolsillo, 2013, p. 75.
18 BARONE, ORLANDO, Diálogos Borges/Sábato, Buenos Aires, Emecé, 1996, p. 10.
Frente a estos cambios continuos, es posible notar la erupción de dos grandes reacciones generalizadas: la “utópica”; y la “distópica”.19
La primera plantea un escenario en donde los seres humanos aprovechan de modo razonable la eficiencia de la tecnología, acrecentando sus resultados laborales, más descanso y felicidad. El reconocido científico Ray Kurzweil también destaca la auspiciante posibilidad de avanzar en el diagnóstico de enfermedades, expandir las energías renovables, sanear el medio ambiente, proporcionar educación de calidad a gran escala, y contribuir al planeta en general.20 A ello agrega que las guerras, el hambre o las enfermedades habrán desaparecido de forma casi total.21
Por el contrario, la segunda reacción proyecta las ideas “futuristas” de ciertas novelas y películas del siglo XX (aunque no limitadas a ellas),22 cuyos desenlaces suelen ser fatales y paradójicos:23 los robots, en sus diversas formas, concluyen rebelándose contra la humanidad, es decir, contra sus propios creadores. 24 Basta recordar Metropolis (1927); The Terminator (1984); o The Matrix (1999), entre tantas otras películas.25
19 A pesar de que todas ellas presentan matices, no es menos cierto que comparten notorias características comunes. En este sentido, como enseñó Aldous Huxley, la generalidad actúa como un mal, aunque necesario; y la omisión y la simplificación –utilizadas a conciencia– nos ayudan a comprender. En: HUXLEY, ALDOUS, Nueva visita a un mundo feliz, Buenos Aires, Debolsillo, 2011, pp.7-8.
20 KURZWEIL, RAY, “Don’t fear Artificial Intelligence”, Revista Time, 2014. Disponible en: https://time.com/3641921/dont-fear-artificial-intelligence/.
21 IZQUIERDO, ROBIN, “11 Predicciones de futuro de Ray Kurzweil”, Pandorafms, 2017. Disponible en: https://pandorafms.com/blog/es/predicciones-ray-kurzweil/.
22 A modo de ejemplo, vale remontarnos a 1967 y revivir las palabras del folklorista argentino Atahualpa Yupanqui, quién a través de una carta ológrafa dedicada a su mujer Nenette, expresó: “[…] pobre mundo nuestro. La tecnología, el mecanicismo, han creado una superestructura y el hombre es devorado por su propia creación, en la que el espíritu no está representado. Como me hubiera gustado vivir 100 años atrás, aún con más luchas y sacrificios, pero en plena vigencia de lo honorable, de la palabra “documento” y del aliento romántico que envolvía toda acción individual o colectiva. Pero, ¿qué hacen? Hoy, es otro el ritmo…”. Ver: http://epistolarpodcast.com/.
23 En este sentido, como destaca Ana Laura Diedrichs, “el cine y la literatura le han dado una connotación negativa a la IA”. Ver: DIEDRICHS, ANA LAURA, “Etica 2.0”, en PETRELLA, IVÁN, MARZOCCA, PABLO, BEUN, ANTONIO (dir.), Ideas para la Argentina del 2030, Buenos Aires, Área Cuatro, 2019, pp. 51-54. Disponible en: www.argentina.gob.ar/noticias/descarga-la-publicacion-ideas-para-la-argentina-del-2030.
24 Ver: BARRETT, ANTHONY M., BAUM, SETH D., “A model of pathways to artificial superintelligence catastrophe for risk and decision analysis”, en DIETRICH, ERIC (ed.), Journal of Experimental & Theoretical Artificial Intelligence, vol. 29, num. 2, 2017, pp. 397-414.
25 Ver: EBIRI, BILGE, “The 15 Best Robot Movies of All Time”, Vulture, 2015. Disponible en: www.vulture.com/2015/03/15-best-robot-movies-of-all-time.html.
También, dentro del campo literario, brillan novelas como With Folded Hands (1947); o incluso Yo, Robot (1950), la cual encierra fuertes encrucijadas a partir de sus “Tres Leyes de la Robótica”, y el liderazgo final de los robots. La música (en especial, el rock) también ofrece perspectivas de resquemor.26
Ante ello, cabe reflexionar y preguntarnos: ¿La ficción se asemeja a la realidad? En otras palabras, ¿la actualidad refleja descripciones similares a las aludidas anteriormente?, ¿los tiempos de hoy permiten elucubrar consecuencias de una magnitud parecida?
Acaso, ¿la tecnología cumple un rol de complementación o cooperación? Por lo contrario, ¿debemos alertarnos por nuestro incierto devenir, ante horizontes de sustitución o reemplazo? Mas aún, ¿es posible esperar de la tecnología una dominación total?
Sumado a ello, ¿cuál es el impacto de las invenciones modernas en la educación, el trabajo y –en particular– en el área del derecho? ¿Cuáles son las perspectivas a futuro en estos campos? ¿Qué rol ocupa (y/o debería ocupar) la ética y la moral en todo esto?
26 Entre tantos ejemplos, vale mencionar: Welcome to the Machine (1975), Pink Floyd; I Robot (1977), The Alan Parsons Project; Video Killed the Radio Star (1980), The Buggles; Paranoid Android (1997), Radiohead; Technologic (2005), Daft Punk; Everyday Robots (2014), Damon Albarn; Primavera (2017), Charly García; Contrapunto para Humano y Computadora (2019), El Cuarteto de Nos.
II. ROBBIE: QUÉ ES LA IA
Entre proyecciones y afirmaciones estridentes, florece una realidad cuyo nacimiento (al menos conceptual) se encuentra en 1956:27 en tal año John Patrick McCarthy, entonces prominente científico norteamericano, introdujo el término “inteligencia artificial”28 en una conferencia llevada a cabo en la Universidad de Dartmouth, Estados Unidos. Hoy, tras más de medio siglo transcurrido desde entonces, cada pieza de tecnología que poseemos tiene algún tipo de IA.29
Pero, ¿de qué hablamos cuándo hablamos de IA?
27 Sin embargo, con anterioridad a 1956, diversos pensadores ya se habían involucrado en las raíces de lo que resultó ser la “inteligencia artificial”. Así, tanto Alan Turing como Alonzo Church descubrieron que cualquier proceso de razonamiento formal podían simularse mediante máquinas digitales. Luego, Turing desarrolló la autodenominada “prueba de Turing”, en aras de probar la inteligencia de las máquinas. Más atrás en el tiempo, Thomas Hobbes concibió la teoría computacional de la mente y señaló: “por raciocinio, me refiero a computación”. Rene Descartes también sembró la semilla de la duda en cuanto a las máquinas y su eventual capacidad de “pensar”, cuestión que hoy ha germinado en arduos y extensos debates. Ver: SOLUM, LAWRENCE B., “Legal Personhood for Artificial Intelligences”, North Carolina Law Review, vol. 70, num. 4, 1992, pp. 1231-1287.
28 Previo a ello, solía recurrirse a la denominación “inteligencia de máquina” (machine intelligence). Acerca de la utilización del concepto de “inteligencia” para la mencionada tecnología, y las prácticas desarrolladas al respecto, ver: SOLUM, LAWRENCE B., “Legal Personhood for Artificial Intelligences”, North Carolina Law Review, vol. 70, num. 4, 1992, pp. 1235-1287. Sobre lo anterior y ciertos conflictos filosóficos, ver: GONZÁLEZ, RODRIGO, “El Test de Turing: Dos Mitos, Un Dogma”, Revista de Filosofía – Universidad de Chile, Facultad de Filosofía y Humanidades, vol. 63, 2007, pp. 37-53. Disponible en: https://scielo.conicyt.cl/scielo.php?script=sci_arttext&pid=S0718-43602007000100003.
29 MILLS, TERENCE, “Artificial General Intelligence Breakthroughs To Watch Out For In 2018”, Forbes, 2018. Disponible en: www.forbes.com/sites/forbestechcouncil/2018/06/18/artificial-general-intelligence-breakthroughs-to-watch-out-for-in-2018/#10bb30e86f83.
Antes de ahondar en su definición, advertimos que toda definición adolece de arbitrariedad, aunque a su vez resulta necesaria para entender, indagar y comprender lo significado. En temas como el presente, esto último se evidencia con claridad: si bien la tecnología –y la IA, en particular– atraviesa cada partícula de nuestra cotidianeidad, también ha sido objeto de cuantiosas investigaciones científicas, y su cabal entendimiento exige (aun para los especialistas) un importante desarrollo intelectual. A ello cabe agregar que “no existe una definición establecida y unánimemente aceptada” de la IA.30
Históricamente, la voz científica (representada por Herbert Alexander Simon, Allen Newell y Edward Albert Feigenbaum, entre otros) concibió a la IA como un tipo de procesamiento autónomo que opera en conjunción con la inteligencia humana, interaccionando con ella.31 John Patrick McCarthy, por su parte, explicó que la IA abarca “la ciencia e ingeniería de crear máquinas inteligentes, en especial, programas de computación inteligentes” y que “encuentra relación con la tarea de usar ordenadores para comprender la inteligencia humana.”32
Hoy, la Real Academia Española define a la IA como la “disciplina científica que se ocupa de crear programas informáticos que ejecutan operaciones comparables a las que realiza la mente humana, como el aprendizaje o el razonamiento lógico”.33 La Enciclopedia de la Genética, Genómica, Proteómica e Informática concibe a la IA como “un dispositivo (computadora) capaz de funcionar similarmente a la inteligencia
30 FERNÁNDEZ, DIEGO, “El impacto de la inteligencia artificial en el derecho”, La Ley, 2007, pp. 6-7.
31 CASANOVAS, POMPEU, “Derecho, Tecnología, Inteligencia Artificial y Web Semántica. Un Mundo para Todos y para Cada Uno”, en FABRA ZAMORA, JORGE LUIS, NÚÑEZ VAQUERO, ÁLVARO (eds.), Enciclopedia de Filosofía y Teoría del Derecho, vol. 1, México D.F., Instituto de Investigaciones Jurídicas de la Universidad Nacional Autónoma de México, 2015, p. 876.
32 MCCARTHY, JOHN, “What is Artificial Intelligence?”, Stanford University, 2007. Disponible en: www-formal.stanford.edu/jmc/whatisai/whatisai.html.
33 A su vez, la RAE distingue a la “inteligencia emocional” como la “capacidad de percibir y controlar los propios sentimientos y saber interpretar los de los demás”. Ver: https://dle.rae.es/srv/fetch?id=LqtyoaQ.
humana, es decir, con aptitudes de aprendizaje, razonamiento y superación personal”.34 Asimismo, otros diccionarios online estipulan que la IA abarca “la teoría y el desarrollo de sistemas informáticos capaces de realizar tareas que normalmente requieren inteligencia humana, como la percepción visual, el reconocimiento de voz, la toma de decisiones y la traducción de idiomas”;35 o bien un “conjunto de técnicas que, mediante el empleo de la informática, permite la realización automática de operaciones hasta ahora exclusivas de la inteligencia humana”.36
Dentro de la Argentina, Laura Ación, Nicolás D’Ippólito y Walter Sosa Escudero comparten (además de su participación en el CONICET)37 que “por lo general, se entiende como IA a la capacidad de las máquinas de copiar el comportamiento humano”.38 En sentido similar, Diego Fernández concluye que hay “cierto consenso en que el concepto se refiere a sistemas que cuentan con una inteligencia que intenta asemejarse a la que poseen los seres humanos, lo que implica ir más allá del mero procesamiento de datos”.39 Sin embargo, Juan Corvalán advierte que “el desarrollo de la inteligencia artificial no consiste –al menos exclusivamente– en imitar o copiar el cerebro humano”,40 aunque reconoce una asimilación entre el funcionamiento del cerebro y los sistemas de la IA, ya que ambos se valen de cierta selección de información para elaborar una conclusión.
34 Ver: https://link.springer.com/.
35 Ver: www.lexico.com/en/.
36 Ver: www.wordreference.com/. Para acceder a mayores definiciones, ver: MARR, BERNARD, “The Key Definitions of Artificial Intelligence (AI) That Explain Its Importance”, Forbes, 2018. Disponible en: www.forbes.com/.
37 Las siglas CONICET refieren al Consejo Nacional de Investigaciones Científicas y Técnicas (Argentina). Para conocer más sobre esta noble institución, ver: www.conicet.gov.ar/.
38 ACIÓN, LAURA, D’IPPÓLITO, NICOLÁS, SOSA ESCUDERO, WALTER, “No culpes a la big data”, Revista Anfibia, 2018. Disponible en: http://revistaanfibia.com/ensayo/no-culpes-la-big-data/.
39 FERNÁNDEZ, DIEGO, “El impacto de la inteligencia artificial en el derecho”, La Ley, 2007, pp. 6-7.
40 CORVALÁN, JUAN G., “Administración Pública digital e inteligente: transformaciones en la era de la inteligencia artificial”, Revista de Direito Econômico e Socioambiental, vol. 8, núm. 2, 2017, p. 56. Disponible en: www.researchgate.net.
2. Glosario 4.0 Algoritmos
Tras la nueva ola de la IA, el “algoritmo” devino en un término popular,41 minando títulos de diarios reconocidos y zócalos de variados programas de televisión. En el lenguaje cotidiano, se refiere a ellos con desconocimiento, como si fueran “genios malvados, demiurgos traviesos o el espinazo de megacorporaciones sin escrúpulos”.42 Sin embargo, dicha personificación contrasta con su verdad.
Un algoritmo es, antes que nada, “una receta matemática”,43 “preestablecida, rígida y codificada”.44 Como tal, el ser humano debe proveerla de cierta información, para luego esperar de ella una respuesta, ya sea de clasificación, predicción o ambas.45 Visto desde otra perspectiva, un algoritmo simplemente le transmite a la computadora qué hacer, a través de proposiciones tales como “y”, “o”, “no”.46 Es decir, “frente a determinados datos de entrada, los sistemas algorítmicos procesan y emiten una salida que guarda correlación con estos.”47
41 Antes, el algoritmo era un término mayormente reservado al ambiente matemático. A modo de ejemplo, en los años 1600 y 1700, los japoneses disfrutaban jugar a resolver desafíos matemáticos, escribiendo y resolviendo problemas geométricos y algoritmos en tablas de madera llamadas sangaku. Ver: GONFALONIERI, ALEXANDRE, “What is an AI Algorithm?”, Medium, 2019. Disponible en: https://medium.com/predict/what-is-an-ai-algorithm-aceeab80e7e3.
42 FANJUL, SERGIO C., “En realidad, ¿qué [...] es exactamente un algoritmo?”, El País, 2018. Disponible en: https://retina.elpais.com/retina/2018/03/22/tendencias/1521745909_941081.html.
43 MANTEGNA, MICAELA, “Ok Computer: ¿de qué hablamos cuando hablamos de IA?”, en PETRELLA, IVÁN, MARZOCCA, PABLO, BEUN, ANTONIO (dir.), Ideas para la Argentina del 2030, Buenos Aires, Área Cuatro, 2019, p. 92. Disponible en: www.argentina.gob.ar/noticias/descarga-la-publicacion-ideas-para-la-argentina-del-2030.
44 ISMAIL, KAYA, “AI vs. Algorithms: What's the Difference?”, CMS Wire, 2018. Disponible en: www.cmswire.com/information-management/ai-vs-algorithms-whats-the-difference/.
45 He de aquí, los potenciales problemas devenidos del sesgo humano. Volveremos sobre ello más adelante.
46 GONFALONIERI, ALEXANDRE, “What is an AI Algorithm?”, Medium, 2019. Disponible en: https://medium.com/predict/what-is-an-ai-algorithm-aceeab80e7e3.
47 MANTEGNA, MICAELA, “Ok Computer: ¿de qué hablamos cuando hablamos de IA?”, en PETRELLA, IVÁN, MARZOCCA, PABLO, BEUN, ANTONIO (dir.), Ideas para la Argentina del 2030, Buenos Aires, Área Cuatro, 2019, p. 92. Disponible en: www.argentina.gob.ar/noticias/descarga-la-publicacion-ideas-para-la-argentina-del-2030.
Algunos especialistas distinguen a los algoritmos “básicos” de los algoritmos “complejos”, según la diversidad de reglas, cálculos y operaciones que involucran. En efecto, un algoritmo puede involucrar una secuencia de declaraciones simples (si → luego); o una secuencia de ecuaciones más complejas, que supongan mayores interrelaciones lógicas y concluyan en intrincados laberintos de fórmulas matemáticas.48
A modo de ejemplo, su practicidad puede observarse en los filtros de correos electrónicos “basura”;49 los sistemas de recomendación de productos (sean musicales, o cinematográficos, entre otros),50 y los programas de reconocimiento de rostros.51 Más ejemplos se observan en Amazon, empresa que desarrolla gran parte de su negocio a partir de sistemas de aprendizaje automático;52 o en el icónico Watson. Aprendizaje automático
El aprendizaje automático (machine learning, en su idioma original) se refiere a una amplia categoría de técnicas informáticas aplicadas dentro del campo de la IA.53 Simplificadamente, este describe a un sistema capaz de aprender a partir del ejemplo, en
48 BERENDSEN, BEREND, “What’s The Difference Between Artificial Intelligence, Machine Learning and Algorithms?”, Widget Brain, 2015. Disponible en: https://widgetbrain.com/difference-between-ai-ml-algorithms/.
49 SURDEN, HARRY, “Artificial Intelligence and Law: An Overview”, Georgia State University Law Review, vol. 35, núm. 4, 2019, pp. 1305-1338. Disponible en: www.heinonline.org.
50 Respecto a Spotify, ver: BOAM, ERIC, “I Decoded the Spotify Recommendation Algorithm. Here’s What I Found”, Medium, 2014. Disponible en: https://medium.com/@ericboam/i-decoded-the-spotify-recommendation-algorithm-heres-what-i-found-4b0f3654035b. En relación a Netflix, ver: RAMACHANDRAN, SHALINI, FLINT, JOE, “At Netflix, Who Wins When It’s Hollywood vs. the Algorithm?”, The Wall Street Journal, 2018. Disponible en: www.wsj.com/articles/at-netflix-who-wins-when-its-hollywood-vs-the-algorithm-1541826015.
51 DIEDRICHS, ANA LAURA, “Etica 2.0”, en PETRELLA, IVÁN, MARZOCCA, PABLO, BEUN, ANTONIO (dir.), Ideas para la Argentina del 2030, Buenos Aires, Área Cuatro, 2019, pp. 51-54. Disponible en: www.argentina.gob.ar/noticias/descarga-la-publicacion-ideas-para-la-argentina-del-2030.
52 MARR, BERNARD, “The Key Definitions of Artificial Intelligence (AI) That Explain Its Importance”, Forbes, 2018. Disponible en: www.forbes.com/sites/bernardmarr/2018/02/14/the-key-definitions-of-artificial-intelligence-ai-that-explain-its-importance/#31e393364f5d.
53 El aprendizaje automático es técnicamente una rama de la IA, aunque resulta más específico que su concepto general. Como destaca Ana Laura Diedrichs, “un subcampo de la IA es el aprendizaje automático que permite construir modelos complejos a partir de datos reales”. Ver: DIEDRICHS, ANA LAURA, “Etica 2.0”, en PETRELLA, IVÁN, MARZOCCA, PABLO, BEUN, ANTONIO (dir.), Ideas para la Argentina del 2030, Buenos Aires, Área Cuatro, 2019, p. 51. Disponible en: www.argentina.gob.ar/noticias/descarga-la-publicacion-ideas-para-la-argentina-del-2030.
base a modelos algorítmicos.54 En otras palabras, alude a una automatización basada en el uso intensivo de datos, procesados a través de algoritmos.55
En esencia, la mayoría de los métodos de aprendizaje automático funcionan mediante la detección de patrones útiles en un océano de datos,56 para su aplicación en diversas tareas (ya sea conducir un vehículo, o detectar fraude en ciertas operaciones bursátiles).57 Es decir, estos se basan en la idea de que podemos construir máquinas que procesen datos y aprendan por su cuenta, sin la supervisión constante del ser humano.58
A primera vista, el aprendizaje automático promete erradicar (o al menos reducir) el sesgo humano en los procesos de toma de decisiones. Sin embargo, ciertos casos recientes arrojan dudas sobre dicha capacidad; y encienden temores sobre la posible exacerbación y perpetuación del sesgo humano, canalizada a través de los sistemas en cuestión. En 2015, el algoritmo de reconocimiento facial de Google asoció a dos afroamericanos con gorilas.59 Por su parte, en 2014, se alertó sobre COMPAS
54 HACKER, PHILIPP, “Teaching fairness to artificial intelligence: existing and novel strategies against algorithmic discrimination under EU law”, Common Market Law Review, vol. 55, núm. 4, 2018, pp. 1143-1185. Disponible en: http://kluwer.com/.
55 MANTEGNA, MICAELA, “Ok Computer: ¿de qué hablamos cuando hablamos de IA?”, en PETRELLA, IVÁN, MARZOCCA, PABLO, BEUN, ANTONIO (dir.), Ideas para la Argentina del 2030, Buenos Aires, Área Cuatro, 2019, p. 92. Disponible en: www.argentina.gob.ar/noticias/descarga-la-publicacion-ideas-para-la-argentina-del-2030.
56 Precisamente, a raíz de la comprensión de que era más eficiente enseñar a las computadoras cómo aprender, que enseñarles a realizar cada tarea posible brindándole la información necesaria para ello; y el gran avance de internet, que llevó a permitir un nivel de almacenamiento de información sin precedentes; se ha dado lugar –entre otras cosas– al aprendizaje automático. Ver: MILLS, TERENCE, “Machine Learning Vs. Artificial Intelligence: How Are They Different?”, Forbes, 2018. Disponible en: www.forbes.com/sites/forbestechcouncil/2018/07/11/machine-learning-vs-artificial-intelligence-how-are-they-different/#47aaea4c3521.
57 SURDEN, HARRY, “Artificial Intelligence and Law: An Overview”, Georgia State University Law Review, vol. 35, núm. 4, 2019, pp. 1305-1338. Disponible en: www.heinonline.org.
58 MILLS, TERENCE, “Machine Learning Vs. Artificial Intelligence: How Are They Different?”, Forbes, 2018. Disponible en: www.forbes.com/sites/forbestechcouncil/2018/07/11/machine-learning-vs-artificial-intelligence-how-are-they-different/#47aaea4c3521.
59 SCHUPAK, AMANDA, “Google apologizes for mis-tagging photos of African Americans”, CBS News, 2015. Disponible en: www.cbsnews.com/news/google-photos-labeled-pics-of-african-americans-as-gorillas/; DOUGHERTY, CONOR, “Google Photos Mistakenly Labels Black People ‘Gorillas’”, The New York Times (Bits), 2015. Disponible en: https://bits.blogs.nytimes.com/2015/07/01/google-photos-mistakenly-labels-black-people-gorillas/.
(Correctional Offender Management Profiling for Alternative Sanctions),60 ante discriminaciones contra los presuntos delincuentes de tez oscura.61 En consecuencia, ante la creciente automatización y promoción de estas técnicas, el sesgo algorítmico debe ser considerado un reto clave para nuestras sociedades modernas.62 Aprendizaje profundo
“Mientras que los algoritmos tradicionales de aprendizaje automático son lineales, los algoritmos de aprendizaje profundo se apilan en una jerarquía de creciente complejidad y abstracción”, señala Margaret Rouse.63
Para una mayor comprensión acerca del aprendizaje profundo (deep learning, en inglés), la autora propone imaginar a un niño, cuya primera palabra enunciada es “perro”. Este aprenderá lo que es (y lo que no es) un perro señalando objetos y mencionando su nombre. En este trayecto de aprendizaje, sus parientes podrán aclararle que tal objeto no es un perro, o que tal otro sí lo es. Mientras tanto, el niño continuará apuntando objetos, y adquiriendo mayor conciencia de las características comunes que poseen los perros. Sin saberlo, el niño estará adquiriendo una abstracción compleja (el concepto “perro”), construyendo una jerarquía en la que cada nivel de abstracción se crea con el conocimiento que se obtuvo de la capa precedente.
60 COMPAS es un sistema algorítmico que predice las probabilidades de reincidencia de un acusado, y es utilizado con frecuencia por los tribunales de Estados Unidos para decidir sobre su excarcelación.
61 ANGWIN, JULIA, LARSON, JEFF, MATTU, SURYA, KIRCHNER, LAUREN, “Machine Bias”, ProPublica, 2016. Disponible en: www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing. Ver más en: ANGWIN, JULIA, LARSON, JEFF, MATTU, SURYA, KIRCHNER, LAUREN, “How We Analyzed the COMPAS Recidivism Algorithm”, ProPublica, 2016. Disponible en: www.propublica.org/article/how-we-analyzed-the-compas-recidivism-algorithm; BRENNAN, TIM, DIETERICH, WILLIAM, EHRET, BEATE, “Evaluating The Predictive Validity Of The Compas Risk And Needs Assessment System”, Criminal Justice & Behavior, vol. 36, núm. 1, 2009, pp. 21-40. Disponible en: www.northpointeinc.com/.
62 HACKER, PHILIPP, “Teaching fairness to artificial intelligence: existing and novel strategies against algorithmic discrimination under EU law”, Common Market Law Review, vol. 55, núm. 4, 2018, pp. 1143-1185. Disponible en: http://kluwer.com/.
63 ROUSE, MARGARET, “Aprendizaje profundo (deep learning)”, Search Data Center, 2017. Disponible en: https://searchdatacenter.techtarget.com/es/definicion/Aprendizaje-profundo-deep-learning.
Los programas informáticos que utilizan el aprendizaje profundo transitan por el mismo proceso. Cada algoritmo absorbe información, y utiliza lo que aprende para crear un modelo estadístico como salida. Las interacciones del estilo continúan hasta que la salida alcanza un nivel de precisión aceptable.64 Justamente, el número de capas de procesamiento a través de las cuales los datos deben pasar, es lo que inspiró la etiqueta de profundidad (deep) para la técnica mencionada.65 Este mecanismo de aprendizaje es utilizado para construir y entrenar redes neuronales artificiales. Redes neuronales artificiales
Las redes neuronales artificiales (artificial neural networks, en su idioma original) describen un tipo de sistema informático diseñado para clasificar la información tal como lo hacen las neuronas de nuestros propios cerebros.66 Dicha semejanza no es caprichosa: las redes neuronales artificiales encuentran su inspiración en la fisiología de los cerebros de los animales, la cual consiste en un gran número de procesadores (neuronas) que interactúan dentro de un sistema donde se transmiten diversas señales.67 De la misma manera, las redes neuronales artificiales están basadas en un gran número de procesadores relativamente simples (unidades), que funcionan en paralelo y se
64 A modo de ejemplo, esta lógica es seguida por Google y sus diversas aplicaciones basadas en el “aprendizaje profundo”, que funcionan mediante el aprendizaje de capas de representaciones para tareas como el reconocimiento de imágenes y el habla. Ver: HAMMOND, KRIS, “What is artificial intelligence?”, Computerworld, 2015. Disponible en: www.computerworld.com/article/2906336/what-is-artificial-intelligence.html.
65 ROUSE, MARGARET, “Aprendizaje profundo (deep learning)”, Search Data Center, 2017. Disponible en: https://searchdatacenter.techtarget.com/es/definicion/Aprendizaje-profundo-deep-learning.
66 MILLS, TERENCE, “Machine Learning Vs. Artificial Intelligence: How Are They Different?”, Forbes, 2018. Disponible en: www.forbes.com/sites/forbestechcouncil/2018/07/11/machine-learning-vs-artificial-intelligence-how-are-they-different/#47aaea4c3521; MILLS, TERENCE, “Artificial General Intelligence Breakthroughs To Watch Out For In 2018”, Forbes, 2018. Disponible en: www.forbes.com/sites/forbestechcouncil/2018/06/18/artificial-general-intelligence-breakthroughs-to-watch-out-for-in-2018/#10bb30e86f83.
67 PRATT, IAN, “Neural Networks”, Artificial Intelligence. Macmillan Computer Science Series, 1994, pp. 216-217.
conectan entre sí mediante un sistema de enlaces, a través del cual se transmiten señales.68
Estos sistemas permiten la visualización de imágenes, el reconocimiento de los elementos existentes en ellas y su clasificación según lo que muestran, a través de un circuito de retroalimentación para el “aprendizaje”. De esta forma, la máquina puede averiguar si sus decisiones fueron correctas o no, y luego cambiar su enfoque para mejorar en su próximo intento.69
Si bien las redes neuronales artificiales no son nuevas en las ciencias de la computación, su aplicación en los últimos años ha crecido exponencialmente gracias a los avances de la tecnología.70 AlphaGo ofrece un caso paradigmático dentro de este campo. El sistema creado por Deep Mind evaluó –dentro del juego Go– diversas posiciones y jugadas realizadas por los expertos, para luego entrenarlas y practicarlas. AlphaGo se valió de un algoritmo basado únicamente en el aprendizaje por refuerzo (reinforcement learning, en inglés), sin datos humanos, orientación o conocimiento alguno más allá de las reglas del juego. Así, este sistema se convirtió en su propio maestro: su red neuronal mejoró con la práctica, tejiendo una “idea” de juego cada vez más efectiva. Tal crecimiento se evidenció cuando AlphaGo Zero (última versión del sistema en cuestión) logró un
68 PRATT, IAN, “Neural Networks”, Artificial Intelligence. Macmillan Computer Science Series, 1994, pp. 216-217.
69 MILLS, TERENCE, “Machine Learning Vs. Artificial Intelligence: How Are They Different?”, Forbes, 2018. Disponible en: www.forbes.com/sites/forbestechcouncil/2018/07/11/machine-learning-vs-artificial-intelligence-how-are-they-different/#47aaea4c3521.
70 En efecto, se han desarrollado varios tipos de redes neuronales a lo largo de los años, muchas de las cuales se aplican para el procesamiento de lenguaje natural (natural language processing). Ver: PIETERS, MATHIJS, WIERING, MARCO, “Comparison of Machine Learning Techniques for Multi-label Ganre Classification”, en CUZZOCREA, ALFREDO, DU, XIAOYONG, KARA, ORHUN, LIU, TING, SLEZAK, DOMINIK, YANG, XIAOKANG (eds.), Communications in Computer and Information Science, Basilea, Springer, 2018. Disponible en: https://link.springer.com/.
rendimiento excepcional, ganando 100-0 contra AlphaGo (tecnología anterior, que ya había logrado notables logros).71
En consecuencia, las redes neuronales artificiales constituyen una visión diferente de los sistemas de IA “tradicionales”, al exhibir muchas técnicas que recuerdan al razonamiento humano: olvido de la información irrelevante; acceso a las memorias desde un gran número de pistas potenciales; degradación después del daño; y resistencia a los datos ruidosos y propensos a errores.72
Sin embargo, pese a ciertas iniciativas auspiciantes,73 este campo de la IA está en su “infancia”: las redes neuronales artificiales que se utilizan en la actualidad aun representan una gran simplificación de la anatomía cerebral, y sólo están preparadas para completar determinadas tareas específicas.74
3. Pasado, presente y futuro: juego de contrastes IA “débil” vs. IA “fuerte”
En 1980, el filósofo estadounidense John Rogers Searle introdujo las terminologías “débil” y “fuerte” (weak y strong, en su idioma original) para caracterizar a la IA, en aras de contestar la siguiente pregunta: ¿Qué significado psicológico y filosófico corresponde atribuir a los recientes esfuerzos tendientes a lograr que las computadoras
71 SILVER, DAVID, SCHRITTWIESER, JULIAN, SIMONYAN, KAREN, ANTONOGLOU, IOANNIS, HUANG, AJA, GUEZ, ARTHUR, HUBERT, THOMAS, BAKER, LUCAS, LAI, MATTHEW, BOLTON, ADRIAN, CHEN, YUTIAN, LILLICRAP, TIMOTHY, HUI, FAN, SIFRE, LAURENT, VAN DEN DRIESSCHE, GEORGE, GRAEPEL, THORE, HASSABIS, DEMIS, “Mastering the game of Go without human knowledge”, Nature, 2017. Disponible en: www.nature.com/articles/nature24270.
72 PRATT, IAN, “Neural Networks”, Artificial Intelligence. Macmillan Computer Science Series, 1994, pp. 216-217.
73 Existen grandes proyectos que pretenden revolucionar las redes neuronales artificiales. En este sentido, se destaca el liderado por Hiroshi Yamakawa, “Whole Brain Architecture Initiative”. Ver: https://wba-initiative.org/en/about.
74 MILLS, TERENCE, “Artificial General Intelligence Breakthroughs To Watch Out For In 2018”, Forbes, 2018. Disponible en: www.forbes.com/sites/forbestechcouncil/2018/06/18/artificial-general-intelligence-breakthroughs-to-watch-out-for-in-2018/#10bb30e86f83.
simulen las capacidades humanas cognitivas?, a la vez que ahondar en una duda existencial: ¿Las máquinas pueden pensar?75
Desde entonces, los especialistas suelen valerse de esta sencilla y práctica clasificación, para distinguir a la IA según sus usos y posibilidades: la IA “débil” (o IA propiamente dicha), comprendedora de la visión, el habla y diversos mecanismos computacionales de aprendizaje; y la IA “fuerte”, abarcadora de una posible conciencia y capacidad de sentir, cuya existencia –a diferencia de la anterior– es tan solo aspiracional.76
La IA “débil” se focaliza en ciertas tareas cognitivas que cualquier ser humano podría realizar: entre ellas se incluyen el marketing predictivo y los cálculos complejos, y comprende sistemas inteligentes de comercio de acciones, softwares de reconocimiento de voz e incluso la conducción automatizada.77 Las “decisiones” llevadas a cabo por los sistemas en cuestión se construyen a partir de datos empíricos suministrados con anterioridad, e involucran el aprendizaje automático –entre otras técnicas–.78
De acuerdo a esta vertiente, solo algunas características similares a las del pensamiento pueden ser agregadas a los instrumentos tecnológicos para dotarlos de mayor utilidad.79 En palabras de Searle, la IA “débil” aporta un gran valor para el estudio de la mente,
75 Las preguntas, en su idioma original, fueron escritas en los términos que siguen: “What psychological and philosophical significance should we attach to recent efforts at computer simulations of human cognitive capacities?”; y: “Could a machine think?”. Ver: SEARLE, JOHN R., “Minds, Brains, and Programs”, The Behavioral and Brain Sciences, 1980, pp. 417-424. Disponible en: web.csulb.edu/~cwallis/382/readings/482/searle.minds.brains.programs.bbs.1980.pdf.
76 Ver la intervención de Marcela Riccillo en: www.youtube.com/watch?v=WZuUba-sc1g. Para una mejor comprensión, recomendamos las infografías provistas por el siguiente link: https://iahuawei.xataka.com/inteligencia-artificial-debil-vs-fuerte-donde-llega-otra-infografia/.
77 MILLS, TERENCE, “Machine Learning Vs. Artificial Intelligence: How Are They Different?”, Forbes, 2018. Disponible en: www.forbes.com/sites/forbestechcouncil/2018/07/11/machine-learning-vs-artificial-intelligence-how-are-they-different/#47aaea4c3521.
78 MILLS, TERENCE, “AI Vs AGI: What's The Difference?”, Forbes, 2018. Disponible en: www.forbes.com/sites/forbestechcouncil/2018/09/17/ai-vs-agi-whats-the-difference/#250ac3b538ee.
79 KUMAR, ELA, Artificial Intelligence, Nueva Delhi, I.K. International Publishing House, 2013.
atento a que permite formular y probar hipótesis de una manera más precisa y rigurosa.80
En cuanto a la IA “fuerte”, su misión es simular genuinamente el razonamiento humano.81 En decir de Searle, la computadora no sería (en este contexto) simplemente una herramienta para el estudio de la mente; sino, más bien, la mente misma. Ello lleva a concluir que dicha tecnología podría “entender” y apoyarse en otros estados cognitivos.82 La máquina podría realizar cualquier tarea intelectual disponible para el ser humano. Es decir, si le pidiéramos a un robot que martille un clavo, no sería necesario programarlo para hacerlo: lo intentaría por sí solo, y sería capaz de aprender de sus errores e intentarlo nuevamente hasta logarlo con éxito. Al igual que un ser humano, no necesitaría que le enseñen a caminar; simplemente lo averiguaría a través de su experiencia.83
Sin embargo, el estado actual de la técnica aun no permite que las creaciones derivadas de la IA tomen decisiones intelectuales de naturaleza semejante a la del ser humano, o bien que involucren su característico “instinto”,84 o esencia creativa. Hasta los ejemplos más vislumbrantes (llámese Jetson, Aiva o AlphaGo) solo recopilan parte de esta condición, todavía exclusiva de los humanos.
80 SEARLE, JOHN R., “Minds, Brains, and Programs”, The Behavioral and Brain Sciences, 1980, pp. 417-424. Disponible en: web.csulb.edu/~cwallis/382/readings/482/searle.minds.brains.programs.bbs.1980.pdf.
81 HAMMOND, KRIS, “What is artificial intelligence?”, Computerworld, 2015. Disponible en: www.computerworld.com/article/2906336/what-is-artificial-intelligence.html.
82 SEARLE, JOHN R., “Minds, Brains, and Programs”, The Behavioral and Brain Sciences, 1980, pp. 417-424. Disponible en: web.csulb.edu/~cwallis/382/readings/482/searle.minds.brains.programs.bbs.1980.pdf.
83 MILLS, TERENCE, “Artificial General Intelligence Breakthroughs To Watch Out For In 2018”, Forbes, 2018. Disponible en: www.forbes.com/sites/forbestechcouncil/2018/06/18/artificial-general-intelligence-breakthroughs-to-watch-out-for-in-2018/#10bb30e86f83.
84 MILLS, TERENCE, “Artificial General Intelligence Breakthroughs To Watch Out For In 2018”, Forbes, 2018. Disponible en: www.forbes.com/sites/forbestechcouncil/2018/06/18/artificial-general-intelligence-breakthroughs-to-watch-out-for-in-2018/#10bb30e86f83; MARR, BERNARD, “A Short History of Machine Learning - Every Manager Should Read”, Forbes, 2016. Disponible en: www.forbes.com/sites/bernardmarr/2016/02/19/a-short-history-of-machine-learning-every-manager-should-read/#15466f4d15e7.
A modo de ejemplo, aún no existe una máquina que se disponga a entrar a una casa y lavar la ropa por su propia iniciativa; el número de decisiones y la energía intelectual que requeriría tornan su concreción lejana. Así, se dice que una máquina podría ser capaz de ubicar canastos y clasificar la ropa por colores. No obstante, ¿qué ocurriría con la ropa que fuera arrojada alrededor de la habitación desordenada de un adolescente? O, ¿cómo sabría la máquina qué artículos solo deben limpiarse en seco? Algunas decisiones que los humanos “dan por sentado”, hoy abrumarían la mente de una máquina.85 IA “estrecha” vs. IA “general”
Los sistemas de IA pueden emitir recomendaciones en función de su comportamiento pasado, aprender a reconocer imágenes a partir de ejemplos o tomar decisiones basadas en la síntesis de evidencia. Empero, todos ellos están limitados a una o más prácticas concretas, y no a una generalidad de tareas.86
En este sentido, los especialistas también se valen del vocablo “general” para describir a la IA que aspira a una visión holística o integral de la inteligencia, operando a través de sistemas cognitivos totalmente independientes (artificial general intelligence). En contraste, la IA “estrecha” se encuentra limitada a realizar tareas específicas y altamente restringidas (artificial narrow intelligence),87 tales como la predicción climatológica, la
85 MILLS, TERENCE, “AI Vs AGI: What's The Difference?”, Forbes, 2018. Disponible en: www.forbes.com/sites/forbestechcouncil/2018/09/17/ai-vs-agi-whats-the-difference/#250ac3b538ee.
86 HAMMOND, KRIS, “What is artificial intelligence?”, Computerworld, 2015. Disponible en: www.computerworld.com/article/2906336/what-is-artificial-intelligence.html.
87 No obstante, advertimos que ciertos autores asemejan a la IA “general” con la IA “fuerte”; y a la IA “débil” con la IA “estrecha” o “específica”. Ver: SURDEN, HARRY, “Artificial Intelligence and Law: An Overview”, Georgia State University Law Review, vol. 35, núm. 4, 2019, pp. 1305-1338. Disponible en: www.heinonline.org.
planificación del tiempo, el reconocimiento de voces humanas, la lectura de textos o la previsión en la agricultura.88
Originariamente, el objetivo que prevaleció en el campo de la IA fue construir “máquinas pensantes”, es decir, sistemas informáticos con inteligencia que se asemeje a la humana. Sin embargo, ante las dificultades que arrojó esta tarea,89 durante las últimas décadas la mayoría de los investigadores se han centrado en la IA “estrecha”. Es consecuencia de ello que hoy los sistemas de IA escapan a ciertas habilidades humanas tales como el razonamiento abstracto, la comprensión de conceptos, el entendimiento flexible, las habilidades generales de resolución de conflictos y el amplio espectro de funciones adicionales que están asociadas con la inteligencia humana.90
Como explica la argentina Micaela Mantegna, estos sistemas aún no han alcanzado el nivel de desarrollo equiparable a la IA “general”, “capaz de realizar generalizaciones y abstracciones en la forma en que funciona la cognición humana, sino de una forma limitada que sólo puede realizar aquellas tareas para las que fue entrenada.”91
Sin perjuicio de lo anterior, en los últimos años se ha reconocido la necesidad –y, sobre todo, la viabilidad– de retomar los objetivos originales planteados anteriormente. Así, la IA “general” ha sido objeto de nuevos estudios e investigaciones, entre las que se
88 Sobre esta última, ver: ARGERICH, GUILLERMO, “Trabajo e instrumentos de UNIDROIT en el área de la agricultura”, en FRESNEDO DE AGUIRRE, CECILIA, LORENZO IDIARTE, GONZALO (coord.), Jornadas por el 130 Aniversario de los Tratados de Montevideo de 1889. Legado y futuro de sus soluciones en el concierto internacional actual, Montevideo, Fondo de Cultura Universitaria, 2019, pp. 811-813.
89 Huelga decir que no es fácil lograrlo: las máquinas carecen de un cuerpo biológico, y son las vivencias corporales las que nos permiten comprender e interpretar desde los contextos concretos, contando con valores, emociones y sentimientos y sentido común. En el mejor de los casos, creemos que las máquinas simularían tener todos estos elementos, y simularían un sentimiento, ya que para sentir se necesita un cuerpo.
90 SURDEN, HARRY, “Artificial Intelligence and Law: An Overview”, Georgia State University Law Review, vol. 35, núm. 4, 2019, pp. 1305-1338. Disponible en: www.heinonline.org.
91 MANTEGNA, MICAELA, “Ok Computer: ¿de qué hablamos cuando hablamos de IA?”, en PETRELLA, IVÁN, MARZOCCA, PABLO, BEUN, ANTONIO (dir.), Ideas para la Argentina del 2030, Buenos Aires, Área Cuatro, 2019, p. 92. Disponible en: www.argentina.gob.ar/noticias/descarga-la-publicacion-ideas-para-la-argentina-del-2030.
destacan las “Conferencias en Inteligencia Artificial General”, que este año alcanzaron su duodécima edición, tras su inicio en 2008.92 Superinteligencia artificial
En adición, existen alusiones a una “superinteligencia artificial” (ASI, por sus siglas en inglés) que sería capaz de superar el intelecto humano. Lo mismo se pregona al hablar de “singularidad”, en referencia a la capacidad de una máquina de aprender, razonar, y tomar decisiones por sí misma.93 ¿Acaso los seres humanos quedaríamos despojados de nuestro lugar histórico, y relegados a ser un elemento más en la cadena evolutiva, que daría lugar a estos entes magnificentes?
En este contexto, la ciencia ficción y la realidad compartirían límites muy difusos: la máquina sería capaz de ejecutar funciones que por el momento solo se observan en los fastuosos robots de cine o literatura futurista. Sin embargo, tales premoniciones (“en cuyo diseño se adivinara una inteligencia inmortal”)94 no existen actualmente, y por el momento solo están reservadas para las bondades de la imaginación.95
92 Ver: http://agi-conf.org/.
93 Acerca del tema, ver: EDEN, AMNON H., MOOR, JAMES H., SØRAKER, JOHNNY H., STEINHART, ERIC, Singularity Hypotheses - A Scientific and Philosophical Assessment, Berlin, Springer, 2012.
94 BORGES, JORGE LUIS, “Historia del guerrero y de la cautiva”, en El Aleph, Buenos Aires, Emecé, 1973, p. 49.
95 HAMMOND, KRIS, “What is artificial intelligence?”, Computerworld, 2015. Disponible en: www.computerworld.com/article/2906336/what-is-artificial-intelligence.html; SURDEN, HARRY, “Artificial Intelligence and Law: An Overview”, Georgia State University Law Review, vol. 35, núm. 4, 2019, pp. 1305-1338. Disponible en: www.heinonline.org; KHAN, NORA N., “Towards a Poetics of Artificial Superintelligence”, Medium, 2015. Disponible en: https://medium.com/after-us/towards-a-poetics-of-artificial-superintelligence-ebff11d2d249; JAJAL, TANNYA D., “Distinguishing between Narrow AI, General AI and Super AI”, Medium, 2018. Disponible en: https://medium.com/@tjajal/distinguishing-between-narrow-ai-general-ai-and-super-ai-a4bc44172e22; entre otros.
III. PEQUEÑO ROBOT PERDIDO: EDUCACIÓN E IA
Llegó el momento de desaprender.96 A partir de allí, el primer paso que debemos dar es innovar, y en el campo de la educación ello se traduce en transformar la realidad generando soluciones que le permitan a los estudiantes instruirse mejor. Como destaca Manuel Álvarez Trongé, “los avances cambian la vida y hay que educar para la vida; si no, no estamos educando bien”.97
En este contexto, la cuestión se remonta a los siguientes interrogantes: ¿Qué entendemos por aprendizaje? Luego, ¿cómo podemos aprender de los datos?, ¿por qué ellos resultan tan importantes?98
Al respecto, Martín Palazzo enseña que “desde el momento en que podemos realizar registros ordenados de un sistema y almacenarlos en un dispositivo de memoria
96 Advertimos que dicho concepto no representa una suerte de antítesis de la educación; más bien promueve una reflexión acerca de su génesis, y una mejor comprensión de sus alcances. De tal manera, desaprender importa transitar un proceso retrospectivo con semejanzas a la deconstrucción derridiana, con el fin de lograr independizarse de ciertos conceptos o ideas adquiridas en el entorno de la enseñanza anterior, para comprender mejor las nuevas realidades.
97 STANG, SILVIA, “Manuel Álvarez Trongé: "La educación debería ser el principal camino para combatir la pobreza"”, La Nación, 2017. Disponible en: www.lanacion.com.ar/economia/manuel-alvarez-tronge-la-educacion-deberia-ser-el-principal-camino-para-combatir-la-pobreza-nid2067817.
98 PALAZZO, MARTÍN, “Aprender de datos: educación y exploración”, en PETRELLA, IVÁN, MARZOCCA, PABLO, BEUN, ANTONIO (dir.), Ideas para la Argentina del 2030, Buenos Aires, Área Cuatro, 2019, pp. 123-126. Disponible en: www.argentina.gob.ar/noticias/descarga-la-publicacion-ideas-para-la-argentina-del-2030.
El analfabeto del futuro no será la persona que no pueda leer, sino la persona que no sepa cómo aprender.
hablamos de datos”, y que estos últimos son un reflejo de la realidad, que funcionan como conectores directos de nuestra percepción con el entorno. En consecuencia, aprender de datos es una nueva forma de explorar la realidad que nos rodea: abre las puertas de la percepción, y permite observar con tal profundidad la naturaleza y los sistemas sociales, que le abre las puertas a un nuevo paradigma.99
El desafío de hoy se encuentra en nuestra capacidad de entrenar modelos de IA, y crear información útil desde la abundancia de datos crudos. Las dificultades a transitar, por su parte, reconocen su razón en el aumento de la complejidad de los procesos. Así, surge la necesidad de emprender los caminos que se avecinan con nuevos análisis y herramientas; en este sentido, la algoritmia emerge como un actor de singular importancia.100
Al respecto, Audrey Azoulay, Directora General de la UNESCO,101 reconoció que “la IA transformará profundamente la educación. Se van a revolucionar los métodos de enseñanza, las formas de aprender, de acceder al conocimiento, de capacitar a los docentes.”102
99 PALAZZO, MARTÍN, “Aprender de datos: educación y exploración”, en PETRELLA, IVÁN, MARZOCCA, PABLO, BEUN, ANTONIO (dir.), Ideas para la Argentina del 2030, Buenos Aires, Área Cuatro, 2019, pp. 123-126. Disponible en: www.argentina.gob.ar/noticias/descarga-la-publicacion-ideas-para-la-argentina-del-2030.
100 Como destaca Milagro Teruel, “brindar herramientas computacionales a la población habla de capacitación”, a la vez que de optimizar nuestro recurso más valioso: la educación. TERUEL, MILAGRO, “La importancia de saber ordenar un millón de libros”, en PETRELLA, IVÁN, MARZOCCA, PABLO, BEUN, ANTONIO (dir.), Ideas para la Argentina del 2030, Buenos Aires, Área Cuatro, 2019, pp. 171-174. Disponible en: www.argentina.gob.ar/noticias/descarga-la-publicacion-ideas-para-la-argentina-del-2030.
101 La UNESCO es la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (United Nations Educational, Scientific and Cultural Organization). Dicho organismo dispone de un mandato para abarcar todos los aspectos de la educación; y se le ha confiado la coordinación de la Agenda de Educación Mundial 2030 en el marco del Objetivo de Desarrollo Sostenible 4. Ver más en: https://es.unesco.org/.
102 El organismo sostiene que se debe garantizar una utilización inclusiva y equitativa a través de la IA; utilizar la IA para mejorar la enseñanza y el aprendizaje; promover el desarrollo de las capacidades en el trabajo y la vida cotidiana en la era de la IA; y proteger la utilización transparente y verificable de los datos relativos a la educación. Disponible en: https://es.unesco.org/news/como-inteligencia-artificial-puede-reforzar-educacion.
2. La IA en las escuelas: diversos usos
Begoña Gros Salvat, doctora en pedagogía, profesora titular de la Universidad de Barcelona y fecunda investigadora en temas relacionados a la educación, destaca que –entre las numerosas aplicaciones que tiene la IA en la educación– existen tres usos que están empezando a tener una incidencia relevante en la formación del estudiante del siglo XXI.103
El primero es la creación de plataformas online para el autoaprendizaje. En efecto, utilizar IA para optimizar la formación puede mejorar la participación de los estudiantes y aumentar las tasas de finalización de los cursos. Algunas plataformas como Khan Academy104 y Coursera105 ya utilizan IA para examinar los cuantiosos datos que ofrece la realidad, y encontrar patrones que ayuden a identificar qué lecciones son efectivas y cuáles necesitan algún tipo de revisión.106
Le siguen los agentes de software conversacionales inteligentes, conocidos mundialmente como chatbots. Estos cumplen el rol (complementario) de profesor o tutor en entornos virtuales de formación. El desarrollo de este tipo de softwares ha crecido muy rápidamente y, en trabajos recientes, se ha comprobado su utilidad de cara
103 GROS, BEGOÑA “Tres usos de la Inteligencia Artificial en educación”, Educación 3.0, 2018. Disponible en: www.educaciontrespuntocero.com/opinion/usos-de-la-inteligencia-artificial/95072.html.
104 La Khan Academy es una organización educativa sin ánimo de lucro creada en 2006 por el educador estadounidense Salman Khan, egresado del Instituto Tecnológico de Massachusetts y de la Universidad de Harvard. Su misión es “proporcionar una educación gratuita de nivel mundial para cualquier persona, en cualquier lugar”. Es una organización de aprendizaje electrónico en línea y gratuita, que cuenta con más de 4.300 vídeos dirigidos a escolares de enseñanza primaria y secundaria sobre matemáticas, biología, química, física, computación también humanidades, economía, finanzas e historia. Además de vídeos instructivos, también ofrece ejercicios de práctica y un panel de aprendizaje personalizado. Recientemente, recibió el Premio Princesa de Asturias de Cooperación Internacional 2019. Disponible en: https://es.khanacademy.org/.
105 Coursera es una plataforma de educación virtual nacida en octubre de 2011 y desarrollada por académicos de la Universidad de Stanford con el fin de brindar oferta de educación masiva a la población, con cursos en inglés y otros idiomas como el español, francés, italiano y chino. Coursera ofrece cursos –tanto gratuitos como pagos– sobre temas variados a niveles universitarios, abiertos a todos los sectores de la población. Disponible en: www.coursera.org/.
106 GROS, BEGOÑA “Tres usos de la Inteligencia Artificial en educación”, Educación 3.0, 2018. Disponible en: www.educaciontrespuntocero.com/opinion/usos-de-la-inteligencia-artificial/95072.html.
al futuro que se viene.107 En particular, se ha concluido que su implementación constituye un hito fundamental, que permitirá colaborar con los maestros y demás empleados administrativos en beneficio de los estudiantes.108
En tercer lugar, encontramos a la robótica educativa; esta supone robots que actúan como tutores en cursos virtuales. Entre los ejemplos que ofrece esta nueva realidad, es dable mencionar el programa Pearson, que –en colaboración con Watson e IBM–propone revolucionar el sistema educativo.109 Como subraya Begoña Gros Salvat, “la combinación de las capacidades cognitivas de Watson con los productos de aprendizaje digital pretende proporcionar a los estudiantes una experiencia de aprendizaje más inmersivo, y una manera fácil de obtener ayuda y conocimientos cuando lo necesiten al hacer preguntas en lenguaje natural como lo harían con otro estudiante o con un profesor.”110
3. ¿Enseñanza robótica?
La frontera entre la educación en el aula, el aprendizaje en línea y el aprendizaje auto dirigido se hace cada vez más difusa. Los tutores inteligentes podrán optimizar la búsqueda y el empleo de contenidos entre una inmensa cantidad de recursos disponibles, otorgándole al estudiante nuevas oportunidades de aprendizaje.
Las técnicas desarrolladas en IA para mejorar el ámbito educativo están dirigidas a los estudiantes en tareas formativas e instructivas; y a los profesores en tareas de diseño y
107 GROS, BEGOÑA “Tres usos de la Inteligencia Artificial en educación”, Educación 3.0, 2018. Disponible en: www.educaciontrespuntocero.com/opinion/usos-de-la-inteligencia-artificial/95072.html.
108 GARCIA BRUSTENGA, GUILLEM, FUERTES-ALPISTE, MARC, MOLAS-CASTELLS, NÚRIA, “Briefing paper: chatbots in education”, eLearn Center – Universitat Oberta de Catalunya, 2018, p. 28. Disponible en: https://doi.org/10.7238/elc.chatbots.2018.
109 Ver: https://www.pearson.com/english/catalogue/exam-prep/gold-experience/gold-experience-2e.html; y https://www.ibm.com/watson/education/pearson.
110 GROS, BEGOÑA “Tres usos de la Inteligencia Artificial en educación”, Educación 3.0, 2018. Disponible en: www.educaciontrespuntocero.com/opinion/usos-de-la-inteligencia-artificial/95072.html.
planificación de las actividades docentes.111 La injerencia de las tecnologías en los tiempos actuales exigen tomar conciencia de su importancia y utilidad, a la vez que promover su aplicación responsable.
Esto no significa que la figura del docente vaya a desaparecer: si bien nos vamos alejando de su estereotipo original, toda la influencia que pueda tener la IA en la enseñanza nunca podrá borrar aquellos maestros que nos han marcado. Tampoco podrá disminuir el estatus del rol del educador: “un nombre, una cara, una historia en la memoria (cognitiva y afectiva) de quien evoca y puede referir cómo esa persona aún hoy le sirve de inspiración.”112
111 Las aplicaciones educativas a partir del uso de técnicas de I.A. varían, básicamente, en función de los objetivos. Así, los tutoriales inteligentes, proponen la creación de programas que permitan transmitir un conocimiento previamente formalizado adoptando un tipo de conducta más “inteligente” que mejore el proceso de enseñanza a través de la máquina. Ver: GROSS, BEGOÑA, “La inteligencia artificial y su aplicación en la enseñanza”, Comunicación Lenguaje y Educación, vol. 13, 1992, pp. 73-80.
112 GIMÉNEZ ZAPIOLA, FERNANDO, “El estereotipo del maestro argentino”, en PETRELLA, IVÁN, MARZOCCA, PABLO, BEUN, ANTONIO (dir.), Ideas para la Argentina del 2030, Buenos Aires, Área Cuatro, 2019, pp. 63-66. Disponible en: www.argentina.gob.ar/noticias/descarga-la-publicacion-ideas-para-la-argentina-del-2030.
IV. SENTIDO GIRATORIO: TRABAJO E IA
1. Augurios repetidos
El advenimiento de la tecnología y la IA genera rechazos y temores. Sin embargo, lo anterior no es algo privativo de esta época: tras la Revolución Industrial, ejemplos abundan desde los “luditas”,113 hasta John Maynard Keynes, quién en 1930 ya advertía sobre el impacto de las nuevas invenciones haciendo alusión al “desempleo tecnológico”.114 También en el mundo artístico existieron grandes representaciones de aquellos miedos.115
Hoy, el promisorio desarrollo de la IA tiene (y tendrá) consecuencias en el ámbito laboral. Los robots están aumentando116 y asumiendo tareas que tradicionalmente le correspondían al ser humano. Sin embargo, conjuntamente –y al igual que en tiempos pasados–, se abren nuevos caminos y posibilidades.
113 Sobre los luditas, ver: DE CASTELLA, TOM, “¿Es usted ludita y no lo sabe?”, BBC, 2012. Disponible en: www.bbc.com/mundo/noticias/2012/05/120423_movimiento_ludita_palabra_movimiento_aniversario.
114 KEYNES, JOHN MAYNARD, “Economic Possibilities for Our Grandchildren”, en Essays in Persuasion, Nueva York, W. W. Norton & Company, 1963, pp. 358-373. Disponible en: www.econ.yale.edu/smith/econ116a/keynes1.pdf.
115 Al respecto, basta recordar a Charlie Chaplin en “Mundos Modernos” (1935).
116 Para 2019 se espera que funcionen 1,4 millones de nuevos robots industriales, es decir, 2,6 millones en total. Ver: BANCO MUNDIAL, Informe sobre el desarrollo mundial 2019: La naturaleza cambiante del trabajo, cuadernillo del “Panorama general”, Washington D.C., Banco Mundial, 2019. Disponible en: http://documents.worldbank.org.
2. Reportes sobre el empleo del siglo XXI La Organización Internacional del Trabajo
Recientemente, la Organización Internacional del Trabajo (“OIT”) concluyó que “la ola actual de aplicaciones basadas en inteligencia artificial promete ser el cambio tecnológico más grande y de mayor alcance observado en las últimas décadas”.117
Acerca de los temores generalizados por la falta de empleo, la OIT advierte que los riesgos principales no se vinculan estrictamente a lo anterior, sino más bien a una creciente inequidad en las distribuciones de ingresos, ante mayores concentraciones y desigualdades en el mercado. Al mismo tiempo, observa que la naturaleza y versatilidad de la IA permite la creación de sistemas expertos que son potencialmente beneficiosos para una amplia gama de ocupaciones, incluso aquellas “poco calificadas”. 118
En este juego de riesgos y oportunidades, la OIT recomienda una serie de políticas e implementaciones en el marco de la nueva economía digital. Entre ellas, se destacan: mejorar la distribución de sus beneficios (posiblemente, a través de un ajuste en los tratados fiscales internacionales), para evitar que las empresas digitales minen la base de ingresos de un país; otorgar una mayor protección de datos personales; promover una reducción continua en las horas de trabajo, especialmente entre aquellos países donde las extensas jornadas laborales siguen siendo la norma; compartir los ingresos de las
117 ERNST, EKKEHARD, MEROLA, ROSSANA, SAMAAN, DANIEL, The economics of artificial intelligence: Implications for the future of work, Ginebra, Organización Internacional del Trabajo, 2018, p. 26. Disponible en: www.ilo.org.
118 ERNST, EKKEHARD, MEROLA, ROSSANA, SAMAAN, DANIEL, The economics of artificial intelligence: Implications for the future of work, Ginebra, Organización Internacional del Trabajo, 2018, p. 27. Disponible en: www.ilo.org.
rentas de la innovación a través de políticas de participación en las ganancias; y pregonar por un desarrollo ético de la IA y sus algoritmos, entre otras.119 El Grupo Banco Mundial
El último “Informe sobre el desarrollo mundial” (The World Development Report, en su idioma original), elaborado por el Grupo Banco Mundial (“GBM”),120 alienta tranquilidad desde sus títulos: “La tecnología genera empleos”, reza uno de ellos. La IA “está creando oportunidades, preparando el camino para empleos nuevos y modificados, aumentando la productividad y mejorando la prestación de servicios públicos”, agrega su prólogo.121
En este sentido, la IA se proyecta como protagonista en el crecimiento de variadas industrias o sectores del mercado: automotriz; aviación; química; biotecnología; salud y asistencia sanitaria; infraestructura; minería, gas y petróleo; servicios profesionales; turismo; etc.122
No obstante, el Informe del GBM también pone de manifiesto que la automatización está “eliminando puestos de trabajo”,123 aunque explica que sus efectos son susceptibles
119 ERNST, EKKEHARD, MEROLA, ROSSANA, SAMAAN, DANIEL, The economics of artificial intelligence: Implications for the future of work, Ginebra, Organización Internacional del Trabajo, 2018, pp. 27-28. Disponible en: www.ilo.org.
120 El Grupo Banco Mundial fue creado en la Conferencia de Bretton Woods de 1944, y trabaja con los países en desarrollo con el fin de reducir la pobreza y aumentar la prosperidad compartida, proporcionando financiamiento, asesoramiento en materia de políticas y asistencia técnica a los Gobiernos; también se centra en el fortalecimiento del sector privado. Ver más en: https://www.bancomundial.org/es/about/history/the-world-bank-group-and-the-imf.
121 BANCO MUNDIAL, Informe sobre el desarrollo mundial 2019: La naturaleza cambiante del trabajo, cuadernillo del “Panorama general”, Washington D.C., Banco Mundial, 2019. Disponible en: http://documents.worldbank.org.
122 FORO ECONÓMICO MUNDIAL, The Future of Jobs Report 2018: Centre for the New Economy and Society, Ginebra, Foro Económico Mundial, 2018, pp. 42 y ss. Disponible en: reports.weforum.org/future-of-jobs-2018/?doing_wp_cron=1564634648.8476519584655761718750.
123 BANCO MUNDIAL, Informe sobre el desarrollo mundial 2019: La naturaleza cambiante del trabajo, cuadernillo del “Panorama general”, Washington D.C., Banco Mundial, 2019, p. 2. Disponible en: http://documents.worldbank.org.
de dilatación en el tiempo según cómo, cuándo y de qué manera se adopte la tecnología; y cuál sea el contexto y las características de la población destinataria de ella.
Respecto a la Argentina, el GBM nota que la implementación de la tecnología ha promovido una importante rotación laboral en detrimento de los trabajadores “no calificados”, a raíz de la eliminación de ciertos empleos (mayormente, dentro del sector de manufacturas), y la creación de otros. Paralelamente, el GBM destaca que los trabajos “calificados” aumentaron en todas sus categorías.124 Algo similar descubre en el resto del mundo. El Foro Económico Mundial
El Foro Económico Mundial (“FEM”) también investigó sobre este tema, y extrajo un posible escenario para 2022. Allí destaca los trabajos “emergentes”, y aquellos en “decadencia”, como consecuencia de la automatización125 y el avance de las nuevas tecnologías.126
Veamos: la empresa israelí Mobileye está desarrollando unidades de navegación para vehículos autónomos; Baidu pretende incorporar autobuses autónomos en los parques industriales de China; Sberbank utiliza IA para tomar el 35% de las decisiones en materia de préstamos (prevé aumentar ese porcentaje al 70%, en menos de cinco años),
124 BRAMBRILLA, IRENE, TORTAROLO, DARÍO, “Investment in ICT, Productivity, and Labor Demand: The Case of Argentina”, Policy Research Working Paper 8325, Washington D.C., Banco Mundial, 2018, p. 3.
125 Se estima que la automatización del trabajo podría alcanzar en los próximos años el 42% en Bolivia, el 56% en Lituania y el 55% en Japón, por ejemplo. Ver: BANCO MUNDIAL, Informe sobre el desarrollo mundial 2019: La naturaleza cambiante del trabajo, cuadernillo del “Panorama general”, Washington D.C., Banco Mundial, 2019, pp. 21-22. Disponible en: http://documents.worldbank.org. La OIT, ante una eventual consolidación de la IA “general”, alerta sobre un posible cambio de la automatización de la fuerza laboral, a la automatización de la “fuerza del cerebro”, a partir de máquinas que podrían adquirir nuevas habilidades y competencias a un ritmo incontrastable. Ver: ERNST, EKKEHARD, MEROLA, ROSSANA, SAMAAN, DANIEL, The economics of artificial intelligence: Implications for the future of work, Ginebra, Organización Internacional del Trabajo, 2018, p. 28. Disponible en: www.ilo.org.
126 RATCHEVA, VESSELINA S., LEOPORD, TILL, “5 things to know about the future of Jobs”, World Economic Forum, 2018. Disponible en: www.weforum.org/agenda/2018/09/future-of-jobs-2018-things-to-know/.
y los “robots abogados”127 ya remplazaron a 3000 empleados de su departamento jurídico; Ant Financial utiliza macro datos para evaluar los acuerdos de préstamo; etc.128 Todo se transforma, diría Antoine Lavoisier.
En este contexto, el FEM señala que dentro de los trabajos “emergentes” sobresaldrían científicos; especialistas en aprendizaje automático; desarrolladores y analistas de software; expertos en big data; servicios de IT; y conocedores de las nuevas tecnologías en general. También se alistarían profesionales de marketing; gerentes generales; y otros especialistas en desarrollo organizacional.
Por el contrario, se advierte un descenso de secretarias administrativas; personal a cargo del ensamblaje en fábricas; gente de atención e información al cliente; contadores; auditores; y empleados de correo, entre otros trabajos en “decadencia”.
El panorama que presta la escena laboral del futuro supone la apertura de nuevos trabajos y oportunidades que reemplazarán a otros de mayor automatización o poca injerencia creativa, sin que ello de lugar –necesariamente– a la disminución de la oferta laboral. No obstante, el futuro no está exento de riesgos, y habrán de promoverse políticas en miras a la igualdad de oportunidades.
127 Al respecto, existe una verdadera tentación para hablar de fatalismos. Ilustrativo de ello es el popular blog español Jurista Enloquecido, que profesa: “2039: Los jueces son robots superinteligentes que imprimen la sentencia al momento de acabar el juicio en base a todas las leyes que tienen en la base de datos y los argumentos de las partes. Doctrina y Jurisprudencia son unánimes por una vez en la vida. 2051: Los abogados robots cruzan datos con jueces robots y se crea un pensamiento jurídico común. Muchas posiciones quedan sin defensa.” En: FERNÁNDEZ HERNÁNDEZ, ADRIÁN, GENDE, ABEL, “El Apocalipsis Jurídico - ¿Cómo será el futuro para los juristas?”, Jurista Enloquecido, 2019. Disponible en: https://juristaenloquecido.com/2019/03/21/el-apocalipsis-juridico/.
128 BANCO MUNDIAL, Informe sobre el desarrollo mundial 2019: La naturaleza cambiante del trabajo, cuadernillo del “Panorama general”, Washington D.C., Banco Mundial, 2019, p. 21. Disponible en: http://documents.worldbank.org.
Las llamadas “habilidades blandas” cumplirán un rol protagónico129 y ofrecerán oportunidades significativas de cara a lo que viene.130 Reiko Kanda, vicepresidente ejecutiva del Nippon Institute for Research Advancement131 agrega que también deberá prestarse atención a las habilidades relacionadas con el uso y dominio de las nuevas tecnologías. Finalmente, ella concluye que “es necesario que las instituciones públicas realicen más investigaciones sobre las habilidades que se necesitan en la era de las computadoras.”132
Ante esta realidad, se proponen nuevos términos y realidades, tales como “Industria 4.0” o “Trabajador 4.0”,133 en alusión a una cuarta revolución industrial.134 Sumado a ello, se esbozan nuevos paradigmas: Joseph Aoun, entre otros, refiere a una “nueva alfabetización”, tanto tecnológica, como social.135 Ante la inexorabilidad del cambio, implora la adaptación.
129 WECHSLER, MARIANO, “Abogadores y contadores en la ‘era del conocimiento’”, La Ley, 2007, p. 10.
130 FORO ECONÓMICO MUNDIAL, The Future of Jobs Report 2018: Centre for the New Economy and Society, Ginebra, Foro Económico Mundial, 2018. Disponible en: reports.weforum.org/future-of-jobs-2018/?doing_wp_cron=1564634648.8476519584655761718750.
131 Para profundizar sobre esta organización no gubernamental de Japón, ver: http://english.nira.or.jp/.
132 ORGANIZACIÓN INTERNACIONAL DEL TRABAJO, “Future of Employment in the Age of Artificial Intelligence”, ILO, 2017. Disponible en www.ilo.org/wcmsp5/groups/public/---asia/---ro-bangkok/---ilo-tokyo/documents/genericdocument/wcms_569870.pdf.
133 SARRIÉS SANZ, LUIS, “El trabajador del futuro en la industria 4.0”, Negocios en Navarra, 2016. Disponible en: www.negociosennavarra.com/trabajador-del-futuro-la-industria-4-0/.
134 SCHWAB, KLAUS, “The Fourth Industrial Revolution”, World Economic Forum, 2016. Disponible en: www.weforum.org/about/the-fourth-industrial-revolution-by-klaus-schwab.
135 AOUN, JOSEPH, Robot-Proof – Higher Education in the age of Artificial Intelligence, Cambridge, Massachusetts, The MIT Press, 2017.
V. EL CONFLICTO EVITABLE: DERECHO E IA136
1. Tiempos modernos: ¿Hermandando a el derecho y la tecnología?
Desde aquella primera concepción de la “inteligencia artificial” en 1956 no solo ha transcurrido más de medio siglo, sino también un sinfín de experiencias tecnológicas que se extienden –cada vez más ostensiblemente– al campo del derecho, ávido creador de ficciones.137
Si bien el concepto de IA ha sido utilizado con poca frecuencia (e incluso mirado con recelo) en el ámbito jurídico, es posible encontrar algunos augurios. En efecto, a fines de los años 40 apareció la “computación legal”. Luego, los años 70 fueron el tiempo de los “sistemas legales expertos” para el tratamiento de la información legal;138 su principal función: recoger, agrupar y ordenar un conjunto infinito de legislación, jurisprudencia y doctrina que, librada al destino, parecía representar un camino
136 Sumado a lo que veremos en esta sección, acompañamos una recopilación de las publicaciones que ha seleccionado idealex.press el 27 de julio de 2019 referida a las aplicaciones en el mundo jurídico. ¿Cómo ha evolucionado la utilización de esta herramienta en la prestación de servicios legales? En: http://idealex.press/mercado-legal/derecho-e-inteligencia-artificial-ponte-al-dia/.
137 El mundo del derecho ya se ha aventurado con innovaciones jurídicas de otra clase que, sin tener relación con la IA, nos transportan a un mundo de ficción. Un claro ejemplo es la creación de las personas jurídicas.
138 FERNÁNDEZ HERNÁNDEZ, CARLOS, BOULAT, PIERRE, “Inteligencia Artificial y Derecho. Problemas y perspectivas”, Noticias Jurídicas, 2015. Disponible en: noticias.juridicas.com/conocimiento/articulos-doctrinales/10061-inteligencia-artificial-y-derecho-problemas-y-perspectivas/.
imposible para los operadores del derecho.139 Aquellos años 70 también fueron testigos de los primeros estudios técnicos y concretos sobre el tema.140 Seguidamente, los años 80 y posteriores dieron lugar a novedosas construcciones, a desarrollar más adelante.
A pesar de la expansión de este nuevo actor emergente, el panorama actual del derecho nos muestra que “la aplicación de la IA se relaciona principalmente a tareas que requieren de una mayor automatización o repetición rutinaria y una menor capacidad de toma de decisiones”.141 Así, vemos que las tareas acaparadas por la IA se limitan esencialmente al almacenamiento documental y a la gestión, en particular para: delimitar las fuentes de derecho susceptibles de ser aplicadas a un conflicto específico; realizar investigaciones exhaustivas, en el marco de procesos de due diligence u otros; evaluar estadísticas judiciales y proporcionar tasas de probabilidad de éxito, o montos probables a fijarse en una sentencia futura.
Al respecto, Hugo Acciarri encuentra algunas explicaciones a partir de un rasgo típico de los operadores del derecho frente a la innovación: su constante énfasis en los peligros eventuales.142 Aun sin llegar a pensar que la IA sea mala per se, sobrevuelan planteamientos relativos a problemas de seguridad, privacidad u opacidad en su operatoria.143 En este sentido, Philipp Hacker señala que la IA no debe percibirse solo como un riesgo, sino más bien como una oportunidad de construir con precisión normas que la recepten y la regulen adecuadamente.144
139 En tal escenario, se ajustan las palabras que dejó Borges en “Laberinto”: No esperes que el rigor de tu camino / que tercamente se bifurca en otro, / que tercamente se bifurca en otro, / tendrá fin...
140 BUCHANAN, BRUCE G., HEADRICK, THOMAS E., “Some Speculation about Artificial Intelligence and Legal Reasoning”, Stanford Law Review, vol. 23, núm. 1, 1970.
141 FERNÁNDEZ, DIEGO, “El impacto de la inteligencia artificial en el derecho”, La Ley, 2007, pp. 6-7.
142 ACCIARRI, HUGO, “Smart contracts, criptomonedas y el Derecho”, La Ley, 2019.
143 ACCIARRI, HUGO, “Smart contracts, criptomonedas y el Derecho”, La Ley, 2019.
144 HACKER, PHILIPP, “Teaching fairness to artificial intelligence: existing and novel strategies against algorithmic discrimination under EU law”, Common Market Law Review, vol. 55, núm. 4, 2018, p. 1184. Disponible en: http://kluwer.com/.
Es evidente que existe un interés generalizado –tanto dentro como fuera de la comunidad legal– en abordar los desafíos únicos que plantean las tecnologías digitales para el mundo del derecho y la sociedad en general. Si bien estas tecnologías tienen mucho que ofrecer, se necesita incrementar la investigación científica sobre su aplicación. Los legisladores y los científicos sociales deben tener cuidado de no sobreestimar su potencial: sin una colaboración interdisciplinaria, las visiones del futuro digital serán borrosas, y el análisis legal será anticuado.145
2. La nueva gestión: el sector jurídico frente a la IA
Los sistemas de gestión en el entorno del derecho hoy son una realidad. Estos pueden ser catalogados dentro de dos ámbitos bien diferenciados: los sistemas de recuperación documental jurídica; y los sistemas jurídicos expertos. Los primeros, consisten en grandes almacenes digitales de ciertas clases de textos (por lo general, de tipo legislativo o jurisprudencial) que facilitan una consulta automatizada.146
En cambio, los sistemas jurídicos expertos (también llamados sistemas jurídicos basados en el conocimiento) prometen ser la principal fuente de aplicación de la IA en el campo del derecho. Estos sistemas tratan de emular algunos de los procesos cognitivos llevados a cabo por los abogados, jueces y fiscales, quienes, guiados por las
145 KOLAIN, MICHAEL, “Artificial Intelligence, Robotics and the Law: Current Research Projects and Unsolved Legal Questions – Report of the first RAILS-Conference on 23 March 2018 in Hannover”, en European Review of Private Law, vol. 27, núm. 3, 2019, pp. 654-655. Disponible en: www.kluwerlawonline.com.
146 El acceso a la información jurídica es un derecho básico en cualquier Estado de Derecho. En general, la ley se presume conocida por todos/as, pero sabemos que no siempre es así en la práctica. En consecuencia, es fundamental generar y garantizar un acceso fácil y sencillo para el conocimiento de la información jurídica. En Argentina contamos con el Sistema Argentino de Información Jurídica (SAIJ), un banco de datos jurídicos dependiente de la Secretaría de Justicia del Ministerio de Justicia y Derechos Humanos de la Nación (ver en: http://www.saij.gob.ar/). Por Resolución 122/1995 (MJyDH) se creó la “Red Nacional de Información Jurídica”, que presta un servicio de información jurídica documental en línea. La Red permite facilitar la ampliación del acervo documental de la base de datos del SAIJ a nivel nacional y ha logrado federalizar la información. Ver más en: MARTÍNEZ BAHENA, GORETTY CAROLINA, “La inteligencia artificial y su aplicación en el campo del derecho”, Revista Alegatos, núm. 82, 2012, p. 833. Disponible en: www.corteidh.or.cr/tablas/r30570.pdf.
reglas del procesamiento de la información del ámbito jurídico, manejan los discursos mencionados para solucionar los problemas que plantea su interpretación y/o aplicación al enfrentarse con casos prácticos en el ejercicio de su profesión.147 El Poder Judicial y sus recelos históricos
En el ámbito del derecho, la aplicación de la IA en los procesos de gestión se incrementa día a día. Sin embargo, la tecnología es poco utilizada en el ámbito del Poder Judicial aun teniendo mucho para ofrecerle: la tecnología y la IA pueden resultar de gran utilidad para eliminar barreras de acceso a la justicia, promover la transparencia y rendición de cuentas, lograr una mayor relación interinstitucional y, en general, brindar un servicio judicial más eficiente.
Una administración de justicia digital e inteligente, al servicio de los derechos de las personas, presupone garantizar un funcionamiento óptimo a través de la innovación permanente.148 Así, los procedimientos administrativos clásicos de la justicia deben transformarse de manera radical frente a este nuevo paradigma que se produce por el impacto de las tecnologías de la información y de la comunicación.
La aparición de la vía administrativa electrónica o digital implica la consolidación de los siguientes principios en el tratamiento de la información: integridad, inalterabilidad, perdurabilidad, conservación y resguardo. Como corolario, los sistemas jurídicos deben tender a lograr la efectividad de los derechos, intentando desarrollar mecanismos útiles y eficientes para su protección.
147 MARTÍNEZ BAHENA, GORETTY CAROLINA, “La inteligencia artificial y su aplicación en el campo del derecho”, Revista Alegatos, núm. 82, 2012, p. 833. Disponible en: www.corteidh.or.cr/tablas/r30570.pdf.
148 Los objetivos de la visión de futuro sobre las políticas judiciales propuestos por el Ministerio de Justicia en el marco de la Agenda 2030 refieren al progreso del expediente judicial, incorporación de la automatización y de la IA, reingeniería de la oficina judicial, implementación de calidad, datos públicos, desburocratización de trámites registrales en favor del ciudadano, una comunicación electrónica efectiva y la aplicación de IA y blockchain para brindar seguridad informática. Ver más en: www.argentina.gob.ar/noticias/justicia-2030-una-vision-de-futuro-sobre-las-politicas-judiciales.
Pero, más allá de este deber ser, ¿cómo es y será la administración de justicia en este nuevo milenio? Acaso, ¿las generaciones venideras confiarán más en la resolución de conflictos a través de sistemas de IA, por oposición a la justicia humana?
El profesor Antonio Boggiano nos introdujo al espinoso tema de la justicia administrada bajo algoritmos en la conferencia inaugural del XXX Congreso Argentino de Derecho Internacional (2018), organizado por la Asociación Argentina de Derecho Internacional en la Universidad Nacional de Rosario. Allí, el reconocido internacionalista describió a la cuestión como algo ineludible.
En este sentido, los investigadores en IA y derecho han comenzado a diseñar proyectos de sistemas computacionales que puedan simular los procesos de pensamiento de los jueces.149 Sin embargo, al igual que sucede con los docentes, sus finalidades serían de auxilio al juzgador, sin que ello implique la sustitución de la figura de quien imparte justicia.150
El primer escalón hacía aquella meta es el de la justicia predictiva. Como su nombre lo indica, esta supone pasar del procesamiento a la predicción, en base a los documentos judiciales que se encuentran a nuestra disposición en formato digital para el análisis a gran escala.151 El conocimiento que se puede obtener a partir de estos puede proporcionar información sobre las correlaciones entre las situaciones, los
149 El ejercicio de la función judicial está vinculado con los procesos de pensamiento que realizan los que imparten justicia para resolver los conflictos sometidos a su consideración, en los que convergen la ley, los hechos, las pruebas, criterios jurisprudenciales, etc. Martínez Bahena nos explica que las sentencias, en sus diversos considerandos, reflejan cómo los jueces estructuran los insumos cognitivos que les fueron proporcionados durante el juicio para llegar a la conclusión que finalmente los lleva a dictar una sentencia.
150 MARTÍNEZ BAHENA, GORETTY CAROLINA, “La inteligencia artificial y su aplicación en el campo del derecho”, Revista Alegatos, núm. 82, 2012, p. 828. Disponible en: www.corteidh.or.cr/tablas/r30570.pdf.
151 Prometea, desarrollada en el transcurso de 2017 por el Ministerio Público Fiscal, es la primera IA predictiva al servicio de la Justicia en Argentina. Este sistema trabaja con un asistente de voz y permite realizar un dictamen jurídico de manera íntegra. Ver: CORVALÁN, JUAN G., “La primera inteligencia artificial predictiva al servicio de la Justicia: Prometea”, La Ley, 2017.
comportamientos y las decisiones judiciales.152 Por ejemplo, los patrones de comportamiento de los litigantes, abogados y jueces pueden ser detectados y puestos a disposición del público en general. Los algoritmos también pueden decirnos la probabilidad de que una decisión legal pueda ser fijada en un caso particular, ya sean en materia de costos, honorarios, sanciones monetarias, etc.
Peldaños más arriba, nos encontramos con una actuación tecnológica de mayor intensidad: la posibilidad de que la IA imparta justicia valiéndose de sus propios medios, que sus decisiones sean susceptibles de crear efectos legales. Esta situación (aún hipotética) nos ofrece varios interrogantes nunca antes planteados:
¿Es válida la toma de decisiones automática que produce efectos legales? ¿Tienen las personas el derecho de exclusión voluntaria frente a este sistema? ¿Existe un derecho a obtener intervención humana para expresar su punto de vista y para impugnar la decisión? ¿Es correcto que los jueces basen sus sentencias en una herramienta de IA para predecir probabilidades? ¿Son mejores las decisiones adoptadas por las máquinas ya que tienen acceso a mayor cantidad de información que la que tienen los jueces humanos? ¿Los valores pueden ser tenidos en cuenta por un algoritmo?
Responder los enigmas anteriores escapa a las posibilidades de este texto. Sin embargo, es posible generalizar y aventurarnos en la siguiente pregunta: ¿La resolución final de un caso puede quedar en manos de la IA?
152 Otros avances en el aprendizaje automático y el mapeo mental pueden hacer posible lograr predicciones de resultados razonablemente precisas en un caso particular. Por ejemplo, un programa que se alimentó con un conjunto de datos de decisiones de muestra del Tribunal Europeo de Derechos Humanos fue capaz de predecir el resultado de otros casos con 79% de precisión al buscar relaciones entre palabras, secuencias de palabras y grupos de palabras que indiquen uno resultado u otro. Los programas basados en la predicción también pueden manejar ciertas tareas de “expertos”, por ejemplo, al evaluar rápidamente un rango de posibles cifras de daños al manipular una serie de entradas.
En Estonia, la respuesta es afirmativa: allí se preparan para tener “jueces robot” basados en IA,153 que comenzarán por intervenir en juicios menores que involucren disputas de 7.000 euros o menos. La IA permitiría acelerar decenas de casos atrasados que los jueces y secretarios judiciales no pueden hacer frente actualmente. Aunque Estonia no es el único país que ha unificado la IA y la ley, sí podría ser el primero en darle autoridad para tomar decisiones.154 El arbitraje: aliado a las nuevas tecnologías
La gestión del procedimiento arbitral ha receptado en gran medida los avances tecnológicos. Esta bienvenida a la modernización nace de la natural libertad reinante en sus procedimientos; y también encuentra fundamentos en la apertura institucional.155 Los profesionales del arbitraje, las partes y los miembros del tribunal pueden utilizar los avances tecnológicos para hacer que los arbitrajes internos y, especialmente los internacionales, sean más eficientes, más rentables, más seguros y más dinámicos.
Entre las nuevas realidades que se le ofrecen el mundo arbitral, destacan: Brainspace (software que combina el aprendizaje automático y el análisis visual para interpretar mares de datos y ayudar con su revisión); Lex Machina (tecnología que, a través de la IA, encuentra y distingue tendencias en disputas anteriores y las aplica a un caso concreto, en función del juzgador); y MindManager (programa de mapeo mental,
153 Los “jueces robot” se encuentran todavía en una primera fase de prueba por parte de abogados y jueces. Su aplicación funcionará de la siguiente manera: las dos partes cargarán sus documentos e información relevante del caso en una plataforma, donde la IA tomará una decisión que pueda ser apelada por un juez “humano”. Ver: www.thetechnolawgist.com/2019/06/12/estonia-se-prepara-para-tener-jueces-robot-basados-en-inteligencia-artificial/.
154 En los Estados Unidos, por ejemplo, los algoritmos se ofrecen para colaborar en las decisiones judiciales penales de algunos estados. Un caso conocido es aquel impulsado por DoNotPay, que ayudó a anular 160.000 multas de aparcamiento en Londres y Nueva York en los últimos años.
155 En este sentido, vale subrayar un reciente reporte del año 2017 elaborado por la Cámara de Comercio Internacional sobre la tecnología de la información (“IT”, por sus siglas en inglés) y el arbitraje internacional, en dónde se concluyó que “los beneficios de la IT en el arbitraje superan a los riesgos”, alentando su uso. Para acceder al documento oficial, ingresar a: https://iccwbo.org/media-wall/news-speeches/benefits-arbitration-outweigh-risks-says-new-icc-report/.
diseñado para gestionar visualmente la información y las tareas a tratar),156 así como impresoras 3D para la presentación de evidencia, contratos inteligentes (smart contracts) y cadenas de bloques (blockchain).157
También vislumbran la escena arbitral sistemas de comunicación mediante videoconferencia (tales como Cisco TelePresence) y realidad virtual, para conectar a partes, testigos, expertos, árbitros y asesores en lugares geográficamente distantes. Su objetivo: reducir los costos y mejorar la eficiencia, la conveniencia y la eficacia del arbitraje transfronterizo, al otorgar una mayor claridad, calidad y seguridad.158
Al respecto, se ha constatado que la recopilación, revisión y producción de documentos electrónicos puede ser una de las fases más costosas y prolongadas del arbitraje, particularmente cuando hay una gran cantidad de documentos electrónicos potencialmente relevantes para revisar.159 En este sentido, los avances en ingeniería de software y aprendizaje automático pueden hacer que los procesos de recopilación, revisión y producción de documentos electrónicos sean más eficientes y rentables.160
156 Ver más en: https://www.ibanet.org/technology-resources-for-arbitration-analyticaltools.aspx.
157 Al respecto, y sobre Kleros, ver: AST, FEDERICO, “The Kleros Ecosystem: the Future of Decentralized Arbitration”, Medium, 2018. Disponible en: https://medium.com/kleros/the-kleros-ecosystem-the-future-of-decentralized-arbitration-ee79507e9af6.
158 Ver: www.ibanet.org/technology-resources-for-arbitration-analyticaltools.aspx.
159 Existen otro tipo de propuestas para abordar esta problemática sin necesidad de recurrir a la IA. Entre ellas destacamos la facultad del tribunal arbitral para limitar la producción de documentos. Ver: ARGERICH, GUILLERMO, DA SILVA ESTEVES, FRANCISCO, JORGE, JUAN, “Reglas de Praga: ¿novedoso espaldarazo del soft law al poder de los árbitros en el arbitraje internacional?”, en ALEGRÍA, HÉCTOR, ETCHEVERRY, RAÚL A., Revista de Derecho Comercial y de las Obligaciones, núm. 294, Ciudad de Buenos Aires, Abeledo Perrot, 2019, pp. 303-312; ARGERICH, SOL, “A Comparison of the IBA and Prague Rules: Comparing Two of the Same”, Kluwer Arbitration, 2019. En: arbitrationblog.kluwerarbitration.com/2019/03/02/a-comparison-of-the-iba-and-prague-rules-comparing-two-of-the-same/.
160 El uso de plataformas de software de revisión de documentos se ha vuelto muy común en los arbitrajes que involucran una gran cantidad de documentos. Este software permite que se carguen, revisen, codifiquen y produzcan grandes volúmenes de datos desde una única plataforma que se pueda alojar en una única ubicación central (es decir, en un estudio de abogados, cliente o proveedor) o de forma remota a través de una conexión segura accesible a través de la Internet. Una vez que los documentos están alojados en una plataforma de software, existe la posibilidad de reducir el volumen de datos electrónicos a través de herramientas de eliminación de documentos tempranas, como la identificación casi duplicada y el envío de mensajes por correo electrónico. Los documentos se pueden separar en categorías más manejables mediante la conversión de archivos de imagen a través del reconocimiento óptico de
De todas formas, un árbitro humano es quién otorga legitimidad al proceso; en la mediación, por ejemplo, la reputación y el encanto del mediador además pueden ser muy útiles para la resolución de la disputa.161 Así, como concluyó recientemente Gauthier Vannieuwenhuyse en el marco de las conferencias llevadas a cabo bajo el nombre “Arbitration X Technology” (Sciences Po, 2018), el arbitraje conducido por humanos aún no está acabado. La IA no auspicia reemplazarnos, sino proveernos de mayores recursos para un mayor beneficio de la comunidad arbitral.162 La intromisión de la IA en el estudio jurídico
Los estudios jurídicos pueden potenciar su efectividad al adoptar esta poderosa tecnología, con el resultado de ganar productividad e invertir menos tiempo en tareas monótonas, repetitivas.
Las funciones legales que la IA puede automatizar en el estudio consisten fundamentalmente en la investigación jurídica, atento a la capacidad de las máquinas para leer más de un millón de páginas de textos normativos en escasos segundos (y a su vez encontrar los pasajes exactos que necesitan los abogados); y la revisión de documentos y contratos, gracias a la capacidad de los algoritmos para controlar la consistencia de los contratos, y su vez alertar sobre las fechas relevantes de ellos.
caracteres (OCR) en documentos editables y de búsqueda, indización de documentos, identificación de términos clave, agrupación de conceptos e identificación de idiomas extranjeros. Los programas de software también pueden identificar archivos de medios, transcribir sus contenidos y buscar dentro de ellos para ayudar a localizar documentos clave. A modo de ejemplo, destacamos Relativity, que ofrece herramientas de búsqueda avanzadas, a la vez que aprendizaje automático y aplicaciones creadas a partir de más de 50 desarrolladores, para ayudar a los usuarios con la revisión y producción de documentos. Ver: www.relativity.com/.
161 SIM, CHRISTINE, “Will artificial intelligence take over arbitration?”, Asian International Arbitration Journal, vol. 14, núm. 1, 2018, p. 13.
162 DOKOPOULOU, LITO, “Arbitration X Technology: A Call For Awakening?”, Kluwer Arbitration Blog, 2019. Disponible en: http://arbitrationblog.kluwerarbitration.com/2019/01/14/arbitration-x-technology-a-call-for-awakening/.
Sin perjuicio de ello, también se destacan innovaciones reveladoras: Hypo, de 1987 (sistema ideado a partir del CBR,163 para aplicar el razonamiento jurídico en el derecho de patentes); Shyster, de 1993 (software diseñado para brindar asesoría legal sobre jurisprudencia, previamente delimitada); Ross, de 2014 (idea concebida por IBM, que cuenta con un perfil propio en las redes sociales, y responde a preguntas legales, brindando hipótesis y conclusiones sencillas luego de procesar y analizar las fuentes del derecho que se encuentran a su disposición);164 y otras tales como Premonition; MarginMatrix; y Verifi.165
La IA ofrece la posibilidad de manejar muchas tareas cotidianas, permitiéndole a los abogados dedicar más tiempo al análisis, asesoramiento, negociaciones y visitas a los tribunales. Sin embargo, esto puede afectar el trabajo de los jóvenes (estudiantes o recientes abogados) que se incorporan a los estudios a realizar –usualmente– las tareas que realiza la IA.166
3. Caso de estudio: smart contracts y blockchains. ¿Un contrato puede ser inteligente?
Los “contratos inteligentes” (smart contracts) pueden ser considerados la aplicación de cadenas de bloques (blockchains) más transformadora de este momento.167 Su trascendencia legal, además, puede verificarse considerando las principales cuestiones que hoy reclaman los actores comerciales: seguridad jurídica, estandarización y
163 Las siglas “CBR” aluden a case-based reasoning (en español, “razonamiento basado en casos”).
164 Al respecto, se advierte -según estudios comparativos- que Ross resuelve en veinte minutos, lo que cualquier hombre haría en veinte días. Ver: WECHSLER, MARIANO, “Abogadores y contadores en la ‘era del conocimiento’”, La Ley, 2007, p. 10.
165 FERNÁNDEZ, DIEGO, “El impacto de la inteligencia artificial en el derecho”, La Ley, 2007, pp. 6-7.
166 Así lo han estimado varias encuestas realizadas sobre el papel de los abogados noveles y asistentes legales. Ver: PALACE, VICTOR M., “What If Artificial Intelligence Wrote This: Artificial Intelligence and Copyright Law”, Florida Law Review, vol. 71, 2019, p. 221.
167 Los “contratos inteligentes” automatizan los pagos y la transferencia de divisas u otros activos a medida que se cumplen las condiciones negociadas. Por ejemplo, un contrato inteligente podría enviar un pago a un proveedor tan pronto como se entregue un envío. Una empresa podría señalar a través de blockchain que se ha recibido un bien en particular. Ver más en: IANSITI, MARCO, LAKHANI, KARIM R., “The Truth About Blockchain”, Harvard Business Review, 2017.
regulación unificada.168
Más allá de la adjetivación que ostenta (quizás, aventuradamente), esta nueva modalidad contractual contrasta fuertemente con sus antecesoras:169 refiere a un conjunto de instrucciones electrónicas autoejecutables, redactadas en código de computadora y valiéndose de la tecnología de cadena de bloques como plataforma; lejos del papel y su firma ológrafa.
Por su parte, la cadena de bloques representa una base de datos dónde constan todas las transacciones o acciones digitales que se han ejecutado y compartido entre los participantes. Entre aras de garantizar certeza y seguridad, la información introducida nunca se puede borrar; y el sistema contempla un registro cierto y verificable de cada acción.170
Los “contratos inteligentes” cubren una gran variedad de escenarios: desde un contrato escrito por completo en base a códigos, donde éstos estructuran las relaciones entre las partes; hasta otro donde solo algunos de los términos contractuales son automatizados, como las condiciones de pago.
La mecánica de su aplicación, cambia y cambiará profundamente las transacciones legales, ya que las instrucciones electrónicas provistas en este tipo de contratos se ejecutan automáticamente en función de las condiciones predeterminadas que se registren en la cadena de bloques. Por ejemplo, en el contexto de un contrato de
168 Ver, al respecto, el resumen elaborado por la Comisión de las Naciones Unidas para el Derecho Mercantil Internacional y el Instituto Internacional para la Unificación del Derecho Privado, en el marco de los talleres llevados a cabo en Roma del 7 al 9 de mayo de 2019, sobre las cuestiones derivadas del uso de contratos inteligentes, inteligencia artificial y tecnología de contabilidad distribuida. Para acceder al documento original, ingresar a: www.unidroit.org/english/news/2019/190506-unidroit-uncitral-workshop/conclusions-e.pdf.
169 Sobre el uso del término “inteligencia”, remitimos a los párrafos en honor a la brevedad.
170 CROSBY, MICHAEL, NACHIAPPAN, MURUGAPPAN, PATTANAYAK, PRADAN, VERMA, SANJEEV, KALYANARAMAN, VIGNESH, “BlockChain Technology: Beyond Bitcoin”, Applied Innovation Review, núm. 2, 2016.
opciones codificado en una cadena de bloques, el promisor permanece en el anonimato y el contrato puede asignarse a cualquier otra persona. Cuando se produce el evento desencadenante, como un precio de ejercicio, el contrato se ejecuta de acuerdo con los términos codificados sin las instrucciones de un organismo centralizado.171
Pese al entusiasmo que propician estos contratos, corresponde hacer algunas aclaraciones. En primer lugar, aun no es posible establecer con certeza su marco regulatorio. Al respecto, un reciente reporte elaborado en conjunto por la Comisión de las Naciones Unidas para el Derecho Mercantil Internacional y el Instituto Internacional para la Unificación del Derecho Privado,172 advierte lo anterior y describe (tan solo potencialmente) ciertas fuentes de derecho que podrían resultar aplicables: la Convención de las Naciones Unidas sobre la Utilización de las Comunicaciones Electrónicas en los Contratos Internacionales; la Ley Modelo de la CNUDMI sobre Comercio Electrónico; y los Principios UNIDROIT sobre los Contratos Comerciales Internacionales, entre otros.
En segundo lugar, no todos los “contratos inteligentes” son contratos en el sentido legal. De hecho, para que este contrato se considere un acuerdo legalmente vinculante, habrá que observar el derecho contractual de cada jurisdicción, así como de las particularidades de cada “contrato inteligente”. En la ya mencionada actividad organizada por la Comisión de las Naciones Unidas para el Derecho Mercantil Internacional y el Instituto Internacional para la Unificación del Derecho Privado, se ha dicho que para ser considerados “contratos” y resultar válidos y ejecutables, estos deben
171 MAXELL, WINSTON, VANNIEUWENHUYSE, GAUTHIER, “Robots Replacing Arbitrators: Smart Contract Arbitration”, ICC Dispute Resolution Bulletin, núm. 1, 2018.
172 Ver: www.unidroit.org/english/news/2019/190506-unidroit-uncitral-workshop/conclusions-e.pdf.
cumplir con todos los requisitos esenciales de un contrato.173
En definitiva, pese a los desafíos que generan, la cadena de bloques y los “contratos inteligentes” permitirán transparentar las transacciones económicas globales y a su vez generar los incentivos para mantener una economía descentralizada, donde no sea necesario tener autoridades humanas que son siempre potencialmente corrompibles.174
4. Algunos desafíos legales La regulación de la IA
Así como asistimos al auge de la IA, también percibimos la necesidad de contar con una regulación legal adecuada. Sin embargo, por el momento nos encontramos en un estadío en que la codificación ha sido emprendida –en líneas generales– por manos privadas: son las compañías tecnológicas (y no los Estados) quienes ocupan un lugar preponderante en el desarrollo ético y jurídico de la IA.
En 2016, grandes multinacionales (Amazon, Apple, Google, Facebook, IBM y Microsoft) constituyeron la “Asociación para la IA” (Partnership on Artificial Inteligence),175 en un intento de colaborar entre sí y tejer un marco que cobije el futuro de estas tecnologías. En particular, para estudiar y consensuar las mejores prácticas sobre las tecnologías de la IA.176
173 Para acceder al documento original resultante de esta jornada, ingresar a: www.unidroit.org/english/news/2019/190506-unidroit-uncitral-workshop/conclusions-e.pdf.
174 SIRI, SANTIAGO, “El 2030 nos encontrará programando o programados”, en PETRELLA, IVÁN, MARZOCCA, PABLO, BEUN, ANTONIO (dir.), Ideas para la Argentina del 2030, Buenos Aires, Área Cuatro, 2019, p. 160. Disponible en: www.argentina.gob.ar/noticias/descarga-la-publicacion-ideas-para-la-argentina-del-2030.
175 Ver: www.partnershiponai.org/.
176 Un dato significativo es que ninguna de las principales empresas chinas de IA, como Alibaba, Tencent o Baidu, ha anunciado que vayan a unirse a dicha Asociación. Aquí vemos la relatividad de la eficacia y representación de todos los actores en juego.
En 2017, Deep Mind (compañía líder en IA) presentó un comité de ética (llamado DeepMind Ethics & Society)177 “para ayudar a los tecnólogos a poner en práctica la ética, y para ayudar a la sociedad a anticipar y dirigir el impacto de la IA de manera que trabaje para el beneficio de todos”.178
Estas iniciativas son loables, pero no suficientes. Es imprescindible que los Estados garanticen el cumplimiento del derecho en general, y los principios fundamentales consagrados en las constituciones nacionales o los tratados internacionales vigentes.
Las naciones no han alcanzado posiciones definitivas sobre cómo debe regirse la IA. Tampoco lo han hecho las entidades supranacionales: pese a ciertas iniciativas, aún no han desarrollado acabadamente los mecanismos de regulación necesarios para aprovechar al máximo el potencial de la IA, además de prevenir sus riesgos. Pero, ¿por qué necesitamos una regulación jurídica imperativa?
La IA decide cuestiones vitales, tanto económicas como sociales. Son tan importantes las decisiones que pueden originarse en la IA, que podemos citar a modo de ejemplo la utilización de los robots asesinos autónomos en los ejércitos,179 hasta los meros algorítmicos que, embadurnados con ciertos sesgos, pueden incidir de manera
177 Ver: https://deepmind.com/blog/why-we-launched-deepmind-ethics-society/.
178 BARRIO, MOISÉS, “¿Deben los Estados regular la inteligencia artificial?”, El País, 2018. Disponible en: https://retina.elpais.com/retina/2018/09/25/tendencias/1537869431_203848.html.
179 La carencia de políticas legislativas concretas y específicas urge la creación de organizaciones por fuera de la estructura estatal. En el caso de los robots asesinos autónomos, se destaca una coalición de 112 organizaciones no gubernamentales, que lleva adelante la llamada “Campaña para Frenar a los Robots Asesinos” (Campaign to Stop Killer Robots) en 56 países del mundo. Su objetivo: prohibir las armas totalmente autónomas. Para mayor información, acceder a: https://www.stopkillerrobots.org/about/. Vale destacar que, como consecuencia de sus iniciativas, organismos tales como las Naciones Unidas han comenzado a advertir sobre los riesgos de esta tecnología. Ver: MOTOYAMA, SONO, “Inside the United Nations’ effort to regulate autonomous killer robots”, The Verge, 2018. Disponible en: www.theverge.com/.
discriminatoria sobre la libertad condicional de un preso.180 Si un ser humano tomara estas decisiones, siempre estaría sujeto a una norma legal.
Ante las grandes injerencias que tiene (y tendrá) la IA en nuestras vidas, la autorregulación no basta; un conjunto de normas voluntarias no acabaría siendo totalmente eficaz. En este sentido, la regulación nacional y supranacional aparece como una tarea difícil, pero no imposible.
En la República Argentina asistimos a una prueba de ello, cuando en 2016 se diseñó el Plan de Modernización Nacional,181 que prosiguió el camino legislativo vinculado a las tecnologías de la información y de la comunicación, iniciado a través de las leyes 26.522 (“Servicios de Comunicación Audiovisual”) y 27.078 (“Ley Argentina Digital”). Mientras que la primera ley puso énfasis en la construcción de una sociedad de la información y el conocimiento que priorice la alfabetización mediática y la eliminación de las brechas en el acceso al conocimiento y las nuevas tecnologías; la segunda declaró de interés público al desarrollo y a los recursos asociados a las tecnologías de la información y de la comunicación.182 Si bien estas normas no regulan la IA específicamente, el Estado argentino se enrola en un cambio de paradigma que se relaciona con la optimización, la mejora continua y la importancia de la implementación de prácticas innovadoras.
En adición, el ámbito global también ofrece ciertas regulaciones específicas. Así, dentro del mundo de las creaciones e invenciones, un estudio de la Organización Mundial de la Propiedad Intelectual (“OMPI”)183 nos muestra el rápido crecimiento que se ha visto en
180 Remitimos a lo expuesto sobre COMPAS.
181 Decreto 434/2016, 1/3/2016, Ministerio de Modernización.
182 CORVALÁN, JUAN G., “¿Qué hay de nuevo, viejo? Reformas al procedimiento administrativo nacional (Decretos nros. 891/17 y 894/17) - Parte I”, Diario DPI, núm. 176, 2017. Disponible en: https://dpicuantico.com/sitio/wp-content/uploads/2017/11/Corval%C3%A1n-Administrativo-07.11.pdf.
183 Acceder al documento original en: www.wipo.int/edocs/pubdocs/en/wipo_pub_1055.pdf.
los últimos cinco años respecto a las solicitudes de patentes relacionadas a la IA.184 Vale notar que el crecimiento significativo de patentes en un campo determinado se observa –generalmente– mucho tiempo después de las publicaciones científicas; en la mayoría de las técnicas hay un retraso de 10 años. Sin embargo, encontramos una excepción en la IA.185
En cuanto a la regulación de los litigios en las disputas legales sobre patentes de IA, la OMPI cuenta con un aceitado procedimiento que permite resolver en forma más o menos rápida y eficiente este tipo de temas.186
Otro caso interesante es el de los automóviles sin conductor. Desde hace 150 años, y hasta hace poco tiempo, el auto se regía exclusivamente por dos principios básicos: tenía un motor a combustión y un volante desde el cual un ser humano lo conducía. Sin embargo, la disrupción llegó: hoy ya existen vehículos totalmente eléctricos que no requieren de un conductor.187 El auto pasó a convertirse prácticamente en una computadora con ruedas, donde el software embebido en el vehículo, y la información que genera, es más importante que los componentes estructurales. La movilidad ya no
184 Ha disminuido el patentamiento de la investigación teórica referida al uso de tecnologías de IA en productos y servicios comerciales, aunque existió un crecimiento significativo en aplicaciones específicas de IA. Ver: www.wipo.int/edocs/pubdocs/en/wipo_pub_1055.pdf.
185 Según la OMPI, cerca de 340,000 familias de patentes y más de 1.6 millones de artículos científicos relacionados con IA fueron publicados desde 1960 hasta principios de 2018.
186 Según la información de la OMPI, los datos disponibles sobre litigios y casos de oposición de diferentes regiones se pueden analizar para identificar tendencias a lo largo del tiempo, así como a las partes más activas como demandantes y demandados: 1.264 familias de patentes de AI se mencionan en casos de litigio y 4.231 se mencionan en casos de oposición para el período 1975 a 2017 (los años corresponden a los primeros años de prioridad de las patentes implicadas en los casos de litigio / oposición). Hay 492 familias de patentes mencionadas en ambos tipos de disputa. Los tres principales demandantes en casos de litigio son Nuance Communications, American Vehicular Services y Automotive Technologies International, mientras que Microsoft, Apple y Alphabet son los principales demandados. Los mayores declarantes de oposiciones a las patentes de AI son Siemens, Daimler y Giesecke + Devrient, mientras que los principales acusados en oposiciones son Samsung, LG Corporation y Hyundai.
187 Cada vez es más frecuente escuchar casos en Europa donde los jóvenes ya no compran autos ni obtienen la licencia de conducir. Por el contrario, eligen utilizar el servicio del viaje en auto y combinarlo con otros modos de transporte a efecto de ganar en tiempo y costos. Esto atrajo a nuevos actores a jugar el juego de la movilidad, como Google (que hoy manufactura autos autónomos), o Uber (que está comenzando a hacerlo).
es un juego industrial, es un juego de software.188
Así aparece en escena la necesidad de determinar cómo se regulará la ética y los estándares de conducción autónoma.189 Algunos países con normativa de avanzada han adoptado en sus ordenamientos algunas disposiciones relativas a los vehículos autónomos, con varios matices en cuanto a funcionalidad y requisitos.190
Todo aquello que aparece como nuevo para el derecho genera reacciones y enfrentamientos, pero a nivel nacional (y supranacional) los Estados deberán abordar los desafíos regulatorios de la IA. Ello no implica que las voces de las empresas no sean escuchadas al momento de redactarse las normas para los sistemas en cuestión; por el contrario, es indispensable lograr una tarea conjunta para arribar a un resultado inclusivo.
188 VIDAL, ALEJO, “La nueva demanda de movilidad y los desafíos del futuro”, en PETRELLA, IVÁN, MARZOCCA, PABLO, BEUN, ANTONIO (dir.), Ideas para la Argentina del 2030, Buenos Aires, Área Cuatro, 2019, pp. 188-190. Disponible en: www.argentina.gob.ar/noticias/descarga-la-publicacion-ideas-para-la-argentina-del-2030.
189 El Instituto Tecnológico de Massachusetts ha diseñado una “máquina moral”, la cual consiste en una plataforma online que recopila la perspectiva humana acerca de las decisiones tomadas por las máquinas inteligentes, como los autos autónomos. Sus objetivos: construir una imagen multitudinaria (usando “crowdsourcing”) de la opinión de los humanos sobre cómo las máquinas deben tomar decisiones cuando se enfrentan a dilemas morales; y permitir la construcción y discusión de posibles escenarios con implicaciones morales por una multitud de individuos. Disponible en: http://moralmachine.mit.edu/hl/es.
190 Estados Unidos, a través de sus distintas jurisdicciones, es uno de los países que más ha avanzado en la materia. Así, California autorizó la utilización de los vehículos autónomos en las vías públicas con fines de prueba (legislación SB 1298 y modificatorias). Columbia ha ido más allá: permitió la circulación de vehículos autónomos en vías públicas, siempre y cuando estos posean una función de anulación manual que permita a un conductor asumir el control en cualquier momento. Además, mientras esté en funcionamiento el conductor debe estar sentado en el asiento de control (Autonomous Vehicle Act, del 2012). También en 2012, Florida tuvo su primera legislación (HB 1207), y en el 2016 se eliminó la exigencia de que el vehículo deba estar en prueba y que un conductor esté presente en el vehículo (HB 7027). El Estado de Arkansas reguló las pruebas de vehículos con tecnología autónoma (HB 1754, del 2017). Colorado, Connecticut, Georgia y Tennessee también tienen regulaciones acerca de este tipo de vehículos, con distinto alcance cada una de ellas. Otros países líderes en la industria automotriz como Japón y Corea del Sur presentan avances al respecto en sus legislaciones. Ver más en: DANESI, CECILIA C., “Inteligencia artificial y responsabilidad civil: un enfoque en materia de vehículos autónomos”, La Ley, 2018.
Por más que pretenda ignorarse, es un hecho que la IA está invadiendo nuestras vidas en todas sus facetas: desde ropa anexada a tecnologías para conectarse al celular, y controlar la temperatura corporal; hasta relojes inteligentes que sirven como teléfono, reproductor de música, controlador de constantes vitales y videojuegos; además de chatbots capaces de mantener una conversación con una persona para hacer una reserva, realizar trámites y pagar multas; y reconocimientos autónomos de matrículas de vehículos en vías públicas y estacionamientos.191
El uso de estas tecnologías plantea cuestionamientos legales, tales como si ello supone una vulneración de la intimidad de las personas, o una invasión en la privacidad de los actos de nuestras vidas. Coincidimos con Sebastián Bortnik cuando asevera que, al hablar de privacidad, nos referimos al derecho de las personas a decidir qué parte de su vida esté resguardada por la confidencialidad, es decir, quién puede (y quién no) conocer determinadas situaciones y opiniones.192 Su importancia es de tal magnitud, que hasta la Declaración Universal de los Derechos Humanos la consagra como un derecho humano (artículo 12).193
Ante ello, compartimos algunos interrogantes: ¿Cuál es el alcance de nuestro derecho a la privacidad? ¿Cuánto nos importa defenderla?194 ¿Qué instrumentos normativos
191 LÓPEZ, JAVIER, “¿Son compatibles inteligencia artificial y privacidad?”, Byte, 2019. Disponible en: www.revistabyte.es/legalidad-tic/inteligencia-artificial-privacidad/.
192 BORTNIK, SEBASTIÁN, “‘Como nene con chiche nuevo’: resignificar la privacidad”, en PETRELLA, IVÁN, MARZOCCA, PABLO, BEUN, ANTONIO (dir.), Ideas para la Argentina del 2030, Buenos Aires, Área Cuatro, 2019, pp. 35-38. Disponible en: www.argentina.gob.ar/noticias/descarga-la-publicacion-ideas-para-la-argentina-del-2030.
193 Recordamos que dicha Declaración se encuentra incorporada expresamente a la Constitución Nacional argentina, en su artículo 75, inciso 22; y en consecuencia ostenta jerarquía constitucional.
194 Al respecto, Sebastián Bortnik hace bien en destacar que “existe una dicotomía respecto a este tema, bien representada en una célebre frase de 1984 de George Orwell: “Hasta que no tomen conciencia
no se rebelarán, y sin rebelarse no podrán tomar conciencia”. No es posible mejorar cuánto cuidamos la privacidad sin educación al respecto”. En: BORTNIK, SEBASTIÁN, “‘Como nene con chiche nuevo’: resignificar la privacidad”, en PETRELLA, IVÁN, MARZOCCA, PABLO, BEUN, ANTONIO (dir.), Ideas para la
deberían velar por nuestra privacidad? ¿Cómo debe utilizar una empresa u organización los datos que posee por su actividad? ¿Cuáles son los límites en la protección de datos de los seres humanos?
Es harto conocido que las empresas comercializan información de sus clientes con otras empresas; o que los partidos políticos utilizan bases de datos de organismos públicos para obtener ventajas competitivas; ello ocurre en casi todo el mundo. El Estado posee cada vez más información sobre sus ciudadanos y el hecho de que esa información esté digitalizada, hace mucho más sencilla su correlación y entrecruzamiento. Cuáles son los límites a estas prácticas, y qué finalidad otorgarles a ellas, son cuestiones elementales para tener en consideración.195
Ante esta urgida necesidad legislativa, recalcamos el nuevo Reglamento General de Protección de Datos de la Unión Europea,196 que ha establecido los requisitos específicos para las empresas y organizaciones sobre recolección, almacenamiento y gestión de datos personales. Estas normas se aplican tanto a las organizaciones europeas que tratan datos personales de ciudadanos en la UE, como a las organizaciones que tienen su sede fuera de la UE y cuya actividad se dirige a personas que viven en la UE.
Argentina del 2030, Buenos Aires, Área Cuatro, 2019, p. 37. Disponible en: www.argentina.gob.ar/noticias/descarga-la-publicacion-ideas-para-la-argentina-del-2030.
195 Algo interesante de la privacidad –en tanto tema a debatir– es que tiene implicancias privadas (en el hogar, en lo cotidiano) y públicas (en el Estado, en las leyes). BORTNIK, SEBASTIÁN, “‘Como nene con chiche nuevo’: resignificar la privacidad”, en PETRELLA, IVÁN, MARZOCCA, PABLO, BEUN, ANTONIO (dir.), Ideas para la Argentina del 2030, Buenos Aires, Área Cuatro, 2019, pp. 35-38. Disponible en: www.argentina.gob.ar/noticias/descarga-la-publicacion-ideas-para-la-argentina-del-2030.
196 Para conocer el Reglamento, acceder a: https://europa.eu/youreurope/business/dealing-with-customers/data-protection/data-protection-gdpr/index_es.htm.
VI. ATRAPA ESA LIEBRE: ÉTICA E IA
1. Consciencia del futuro: próximos dilemas
Joseph Aoun plantea, con ciertos aires paradojales (aunque no por ello quitándole verdad), que uno de los desafíos de este siglo es “humanizar” a la tecnología, en especial, a la IA.197 A ello, el autor agrega proyectar la ética en sus avances, y enfatizar las cuestiones necesarias para educar al robot del futuro con conciencia social.198 En
197 AOUN, JOSEPH, Robot-Proof – Higher Education in the age of Artificial Intelligence, Cambridge, Massachusetts, The MIT Press, 2017.
198 Tal es así, que el mapa de habilidades pensado para 2022 abarca: aprendizaje activo y estrategias de aprendizaje; pensamiento crítico y análisis; resolución de problemas complejos; liderazgo e influencia social; inteligencia emocional; razonamiento, resolución de problemas e ideación; entre otras. Ver: RATCHEVA, VESSELINA S., LEOPORD, TILL, “5 things to know about the future of Jobs”, World Economic Forum, 2018. Disponible en: www.weforum.org/agenda/2018/09/future-of-jobs-2018-things-to-know/.
“Las Tres Leyes de la Robótica”, en Manual de Robótica, 56° Edición, Año 2058.
juego y debate siempre está el sensacional antagonismo (o pseudo antagonismo) entre las máquinas y los hombres.
Pero, ¿qué significa la ética de la IA? Acaso, ¿es la que deben practicar desde sus “valores” los sistemas inteligentes (llámese máquinas, algoritmos, robots), o es la ética que los seres humanos deberíamos adoptar para construir los sistemas inteligentes, e interactuar con ellos? A fin de responder estas preguntas con mayor precisión, es necesario distinguir las clases de IA –según las cuales correspondería el análisis de cuestiones éticas diferentes–. Acerca de la superinteligencia artificial
La superinteligencia artificial –recordamos– es aquella que permite proyectar posibilidades de superación del ser humano, en algún futuro incierto. Obviamente, cómo ya hemos visto al comienzo de este texto, existen dudas acerca de si estos pronósticos van a cumplirse, pero la sola hipótesis ya abre un mundo de cuestiones éticas.
¿Aflige algún deber moral el hecho de construir seres presuntamente superiores, que plantearán problemas como el de la convivencia entre dos “especies”, una superior y otra inferior (la nuestra)? ¿No estaríamos abonando un mundo de amos y esclavos, en que los segundos no tendrían la menor posibilidad de revolución, sino que estarían a merced de las superinteligencias?
Por otra parte, ¿cuál será la ética de esas máquinas? No creemos que puedan manejarse con valores tales como el respeto, la solidaridad o la justicia, esenciales para nosotros. Serían los propios sistemas superinteligentes los que irían proponiendo sus valores; acaso emergería una “ética de las IA”, que ya no estaría en nuestras manos.
Preguntas en torno a la IA “fuerte” o “general”
La IA “fuerte” o “general”, es decir, aquella inteligencia que pretende asemejarse a la humana, también provoca grandes abordajes éticos. Sin embargo, las cuestiones a tratar en este caso difieren sustancialmente de las anteriores.
Presupongamos que tales tecnologías llegasen a ser entes autónomos: en tal caso, correspondería aceptar que son personas, y que –por ende– merecerían el reconocimiento de derechos y obligaciones. Aunque parezca lejano, actualmente la Comisión de Asuntos Jurídicos del Parlamento Europeo propuso crear una personalidad jurídica específica para los robots de modo que se los considere “personas electrónicas”, con derechos y deberes específicos (incluyendo la obligación de reparar los daños que pudieran causar).199
Al respecto, vale destacar la labor del jurista estadounidense Lawrence Solum, quién concluyó que aun no se puede dar una respuesta acabada a la pregunta de si la IA debe gozar de personalidad jurídica. Ello –aclaró el autor– estará aplazado hasta el momento en que nuestra forma de vida se vea urgida de dar una respuesta a dicha pregunta.200 Sin embargo, también advirtió diversos ejemplos históricos (desde los templos en Roma y los edificios de la iglesia en la Edad Media, que fueron considerados sujetos de derechos; hasta las personas jurídicas, tales como las sociedades o las entidades
199 Resolución del Parlamento Europeo, del 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica (2015/2103). Disponible en: www.europarl.europa.eu/doceo/document/TA-8-2017-0051_ES.html?redirect.
200 Si bien el autor sentenció aquello en 1992, al día de hoy las circunstancias generales (a saber, la inexistencia de tecnologías provistas de IA “fuerte” o “general”) no se ven alteradas, por lo que sus palabras mantienen vigencia. Ver: SOLUM, LAWRENCE B., “Legal Personhood for Artificial Intelligences”, North Carolina Law Review, vol. 70, num. 4, 1992, pp. 1231-1287.
gubernamentales) que dan a cuenta la posibilidad de proceder con dicha regulación, aun cuando se trataren de meras ficciones.201
Siguiendo esta hipótesis, las tecnologías provistas de IA serían “ciudadanos” del mundo político, elegibles como representantes en sociedades democráticas;202 así surgiría una auténtica democracia algorítmica. IA “débil” o “estrecha”: la ética bajo el prisma del presente
Por último, en la IA “débil” o “estrecha” (es decir, aquella limitada a realizar ciertas tareas concretas, aunque provista de algoritmos suficientemente sofisticados),203 por su carácter instrumental, la perspectiva de los dilemas que presenta debe ser otra en comparación a las anteriores: no se trata, pues, de una ética de los sistemas inteligentes; sino de cómo orientar la intervención humana en estos sistemas para resolver los problemas actuales y futuros.204
Nos centraremos en ésta última situación (la actual) para enfocar el tema ético de la IA; siempre teniendo en cuenta que los marcos de esta índole difieren notablemente de los jurídicos, que son los que únicamente pueden elaborar los legisladores estatales o internacionales. Partimos de la base que las reglas éticas solo vinculan en el fuero interno y conllevan –en caso de incumplimiento– cuestionamientos de conciencia, o el “pecado” y hasta la “condena eterna”; mientras que las reglas jurídicas nos vinculan en el fuero externo, acarreando su incumplimiento responsabilidades, sanciones, multas o
201 SOLUM, LAWRENCE B., “Legal Personhood for Artificial Intelligences”, North Carolina Law Review, vol. 70, num. 4, 1992, p. 1239.
202 Al respecto, no es posible olvidar a Stephen Byerley, el robot-humano imaginado por Isaac Asimov en “Yo, Robot” que concluye coordinando las cuatro regiones de aquel mundo futurista.
203 DIEDRICHS, ANA LAURA, “Etica 2.0”, en PETRELLA, IVÁN, MARZOCCA, PABLO, BEUN, ANTONIO (dir.), Ideas para la Argentina del 2030, Buenos Aires, Área Cuatro, 2019, pp. 53-54. Disponible en: www.argentina.gob.ar/noticias/descarga-la-publicacion-ideas-para-la-argentina-del-2030.
204 VIDAL, ALEJO, “La nueva demanda de movilidad y los desafíos del futuro”, en PETRELLA, IVÁN, MARZOCCA, PABLO, BEUN, ANTONIO (dir.), Ideas para la Argentina del 2030, Buenos Aires, Área Cuatro, 2019, pp. 188-190. Disponible en: www.argentina.gob.ar/noticias/descarga-la-publicacion-ideas-para-la-argentina-del-2030.
incluso penas de prisión. Entonces nos enfrentamos al siguiente dilema: ¿Cómo es posible programar a la IA para que pueda incluir un enfoque jurídico y ético, o al menos evitar discriminaciones u otras determinaciones sesgadas?
La ética tiene, y tendrá cada vez más, un rol decisivo en el establecimiento de límites a los sesgos que puedan encontrarse, tanto en los datos, como en la construcción de los modelos de IA. En este sentido, suscribimos las siguientes palabras de Micaela Mantegna: “La oscuridad es otro de los puntos cuestionables de estas técnicas, cargadas de secretos y falta de transparencia. Sea por una cuestión de diseño, complejidad técnica o limitaciones impuestas por la propiedad intelectual, la mayoría de los modelos empleados son opacos e inescrutables. Cuando además de la fórmula empleada desconocemos los datos de entrenamiento y de salida, la ecuación se vuelve de resolución imposible. Las construcciones y asunciones que se hagan a partir del empleo de algoritmos van a permanecer ajenas a los afectados, pero incidiendo sobre ellos, en un mundo en el que la toma de decisiones basadas sobre datos es donde se debería apuntar”.205
2. ¿Son suficientes las Tres Leyes de la Robótica? Introspección
A medida que investigamos la ética en general, para luego aplicarla al tema central de nuestro trabajo, un pensamiento recurrente vuelve a nuestras mentes: si la ética es el conjunto de normas morales que rigen la conducta de las personas en cualquier ámbito
205 MANTEGNA, MICAELA, “Ok Computer: ¿de qué hablamos cuando hablamos de IA?”, en PETRELLA, IVÁN, MARZOCCA, PABLO, BEUN, ANTONIO (dir.), Ideas para la Argentina del 2030, Buenos Aires, Área Cuatro, 2019, p. 93. Disponible en: www.argentina.gob.ar/noticias/descarga-la-publicacion-ideas-para-la-argentina-del-2030.
de la vida, si su objetivo es el comportamiento de las personas, ¿tiene sentido que las máquinas sigan principios éticos?206
Aunque por el momento no se han llegado a institucionalizar las “Tres Leyes de la Robótica” –ideadas por Isaac Asimov,207 e incluidas al inicio de esta sección–, lo cierto es que las empresas e instituciones se han inspirado en estos conceptos para buscar sus propios principios éticos que preserven los derechos y libertades de los seres humanos, sin frenar el desarrollo tecnológico.
Sin embargo, encontramos voces que opinan que no existe una amenaza real por parte de los robots, y que el miedo proviene de la historia de la cultura y de las tradiciones religiosas. Barthelmess y Furbach afirman que no hay razón para implementar las leyes de Asimov,208 o que al menos no habría necesidad de enseñar estas a los robots. En realidad, el hombre sería el que debería cumplir la siguiente regla: “¡No está permitido construir y usar robots que violen la primera ley de Asimov!”. De acuerdo al entender de estos autores, lo que se debe resolver son los problemas relacionados con la dificultosa armonización entre los humanos y los robots.209
206 SÁNCHEZ DEL CAMPO, ALEJANDRO, “¿Debe tener ética la inteligencia artificial?”, Lexology, 2019. Disponible en: www.lexology.com/library/detail.aspx?g=fc912189-c519-4f80-9c46-5b9d1f021aa2.
207 ASIMOV, ISAAC, Yo, Robot, Buenos Aires, Sudamericana, 2016, pp. 256; ASIMOV, ISAAC, “El círculo vicioso”, Inteligencia Educativa, 1942. Disponible en: inteligenciaeducativa.net/descargas/runaround.pdf.
208 BARTHELMESS, ULRIKE, FURBACH, ULRICH, “Do we need Asimov's Laws?”, MIT Technology Review, 2014. Disponible en: https://arxiv.org/ftp/arxiv/papers/1405/1405.0961.pdf.
209 Barthelmess y Furbach incluso llegan más allá al concluir que tal vez todo eso ya no sea un problema, si creemos en los pronósticos de Ray Kurzweil: él estima que los humanos y los robots alcanzarán un punto (la llamada “singularidad”) donde los humanos nos fusionaremos con robots. Más escalofriante aún es que, según las afirmaciones de Kurzweil, para el año 2045 la tecnología llegará a un punto en el que los humanos no podrán comprenderla. Además, aumentarán sus mentes y sus cuerpos por medios y partes artificiales. ¿Cuál será la diferencia de los humanos aumentados por la tecnología y la IA, y los robots? Ver: IZQUIERDO, ROBIN, “11 Predicciones de futuro de Ray Kurzweil”, Pandorafms, 2017. Disponible en: https://pandorafms.com/blog/es/predicciones-ray-kurzweil/.
El ejemplo de la Comisión Europea
La Comisión Europea (“CE”) presentó en abril de 2019 sus líneas maestras para desarrollar la IA en la Unión Europea, con el objetivo de asegurar beneficios para toda la sociedad, resguardando la privacidad de datos y previniendo eventuales errores. El primer borrador de principios éticos “para una inteligencia artificial confiable” dio a luz el 18 de diciembre de 2018.210 Se trató de un texto provisional, elaborado a partir del trabajo de un grupo interdisciplinario de expertos en la materia, y basado en una “inteligencia artificial centrada en el ser humano”.
“La dimensión ética de la inteligencia artificial no es un lujo ni un añadido. (…) La inteligencia artificial ética es una propuesta beneficiosa para todos, que puede convertirse en una ventaja competitiva para Europa: liderar una inteligencia artificial centrada en el ser humano en la que la gente pueda confiar”, concluye la comunicación presentada en abril último por la CE, que consiste en un documento orientativo con vinculaciones legales.211
Conforme a este documento, el primer desafío ético de la IA es ganar confianza entre los ciudadanos. En aras de lograr aquello, los sectores especializados y los agentes políticos llamados a regularlo deben acordar como meta incrementar el bienestar de la sociedad, observando diversos valores fundantes como el respeto a la dignidad humana, la democracia, la igualdad, el Estado de derecho y los derechos humanos.
210 Para acceder al texto completo del borrador, ver: www.algoritmolegal.com/wp-content/uploads/2018/12/AI-Draft-Ethics-Guidelines.pdf.
211 Para acceder a sus detalles, ver el Comunicado de prensa de la Comisión Europea, publicado el 8 de abril de 2019, en: 211 COMISIÓN EUROPEA, “Inteligencia artificial: La Comisión continúa su trabajo sobre directrices éticas”, Comisión Europea - Comunicado de prensa, 2019. Disponible en: https://europa.eu/rapid/press-release_IP-19-1893_es.htm.
Partiendo de esta base, la CE ha identificado una serie de requerimientos cargados de relevancia para el futuro desarrollo de la IA.212 Así, esta última, además de respetar todas las leyes y reglamentos aplicables, deberá adecuarse a los siguientes estándares:
-Intervención y supervisión humanas: Los sistemas de IA deben facilitar sociedades equitativas, apoyando la intervención humana y los derechos fundamentales, y no disminuir, limitar o desorientar la autonomía humana.
-Robustez y seguridad: La fiabilidad de la IA requiere que los algoritmos sean suficientemente seguros, fiables y sólidos para resolver errores o incoherencias durante todas las fases del ciclo de vida útil de los sistemas de IA.
-Privacidad y gestión de datos: Los ciudadanos deben tener pleno control sobre sus propios datos, al tiempo que los datos que les conciernen no deben utilizarse para perjudicarles o discriminarles.
-Transparencia: Debe garantizarse la trazabilidad de los sistemas de IA.
-Diversidad, no discriminación y equidad: Los sistemas de IA deben tener en cuenta el conjunto de capacidades, competencias y necesidades humanas, y garantizar la accesibilidad.
-Bienestar social y medioambiental: Los sistemas de IA deben utilizarse para mejorar el cambio social positivo y aumentar la sostenibilidad y la responsabilidad ecológicas.
-Rendición de cuentas: Deben implantarse mecanismos que garanticen la responsabilidad y la rendición de cuentas de los sistemas de IA y de sus resultados.213
212 Al respecto, la CE resalta la importancia del contexto en que se utiliza la IA: no es lo mismo que una aplicación falle al recomendar un libro, que lo haga al diagnosticar erróneamente un cáncer.
Ahora, la tarea de la CE es propagar el conocimiento de estas guías éticas a los Estados miembros de la Unión Europea, junto a los diversos actores del sector en cuestión. En función de ello, desde junio de 2019 comenzó una fase piloto para obtener retroalimentación de quienes están implicados en el salto tecnológico que supone la IA.
Para finalizar, compartimos las sabias expresiones de Vanina Martínez,214 donde vemos reflejados varios de los dilemas planteados: “la IA se encuentra en estado embrionario por lo que estamos muy a tiempo de plantearnos cuestiones éticas antes que continúe avanzando su desarrollo. Ello es así pese a que muchos sostengan que la ética se ha convertido en sierva de la ciencia o que lo que acompaña a la ética es pura reflexión sobre la vida dañada”.215
213 COMISIÓN EUROPEA, “Inteligencia artificial: La Comisión continúa su trabajo sobre directrices éticas”, Comisión Europea - Comunicado de prensa, 2019. Disponible en: https://europa.eu/rapid/press-release_IP-19-1893_es.htm.
214 Vanina Martínez es integrante del Comité Nacional de Ética en la Ciencia y la Tecnología; licenciada en Ciencias de la Computación por la Universidad de Buenos Aires; y PhD en Computer Science por la Universidad de Maryland, College Park (Estados Unidos).
215 Conferencia en “Jornada de ética en la ciencia y la tecnología. Desafíos éticos de la biología sintética, la inteligencia artificial y el cambio global”. Encuentro realizado por el Comité Nacional de Ética en la Ciencia y la tecnología el 21 de mayo de 2019, para contribuir a la construcción de posturas fundamentadas acerca de algunas de las más actuales cuestiones de ética e investigación, sobre la base de los últimos conocimientos científicos disponibles. Para mayor información, acceder a: www.cecte.gov.ar/jornada-de-etica-en-la-ciencia-y-la-tecnologia/.
La innovación no es un mandato divino: tiene que integrarse para mejorar la vida de los seres humanos desde una perspectiva que no deje las cuestiones éticas para el final, sino más bien incorporando la reflexión legal y filosófica desde el inicio.
Serán desafíos inminentes: eliminar o disminuir posibles sesgos al construir y capacitar a la IA; edificar estas tecnologías sin prescindir de la ética;216 introducirlas en los trabajos con criterio y responsabilidad, para que la transición de empleos no impacte en aquellos más vulnerables; y educar y potenciar las capacidades de análisis, creatividad y sociabilidad, es decir, las llamadas “habilidades blandas”, que cumplirán un rol protagónico en los tiempos venideros.
Los retos que presenta la IA tienen que ver con nuestra identidad como especie. Si las personas humanas nos caracterizamos por la diversidad, aleatoriedad e imperfección, estamos ingresando a una era de automatización que podría poner en crisis esos rasgos.
El dominio del conocimiento es una de las formas más brutales del ejercicio del poder. Ya nos advirtió el profesor Stephen Hawking que “el verdadero riesgo con la IA no es
216 Al respecto, la Organización Internacional del Trabajo concluyó que: “los recientes desarrollos llevados a cabo en esta área que se basan en una metodología diferente (algoritmos genéticos, en lugar de redes neuronales) podrían ofrecer una alternativa más transparente, pero por el momento es demasiado pronto para evaluar su pleno potencial.” Traducción libre de: INTERNATIONAL LABOUR ORGANIZATION, The economics of artificial intelligence: Implications for the future of work, consultado en: [https://www.ilo.org/] el 5/12/2018.
la maldad sino la competencia. Una IA súper inteligente será extremadamente buena para lograr sus objetivos, y si esos objetivos no están alineados con los nuestros, estamos en problemas”.217
Estas páginas nos han permitido transitar el sendero que testifica la aventura del hombre y su interacción con la IA. Hace unas décadas, sólo los humanos podían jugar al ajedrez o leer textos manuscritos. Ello, luego de arduas investigaciones, es realizado rutinariamente por máquinas. Hoy en día, los investigadores están trabajando en muchas más aplicaciones de la IA que revolucionarán las formas en que trabajamos, nos comunicamos, estudiamos y disfrutamos. Sin embargo, la IA sigue siendo un tema desafiante para nosotros: plantea múltiples interrogantes sobre la privacidad, la confianza y la autonomía que son difíciles de enfrentar; y ello ha generado temores de que los humanos mismos estemos bajo amenaza.
¿Sueñan los androides con ovejas eléctricas? No lo sabemos todavía, pero el título de la novela de Philip K. Dick, publicada en 1968, se vuelve ahora una pregunta acuciante.218 Aunque la obra, originalmente, sitúa la acción en 1982, su versión cinematográfica, Blade Runner la ubica en 2019.219 Ya estamos aquí.
¿Pero sueñan las máquinas? El entusiasmo por la IA va a la par de nuestra fuerte tendencia al antropomorfismo. El retrato sintético surgió de un software creado por
217 GRIFFIN, ANDREW, “Stephen Hawking: Artificial intelligence could wipe out humanity when it gets too clever as humans will be like ants”, Independent, 2015. Disponible en: www.independent.co.uk/life-style/gadgets-and-tech/news/stephen-hawking-artificial-intelligence-could-wipe-out-humanity-when-it-gets-too-clever-as-humans-a6686496.html.
218 DICK, PHILIP K., ¿Sueñan los androides con ovejas eléctricas?, Barcelona, Minotauro, 2012, p. 272.
219 La película Blade Runner, dirigida por Ridley Scott, fue estrenada en 1982 y está basada parcialmente en la novela de Philip K. Dick, “¿Sueñan los androides con ovejas eléctricas?” (1968). La acción transcurre en una versión distópica de la ciudad de Los Ángeles, EE. UU., durante el mes de noviembre de 2019. Describe un futuro en el que, mediante bioingeniería, se fabrican humanos artificiales denominados replicantes, a los que se emplea en trabajos peligrosos y como esclavos en las «colonias del mundo exterior» de la Tierra.
humanos; creemos, por lo tanto –y el cine se ha cansado de divulgar ese sofisma–, que las mentes artificiales se parecerán a las nuestras.
Sin embargo, las máquinas carecen de conciencia; la razón es simple. Simulamos inteligencia enseñándoles a las computadoras a resolver problemas bien definidos, pero hasta carecemos de una definición fiable de qué es la conciencia humana, y por lo tanto no podemos simularla.
En cualquier caso, utopías y distopías aparte, estamos viviendo en un mundo afectado por grandes cambios de paradigmas, con el auge de autómatas cotidianos y eventuales máquinas pensantes. Pero los únicos que soñamos y nos sentimos embargados por la inspiración somos nosotros. No es poco.
Buenos Aires / La Haya, agosto de 2019
“Del GATT a la OMC: historia y perspectivas del Sistema Multilateral de Comercio desde un enfoque argentino”1.	El mundo de postguerra y el papel del comercio en la reconstrucción1.1 Comercio y seguridad : la ONU, el esquema de “Bretton Woods” y la...

References: resolución 
 resolución 
 resolución 
 Resolución 
 resolución 
 resolución 
 resolución 
 artículo 75
 resolución 
 resolución 
 Resolución 
 resolución