Neuroderechos, IA, derecho espacial y más…

Cecilia Celeste Danesi

Investigadora y docente de la Universidad de Buenos Aires en la asignatura “Inteligencia Artificial y Derecho” y subdirectora del posgrado del mismo nombre. Directora de la revista “Inteligencia Artificial, Tecnologías Emergentes y Derecho” (Hammurabi). Subdirectora del Instituto de Derecho de la Salud del Colegio de Abogados de San Isidro. Doctoranda en Derecho del Consumidor de las Universidades de Perugia y Salamanca, tesis en IA y Derecho del consumidor.

 

1) ¿DÓNDE ESTAMOS PARADOS?

Son innumerables las tareas que delegamos en los sistemas de inteligencia artificial (IA). De hecho, tuvo y tiene un rol preponderante en la lucha contra el Covid-19. Por ejemplo, sistemas como BlueDot1 y Metabiota2 (ambas utilizan algoritmos que procesan lenguaje natural para monitorear medios de comunicación e informes médicos oficiales) enviaron alertas a fines del año pasado acerca de un nuevo virus en China.3 También encontramos sistemas inteligentes en las más extrañas y diversas áreas: en educación, para predecir y analizar el nivel de aprendizaje de los alumnos; en el arte, para crear pinturas, música y modelos publicitarios; en el transporte, vehículos autónomos; en las fuerzas de seguridad, para identificar prófugos de la justicia a través de técnicas de reconocimiento facial, y un sinfín de etcéteras.

Pero eso no es todo, si bien la IA es la protagonista de la Cuarta Revolución Industrial y tendrá un impacto significativo en nuestras vidas y, consecuentemente, en los ordenamientos jurídicos, estamos rodeados de nuevos fenómenos que llegaron para poner en jaque a las sociedades modernas y ni hablar del derecho. Veamos algunos.

 

2) LA TECNOLOGÍA BLOCKCHAIN

Una tecnología sumamente prometedora es “blockchain”. Aquí nos encontramos frente a un algoritmo o “código informático” (no un documento escrito) que “existe” en una cadena de bloques compartido por otras computadoras, desde la que se ejecuta. Posee la propiedad de que sus partes no puedan ser modificadas, excepto que esté previamente acordado. La cadena de bloques es una base de datos automatizada, descentralizada (está replicada en todos los ordenadores de los usuarios) y no puede ser alterada. Todo esto la hace muy segura: para alterar la información almacenada y engañar al resto de nodos, es preciso manipular más del 50% de dichos nodos que la integran, lo que es prácticamente imposible. Así, cada uno de los bloques que conforman la cadena utilizan una contraseña numérica llamada “hash”, tomada del bloque anterior. Como todos los bloques se ordenan cronológicamente, cada “hash” refiere al bloque que le antecede, lo que incrementa su nivel de seguridad para llevar datos transaccionales de manera transparente y en tiempo real, evitando la pérdida de aquellos y el fraude.4

Ahora bien, ¿qué podemos hacer con esta tecnología? Mucho. Las dos grandes utilizaciones son, por un lado, los smart contracts y, por el otro, las criptomonedas. Los primeros aluden a “una serie de programas informáticos que tienen por función, al menos principal, garantizar y ejecutar el cumplimiento forzoso de las obligaciones asumidas por cada contratante”.5 Es decir, que el incumplimiento de un contrato se tornaría imposible y, con ello, podríamos pensar que muchos institutos como la teoría de la imprevisión perderían sentido. Así, las partes pueden “programar” el cumplimiento forzado por anticipado, de manera que el co-contratante se desprende de forma previa de su decisión de cumplir o no cumplir un contrato válidamente celebrado, y cede dicha facultad ni más ni menos que a una blockchain.6

En el segundo caso, las criptomonedas, se trata de la utilización de la misma tecnología, pero para crear dinero virtual. La diferencia esencial es que hasta el momento la moneda era la de “curso legal”, es decir, aquella creada por el Estado Nacional. Al respecto, códigos civiles como el argentino, marcan diferencias en su tratamiento. Las obligaciones de dar dinero serán aquellas en las que el deudor deba cierta cantidad de moneda de curso legal. En cambio, si se estipuló dar moneda que no sea de curso legal en la República, la obligación debe considerarse como de dar cantidades de cosas y el deudor puede liberarse dando el equivalente en moneda de curso legal (art. 765 Código Civil y Comercial de la Nación Argentina). Entonces, si celebramos un contrato donde el pago debe hacerse en bitcoins (la criptomoneda más conocida y cuyo valor parece depender de los tweets de Elon Musk), el deudor puede pagar entregando pesos argentinos. Esta llamativa norma se debe al cepo cambiario que rige en Argentina que imposibilita la adquisición de divisa extranjera. En cambio, en las obligaciones de valor, también encontramos cierta particularidad en el Código Civil y Comercial Argentino, pues habilita a que pueda ser expresada en una moneda sin curso legal que sea usada habitualmente en el tráfico (art. 772 CCCN). Si bien habla de expresadas y no de pago ¿aquí si podríamos pagar con criptomonedas?

Los criptoactivos traen también otros debates, además de no ser emitidos ni respaldados por un gobierno (lo que podría representar una garantía según el Estado que se trate), entran en juego la volatilidad, la exposición a ciberataques, ausencia de salvaguardas, riesgos de lavado de activos y, potencial financiamiento del terrorismo y del incumplimiento a la normativa cambiaria.7

 

3) NEURODERECHOS, CÍBORGS Y TRANSHUMANISMO

Neurotecnología, bioinformática, inteligencia artificial en genética, cíborgs… son algunas de las palabras que escuchamos cada vez con más frecuencia, pero —en realidad— no conocemos bien sus fronteras. A decir verdad, nadie las conoce, pero lo que sí sabemos, es que consisten en la interrelación más estrecha del humano y la tecnología.

Cíborg o personas biónicas son aquellas que combinan la biología con la electrónica para reemplazar un miembro del cuerpo que, por la razón que sea, se ha perdido; son implantes mecánicos o prótesis.8 Basadas en el derecho a tomar decisiones respecto de nuestra integridad física que forma parte del derecho al respeto de la vida privada, de la autonomía y desarrollo de la personalidad, la incorporación de tecnología en nuestro cuerpo puede servir para aumentar nuestras capacidades o, bien, agregarnos alguna que no tengamos; y precisamente aquí está el quid de la cuestión. Si perdemos una pierna, todos estaríamos de acuerdo en que la persona pueda utilizar la prótesis, pero qué sucede cuando nos incorporamos capacidades que exceden las propias de los humanos, por ejemplo, una antena para ver y escuchar mejor. ¿Cuál es el límite? ¿Juega algún rol la ética? ¿Ese implante se considerará parte de nuestro cuerpo?9

Por otro lado, el uso de la inteligencia artificial en el área médica, ya sea para la reproducción humana asistida, para la elección de células madres o embriones sanos o en la medicina de precisión, se encuentran en auge. Pero eso no es lo más preocupante (al menos para mí) …

Hace apenas unos meses, Elon Musk volvió a ser noticia, al presentar los avances de su empresa Neuralink. Difundió un video donde se veía a un mono que con un chip cerebral podía jugar un videojuego con el pensamiento. Básicamente, la empresa de neurotecnología desarrolla interfaces cerebro-computadora implantables y busca en el futuro curar enfermedades como el Alzheimer y el Párkinson. También, tiene como propósito lograr que un auto Tesla pueda ser manejado con el pensamiento e implantar inteligencia artificial en el cerebro humano.

Rafael Yuste, neurocientífico español, uno de los principales referentes en la materia, alza la bandera en reclamo de la regulación de los neuroderechos. Él y su grupo plantean la creación de una normativa bajo dos aristas. Por un lado, de autorregulación bajo un juramento tecnocrático que obligue deontológicamente a ingenieros, informáticos y otros especialistas dedicados a la neurotecnología.10 Por el otro, aspiran a que los neuroderechos se recojan en la Declaración de Derechos Humanos y a que los gobiernos establezcan un marco legal que evite los abusos.11

Chile será el primer país del mundo en tener una legislación en ese sentido, ya que está a pocos pasos de modificar el artículo 19 número 1° de su Carta Fundamental, para proteger la integridad y la indemnidad mental en relación con el avance de la tecnología y la inteligencia artificial en el cerebro humano.

 

4) DERECHO ESPACIAL

Hace unos meses, China nos tuvo —nuevamente— en vilo por el cohete fuera de control que reingresaba a tierra sin poder precisar el punto de caída. La historia tuvo final feliz si miramos las vidas humanas o las pérdidas materiales, pero no así para el medioambiente, pues cayó en el Océano Índico. La Oficina de Ingeniería Espacial Tripulada de China dijo que la “gran mayoría” de los escombros se quemaron cuando volvió a entrar en la atmósfera.12

Ese no fue el único caso, ni tampoco el único conflicto que la explotación del espacio puede presentarnos: mantenimiento de satélites, combustible de las naves espaciales, astronautas perdidos y más. ¿Y qué tiene para decir el derecho al respecto? En el ámbito de la ONU funciona la oficina de Asuntos del Espacio Ultraterrestre, que se encarga de promover la cooperación internacional en la utilización del espacio ultraterrestre con fines pacíficos. Además, hay cinco tratados que rigen la materia13 y una nómina de declaraciones y principios.14

Destacados científicos señalan que la quinta revolución industrial estará principalmente marcada por la comercialización del espacio y se convertirá en la mayor expansión industrial de nuestro siglo.15 Esto sin duda, representará otro gran desafío para el derecho.

 

5) LA MÁS CONTROVERTIDA: LA INTELIGENCIA ARTIFICIAL

Tal como adelantamos en los primeros párrafos, la inteligencia artificial16 conquista día a día más aspectos de nuestra vida y es capaz de realizar tareas rutinarias con una gran eficacia y precisión y, lo más importante, lo hace en cuestión de segundos. Estas características la convierten en una herramienta sumamente interesante para las empresas, las que no dudaran en incorporarla para reducir costos y mejorar procedimientos.

Ya hemos hablado en reiteradas oportunidades acerca del riesgo principal que encarna esta tecnología: los sesgos algorítmicos.17 Frente a ello, la única que propuso una regulación abarcativa y restrictiva de la IA es la Unión Europea.

La propuesta legislativa sugiere, en lo principal, la división de los sistemas de inteligencia artificial según el riesgo que presenten; es decir, con base en el nivel de afectación que puedan tener sobre los derechos de las personas. Primero, encontramos los sistemas prohibidos, aquellos que no pueden ser utilizados (por ejemplo, el sistema de crédito social chino) salvo algunas excepciones, según el caso.18

Le siguen los sistemas de riesgo limitado (enumerados en el Anexo III) que para poder utilizarse en el mercado europeo deberán cumplir con una serie de requisitos: gestión de riesgos, supervisión humana, robustez, precisión y ciberseguridad, etc. En relación con estos deberes, las empresas europeas alzan su voz, ya que afirman que el gasto y el tiempo que conlleva cumplir todo ello, conduce a que no puedan ser competitivas frente a las grandes corporaciones chinas y estadounidenses que desarrollan IA.

Luego, están los sistemas de riesgo limitado (como las Deep Fakes News o los chatbots y agentes conversacionales), en los cuales se establece que deberán informar al usuario cuando están interactuando con aquél.

Y por último, los de riesgo mínimo, donde no se establecen deberes adicionales, sólo cumplir con la legislación vigente.

 

6) ¿UN FUTURO INCIERTO PARA EL DERECHO?

La MIT Technology Review, una de las revistas más prestigiosas en materia de tecnologías disruptivas, publica cada año su listado de “Las 10 Tecnologías Emergentes”, aquellos fenómenos tecnológicos que marcarán una diferencia real en la resolución de problemas importantes y que verdaderamente cambiarán nuestra forma de vivir y trabajar. En los términos de la publicación, “ofrecen un vistazo a nuestro futuro colectivo”. Las de 2021 son: las vacunas de ARNm, el GPT-3, los fideicomisos de datos para proteger nuestra privacidad, la batería de metal de litio, el rastreo digital de contactos para frenar el avance del virus (y que logró unir a las big tech como Google y Apple), el posicionamiento ultrapreciso para revolucionar el mundo, la vida en remoto (que afirman llegó para quedarse), la IA polivalente para una inteligencia más flexible, la exclusiva belleza del algoritmo de recomendación de TikTok (que lo ayudó a superar a sus rivales) y el hidrógeno verde, capaz de competir con los combustibles fósiles.

Tal como podemos ver, las tecnologías enunciadas en los apartados de este trabajo son sólo algunas19 de la gran cantidad de avances que esperan a “nuestro futuro colectivo”. Casualmente, este término significa mucho, pues aquellas no reconocen fronteras y constituyen la causa por antonomasia de la globalización. Y a ello se le suman dos factores más, por un lado, crecimiento exponencial (tal como lo afirma Ray Kurzweil en “La Singularidad está cerca”) y, por el otro, parece ser que ahora ya no es el Estado quien ostenta el poder, sino las grandes empresas de tecnología, en especial el denominado grupo G.A.F.A. (Google, Apple, Facebook y Amazon), cuyo imperio se agrandó aún más con la pandemia. Prueba de ello, es la nueva Tech Diplomacy que fue inaugurada por Dinamarca, país que en 2017 abrió una embajada en el centro del poder digital: Silicon Valley. Esto implica el reconocimiento por parte del Gobierno danés a las empresas mencionadas como entidades políticas globales.

En suma, la innovación es incesante e indiscutible y cada uno de nosotros, como juristas, podemos elegir si subimos o no a este barco. Quedan por delante grandes debates y desafíos para el mundo del derecho donde nos debemos replantear absolutamente todo, hasta sus cimientos. Vivimos en una era sin precedentes, especialmente marcada por la pandemia. Por mi parte, me considero una afortunada en poder vivir este momento de cambio de paradigma que nos permitirá explotar nuestra creatividad y pensamiento crítico al máximo. ¿Ustedes, qué opinan?

 


1  Disponible al 01/02/21 en https://bluedot.global/.

2  Disponible al 01/02/21 en https://metabiota.com/.

3  Inteligencia artificial y coronavirus: más ‘hype’ que realidad (por ahora), Retina, El País, España, 25/03/20, disponible al 01/02/21 en https://retina. elpais.com/retina/2020/03/25/tendencias/1585129233_858335.html.

4  Granero, Horacio, “Los contratos inteligentes y la tecnología “blockchain” (su encuadre en el Código Civil y Comercial de la Nación)”, elDial.com – DC24BB.

5  Dabah, Alejandro, “Contratos Inteligentes: una visión desde el punto de vista práctico y jurídico”, en Inteligencia Artificial, Tecnologías Emergentes y Derecho, N° 2, Hammurabi (en edición).

6  Ídem anterior.

7  Alerta del BCRA y la CNV sobre los riesgos e implicancias de los criptoactivos, 20/05/21, disponible al 01/06/21 en https://www.bcra.gob.ar/ Noticias/alerta-sobre-riesgos-implicancias-criptoactivos.asp.

8  Navas Navarro y Camacho Clavijo, El cíborg humano, Camares, Granada, 2018 pág. 1 a 13 y, Navas Navarro, “La persona cíborg contemplada por el derecho”, en Inteligencia Artificial, Tecnologías Emergentes y Derecho, N° 2, Hammurabi, 2020.

9  Neil Harbisson fue el primer cíborg reconocido por un Gobierno. Reino Unido no quería aceptar la foto de su pasaporte con la antena que tiene incorporada en la cabeza (que le permite detectar más colores, recibir llamadas, entre otras cosas) y luego de un intercambio epistolar, lo aceptaron.

10  Lo mismo propongo en materia de inteligencia artificial para, principalmente, buscar evitar sesgos algorítmicos.

11  Por qué hay que prohibir que nos manipulen el cerebro antes de que sea posible, El país, 12/02/20, https://elpais.com/elpais/2020/01/30/ciencia/1580381695_084761.html (disponible al 01/06/21).

12  El cohete chino fuera de control acaba su aventura: ha caído en mitad del Océano Índico, Xataka, 10/05/21, disponible al 01/06/21 en https://www.xataka.com/espacio/cohete-chino-fuera-control-acaba-su-aventura-ha-caido-mitad-oceano-indico.

13  Estos son: “Tratado sobre los principios que deben regir las actividades de los Estados en la exploración y utilización del espacio ultraterrestre, incluida la Luna y otros cuerpos celestes”, “Acuerdo sobre el rescate de astronautas, la devolución de astronautas y la devolución de objetos lanzados al espacio ultraterrestre”, “Convenio sobre responsabilidad internacional por daños causados por objetos espaciales”, “Convenio sobre el registro de objetos lanzados al espacio ultraterrestre” y “Acuerdo que rige las actividades de los Estados en la Luna y otros cuerpos celestes”.

14  Ver en http://www.unoosa.org/oosa/en/ourwork/spacelaw/treaties.html (disponible al 01/06/21)

15  Martínez, Inma, La quinta revolución industrial, Grupo Planeta, 2019.

16  Para ampliar sobre definiciones y funcionamiento de la IA ver https://www.ceciliadanesi.com/lecturas (disponible al 02/06/21).

17  “The Impact of Artificial Intelligence on Women’s Rights: A Legal Point of View”, The Fourth Industrial Revolution and Its Impact on Ethics, Springer, Switzerland, 2021; “Sesgos algorítmicos de género con identidad iberoamericana: las técnicas de reconocimiento facial en la mira”, en Revista de Derecho de Familia, especial sobre “XXVIII Jornadas Nacionales de Derecho Civil”, nro. 100, Editorial Abeledo Perrot, (en edición) y AI Challenges During the Gender Equality and Diversity Era: Do We Need a Legal Frame?, Blog Post, disponible al 02/06/21 en https://www.iltanet.org/blogs/cecilia-celes[1]te-danesi1/2021/02/26/ai-challenges-during-the-gender-equality-and-diver.

18  Los sistemas de reconocimiento facial están prohibidos por regla general, pero hay varias excepciones en las cuales se habilita su uso, de hecho, esa es la crítica que se le hace a la propuesta de reglamento.

19  Entre algunas de las muchas que faltan enumerar están: las redes sociales, las plataformas digitales, la computación cuántica, la nanotecnología, etc.