Inteligencia Artificial, desigualdad y derechos: los debates que llevó Franco Gatti a Europa

El doctor Franco Gatti, docente e investigador de la Universidad Nacional de Rosario y oriundo de Ramallo, participó recientemente de dos importantes encuentros académicos internacionales: el 7º Seminario Iberoamericano de Derecho y Justicia, desarrollado en la Universidad Roma Tre, y el Congreso Mundial de Filosofía del Derecho, realizado en Estambul, Turquía.

En diálogo con Radio Meta, Gatti repasó su experiencia en ambos encuentros y explicó los trabajos que presentó, centrados en dos temas que atraviesan buena parte de sus investigaciones: los desafíos que plantea la Inteligencia Artificial para la toma de decisiones públicas y judiciales, y la desigualdad estructural vinculada al lugar en el que viven las personas.

En Roma, Gatti participó de una mesa redonda dedicada a analizar la relación entre la Inteligencia Artificial y la labor de los jueces. “Participé de una mesa redonda sobre Inteligencia Artificial y la labor de los jueces en el contexto del uso de la Inteligencia Artificial, y yo trabajé un tema que tenía que ver con los límites, sobre todo los límites epistémicos de la Inteligencia Artificial, porque está comprobado que tiene límites cognitivos claros y cómo eso puede generar consecuencias políticas en la legitimidad política de las decisiones judiciales si se usa la Inteligencia Artificial, sobre todo si se la usa sin recaudo”, explicó.

El investigador aclaró que la discusión no se limita al ámbito judicial, sino que alcanza a las decisiones públicas en general. “Hay muchos ejemplos del uso en la toma de decisiones administrativas, por ejemplo, de la administración pública, o incluso en el ámbito de la legislatura también”, señaló.

Para Gatti, uno de los principales problemas aparece cuando se pretende trasladar a sistemas automatizados decisiones que requieren analizar situaciones particulares. Como ejemplo, mencionó casos en los que la Inteligencia Artificial fue utilizada para definir ayudas sociales. “La Inteligencia Artificial no tiene ni los matices ni la posibilidad de evaluar la particularidad de los contextos, entonces terminaba asignando las ayudas sociales a partir de estereotipos, de prejuicios, etc.”, advirtió.

El docente de la UNR explicó que estos sistemas funcionan sobre una base probabilística y que sus respuestas dependen, en definitiva, de los datos con los que fueron alimentados. “Lo que hay que saber es que el modelo de la Inteligencia Artificial funciona de manera probabilística, es decir, no cae del cielo la información que nosotros recogemos de la Inteligencia Artificial, sino que se obtiene a partir de datos que le cargan personas. La Inteligencia Artificial está de alguna manera alimentada por datos que le son cargados”, sostuvo.

En ese sentido, profundizó sobre el concepto de los límites cognitivos de estas herramientas. “Cuando yo digo que hay límites cognitivos me refiero a que no te da la respuesta verdadera, entre comillas, ni tampoco la más fiable, ni tampoco la más aceptada o la más consensual, te da la respuesta que surge de los datos que le cargaron”.

Ese funcionamiento puede resultar especialmente problemático cuando se trata de decisiones que afectan derechos fundamentales. “Cada caso tiene su particularidad y someter la decisión de un caso a un sistema probabilístico es de alguna manera meterlo en un esquema que universaliza la solución, es decir, que homogeneiza todo”, explicó.

Por eso, consideró que existen usos en los que la automatización puede resultar útil, especialmente para resolver cuestiones repetitivas o administrativas, pero marcó una diferencia clara con las decisiones de fondo.

“Hay muchas resoluciones que se adoptan en los juzgados que son, como decimos a veces en la jerga, de formulario, porque son dos iguales, y eso se lo puede hacer, en eso no hay problema. Ahora, una decisión de fondo, una decisión sobre una prisión preventiva, una decisión sobre alimentos, una decisión sobre una adopción, son cuestiones donde están en juego los derechos de las personas muy sensibles, es decir, la libertad, la igualdad, etcétera, entonces poner eso en juego la verdad es complejo”.

Para Gatti, el desafío no pasa por intentar detener un proceso que ya forma parte de la realidad cotidiana, sino por promover formas de utilización responsables. “También hay que ser consciente que es algo que ya está acá y que es muy difícil de detener, entonces hay que tratar de, por ahí, promover formas de uso conscientes y éticas, ese es el centro”, remarcó.

Gatti también puso el foco en otro aspecto sensible: la información que se introduce en estas plataformas y la protección de los datos personales. “Hay que construir cultura cívica, cultura jurídica, de entender que lo que se pone ahí, primero, los datos que se vuelcan ahí, no van a un pozo negro, es decir, los datos que se vuelcan ahí terminan socializándose”, alertó.

Y apeló a una imagen para resumir lo que, a su entender, debe seguir siendo la esencia de una decisión judicial: “El juez tiene que fallar, para decirlo de una manera metafórica, mirando la cara de las personas, en el sentido de conociendo las particularidades de los casos, que no son nunca idénticos uno a otro”.

Antes de su participación en Roma, el investigador ramallense estuvo presente en Estambul, Turquía, donde participó del Congreso Mundial de Filosofía del Derecho y presentó una investigación vinculada con la discriminación geográfica, en el marco de un proyecto radicado en la Universidad de Vigo, España.

El trabajo se relaciona con la denominada performatividad del razonamiento jurídico, un concepto que, según explicó, permite comprender cómo el derecho y sus discursos producen efectos concretos sobre la realidad. “La performatividad del discurso del razonamiento jurídico tiene que ver con que siempre el derecho al discurso jurídico produce realidad, es decir, produce efectos en la realidad que cambian las cosas”, señaló.

Para graficarlo, explicó que las normas jurídicas atraviesan prácticamente todos los aspectos de la vida cotidiana. “Nos ponen lugares, nos dan nombres, nos dan incluso un sexo, nos dan una ubicación en la vida, somos inquilinos o somos propietarios, somos consumidores o somos usuarios, o somos proveedores, somos docentes o somos estudiantes, eso está siempre escrito en una norma jurídica”.

Dentro de ese marco, Gatti estudia actualmente cómo el lugar de nacimiento o residencia puede transformarse en un factor de desigualdad y condicionar el acceso efectivo a distintos derechos.

“La discriminación geográfica tiene que ver con las dificultades y los límites en el acceso a los derechos y en la garantía de los derechos que se originan por el lugar donde las personas viven”. Y agregó: “Es algo que está poco explorado pero que existe y que cualquiera puede reconocerlo fácilmente”.

El investigador puso ejemplos concretos de las desigualdades territoriales existentes en la Argentina. “En nuestro país, la zona en la que nosotros vivimos es privilegiada por la cuestión productiva, pero también por el acceso a los derechos, el acceso a los servicios, el acceso al transporte, el acceso a la salud”.

De esta manera, sostuvo que el lugar donde una persona nace puede determinar, en buena medida, las oportunidades a las que tendrá acceso durante su vida. “Vivir en un lugar o en otro, en primer lugar, te pone más cerca de la garantía de los derechos o te aleja, y eso no lo elegís vos, y no tiene que ver ni con tu esfuerzo, ni con tu mérito, ni con tu capacidad, ni con nada de eso”, expresó.

También se refirió a las dificultades para acceder a la educación superior. “Haber nacido en un lugar o en otro, te puede poner cerca de una universidad o lejos, y si te pone lejos, vas a tener ya una dificultad mucho más grande que el que se puso cerca para acceder al estudio universitario. Y eso genera un impacto en la trayectoria de la vida de la persona”.

Otro de los fenómenos analizados es la llamada discriminación del código postal o zip code discrimination. “Está probado que, por ejemplo, las personas que tienen domicilio en una villa tienen muchísimo menos posibilidades de acceder a un empleo, no porque tengan el peor currículum, sino por el domicilio. Es un caso claro de discriminación geográfica”, explicó.

En su análisis preliminar, Gatti señaló desigualdades entre las provincias del norte argentino y otras regiones del país, pero también dentro de las propias ciudades, entre los barrios populares y los centros urbanos.

“Después, si vamos a más escala, por supuesto, América Latina es una parte de un continente mucho más discriminado de lo que son los centros de producción de discursos y los centros hegemónicos que son Europa y Estados Unidos, o sea, ahí también hay una discriminación geográfica”, planteó.

Consultado sobre cuánto de estas discusiones académicas puede trasladarse a la vida cotidiana, Gatti destacó que la producción teórica también puede tener consecuencias concretas. “Tenemos una Constitución en Santa Fe que lo refleja, o sea, eso de alguna manera es una prueba de que el esfuerzo teórico también tiene consecuencias prácticas”, afirmó.

Para que eso ocurra, consideró fundamental que quienes desarrollan tareas de investigación también participen en los espacios donde se toman decisiones. “Hay que poner los pies en el barro y animarse también a participar de esos lugares de discusión”, sostuvo.

En ese sentido, destacó una particularidad del ámbito académico argentino. “Nosotros tenemos que tener, desde que nos recibimos, tres, cuatro, cinco trabajos. Entonces, la actividad académica la hacemos porque nos gusta, pero simultáneamente trabajamos en el sector privado, trabajamos en el Estado, trabajamos en organismos internacionales, entonces inevitablemente trasladás a la práctica lo que investigás”.

La participación de Franco Gatti en Roma y Estambul representa así un nuevo recorrido internacional para el docente e investigador ramallense, que continúa desarrollando su trabajo académico en torno a la desigualdad estructural, los derechos y los nuevos desafíos que plantea la tecnología.

Actualmente, además, recibió nuevamente una beca de la Facultad de Derecho de la Universidad Nacional de Rosario y prevé viajar en los próximos meses para participar de otro seminario y avanzar en su tesis doctoral, precisamente vinculada con la desigualdad estructural, un tema que, como él mismo reconoció, atraviesa buena parte de su trayectoria académica e investigativa.