Lorenzetti dice que la IA no sustituye pero la humana se vuelve IA

El juez de la Corte Suprema de Justicia de la Nación, Ricardo Lorenzetti, se pronunció en un evento organizado por la DAIA para hablar de la creciente difusión de discursos de odio en las plataformas digitales. “Es un tema muy importante en muchos sentidos, para la democracia en general, porque en todo Occidente principalmente se discute mucho. Yo he participado en numerosas reuniones internacionales sobre este tema, en las cuales hay un gran debate acerca de cómo vamos a seguir funcionando en las democracias occidentales con este nivel de impacto del odio en todos los niveles”, declaró.

Lorenzetti sostuvo que el desarrollo tecnológico potencia mecanismos de discriminación que existen desde hace siglos y que uno de los principales riesgos actuales es la naturalización de la discriminación y la falta de reacción social frente a ella. Advirtió que combatir el odio con nuevas expresiones de violencia, “odiar para terminar con el odio”, solo reproduce lo que se pretende erradicar.

Explicó que los mecanismos de expansión del odio pueden ser “culturales o epistemológicos y otros tecnológicos”, citando la creación de falsas verdades, las fake news y la generación de tesis conspirativas. Según el magistrado, los algoritmos de las redes sociales amplifican esos mecanismos al favorecer contenidos que captan la atención, generando espacios cerrados o “echo chambers” donde predominan mensajes que confirman las creencias propias, profundizando la polarización.

“Cada vez somos menos independientes en el uso del espíritu crítico. Aceptamos la información que se nos da acríticamente y nos encerramos en lo que se suelen denominar ‘echo chambers’”, explicó Lorenzetti. Añadió que la potencia de los algoritmos puede crear persecución y discursos de odio, llevando a los grupos a adoptar posturas más rígidas e identificar a los disidentes como adversarios.

El magistrado puntualizó que el desafío no es solo evitar que la inteligencia artificial reemplace capacidades humanas, sino impedir que las personas pierdan autonomía crítica frente a la tecnología: “El problema no es que la inteligencia artificial vaya a sustituir la inteligencia humana, sino que la inteligencia humana se parece cada vez más a la inteligencia artificial”.

Recalcó que la libertad de expresión debe seguir siendo la regla general y advirtió sobre los riesgos de la censura previa o sanciones penales indiscriminadas. Señaló que existen herramientas legales, como la Convención Americana sobre Derechos Humanos, la Ley 23.592 contra la discriminación y disposiciones del Código Civil y Comercial, para intervenir cuando los discursos incitan a la violencia o discriminación. Definió el ejercicio irregular de la libertad de expresión como un abuso del derecho, habilitando acciones preventivas.

En el entorno digital, un mensaje puede multiplicarse mediante algoritmos, alcanzar públicos distintos a los previstos y permanecer disponible indefinidamente, lo que agrava sus consecuencias y obliga a analizar la responsabilidad de quienes difunden ese contenido. “La queja en las redes no sirve”, sostuvo, y llamó a una sociedad activa que ejerza derechos capaces de cambiar el sistema. Finalmente, advirtió que “todo tiende a creación de tribus y creación de enemigos. La política se basa en la creación de enemigos. Las redes sociales incrementan los enemigos”.