Inteligencia Artificial, entre la oportunidad y la amenaza

En los últimos tiempos la Inteligencia Artificial (IA) es noticia en todo el mundo por varias razones. Sorprende la capacidad de respuesta de los diálogos generados con ChatGPT, las fotos trucadas del Papa Francisco vestido con un abrigo blanco de vanguardia, o la de Donald Trump en la que es detenido. Un poco más cerca, está el video falso en el que se muestra a la esposa del Presidente de la Nación, Fabiola Yáñez, hablando sobre el mandato de su esposo de manera despectiva.

La tecnología tiene ya aplicaciones y promete enormes avances. Pero varios advierten por sus amenazas. Esta semana un grupo internacional de más de mil especialistas, con Elon Musk a la cabeza, publicaron una carta abierta donde advierten sobre las consecuencias negativas que el desarrollo y avance de la IA podría causar en la historia de la humanidad. Pidieron pausar todas las pruebas por seis meses, al menos. "Podría representar un cambio profundo en la historia de la vida de la Tierra, y debe planificarse y administrarse con el cuidado y los recursos correspondientes. Desafortunadamente, este nivel de planificación y gestión no está ocurriendo”, expresaron en la mencionada carta.

Pero, ¿qué es la Inteligencia Artificial y por qué está en boca de todos? Profesionales y científicos especialistas en IA de la Universidad Nacional de San Luis (UNSL) explicaron que se trata de un área de la ciencia de la computación que se dedica no solo al entendimiento del comportamiento inteligente y de las habilidades, sino, también, a la construcción de sistemas que tengan características tales como razonamiento, aprendizaje, planificación y toma de decisiones.

"El área más activa actualmente dentro de la inteligencia artificial es la del aprendizaje automático donde los sistemas no se programan sino que se entrenan, o sea que al sistema se le dan muchos datos de entrenamiento y aprende determinadas habilidades que, en algunos casos, reproducen las habilidades humanas y en otros casos la superan", informó Marcelo Errecalde, director del Laboratorio de Investigación y Desarrollo en Inteligencia Computacional de la UNSL y director del Proyecto de Investigación en temáticas relacionadas a la IA.

"Por ahí la gente no entiende, porque dicen: 'Cómo hacen un algoritmo que termina andando mejor que un ser humano, si es un ser humano el que lo programó'. El problema es que estos sistemas de aprendizaje automático no se programan en el sentido tradicional, sino que se entrenan. Precisamente, se usan en problemas para los cuales no hay un algoritmo, porque estos son como una receta", aclaró.

Los sistemas de IA son utilizados para resolver cuestiones que el ser humano no puede descifrar. Aprenden a solucionar problemas, pero no es posible acceder a un total control de su funcionamiento. Ejemplo de estos son los automóviles automáticos o los dispositivos que se utilizan en medicina para la detección de enfermedades mediante imágenes.

"Algunos algoritmos andan mejor que el mismo médico, por poner un ejemplo", comentó la profesora adjunta e investigadora del Conicet, Leticia Cagnina, quien agregó que pueden detectar zonas en el estudio que el doctor no puede hacerlo. Esto pasa así porque se lo entrenó, se le mostró tanto que aprendió que determinadas características, si están presentes, son indicios de alguna anomalía".

Igual advierten que dejar sin control las diferentes aplicaciones puede llegar a ser muy peligroso, ya que algunas veces no brindan respuestas certeras y fieles. "Ahora estamos teniendo problemas con el tema de la no supervisión y con creer que son racionales, entendiendo que lo que hacen es perfecto y supera a cualquier persona y no siempre es así", recalcó Cagnina.

Los científicos y especialistas en IA aclararon que no hay que confundir los términos, que sean sistemas inteligentes no quiere decir que sean conscientes de lo que hacen. "Una de las cosas que tienen es que, normalmente, son muy buenos en determinadas tareas. En una en particular superan al humano ampliamente, pero el tema es que no tenés sistemas de inteligencia general que puedan atacar cualquier tipo de problemas", agregó Errecalde.

Un ejemplo de lo que mencionan los docentes de la UNSL es ChatGPT. "El problema que tiene es que son sistemas neuronales que no se sabe exactamente cómo derivan la respuesta. Son entrenados con millones de datos, pero tienen cientos de miles de millones de conexiones o números y la realidad es que en algunos casos no se sabe cuál es la respuesta que te va a dar. Son sistemas creativos, pero pueden generar información que no es cierta", explicó Errecalde.

Otro de los grandes temores que destacaron es en relación a la educación. "Indudablemente hay ciertas discusiones que tienen que ver con lo político, con lo educativo, qué contenido se le va a dar a los chicos. Estos sistemas programan en forma automática, o sea, que hasta nosotros como programadores vamos a tener que discutir qué cosas se van a dar porque estos sistemas te generan códigos. Hay muchos roles que vamos a tener que discutir", agregó Errecalde.

Además, subrayaron que hay debates que se deberían dar con suma urgencia, para no ir atrás de las consecuencias negativas que se podrían generar. "En la carta lo que dicen es: 'Dejen de crear cosas más sofisticadas que esto (por el ChatGPT) porque va a generar consecuencias que, todavía, no sabemos cómo serán. Entonces, tenemos que hacer otro tipo de evaluación y necesitamos gente de otras áreas que sea contralor de esto. El impacto social, económico y educativo es muy grande. Es como que si armamos una herramienta y no sabemos para qué la van a usar, puede llegar a ser un arma", concluyó Errecalde.