La IA las personas y los derechos

El 1º agosto entró en vigencia la Ley de Inteligencia Artificial de la Unión Europea y aunque es una legislación inédita a nivel mundial para regular la IA, no está exenta de críticas.

La medida tiene como objetivo fomentar la innovación y limitar los posibles abusos de esta nueva tecnología, pero para los críticos, la legislación no impide la “proliferación de tecnologías abusivas”.

La norma, que rige para los 27 estados miembros, adopta un planteamiento “basado en el riesgo” e impone a los diversos sistemas de IA limitaciones proporcionales a los peligros que plantean a la sociedad. Así, los sistemas que solo presenten un riesgo limitado estarán sujetos a obligaciones de transparencia muy leves.

Las tecnologías de alto riesgo, utilizadas, por ejemplo, en infraestructuras críticas, educación, recursos humanos o aplicación de la ley, estarán sujetas a requisitos reforzados antes de ser autorizadas, reportó la agencia internacional. Estos requisitos incluirán, por ejemplo, un control humano, el establecimiento de una documentación técnica o la puesta en marcha de un sistema de gestión del riesgo.

La legislación también prohíbe la vigilancia masiva en espacios públicos, aunque hace excepciones para el uso de tecnologías como la identificación biométrica por parte de las fuerzas del orden, siempre que cuenten con la autorización judicial previa. Esta medida fue uno de los aspectos más controvertidos durante las negociaciones entre la Eurocámara y los estados miembros.

Los legisladores habían llegado a un acuerdo sobre el texto en diciembre del año pasado, luego de ásperas negociaciones, porque algunos países creían que una regulación excesiva podía amenazar el desarrollo del sector.

Sin dudas, la aparición en 2022 de ChatGPT de OpenAI le otorgó a esta medida otra dimensión. El sistema reveló el enorme potencial de la IA, pero también expuso sus riesgos. La difusión de fotografías o videos falsos, por ejemplo, puso de relieve el peligro de la manipulación de la opinión pública.

“Aunque las personas responsables de elaborar políticas saludan la Ley de IA como un modelo mundial para la regulación, la legislación no contiene principios básicos de Derechos Humanos”, dijo Amnistía Internacional cuando la normativa se encaminaba a transformarse en ley.

“Pese a que la adopción de las primeras normas del mundo sobre el desarrollo y el uso de tecnologías de IA es un hito, resulta decepcionante que la UE y sus 27 estados miembros hayan decidido dar prioridad al interés de la industria y de los organismos encargados de hacer cumplir la ley por encima de proteger a las personas y sus Derechos Humanos”, agregó el organismo en marzo de este año, al advertir que la legislación no impedía la “proliferación de tecnologías abusivas”.

Para Amnistía Internacional, los países no pertenecientes a la UE “deberían aprender de la incapacidad de la Unión para regular adecuadamente las tecnologías de IA y no deben ceder a las presiones de la industria tecnológica y de las autoridades de aplicación de la ley cuando desarrollen la normativa”.

Los estados deberían introducir una legislación sobre IA sólida y vinculante “que dé prioridad a las personas y sus derechos”.