Uno de los puntos más controversiales es el uso que las fuerzas del orden pueden hacer de las cámaras de identificación biométrica en espacios públicos para garantizar la seguridad nacional. Las mismas requerirán una autorización judicial que contemple que hay una amenaza terrorista "genuina y previsible" o "genuina y presente" (que está en desarrollo). Entre los puntos celebrados, prohíbe todos los sistemas de categorización biométrica por creencias políticas, religiosas, filosóficas o por su raza y orientación sexual; así como también los sistemas para generar bases de datos faciales a través de internet o de grabaciones audiovisuales.
En lo que respecta a los sistemas de IA generativa, que tuvo un estallido en 2023 y fue uno de los últimos agregados a la ley, tendrán que especificar si un texto, canción o fotografía se han generado a través de la inteligencia artificial y garantizar que los datos utilizados para entrenar a los sistemas respetan los derechos de autor.
Primero que nada, hay que celebrar cualquier iniciativa que apunte a regular prontamente un avance que tiene un impacto tan significativo para la sociedad. Segundo, es de destacar que esta normativa de la Unión Europea esté a la vanguardia de la protección del usuario, que es el actor más descuidado de este ecosistema que está generando la IA. Europa siempre está mostrándole al mundo que, pese a ser el continente más antiguo (como lo llaman muchos), es el más moderno cuando se trata de la conservación de los valores básicos de una sociedad.
En este momento que en Argentina están emergiendo los primeros proyectos de ley para regular la IA, sería bueno que cuando haya una normativa local trate de preservar el espíritu de este primer antecedente bajo la premisa de que no es posible innovar de manera sostenible sin atención a la dimensión humana y sin una regulación capaz de contener y fomentar el progreso. La UE tiene muy claras las prioridades y pone a la persona y el usuario primero; y la cuestión económica o el desarrollo lo deja en segundo plano. En el mundo en el que vivimos hoy, esto me parece muy vanguardista y disruptivo.