Luz verde de la Cámara Europea para las normas de IA

(ANSA) ESTRASBURGO - La Cámara Europea da luz verde a la AI Act, es decir, al establecimiento de estándares europeos sobre Inteligencia Artificial.
    La aprobación del texto en el Pleno se produjo por una amplia mayoría: 523 votos a favor, 46 en contra y 49 abstenciones.
    La UE es la primera del mundo en adoptar normas sobre inteligencia artificial.
    El reglamento tiene como objetivo proteger los derechos fundamentales, la democracia, el Estado de derecho y la sostenibilidad ambiental de los sistemas de inteligencia artificial de alto riesgo, al tiempo que promueve la innovación y garantiza que Europa lidere el sector.
    La legislación establece obligaciones basadas en los posibles riesgos y el nivel de impacto de los sistemas de IA. En otras palabras, las nuevas reglas prohíben algunas aplicaciones de IA que amenazan los derechos de los ciudadanos, incluidos los sistemas de categorización biométrica basados ;;en características sensibles, los sistemas de reconocimiento de emociones en el lugar de trabajo y en las escuelas, la puntuación social y las prácticas policiales predictivas.
    Sin embargo, hay excepciones. En algunas situaciones específicas expresamente previstas por la ley, la policía podrá utilizar sistemas de identificación biométrica, que de otro modo estarían prohibidos. La identificación "en tiempo real" sólo puede utilizarse si se respetan estrictas garantías, por ejemplo si el uso está limitado en el tiempo y el espacio y sujeto a autorización judicial o administrativa. Los usos permitidos incluyen, por ejemplo, la búsqueda de una persona desaparecida o la prevención de un ataque terrorista.
    En cuanto a los sistemas de alto riesgo, es decir, aquellos que podrían causar daños importantes a la salud, la seguridad, los derechos fundamentales, el medio ambiente, la democracia y el Estado de derecho, existe la obligación de evaluar y reducir los riesgos, mantener registros de uso, ser transparentes y preciso y garantizar la vigilancia humana.
    Una de las innovaciones, en comparación con la propuesta de la Comisión, es la provisión de reglas para los sistemas de IA para fines generales, que deberán cumplir ciertos requisitos de transparencia y respetar las normas de derechos de autor de la UE durante las fases de formación de los distintos modelos.
    Los modelos más potentes, que pueden plantear riesgos sistémicos, tendrán obligaciones adicionales, como realizar evaluaciones de modelos, evaluar y mitigar riesgos sistémicos e informar sobre incidentes. Además, las imágenes artificiales o manipuladas y los contenidos de audio o vídeo, los llamados "deepfakes", deben estar claramente etiquetados como tales (marcas de agua).
    Por último, los países de la UE tendrán que establecer y hacer accesibles a nivel nacional espacios de experimentación regulatoria y mecanismos de prueba en condiciones reales (sandboxes), para que las pymes y las empresas emergentes puedan desarrollar sistemas innovadores de IA y capacitarlos antes de introducirlos en el mercado.
    El reglamento entrará en vigencia veinte días después de su publicación en el Diario Oficial de la UE y comenzará a aplicarse 24 meses después de su entrada en vigor, excepto en lo que respecta a prohibiciones de prácticas prohibidas, que se aplicarán a partir de seis meses después de su entrada en vigor; códigos de buenas prácticas (nueve meses después); normas sobre sistemas de IA de propósito general, incluida la gobernanza (12 meses) y obligaciones para sistemas de alto riesgo (36 meses).
    (ANSA).