La Artificial Intelligence Act es un conjunto de medidas que están dirigidas a regular el desarrollo y uso de sistemas de inteligencia artificial en Europa. El texto ha sido adoptado por una amplia mayoría en este organismo, y eso allana el camino para su aprobación definitiva y su aplicación en los próximos meses.
La AI Act, a punto de nacer definitivamente. Como indican en el Parlamento Europeo, la Artificial Intelligence Act se postula como el primer conjunto de leyes dedicadas a regular la inteligencia artificial. Hoy el Comité del Mercado Interno y el Comité de Libertades Civiles han aprobado el texto con 84 votos a favor, 7 en contra y 12 abstenciones. Los Miembros del Parlamento Europeo (MEPs) han aprobado además importantes enmiendas a la propuesta de la Comisión Europea, que se creó en 2021.
Prohibido el reconocimiento facial. Entre las enmiendas y cambios están las prohibiciones que afectan a esta tecnología. Una de las más determinantes es la prohibición de la categorización biométrica y la recolección y rastreo de imágenes de caras —por ejemplo, con cámaras de seguridad— para crear bases de datos para reconocimiento facial. De hecho los sistemas de información biométrica, que se permitieron inicialmente en situaciones específicas como secuestros o ataques terroristas, han acabado siendo prohibidos de forma total (excepto en la persecución de delitos graves y solo con autorización judicial).
De puntuación social, nada. También se prohibe el uso de software de reconocimiento de emociones entre las agencias de seguridad, los controles fronterizos, los lugares de trabajo y los entornos educativos. El Parlamento Europeo también veta el uso de sistemas de puntuación social, es decir, aquellos que clasifican a la gente basándose en su comportamiento social, su status socio-económico o sus características personales.
La sanidad y la política, vigiladas. Los MPEs expandieron además la definición de áreas de alto riesgo a la hora de usar sistemas de IA. Entre ellos destacan el ámbito de la sanidad, pero también aquellos utilizados para "influir a los votantes en campañas políticas" o los que se usan en redes sociales (con más de 45 millones de usuarios) para recomendar contenidos.
ChatGPT debe ser más transparente. Entre las medidas más novedosas está la obligación de que los modelos generativos como ChatGPT deberán cumplir con requisitos de transparencia adicionales, como desvelar que el contenido ha sido generado por inteligencia artificial. Estos modelos deben ser diseñados para evitar generar contenido ilegal y para no publicar resúmenes de datos protegidos por derechos de autor que se usaron para el entrenamiento. O lo que es lo mismo: nada de plagios, aunque sean en forma de resumen.
Próximos pasos. Antes de que el texto final de la ley inicie su negociación en el Consejo Europeo, el borrador necesitará ser apoyado por todo el Parlamento. Se espera que esa votación tenga lugar durante las sesiones que se celebrarán entre el 12 y el 15 de junio próximos.
La UE trata de definir lo que es IA. Desde el Parlamento Europeo eran conscientes de la importancia de definir bien qué es la inteligencia artificial, pues al final es lo que marca el alcance de esta legislación. Aquí han optado por una actualización más amplia que la definida por la OCDE, que ya ha admitido que necesita una revisión. Mientras la definición de la OCDE explica que la IA está ligada a “objetivos marcados por humanos”, la nueva definición de la IA de Europa elimina esa parte y la deja en “varios niveles de autonomía”. Así queda la IA definida: “‘Sistema de inteligencia artificial’ significa un sistema basado en una máquina diseñada para operar con diferentes niveles de autonomía y que puede, para objetivos explícitos o implícitos, generar resultados tales como predicciones, recomendaciones o decisiones, que influyen en entornos físicos y virtuales”.
Bienvenida, pero algo obsoleta. La AI Act es sin duda un primer paso importante para regular el desarrollo y uso de los sistemas de inteligencia artificial, pero el texto aprobado por mayoría en el Parlamento Europeo tiene un problema previsible: está basado en la propuesta de 2021, y desde entonces el campo de la IA ha avanzado de forma asombrosa. Es cierto que se contempla por ejemplo el uso de sistemas como ChatGPT, pero el texto no menciona nada sobre la Inteligencia Artificial General (AGI) cuya aparición parece más próxima que nunca y que impone riesgos importantes.
Imagen: European Parliament
Ver 22 comentarios
22 comentarios
sanamarcar
A la velocidad que van estos, antes los sustituyen una IA xD.
sr.lobo.
Políticos regulando algo que no comprenden.
Regulación que, cuando llegue, estará obsoleta.
Los temo mucho más a ellos que a cualquier IA.
daniel3241
Pues dirán lo que quieran pero a mi el reconocimiento facial en cámaras me parece un avance sustancial y que mejoraría notablemente la seguridad o por lo menos las herramientas que tendríamos para investigar un crimen o cualquier acto delictivo. Piensen en un secuestro, o un asesinato que quede el culpable grabado y por su cara identificado, además de que el resto de cámaras podrían seguirle la pista al estar comunicadas entre ellas.
Yo creo que pecamos de alarmismo y de ignorancia cuando ponemos el grito en el cielo al conocer que nos graban por la calle o en el trabajo, no se vosotros pero yo no soy ni agente de la CIA, ni un espía que necesite pasar desapercibido. Si eres un ciudadano normal que cumple las normas, que tiene una vida como la del 90% de la población no te tiene que preocupar que te graben porque sencillamente no tiene nada contra ti.
bugattiveyron
que nos lo digan a los habitantes de las rozas, que llevan desde la pandemia vigilando todo lo que hacemos y por supuesto con inteligencia artificial...
esta claro que todo lo que dice europa que va a prohibir es porque lo llevan ya tiempo haciendo a escondidas.
Y todavia hay quien cree que vive en la libertad...
rafaello76
Creo que si se quiere, un simple if en cualquier lenguaje es inteligencia artificial ya que puede generar una recomendación, sobre el flujo que hace seguir el programa.
Sí, cualquier algoritmo puede usarse para tomar decisiones, en un juego, o un programa de bolsa o donde fuere.
Quizás lo habría enfocado a sistemas de redes neuronales que son capaces de realizar aprendizaje automático. Aunque supongo que habrá sistemas de inteligencia artificial que no se basan en ello.
Roversio
Por estas cosas Europa esta atrasada frente a China
videos123
No se puede colocar puertas en el campo, ChartGTP va mas allá de lo que uno había imaginado con Skynet, preguntas algo tan simple por ejemplo un coche en concreto y dependiente del modelo este te facilita una biblia de información incluso mas que el mismísimo fabricante.
La realidad mas clara que agua, puedes reunir 10.000 personas y no son mejores matemáticos que un niño con una calculadora de 1€.
ChartGTP es esto.
No podemos calcular mas rápido que un ordenador, lo único que carece ChartGTP es de una conciencia, por lo demás toca asumir que somos los mismísimos dinosaurios en un mundo nuevo.