Ya conocemos el texto de la nueva regulación europea sobre inteligencia artificial. Una AI Act que pretende que todos los desarrollos sobre IA cumplan una serie de reglas. Sin embargo, además de a las grandes empresas de software, esta regulación también afectará a un grupo mucho más concreto: los desarrolladores de código abierto.
Sin excepción para el open source. Los desarrolladores deberán registrar sus modelos que entren dentro de la categoría de alto riesgo. Y en la ley no se contempla excepción para los modelos open source que se engloben dentro de distribuidores. Estos últimos tendrán responsabilidad legal.
El ejemplo más directo es Github. Serán ellos (y Microsoft) los responsables legales de los posibles desarrollos sobre IA de sus usuarios. Y en caso de no cumplirse con la nueva normativa en estos desarrollos, la Unión Europea podría multarles con sanciones millonarias.
Un misil contra el movimiento. Así lo describe Andrés Miguel Torrubia, cofundador del Instituto de Inteligencia Artificial. En opinión del experto, la nueva regulación de IA en Europa "favorece a los grandes" y es un "misil a los movimientos open source".
Torrubia ve la regulación como un plan "disuasorio" ya que aunque estos modelos se distribuyan en abierto, no les exime de pasar todo el costoso proceso de certificación y exponerse a posibles multas millonarias en caso de no cumplir con la normativa.
En la IA, tener un cultivo de innovación cobra más relevancia que nunca. El debate no es nuevo. En la espiral regulatoria hay quienes defienden el establecer reglas estrictas para todos y hay quienes alertan de que establecer demasiados normas puede limitar la libertad creativa y la innovación.
En un sector como el de la inteligencia artificial, donde las novedades surgen cada día a una velocidad pasmosa, mantener un ecosistema pro-innovación parece imprescindible para no quedarse atrás. Así lo cree Torrubia que define que "tenemos un regulación que se está intentando anticipar a algo en lo que ni los que estamos metidos nos podemos anticipar".
Desarrollos bloqueados desde Europa (a modo preventivo). Ya lo hemos visto con Google Bard, que está disponible en 180 países pero ninguno de ellos es europeo. Siguiendo el texto de la nueva regulación y su posición sobre los desarrollos open source, se podría dar el caso de que Microsoft decidiera dejar sin acceso a ciertos proyectos libres en Europa en Github.
Ante el riesgo de que esos desarrollos no cumplan la normativa, directamente los bloquean para evitarse problemas.
La estrategia europea: hacer responsable a las BigTech del trabajo del resto. No es difícil anticipar la importancia que tiene que haber tenido el hecho de que Github pertenezca a Microsoft. En esta ocasión tenemos algo similar a lo que ocurre con las redes sociales, donde se hace que las grandes tecnológicas sean las responsables de lo que se publica.
De manera equivalente a como esta decisión puede acabar en censura por parte de Twitter, Youtube, Facebook o quién sea, con la regulación de la IA puede acabar en una deriva anti-innovación, donde en caso de duda, directamente se opte por bloquear ese proyecto open source.
Es un nivel de exigencia que tiene como parte buena que lo que llega sea adecuado, pero que puede acabar bloqueando "justos por pecadores". Europa parece dispuesta a que la IA no avance tan rápido. Aunque eso signifique quedarse sin acceso a lo último.
Imagen | Xataka con Midjourney
En Xataka | Aleph Alpha es la empresa europea más avanzada en IA. Y lo tiene todo para convertirse en nuestro OpenAI
Ver 30 comentarios