Europa lleva trabajando ya varios años en un Reglamento de la Inteligencia Artificial, y tras aprobar un primer borrador el pasado mes de mayo, y 3.000 enmiendas después al final la Eurocámara ha aprobado esta ley que sigue su cauce de tramitación dentro de los organismos europeos, tras una primera propuesta por parte de la Comisión Europea en 2021.
En concreto ahora este nuevo reglamento pasa al último filtro que es el Consejo de la UE que tendrá la última palabra y puede hacer más cambios. Además, algo a destacar es que esta nueva legislación va a ser uno de los proyectos de la presidencia española del Consejo de la UE.
Cómo afecta el Reglamento a las IA generativas
Esta normativa es realmente importante para el futuro de las inteligencias artificiales en nuestro país, ya que una alta restricción podría provocar que por ejemplo ChatGPT se marche de Europa al no poder cumplir, como ya afirmó el CEO de OpenAI.
Como puntos clave de esta legislación se destaca la necesidad de tener una transparencia con el material que se ha usado para entrenar a las inteligencias artificiales que operan en Europa e indicar si el material usado tiene derechos de autor. Estos requisitos, que se agregaron recientemente por el boom de ChatGPT, incluyen también la necesidad de informar a los usuarios cuando estén delante de una IA.
Pero además, también van a estar obligadas todas estas IA a tener un modelo para evitar que los usuarios generen contenidos ilegales. Esto es lo que el propio Sam Altman afirmaba que era muy complicado de llevar a cabo, ya que sería un sinónimo de controlar a los propios usuarios y las búsquedas que realizan con la inteligencia artificial.
Clasificación de las IA por riesgo
Pero más allá de estas IA generativas, el reglamento se centra principalmente en dividir las inteligencias artificiales que vayan a operar en Europa por riesgos, tras realizar una evaluación de las mismas. En primer lugar, se categoriza como riesgo inaceptable (y por ende estarán prohibidas de usar en Europa) las siguientes IA:
- Aquellas que realicen una manipulación cognitiva del comportamiento de las personas (juguetes activados por voz).
- IA que clasifiquen a las personas por su comportamiento, estatus social o características personales.
- Sistemas de identificación biométrica en tiempo real y a distancia. Aunque hay excepciones cuando se trate de perseguir delitos graves y siempre que se tenga autorización judicial.
Por otro lado, se encuentran las IA de alto riesgo que pueden afectar negativamente a la seguridad o los derechos fundamentales. En este caso se divide entre los sistemas que se utilizan en productos como juguetes, aviación, automóviles (que cumplen la legislación de la UE sobre seguridad de los productos) y, por otro lado, una serie de categorías que se deben registrar en una base de datos que son:
- Identificación biométrica.
- Gestión y explotación de infraestructuras críticas.
- Educación.
- Empleo.
- Acceso a servicios públicos.
- Legislación.
- Gestión de migración.
Todas estas IA que están categorizadas como alto riesgo no se bloquean inmediatamente, sino que deberán pasar un control por parte de la UE para recibir la autorización de comercialización. Y por último las IA con riesgo limitado, al igual que con la IA generativa, deberán contar con transparencia y tener conocimiento de cuándo están interactuando con la IA.
Pero como decimos, todo esto puede cambiar ahora en el Consejo de la UE que va a tener que conseguir un consenso entre todos los países. Desde la propia UE aseguran que esperan tener un acuerdo a finales de este año, durante el mandato de España en la presidencia del Consejo.
En Genbeta | Los mejores cursos gratis para aprender a usar ChatGPT desde cero hasta ingeniería de prompts
Ver 1 comentarios