La Comisión Europea acaba de publicar su libro blanco sobre inteligencia artificial y el enfoque europeo para su regulación y promoción. Citando el rápido desarrollo de la IA y todos sus potenciales riesgos y beneficios, la comisión ha presentado una serie de opciones para establecer políticas regulatorias.
La Comisión lleva tiempo trabajando en la creación de reglas para el desarrollo ético de la inteligencia artificial, apoyan un enfoque orientado a la regulación y también a la inversión con el objetivo de promover la asimilación de la IA en Europa y la vez abordar los riesgos asociados a ciertos usos de la nueva tecnología.
Margrethe Vestager, la vicepresidenta ejecutiva de 'Una Europa adaptada a la era digital', dijo: "Queremos que cada ciudadano, cada empleado, cada negocio tenga una oportunidad justa de aprovechar los beneficios de la digitalización. Ya sea que eso signifique conducir de forma más segura o contaminar menos gracias a los coches conectados; o incluso salvar vidas con imágenes médicas potenciadas por IA que permiten a los médicos detectar enfermedades más pronto que antes".
Los primeros pasos para asegurar un desarrollo centrado en el humano de la inteligencia artificial
Durante los próximos cinco años la Comisión se enfocará en tres objetivos clave:
- Tecnología que funcione para la gente
- Una economía justa y competitiva
- Una sociedad democrática sostenible y abierta
La idea es convertir a Europa en una potencia global que aproveche toda la infraestructura tecnológica y la economía de big data como se ha propuesto en la recién publicada estrategia de datos europea.
La Comisión cree que Europa puede desarrollar un ecosistema de IA que traiga beneficios a toda la sociedad y a la economía. Para los ciudadanos a nivel de servicios de salud, productos del hogar más confiables, sistemas de transporte más seguros y sostenibles, y mejores servicios públicos.
También para el desarrollo de negocios donde Europa es particularmente fuerte, como maquinaria, transporte, ciberseguridad, agricultura, asistencia sanitaria, economía sostenible, moda y turismo. La estrategia establece un número de medidas políticas, incluida la movilización de inversiones privadas y públicas, necesarias para lograr este objetivo.
El plan propone unas 70 acciones conjuntas para una cooperación más estrecha y eficiente entre los Miembros y la Comisión en esferas clave, como la investigación, la inversión, la absorción de mercado, aptitudes y talento humano, datos y cooperación internacional. Se prevé que el plan se prolongue hasta 2027.
Dependiendo de los resultados de la consulta pública sobre esta propuesta, se propondrá a los Miembros la adopción del plan coordinado para finales de 2020.
Los prejuicios de la IA
El plan de la Comisión no deja de lado los riesgos inherentes del uso de inteligencia artificial, especialmente los sesgos que afectan a muchos de estos nuevos sistemas:
Como con cualquier nueva tecnología, el uso de la IA trae consigo tanto oportunidades como riesgos. Los ciudadanos temen ser abandonados impotentes en la defensa de sus derechos y seguridad cuando se enfrentan a las asimetrías de información de las decisiones hechas por algoritmos, y a su vez las empresas están preocupadas por la incertidumbre jurídica. Aunque la IA puede ayudar a proteger la seguridad de los ciudadanos y permitirles disfrutar de sus derechos fundamentales, los ciudadanos también se preocupan de que la IA pueda tener efectos no deseados e incluso ser usada con fines malintencionados. Estas preocupaciones necesitan ser abordadas. Además, junto a la falta de inversión y de conocimientos, la falta de confianza es un factor principal que frena una una mayor absorción de la IA.
Es por eso que la Comisión estableció un grupo de expertos del más alto nivel para publicar las directrices que aseguren el desarrollo ético de una IA digna de confianza. Son siete requerimientos clave que deben cumplirse:
- Dependencia y supervisión humana
- Robustez y seguridad técnica
- Privacidad y gobernanza de datos
- Transparencia
- Diversidad, no discriminación y equidad
- Bienestar social y ambiental
- Rendición de cuentas
La Comisión apunta que los sesgos y la discriminación son riesgos inherentes de cualquier actividad social o económica, sin embargo, aunque la decisión humana no es inmune a cometer errores o tener prejuicios, cuando esos problemas están presentes en una IA, podrían tener un efecto mayor, afectando y discriminando a más personas sin los mecanismos de control social que gobiernan el comportamiento humano.
En los casos de alto riesgo, como en la salud, la policía o el transporte, los sistemas de IA deben ser transparentes, rastreables y garantizar la supervisión humana. Las autoridades deberían poder probar y certificar los datos utilizados por los algoritmos al comprobar cosméticos, coches o juguetes. Se necesitan datos imparciales para capacitar a los sistemas de alto riesgo para que funcionen correctamente, y para garantizar el respeto de los derechos fundamentales, en particular la no discriminación.
Para ello el plan propone una serie de posibles ajustes de la legislación europea en lo relacionado con la IA, y también explican que varios Miembros están explorando opciones para la legislación nacional de los nuevos retos creados por la IA.
Con este informe la Comisión Europea ha invitado a la opinión publica a participar con comentarios y propuestas a través de la página de consultas hasta el 19 de mayo de 2020. Animan a todos los Estados Miembros de la UE, a la sociedad civil, a la industria y los académicos a que ayuden a formular el enfoque para uso de la IA en Europa que no solo promueva la inversión para investigación e innovación, sino también que proponga elementos claves de un marco regulatorio futuro.
