Regulación de la UE para el uso de tecnología de IA - ¿qué deberías saber?

La tecnología de IA ha evolucionado enormemente en los últimos años y, como cualquier otra innovación, debe correlacionarse con la aceptación pública y gubernamental. Es por eso que es crucial proporcionar y adaptar regulaciones que establezcan algunos límites y al mismo tiempo no sean un obstáculo para los desarrolladores.

¿Qué es el Acto de Inteligencia Artificial de la UE?

La Comisión Europea publicó el primer acto en 2021, donde explicaba la base del uso de la IA y la responsabilidad por posibles peligros futuros. Además, se enfatizó que cualquier tecnología de IA que aparezca (o ya esté) en la Unión Europea debe desarrollarse con total responsabilidad y conciencia del impacto social y respeto hacia los valores y reglas que perduran en Europa.

A lo largo de los años, el documento ha sido actualizado varias veces, y la última publicación fue en 2023. Tales adaptaciones son inevitables, ya que la tecnología de IA sigue en curso.

Es por eso que hay un plan para llevar a cabo un portal de ley de IA uniforme, donde todos puedan verificar la actualización más reciente y adaptarla a sus propias regulaciones empresariales. Además, habrá disponibilidad para enviar quejas sobre sistemas de IA que se hayan utilizado incorrectamente y hayan afectado sus datos.

Regulación de la UE para el uso de tecnología de IA - puntos clave

Teóricamente, la regulación de la UE debe incluir una explicación detallada del uso adecuado de la tecnología de IA, como:

• Transparencia: código abierto disponible para la comunidad de desarrolladores de IA
• Calidad de los datos: información detallada sobre las mejores prácticas de preparación de datos
• Protección del usuario: recordatorio sobre la privacidad de los datos y las consecuencias cuando se han filtrado o usado inapropiadamente
• Supervisión humana: control sobre el desarrollo de IA entre la sociedad
• Responsabilidad: aceptar responsabilidad por acciones y decisiones

Además, hay un gran aspecto de la ética de la IA y sus requisitos básicos.

También, el documento debe divulgar 4 niveles de riesgo del uso de la tecnología de IA:

1. Inaceptable:

• Manipulación del comportamiento cognitivo de las personas o grupos vulnerables específicos
• Puntuación social: clasificación de personas según comportamiento, estatus socioeconómico o características personales
• Categorización biométrica de personas

2. Alto:

Sistemas de IA que caen en áreas específicas que tendrán que registrarse en una base de datos de la UE:

• Gestión y operación de infraestructura crítica
• Educación y formación profesional
• Empleo, gestión de trabajadores y acceso al autoempleo
• Acceso y disfrute de servicios privados esenciales y servicios públicos y beneficios
• Aplicación de la ley
• Gestión de migración, asilo y control de fronteras
• Asistencia en la interpretación y aplicación de la ley.

3. Limitado:

• Revelar que el contenido fue generado por IA
• Diseñar el modelo para evitar que genere contenido ilegal
• Publicar resúmenes de datos con derechos de autor utilizados para el entrenamiento

4. Mínimo:

La ley tiene como objetivo ofrecer oportunidades a startups y pequeñas y medianas empresas para desarrollar y entrenar modelos de IA antes de su lanzamiento al público general.

Además, cada uno de los niveles de riesgo debe contener información/documentación específica sobre el proceso de evaluación y ejemplos de buenas prácticas como:

• Pruebas rigurosas
• Documentación adecuada
• Objetivos comerciales claros
• Protección de datos

Considera si la ética de la IA es una necesidad en el mundo moderno.

Además, la regulación puede contener instrucciones detalladas de implementación de IA (“lo que se debe y no se debe hacer”), que esté en conformidad con el principio de ley de la UE.

Tan pronto como la regulación esté en la etapa final, el comité de la UE también planea proporcionar multas para las empresas/desarrolladores que hayan utilizado indebidamente la tecnología de IA o hayan amenazado a la sociedad a gran escala.

¿Qué sigue?

Primero, la regulación debe ser votada y aceptada en el comité de la UE. Desafortunadamente, tales debates a menudo duran meses o incluso años. El siguiente paso contiene la implementación de la regulación en cada país europeo.

Después de eso, las empresas/desarrolladores tendrán 2 años para actualizar sus regulaciones y servicios a los nuevos estándares. Y solo después de otros 6 meses, el gobierno verificará y prohibirá los servicios de IA que no hayan solicitado la nueva ley.

¿Por qué se debería proporcionar tal regulación?

En primer lugar, actualmente la tecnología de IA solo está parcialmente regulada, y todavía hay algunos aspectos que permanecen bajo la ley. Desde un punto de vista, abre un montón de posibilidades para los desarrolladores. Pero desafortunadamente, en manos equivocadas tal libertad podría usarse como un arma. Y podría poner en riesgo todo el proceso de protección de datos.

Aparte de eso, la siguiente afirmación debe ser considerada:

• Protección de los derechos humanos fundamentales: privacidad, no discriminación y autonomía.
• Seguridad y fiabilidad: la regulación puede establecer estándares y requisitos para la seguridad y fiabilidad de los sistemas de IA.
• Transparencia y responsabilidad: requisitos para explicar los procesos de toma de decisiones de IA, divulgar fuentes de datos y métodos de entrenamiento, y asignar responsabilidad por los resultados relacionados con la IA.
• Consideraciones éticas: la IA plantea diversas preocupaciones éticas, incluidas cuestiones relacionadas con la equidad, el sesgo, la responsabilidad y el impacto en los trabajos y la sociedad.
• Promoción de la innovación y la competitividad: una regulación clara y consistente puede proporcionar certeza y confianza a las empresas y consumidores. También puede ayudar a asegurar un campo de juego nivelado para las empresas que operan en el mercado de la UE.
• Liderazgo global: al desarrollar e implementar una regulación robusta para la IA, la UE puede posicionarse como líder mundial en gobernanza responsable de la IA.