La Inteligencia Artificial y aplicaciones como ChatGPT levantan miedos y suspicacias entre los organismos reguladores por sus capacidades. La Unión Europea ha dado el primer paso para poder coto a estas y en el Parlamento Europeo han votado hoy en favor de limitar el uso de la Inteligencia Artificial.

Según se ha acordado por parte de los miembros de la Comisión de Mercado Interior y la Comisión de Libertades Civiles, entre el 12 y el 15 de Junio se presentará un texto con el que se quiere acordar una ley que dote de marco jurídico las limitaciones que deberán cumplir las herramientas de Inteligencia Artificial.

El texto quiere marcar unos limites para la AI a la hora de «generar resultados tales como predicciones, recomendaciones o decisiones, que influyen en entornos físicos o virtuales«. También aborda los problemas relacionados con la recolección de datos biométricos y plantea la prohibición de uso de sistemas de reconocimiento de emociones por parte de cuerpos se seguridad o en los lugares de trabajo y educación.

Según reflejan en esta propuesta se pretende tratar el uso de la IA en los siguientes ambientes:

• Sistemas de identificación biométrica remota “en tiempo real” en espacios de acceso público;
• Sistemas de identificación biométrica a distancia “post”, con la única excepción de las fuerzas del orden para la persecución de delitos graves y sólo previa autorización judicial;
• Sistemas de categorización biométrica que utilizan características sensibles (p. ej., género, raza, etnia, estado de ciudadanía, religión, orientación política);
• Sistemas policiales predictivos (basados ​​en perfiles, ubicación o conducta delictiva pasada);
• Sistemas de reconocimiento de emociones en las fuerzas del orden, la gestión de fronteras, el lugar de trabajo y las instituciones educativas; y
• Raspado indiscriminado de datos biométricos de las redes sociales o imágenes de CCTV para crear bases de datos de reconocimiento facial (violando los derechos humanos y el derecho a la privacidad).

Aún queda por conocer el texto final, pero este es un primer paso dado por Europa para poner unas limitaciones a la IA que los expertos llevan tiempo reclamando.