El 14 de junio de 2023 se dio luz verde al inicio de las conversaciones sobre la futura Ley de Inteligencia Artificial (IA) en Europa, que se espera esté implementada para finales de 2023. Esta reglamentación asegurará que la IA creada y empleada en Europa respete íntegramente los derechos y principios de la UE.

La Unión Europea (UE) reconoce la necesidad de un marco regulador ante el rápido avance de la Inteligencia Artificial y nuestra creciente dependencia de estas tecnologías. La IA tiene el potencial de aportar grandes beneficios a la sociedad, pero también plantea riesgos potenciales. Para que la IA sea aceptada y adoptada por la sociedad, es esencial que los ciudadanos confíen en su uso responsable y ético. La UE aspira a ser líder mundial en IA controlada y confiable, y esta nueva ley es esencial en esa estrategia.

La ley establece una serie de principios que deben cumplir los sistemas de IA, como la transparencia, la no discriminación y la rendición de cuentas. 

·         Transparencia: Los sistemas de IA deben ser diseñados y operados de manera que los usuarios puedan comprender fácilmente cómo funcionan, cómo toman decisiones y con base en qué criterios actúan. Por ejemplo, si un banco utiliza un algoritmo de IA para evaluar la solvencia crediticia de los solicitantes, este algoritmo debería ser lo suficientemente transparente como para que el solicitante pueda entender cómo se tomó la decisión, es decir, qué factores se consideraron y cómo se ponderaron.

·         No discriminación: La IA debe ser diseñada y programada para evitar sesgos y decisiones injustas. No debe favorecer ni perjudicar a un grupo particular de personas en función de características protegidas como el género, la raza, la religión, entre otras. Por ejemplo, si un sistema de IA se utiliza para la selección de candidatos para un puesto de trabajo, no debería dar preferencia o desventaja a los candidatos basándose en su origen étnico. Si, por ejemplo, se descubre que el algoritmo selecciona desproporcionadamente a candidatos de un grupo étnico específico, esto sería un indicador de un sesgo potencial que debe ser rectificado.

·         Rendición de cuentas: Los creadores y operadores de sistemas de IA deben ser responsables de las decisiones y acciones realizadas por sus sistemas. Deben ser capaces de explicar, corregir y, si es necesario, compensar cualquier fallo o perjuicio causado por la IA. Por ejemplo, supongamos que un sistema de IA en el ámbito médico recomienda un tratamiento incorrecto para un paciente, lo que resulta en complicaciones de salud. La entidad que implementó y utilizó este sistema debería ser capaz de rastrear el error, corregir el algoritmo y asumir la responsabilidad del error, que podría incluir compensaciones para el paciente afectado.

La ley prohíbe el uso de la IA para fines discriminatorios o que violen los derechos fundamentales, como la libertad de expresión o la protección de datos.

·         Libertad de expresión: No se debe utilizar la IA para monitorear, analizar o reprimir la libre expresión de las personas o para manipular la información de manera que silencie o distorsione puntos de vista particulares. Por ejemplo, consideremos una plataforma de redes sociales que utiliza algoritmos de IA para filtrar y eliminar sistemáticamente opiniones políticas específicas, limitando así la diversidad de voces en su plataforma. Este tipo de censura algorítmica iría en contra de la protección de la libertad de expresión.

·         Protección de datos: Los sistemas de IA deben ser diseñados y operados de manera que respeten las normativas existentes de protección de datos, asegurando que la información personal de los usuarios se maneje con privacidad y seguridad. Por ejemplo, si una aplicación de salud utiliza IA para predecir posibles enfermedades futuras basándose en los datos de salud de un usuario, estos datos no solo deben ser procesados de forma transparente y con el consentimiento del usuario, sino que también deben estar protegidos contra posibles brechas de seguridad o usos no autorizados. 

La ley establece un marco regulatorio claro y predecible que facilite el desarrollo de la innovación en la IA.

·         Claridad Regulatoria: Un marco regulatorio claro proporciona a las empresas y desarrolladores un conjunto definido de reglas y directrices que deben seguir, eliminando la ambigüedad o incertidumbre. Por ejemplo, una start-up que desee desarrollar un nuevo asistente virtual basado en IA ya no tendría que adivinar o asumir qué prácticas son aceptables. Con las regulaciones claramente definidas, sabrían de antemano qué requerimientos deben cumplir en términos de transparencia, protección de datos, etc.

·         Estímulo a la Innovación: Al tener reglas claras y justas, las empresas pueden invertir en investigación y desarrollo con confianza, sabiendo que si siguen las regulaciones, sus productos y servicios serán aceptados y adoptados. Por ejemplo, una empresa que quiera introducir una nueva herramienta de IA en el mercado educativo europeo podría estar más dispuesta a invertir en su desarrollo si tiene claro qué está permitido y qué no, reduciendo así los riesgos de rechazo regulatorio o problemas legales futuros.

La ley europea de IA no solo impactará en la forma en que la tecnología se desarrolla y utiliza en Europa, sino que también podría sentar un precedente para regulaciones en otras partes del mundo. El éxito de esta ley y su influencia global dependerán de cómo la UE logre un equilibrio entre la protección del usuario, los intereses comerciales y la adaptabilidad a la constante evolución tecnológica de la IA. Estaremos atentos en Ravenwits para cumplir todos los requisitos. 

No dudes en ponerte en contacto con nosotros si te interesan estos temas. La mejor manera es que dejes un comentario en nuestro canal de Linkedin: https://www.linkedin.com/company/86820976/admin/