La Inteligencia Artificial (“IA”), es una tecnología que está presente en nuestro día a día, tanto a nivel personal a través de distintos dispositivos, aplicaciones y servicios que utilizamos a diario, como en las organizaciones, las cuales cada vez demandan más la utilización de esta tecnología.
Debido a esta situación, la Unión Europea (“UE”) ha aprobado el Reglamento de Inteligencia Artificial con el objetivo principal de garantizar que los sistemas de IA sean seguros y respeten en todo momento los derechos, legislaciones y valores fundamentales de la UE.
El Reglamento de Inteligencia Artificial
El Reglamento de Inteligencia Artificial define los sistemas de IA como:
“un sistema basado en una máquina diseñado para funcionar con distintos niveles de autonomía, que puede mostrar capacidad de adaptación tras el despliegue y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar información de salida, como predicciones, contenidos, recomendaciones o decisiones, que puede influir en entornos físicos o virtuales;”
En este sentido, gran cantidad de organizaciones están comenzando a desarrollar e implementar la IA en sus procesos de negocio con el objetivo de mejorarlos y optimizarlos, aprovechando así el gran potencial de transformación que tiene esta. Sin embargo, es primordial tener en cuenta que esto requiere un planteamiento estratégico acerca de cómo utilizar y hacer uso de la IA.
La IA tiene un impacto directo en el día a día de las personas y, por tanto, en su vida. Esto trae consigo innumerables preguntas acerca de la ética de la IA y la confianza que los usuarios tienen en esta.
Es por ello, que para todas aquellas organizaciones que desean implementar esta tecnología, además de tener en cuenta las regulaciones nuevas y las que están por llegar, es necesario que tengan en cuenta las consideraciones éticas de su utilización.
Esto, nos lleva a plantearnos cual es el enfoque correcto a seguir a la hora de implementar en nuestra organización la IA y aquí es donde nos encontramos con la IA Responsable (“IAR”), también conocida como IA fiable. .
¿Qué es la Inteligencia Artificial Responsable?
La Inteligencia Artificial Responsable se basa en la definición e implementación de sistemas de IA que sigan pautas y principios éticos, con el objetivo de que estos sean transparentes, imparciales y responsables, de tal forma que utilización de la IA en la organización sea segura y fiable.
La Inteligencia Artificial Responsable se enfoca en situar a al individuo en el centro en el momento del diseño, con el objetivo de tener en consideración tanto los daños que pueden afectarle como los beneficios que esta tecnología puede traerle. Este enfoque ayuda a las organizaciones a tener un impacto justo y ético y a generar un marco de confianza en sus clientes, trabajadores y la sociedad en general.
En este sentido, el Grupo Independiente de Expertos de Alto Nivel sobre la IA presentó en el 2019 unas Directrices éticas para una IA fiable, las cuales son indispensables en la definición de sistemas de IAR.
¿Cuáles son los requisitos clave para implementar la Inteligencia Artificial Responsable ?
Para poder implementar la Inteligencia Artificial Responsable en la organización, es indispensable considerar e implementar determinados requisitos que garanticen que todos los sistemas de IA son transparentes, éticos y justos. A continuación, se recogen los siete requisitos establecidos por el Grupo de Expertos de Alto Nivel en sus Directrices sobre la IA:
- Intervención y supervisión humana. Establece la necesidad de que los sistemas de IA sean debidamente supervisados. Para ello se distinguen distintos tipos de supervisión humana:
- Participación humana: Se basa en la intervención del ser humano en los distintos procesos en los que la IA toma decisiones.
- Control humano: Se centra en el control humano desde el diseño de la IA y durante su funcionamiento.
- Mando humano: Es la facultad de supervisar la actividad global de la IA, incluyendo la capacidad de decir su utilización o no en determinado proceso.
- Solidez técnica y seguridad. Es indispensable que los sistemas de IA sean capaces de prevenir los posibles daños que puedan ocasionarse al comportarse de forma distinta a los criterios establecidos. Además, se deberá minimizar en todo caso, cualquier posible daño imprevisto o involuntario en el caso de que esto suceda.
Asimismo, como cualquier software es imprescindible que esté debidamente protegido frente a cualquier posible vulnerabilidad que pueda afectarlo. Existen distintos ataques que pueden ir dirigidos contra los sistemas de IA que pueden buscar por ejemplo manipular las decisiones tomadas por la IA.
- Privacidad y gestión de datos. Se basa en la protección de los datos personales y la privacidad de las personas, garantizando que se respetan todas las normativas de privacidad aplicables; lo que implica la implementación de la privacidad desde el diseño y por defecto, que se dispone de una base legal para el tratamiento de los datos, etc.
- Transparencia. Sostiene que toda la lógica y las razones que están detrás de la toma de las decisiones de la IA tienen que ser claras, comprensibles y explicables. Esto implica que las organizaciones deberán trabajar en generar mecanismos de transparencia que permitan que los individuos entiendan fácilmente cómo y por qué se toman las decisiones.
- Diversidad, no discriminación y equidad. Implica que los sistemas de IA deben siempre garantizar un trato justo y libre de prejuicios hacia todos los individuos. Esto quiere decir, que la toma de decisiones debe ser imparcial y no debe tener en cuenta criterios como la raza, sexo, edad, etc. a la hora de tomar decisiones. Gracias a esto, se garantiza que la IA beneficie a todos por igual.
- Bienestar social y medioambiental. La IA debe tener en consideración a la Sociedad en general y no solo al individuo en particular. Esto quiere decir que se debe promover una IA responsable con el medioambiente, por ejemplo asegurando de que tan solo consume los recursos necesarios para operar y además, se debe analizar y valorar el impacto de esta en la Sociedad.
- Rendición de cuentas. Se basa en la creación de mecanismos que permitan garantizar en todo momento la responsabilidad de las decisiones de la IA y la rendición de cuentas sobre estos sistemas.
No obstante, es importante mencionar que cada organización puede definir su propio marco de IAR, lo que implica la creación de políticas internas, implementación de controles concretos y auditorias, la formación de sus empleados en las mejores prácticas de la IAR, etc. Lo fundamental será siempre generar un marco que garantice la utilización de la IA de forma ética en todos sus ciclos, respetando siempre las normativas aplicables.
¡Ahora es el turno de todas las organizaciones de revisar sus procesos internos e implementar medidas que garantice la utilización de la IA de un forma responsable y ética!
¿Quieres conocer más novedades sobre Compliance y Protección de Datos? Visita nuestro blog
