Necesario marco ético de Inteligencia Artificial

Hace unos días atrás se realizó en nuestro país en encuentro denominado «El impacto de la Inteligencia Artificial», organizado por Ricardo Beza-Yates, investigador senior del Instituto Millenio Fundamento de los Datos y la revista El Periodista en donde se analizó durante dos días diversas temáticas relacionadas con la Sociedad y las Tecnologías de la Información, especialmente en relación a la Inteligencia Artificial.

Dentro de esta actividad fui invitado a participar en mi calidad de docente de centro de Investigación en Ciberseguridad de la Universidad Mayor, en el panel denominado «Los desafíos éticos de la Inteligencia Artificial, siendo moderado por Oscar López (de OptIA, Chile) y compartiendo el panel con María Paz Hermosilla (Univ. Adolfo Ibañez, Chile), Lorena Jaume-Palasi (EthicalTech Society, Alemania) y Cristina Pombo (fAIr LAC, BID, Estados Unidos).

En este espacio debatimos y compartimos reflexión respecto a la necesidad de pensar, diseñar y contar con un marco ético de IA considerando los avances tecnológicos y el impacto social de la aplicación de la misma, a nivel de gobierno, empresas privada, academia y ciudadano.

Es posible ver el video de esta conversación a continuación:

Toda iniciativa orientada hacia este objetivo es positivo, sobre todo si se basa en definiciones y recomendaciones internacionales y en donde justamente el aspecto ético es fundante para orientar el desarrollo de IA.

Recientemente, la Asociación Británica de la Industria de la Seguridad (BSIA) ha lanzado una guía de uso ético y legal del reconocimiento facial automático (AFR).

Tal como lo indica en su sitio web, la guía, que es la primera de su tipo, sigue las recomendaciones sobre el uso responsable de la Inteligencia Artificial (IA) de la Organización para la Cooperación y el Desarrollo Económicos (OCDE), y abarca términos y abreviaturas útiles, usos éticos y más. La guía tiene un enfoque específico en la verificación de tipos de aplicaciones distintivos (¿es usted?) Y la identificación (¿quién es?).

Dave Wilkinson, Director de Servicios Técnicos de la BSIA que dirige el grupo de trabajo de AFR de la BSIA, dijo: “Este trabajo colaborativo entre expertos de la industria ha producido una guía con consejos y recomendaciones sobre el uso ético y legal de AFR, que atraerá a cualquiera en o fuera de la industria de la seguridad física *. Su objetivo es garantizar que no cause daño ni discrimine a ninguna persona en un entorno público o privado. 

“El uso de IA es una parte de la vida diaria que crece exponencialmente y debemos asegurarnos de que todas las partes interesadas sean conscientes de las consideraciones éticas y legales del uso de estas soluciones. De lo contrario, esta tecnología beneficiosa podría ser mal utilizada, lo que provocaría una pérdida de confianza y un mayor escepticismo de la tecnología. Queremos asegurarnos de que el público en general sepa que esta guía ética y legal está disponible para que las empresas la sigan. El cumplimiento de la ley es primordial con el uso de esta tecnología, y esta guía proporcionará a las empresas la base para demostrar su compromiso de cumplir con las realidades éticas, las consecuencias y los impactos del uso de una solución AI / AFR ”. 

El marco, diseñado para ser accesible tanto a los expertos del sector como al público, se centra específicamente en los distintos tipos de aplicaciones de verificación e identificación.

La guía muestra una imagen precisa de cómo funciona AFR y está diseñada para recordar a los usuarios lo que deben considerar antes de agregar una solución de reconocimiento facial a su sistema de seguridad. 

Reconocimiento facial automatizado: una guía para el uso ético y legal está disponible para descargar en el sitio web de la BSIA y el grupo de trabajo espera desarrollar más este documento de orientación en un código de práctica o estándar británico. 

Una guía muy interesante para leer, bastante sencillo de comprender, alineado a los principios éticos de la IA que se aplica en Europa y bien explicado considerando los distintos escenarios de uso de reconocimiento facial y utilización de IA y sistemas automatizados.

Es muy importe que en nuestro país continúen estas discusiones entre todos los actores intervinientes, tanto ámbito público, privado, academia, ong y especialmente el parlamento, que debe estar a la altura del desarrollo tecnológico y establecer ciertos lineamientos o marcos regulatorios, especialmente éticos, en el uso de tecnología que incorpore algoritmos inteligentes o IA, cada vez más comunes en su desarrollo y aplicación.

Artículos relacionados

Deja un comentario