Desde que la inteligencia artificial irrumpió en nuestras vidas estamos intentando descifrar sus efectos. Una labor titánica para las personas de a pie. Lo que sí podemos hacer es acercarnos a las disyuntivas éticas que se desprenden de la nueva forma de concebir la realidad.
Hoy ponemos el foco en la moralidad de la IA, un tema del que sabe mucho Frank Escandell, divulgador tecnológico y experto en inteligencia artificial. En esta charla nos arroja un poco de luz sobre los peligros que tiene un fenómeno que, a pesar de sus enormes ventajas, puede reproducir los aspectos más reprobables del ser humano.
Desde la aparición de la inteligencia artificial se ha debatido mucho sobre los conflictos éticos que puede generar y las posibles soluciones a este problema. En este sentido, ¿por dónde se debería empezar a la hora de controlar a la IA?
Muchas personas, cuando se habla sobre ética e inteligencia artificial, tienden a pensar que a los algoritmos se les dota de moralidad, y no es el caso. La cuestión de la ética en la IA, básicamente, consiste en un marco operativo de gobernanza, de transparencia y de supervisión humana que consta de diferentes niveles.
Este marco operativo se basa en garantizar que los sistemas inteligentes respeten los derechos fundamentales, eviten sesgos discriminatorios y, de esta forma, protejan la dignidad y la autonomía de las personas. Todo ello está recogido en el reglamento europeo de inteligencia artificial, aprobado en agosto de 2024.
¿Y se respetan?
Durante la primera etapa de vida de este fenómeno, el debate global se centraba en una serie de manifiestos teóricos: guías de buenas prácticas o códigos éticos voluntarios. Más tarde, durante la segunda fase, en el que se da el salto a la IA generativa, da comienzo una regulación normativa dada la democratización masiva de estas herramientas. Por último, la tercera fase (en la que nos encontramos) da pie a una gobernanza operativa que se basa en la llamada GRC (Gobernanza, Riesgo y Cumplimiento), que es básicamente la evaluación del impacto algorítmico en los derechos fundamentales.
¿Qué criterios deberían tenerse en cuenta para saber si una IA se está utilizando de forma responsable desde el punto de vista ético?
Ahora mismo existe un estándar de calidad (a nivel europeo), llamado ISO 42001, que establece una serie de líneas maestras para que las empresas y las instituciones respeten ciertos estándares éticos por diseño. Es decir, son una serie de parámetros para construir éticamente desde el primer momento en el que se empieza a desarrollar una de estas tecnologías: por ejemplo, se ha de establecer qué tipo de datificación humana va a recoger la IA (género, edad, nombre de la persona…).
En definitiva, los criterios de control se basan en observar qué datos o marcadores pueden sesgar una decisión tomada por el algoritmo. Además, hay que tener en cuenta que un alto porcentaje de estos sesgos no son deliberados, si no que son los seres humanos quienes, de forma inconsciente, sesgan el algoritmo.
Dada la la velocidad a la que avanza la IA, ¿crees que ya es tarde para poder legislarla y poder paliar sus efectos negativos?
Personalmente, creo que la legislación no va a poder alcanzar a la IA, no porque nosotros fallemos, si no porque la forma en la que venimos regulando es más propia del siglo XX o de principios del siglo XXI. Es decir, ante una disrupción tecnológica de tal calibre, cuya evolución la va volviendo más y más compleja, a nivel europeo seguimos legislando de igual forma que se hacía para cuestiones más arcaicas.
Por todo ello pienso que, en lugar de tener un sistema tan punitivo, deberíamos establecer más principios, como si fueran guardarraíles. Estos principios no llegarán nunca a ser universales, pero sí que puede existir cierto consenso en el ámbito internacional. En este sentido, creo que la regulación debería moverse entorno a establecer unas líneas rojas para la inteligencia artificial.
Has hablado de corregir los sesgos de una IA desde su diseño, pero ¿crees que también es necesario vigilarla una vez puesta en marcha para detectar posibles consecuencias negativas?
Es muy importante llevar a cabo ejercicios de control sobre la IA, sin embargo, subsanar esos errores una vez ya se ha puesto en marcha supone mucho riesgo y un gasto enorme de recursos. Por eso, creo que es fundamental adelantarse a ellos y establecer una vigilancia ya no en el diseño de estas tecnologías, si no en los datos y las estadísticas que la van a nutrir, cuyos sesgos se reproducirán más tarde en cualquier proceso que lleve a cabo la IA.
Durante tu experiencia en este ámbito, ¿has observado situaciones en las que los objetivos de un proyecto entraban en conflicto con determinados principios éticos? ¿Cómo se resuelve esta tensión?
Debo decir que cuando me he encontrado con situaciones así, en el 99’9 % de las veces se debe al desconocimiento. Teniendo en cuenta que existe una ley que hay que cumplir, en la mayoría de los casos los departamentos técnicos desconocen esta legislación.
Por ello, creo sinceramente que las empresas deberían utilizar la regulación europea como una ventaja competitiva y así no tener que enfrentarse a problemas legales más tarde.
Durante la Escuela de Otoño de la PVE hablaste de la automatización de la discriminación de colectivos vulnerables. ¿Cómo puede una IA reproducir sesgos sociales o discriminar a un colectivo sin que las personas que la han diseñado sean conscientes de ello?
Uno de los conceptos originales durante las primeras tres fases de la IA era el de la ‘explicabilidad algorítmica’, es decir, existen una serie de algoritmos que “no pueden explicarse a sí mismos”. Cuando se le pregunta a un algoritmo cómo ha llegado a una determinada decisión (que influye juicios de valor), te das cuenta de que puede incurrir en prejuicios sociales.
En este sentido, y a modo de ejemplo, se puede decir que las personas mayores presentan cierta vulnerabilidad debido a la falta de alfabetización digital o los menores a la hora de utilizar las redes sociodigitales. Pues bien, esta vulnerabilidad es reproducida y automatizada muchas veces por la IA, haciendo que los grupos vulnerables se amplíen y sufran las consecuencias derivadas de los sesgos que arrastran y agravan estas tencologías.
Si hablamos de responsabilidades, ¿quién debe asumir las consecuencias cuando una inteligencia artificial es discriminatoria?
La persona que construye o audita el algoritmo es el máximo responsable.
Actualmente, en España existen dos entidades principales de control: la AESIA (Agencia Española de Supervisión de la Inteligencia Artificial) y la Agencia Española de Protección de Datos, las cuales se reparten las competencias para llamar la atención, amonestar o multar. Según los parámetros de estas organizaciones, la responsabilidad siempre va a ser humana. De nada vale decir que una determinada IA “dio una información” y que los responsables únicamente la implementaron, ya que todas estas tecnologías tienen que ver con el control humano organizado en tres niveles: humano al mando, humano dentro del ciclo y humano en el ciclo.
Lo que está claro es que todos estos procesos se han de someter a una supervisión humana. Por mucho que se cuente con la licencia más potente y autorregulada del mercado, las personas responsables deben hacer el ejercicio de mantener un control sobre cualquier proceso que se lleve a cabo con la IA.
Poniendo ya el foco sobre el futuro que nos espera, ¿es compatible la innovación y el progreso frenético de la IA con la garantía de los derechos humanos?
Sería lo ideal, sin embargo, no podemos hablar con seguridad de lo que pasará en 10 o 20 años, dada la velocidad con la que estas tecnologías se desarrollan.
Personalmente, creo que estamos a punto de llegar a una encrucijada en la que los modelos más avanzados se utilizarán como un factor geopolítico de primer orden (sobre todo por parte de Estados Unidos y China). Por ello, las personas de a pie tenemos que pensar que esa ‘automejora recursiva’ de la IA (sin supervisión humana) avanza a tal velocidad que empieza a ser incomprensible para nosotros.
Entonces, ¿cuál es la respuesta? ¿Aminorar esa velocidad? ¿Detenerla?. Como ya he dicho al principio, pienso que la solución pasa por establecer unos guardarraíles desde ya, para que el camino sea lo más recto posible y podamos seguir operando. Además, hay que ser realistas y saber que las empresas no van a detener esta actividad, pero sí que es posible cambiar el enfoque.
