Entrevista a Karina Gilbert Oliveras, Catedrática de Inteligencia Artificial y Ciencia de los Datos en la Universitat Politècnica de Catalunya (UPC)

1. ¿Qué voces están faltando hoy en las decisiones sobre el futuro de la inteligencia artificial?

Actualmente, por suerte, al menos en territorio europeo, ya tenemos un debate bastante público sobre los impactos sociales de la inteligencia artificial y se está trabajando para mantener la protección de los derechos humanos en el proceso de adopción de IA por parte del tejido productivo.

El gran reto no está en las voces que faltan, porque voces hay, y de todo tipo. Quizás la de la ciudadanía es la que menos se escucha, pero el gran reto está en la geopolítica. 

En las diferentes visiones sobre cómo la IA utiliza los datos de la ciudadanía de las grandes potencias mundiales y en la actual falta absoluta de voluntad por parte de las potencias no europeas de caminar hacia una gobernanza mundial de la IA. 

Porque, hablando de un intangible que no pasa por procesos de importación ni por aduanas para llegar desde EE. UU. o desde China a los bolsillos de nuestra ciudadanía, el gran reto es que cualquiera de nosotros se encuentra, sin darse cuenta, utilizando una app en su móvil que se ha entrenado con datos no consentidos en otra jurisdicción donde esto no es problemático, o que recoge nuestros datos y los lleva fuera de Europa —muchas veces porque nosotros mismos aprobamos la cookie que da ese permiso—, donde es legal hacernos un perfil psicológico y vendérselo a cualquiera —la compañía de seguros de salud, por ejemplo—. Europa trabaja para conseguir esta gobernanza mundial, pero el equilibrio de fuerzas internacional actual es complejo. 

Y el segundo gran reto tampoco va de voces, sino de concentración. Es urgente romper la concentración de tecnologías de IA en pocas compañías que, además, ni siquiera son europeas, con las dependencias que esto representa para nuestra sociedad.

2. ¿Qué es más preocupante: los sesgos de los algoritmos o quién decide para qué se utilizan?

Ambas cosas lo son. Poner en marcha un algoritmo sesgado que desfavorece, por ejemplo, a las personas sin estudios o a las personas con menos ingresos, o que favorezca a los ricos o a los hombres, no es algo que podamos permitirnos como sociedad democrática y moderna. Si el sesgo perjudica a las personas vulnerables, todavía es peor, puesto que las dificultades de la persona vulnerable para defender sus derechos no se pueden ni comparar con las de la persona poderosa. Así pues, es imprescindible asegurar que, cuando una IA sale a la luz, su comportamiento no presenta sesgos de ningún tipo. Y esto requiere no solo mucho conocimiento de lo que se está haciendo en el diseño, entrenamiento y construcción del sistema inteligente, sino también una sensibilidad muy desarrollada para afrontar la validación del sistema como corresponde, asegurando que se han hecho pruebas exhaustivas y una evaluación de impacto antes de poner el sistema en producción. 

Dicho esto, por supuesto que no sirve de mucho que el sistema inteligente sea correcto, equilibrado, equitativo y esté bien validado si cae en manos de alguien que hace un uso tendencioso de la herramienta. Así que quién tiene la herramienta, cómo la va a usar y qué piensa hacer con los resultados que el sistema le entregue va a ser tan o más importante que un diseño libre de sesgos. 

3. ¿Existe el riesgo de que la eficiencia tecnológica acabe desplazando valores esenciales como el cuidado o la empatía?

No debería. Yo no soy socióloga y no entiendo tanto de estos aspectos, pero hay voces que defienden justo lo contrario. Si conseguimos que los sistemas inteligentes se conviertan en los grandes compañeros de viaje de los humanos porque les asisten —que no sustituyen— en una realización más fácil de las diferentes tareas de la vida —les ayudan a comprar mejor, les ayudan a trabajar mejor, les ayudan a priorizar mejor lo que tienen por hacer, les ayudan a viajar mejor o a limpiar mejor las casas, etc., etc.; y fíjense en que estoy ya mencionando tareas para las que la inteligencia artificial ya está proporcionando este soporte en la realidad—; como decía, si conseguimos este papel de asistente inteligente, es de esperar que los humanos dejen de ir continuamente estresados y superados por la vida y se puedan dedicar a sonreír al cliente o al paciente, a dedicar más tiempo a cuidar al compañero de trabajo, a acompañar a las personas del entorno que lo necesiten, a ejercer la empatía más horas al día y a cuidar a quienes nos rodean en mejores condiciones, porque lo tendríamos que poder hacer también asistidos por este tipo de sistemas. 

Y pongo un ejemplo: tener a cargo a una persona mayor con deterioro cognitivo mientras trabajas y tienes niños pequeños es un escenario devastador para esta persona que cuida de todos, ¿verdad? 

Pero, con una IA que te organiza las visitas al médico cuando no tienes un viaje de trabajo y se ocupa de reservar al canguro para que puedas ocuparte de llevar a tu persona mayor al cine, todo sería mucho más fácil para todos. En realidad, la tecnología para hacer este tipo de sistemas está madura desde hace muchísimos años; la adopción siempre es más lenta.

4. ¿Qué progresos se han producido en la presencia de mujeres en los ámbitos STEAM y en qué aspectos queda aún más camino por recorrer?

Este es un tema de gran relevancia. Por motivos incomprensibles, las mujeres tienden a mostrar poco interés por profesiones como la ingeniería informática o por convertirse en expertas en ciberseguridad o inteligencia artificial. Y es una lástima porque, aparte de ser profesiones fascinantes —y lo digo desde 40 años de ejercicio intensísimo—, presentan excelentes perspectivas profesionales en los próximos años. Caminamos hacia la sociedad 5.0, donde se supone que la tecnología orbitará alrededor de la ciudadanía para facilitarle la existencia. Se espera que las profesiones tecnológicas estén entre las mejor pagadas. La demanda de talento digital es altísima y se cotiza cada vez más porque faltan manos en el sector. 

¿Cómo es posible que, ante este escenario, las mujeres no opten por querer formarse en estas profesiones y ganarse bien la vida el día de mañana en un ámbito donde, al final, te puedes especializar en el campo de aplicación que más te plazca, pues las tecnologías siempre están al servicio de algún otro campo —la salud, el medioambiente, el turismo, los negocios, la construcción…—? 

Por mucho que te interesen las ciencias de la vida, no hace falta que seas siempre la enfermera o la médica. Yo llevo 30 años trabajando en salud desde la posición de una tecnóloga que facilita el trabajo de los otros profesionales del sector. Porque… ¿habéis pensado qué haría un hospital sin profesionales de la informática? ¿O un centro de biodiversidad? ¿O un laboratorio biológico? 

Y, en cambio, el desarrollo de tecnología que hacen los equipos donde no hay mujeres está falto de la mirada femenina y, la mayor parte de las veces, sale sesgado o se olvidan cuestiones que son trascendentales para las mujeres. Si queremos un futuro amable con nosotras, tendríamos que estar en los equipos que construyen este futuro, que será tecnológico sí o sí, estemos o no. Nos irá mucho mejor si estamos.

5. ¿Cuál es la pregunta sobre inteligencia artificial que deberíamos estar haciéndonos y no nos estamos haciendo?

¿Dónde está? 

Y nos daremos cuenta de que, cuando ponemos un GPS, estamos usando IA; que, cuando arrancamos la aspiradora autónoma —las Roombas y sus hermanas—, estamos usando IA; que, cuando hablamos con Alexa, estamos usando IA; que, cuando pedimos un crédito, es una IA la que decide si somos de fiar o no para concedérnoslo; que, cuando nos ponen una multa, es una IA la que reconoce nuestra matrícula en la foto; que, cuando recibo una oferta de Amazon o del supermercado, es una IA la que sabe anticipar lo que, de forma espontánea, no compraríamos, pero nos podría interesar. 

La inteligencia artificial no es un futuro, es un presente continuo… que ya viene del pasado y cada vez ocupará más espacio en el día a día. 

Lo que debemos aprender, como ciudadanos, es a consumirla desde la responsabilidad. Hemos de saber que puede ser peligroso autorizar todas las cookies, sin leerlas, de un juego gratuito que transforma mis fotos mientras se queda con todos mis datos, contactos o fotos; que me pueden estafar con un vídeo realista de alguien que parece mi hijo y me pide transferencias bancarias o claves del banco; que ChatGPT y compañía consumen mucha energía y no es muy sostenible usarlos como mero divertimento; y que, en contrapartida, existen montones de sistemas inteligentes que nos facilitan la compra del supermercado o el reparto de cuentas entre un grupo que viaja junto, que ayudan a los profesionales a detectar precozmente el cáncer, que pueden armar los turnos de un hospital en cero coma y tantísimas otras aplicaciones orientadas a aumentar el bienestar de las personas. 

Para saber más sobre el proyecto de Debates del Tercer Sector pincha aquí.