- Buenos días, Somos UPM, el podcast Random de la Universidad Politécnica de Madrid. Hoy vamos a hablar de Inteligencia Artificial y de datos, pero también vamos a hablar de normativa, de legislación y de ética y de cómo todo esto se está combinando en un proyecto europeo para tratar de dar un poco de claridad y un poco de luz a cómo se va a formar nuestro futuro. De todo ello vamos a hablar con un investigador de la Universidad Politécnica de Madrid. Él es Meem Arafat y trabaja en el proyecto Harness. Muchísimas gracias por estar aquí hoy, Meem. - ¿Qué tal? Bien, muy bien. Muchísimas gracias por invitarme. - Bueno, lo primero que te quería preguntar es un poco cómo llegas tú a la UPM. Porque tú has pasado por muchas universidades. Estudiaste, si no me equivoco, en la Universidad de Dakar estuviste después también en Dublín. ¿Cómo llegas tú a la UPM? ¿Por qué escoges finalmente la UPM? - Ah, pues dos cosas. Uno es que UPM en nuestro campo de investigación tiene un espacio muy especial, porque no hay muchas personas que trabajan en nuestro campo. Es decir, que nosotros trabajamos sí en informática, pero la informática como se ve... la gente como lo ve en general, es como más de desarrollo, más de más de lujo. ¿sabes? Como más de mucho de lujo. Muchos de cosas de, por ejemplo, modelos fundamentales que están vendiendo como estamos viendo muchas cosas de IA y cosas así. Pero no hay mucha gente que trabaje en gobernanza y legislaciones. Casi nadie, literal. No hay mucha gente que trabaja en este campo. Entonces yo hice un máster en Dublín, en Irlanda, en derecho de datos. Si uno era un campo muy amplio, no había mucha gente trabajando en esto y esto va buscando quién lo trabaja más, quién trabaja desde un punto de vista de informático con las leyes. Y UPM salió como un lugar muy interesante para trabajar en eso, porque UPM tiene un grupo casi dedicado en eso y también España es muy, muy, muy buen país. Es bastante... Yo diría que es muy acogedor, la ciudad de Madrid y todo eso, y también el clima. - Sí te hizo, te hizo decidirte. Tú has llegado a España con una beca Marie Curie. Es una beca de investigación. No sé si nos puedes comentar un poco en qué consiste esta beca, porque además no es fácil conseguirla. - Es que Marie Curie no es fácil, pero hay mucha gente que lo consigue. Tiene sus propios criterios. Criterios, por ejemplo, hay uno que es muy interesante y que no lo sabe mucha gente, es que no puede vivir en el mismo país que está aplicando. Entonces no puede vivir más que un año en los últimos cinco años, dice, porque no puede ver todo el toda la vida, entonces de los últimos cinco años. Y eso dice porque la Unión Europea, porque eso está fundada por la Unión Europea, quiere que haya más intercambios entre Europa. Entonces cuando yo apliqué de Dublín, eso contó. Pero si yo apliqué como sabe, como si yo viví muchos años en España, entonces yo no podría trabajar en España, yo tuviera que trabajar en otros países de uno en Europa y mucha gente no quiere que mudarse o no sé qué. Como mucha gente, a mucha gente no le gusta hacer maletas... Entonces esto es una cosa y otra es que esta beca viene del mismo fondo, pero viene para muchas cosas. Hay cosas ambientales, hay cosas de ingeniería, hay cosas, ESA. Entonces, yo solo sé de mi parte, no sé de otras partes, cada uno yo creo que tiene su propio calidad, que quiere averiguar. - Y dentro de esa beca, el proyecto en el que tú estás trabajando es el proyecto Harness, que no sé si nos puedes contar un poquito en qué consiste. Está relacionado con la gobernanza de los datos y con la legislación como lo estabas contando. - Vale, es que este proyecto es como un proyecto de nueve universidades, como en distintos países, como Países Bajos y Bélgica, Letonia y Irlanda también, y España. Y entonces tenemos nueve universidades y 13 investigadores trabajando en cada uno. Y aquí tenemos más. Pero ahora están en esta estancia en Italia, en Irlanda. Entonces es que tenemos gente de ética, tenemos filosofía y gente de derecho y también gente de informática. UPM es el coordinador oficial, entonces, por ejemplo, mi jefe, el doctor Rodríguez Doncel, es el que manda todo, pero también tenemos otras universidades y las reuniones primeras veces eran muy cómico porque cada uno hablando de su propia cosa... - De su tema... - Es que en el campo en el que trabajamos es un poco. Es un poco duro, no es duro, pero es un poco poco interesante porque hablamos en el mismo idioma, pero hablamos de cosas muy diferentes, porque cuando un ingeniero habla de seguridad o cuando un ingeniero habla de privacidad, habla de una cosa que es muy distinto que cuando hable un abogado, porque un abogado tiene... Y eso es precisamente lo que estamos intentando hacer, como cruzar este, esta brecha, construir un puente, un puente para cruzar este este hueco ¿sabes? Porque hay un hueco de entender de lo que estamos hablando, - ¿Por qué es tan importante que haya ese marco común en gobernanza de datos? - Es que nosotros trabajamos en dos cosas. Uno es tecnología, que cumple con las leyes. Y el otro es las leyes de tecnología como regulaciones de tecnología. Estas dos cosas son muy distintas, porque las regulaciones de tecnología es algo que no quieren, yo voy a decir la verdad, es algo que no quieren las compañías de tecnología. -Claro... - Siempre van a decir que a la regulación va a frenar la innovación, va a frenar, como se dice, el desarrollo. Siempre dicen eso, pero lo que están intentando hacer es como evitar, como la responsabilidad de cumplir con nuestros derechos. Obvio. ¿Entonces qué quieren? Es que por ejemplo, a ellos le gustan mucho hacer este informes de compliance, de cumplimiento sabe como si se cumplen con estas leyes, pero no, lo que no gustan es que cumplir de verdad. Por ejemplo, hacen informes en PDF siempre. Usted nunca va de ver un informe en como en Excel porque no quieren que usted lo ve como es. Como siempre quieren hacerlo más opaco, más sabe como más quieren... - Que no se vea lo que no están cumpliendo. -Sí, literalmente quieren ocultar lo que se está haciendo. Y es muy interesante porque por ejemplo, tenemos, aquí en Europa tenemos una regulación que se llama RDPD, protección de datos. Casi todo el mundo está firmando cosas... Existe sobre el papel desde 2018. Pero cumplirlo de verdad necesita como mucho... Por ejemplo, necesitan contratos de verdad, necesitan hablar con gente, necesitan cubrir con sus solicitudes y siempre lo rechazan la primera vez. Entonces eso es muy difícil para un ciudadano, un residente de Unión Europea, ejercer ese derecho. - Esos derechos. - ¿Entonces, qué hacemos nosotros? Es que hacerlo más fácil para que usted puede ejercer sus derechos, porque los derechos sí existen. Eso es como la parte de legislación de regulaciones. La otro parte es tecnología que cumple con las leyes. Eso no existe porque es obvio que no quieren que exista, porque si existiera ellos no ganaría tanto dinero como dinero como están ganando ahora. - ¿Qué tendría que tener desde tu punto de vista, ya que estás trabajando en ello Una buena regulación de gobernanza de datos? ¿Qué es lo que le falta a la que tenemos actualmente? - Yo diría que no falta mucho. Es que la regulación no cambia tanto como la tecnología, porque la tecnología está cambiando cada seis meses, ahora probablemente cada seis horas. Pero es que si usted lee estas leyes, usted va a ver que esas leyes no dicen que no use este algoritmo, no use este no es este. Simplemente dice que respete a la privacidad de nuestros ciudadanos. Nuestros residentes. Eso no es mucho. Eso no es pedir mucho. Entonces las declaraciones no son malas. Las regulaciones son bastante flexibles y además tienen un montón de lobbistas en Bruselas. La verdad, ellos no quieren que ejercemos nuestro derecho. Entonces ellos dicen Ah, la regulación es muy mala. Pero yo no diría que la regulación es mala. La declaración ha cambiado mucho para el beneficio de las compañías. Además, el único problema que tenemos es que falta una educación de derecho, que es como la divulgación de las leyes. Por ejemplo, si usted quiere acceder al BOE, para mí era muy muy difícil acceder. Es complejo, pero ese es complejo por diseño. Ese es el problema, que las regulaciones son buenas, pero no podemos verlos, no podemos ejercerlos, no podemos, Existen y ya existen por papel. - Esa era otra pregunta que te quería hacer. ¿Tú crees que somos conscientes los ciudadanos de la cantidad de datos que generamos cada día y de los derechos que tenemos con relación a esos datos? - Como dije que eso es ocultado por diseño. Por ejemplo, cada vez que usted usa Google Mapa con Google Maps, cada vez que usted le da, o paga con una tarjeta. Yo conozco a gente que no usa tarjeta, por eso solamente saca su dinero de un cajero y después como usa el dinero porque cada vez que usamos estas cosas ya saben dónde estamos y todo eso. Y España es muy interesante. Por ejemplo, cada vez que alguien usa el transporte público también sabe donde está la persona, pero por lo menos él no está privatizado. Pero hay muchas compañías que saben casi toda de su vida y está ocultado por diseño. Por lo menos en España, la gente habla más entre sí. Entonces yo diría que España en la gente de España está un poco más consciente que otros países en este sentido. - Me comentabas también al principio que España tiene una muy buena posición en todo lo que es la gobernanza de los datos, en la regulación de datos abiertos. ¿Qué es lo que hace que seamos tan buenos en este sentido? ¿Qué es lo que hacemos diferente de otros países? -Tres cosas. Uno es que España es una economía enorme, enorme... No es enorme, enorme, pero es una economía muy potente. Entonces España tiene algunas cosas que está funcionando muy bien. Por ejemplo, tiene una organización en A Coruña que se llama AESIA, trabaja con la regulación de IA y todo eso, como la gobernanza de IA, y lo están haciendo muy bien ellos. Nuestro grupo (de investigación) lo está haciendo muy bien. No hay muchos grupos de ese tipo en otras partes de Europa. NI en el mundo, ni en Europa. Entonces hay cosas que está pasando muy bien en España y yo diría que una cosa muy buena de España además, es el ambiente cultural y el ambiente político, porque por su propia historia la gente es todavía es un poco más consciente que como el Estado también puede quitar sus derechos. Entonces la gente sabe, la gente sabe qué puede pasar, si no, no protegemos nuestro derecho. Eso también ayuda. Yo diría. Y otra cosa es que como la gente de España tiene una vida, eso no debo decir en público. Pero es la verdad que aquí tenemos una vida pública mucho más que otros países. Por ejemplo, yo viví en Japón, allí toda la vida es más restringida y si usted tiene una vida tan restringida como la vida, el derecho de vida privada, como viene con una acción pública Uno no puede tener una vida privada, si no conecta con otra gente, eso sí ayuda. Este ambiente sí ayuda. - Ya por último, te quería preguntar sobre la importancia de un concepto que se habla mucho y no sé si la gente tenemos muy claro en qué consiste, que son los datos abiertos, qué son los datos abiertos y por qué se habla tanto de ellos. - Ahora mismo eso directamente va a nuestro tema es que como nuestro tema de investigación, literalmente se trata con estas cosas, por ejemplo, estamos trabajando en algo que se llama espacio de datos. Casi 80% de los datos de usuarios ahora pertenece a cinco o seis compañías del mundo y casi todos de Estados Unidos. ¿Por qué? Porque redes sociales y todo eso, y ahora todo el mundo incluso preguntándote a ti que voy a cocinar esta noche. Entonces cómo estamos dependiendo de cada vez. Entonces este esta idea de datos abiertos, como nos vamos a tanto poder a estas compañías, entonces vamos a tenerlo un poco más a nuestro mano. Entonces vamos a saber qué datos compartimos y vamos a, por ejemplo, ahora está diciendo Unión Europea, especialmente sobre la salud que tengamos o tengamos un espacio de datos para el sistema de salud para que los hospitales, los las entidades que trabaja con salud puede compartir sus datos entre sí sin ir a una compañía más grande que viene de otros países o como otras partes del mundo. Entonces ni China ni Estados Unidos, porque ellos tienen muchas más compañías. Entonces, datos abiertos es un principio que nos deben ayudar en tener más a mano nuestros datos, pero todavía es un propósito, todavía no está implementado de verdad. - ¿Es más un deseo todavía que una realidad? Yo diría que sí. ¿Existe un prototipo? Sí, existe, pero todavía no está tan adoptado por la gente general. Entonces es un es una lucha que hay que seguir. - Comentabas al principio que no hay muchos grupos de investigación que trabajen en lo mismo que vosotros. Yo te quería preguntar sobre todo de cara al futuro, algún estudiante que nos esté viendo y diga ey, pues mira, me interesa esto, ¿qué consejo le darías o cómo le animarías a estudiar una ingeniería y especializarse en este tipo de cosas? Como un estudiante de ingeniería, un estudiante de ingeniería o un estudiante que esté en el bachillerato y se está planteando. Bueno, me podría plantear estudiar esto, pero no sé muy bien qué hace, especialmente a los estudiantes de ingeniería. - Yo diría que aprenda a leer algo más que ingeniería, ¿sabes? Porque a mí me interesó mucho el tema de política, el tema de ética, el tema de Ley. Entonces yo intenté poco a poco leer estas cosas y que yo veo en muchos estudiantes, en nuestra universidad, en mi país, en muchos, muchos lugares, en muchos lugares distintos. Es que los ingenieros, los estudiantes de ingeniería, a veces no exploramos qué podemos explorar porque tenemos estudiantes muy inteligentes y podemos hacer más. Y en 20 años, 20 años es demasiado, en cinco años, en seis años los ingenieros que van a tener éxito no son los ingenieros que hacen programaciones mejores. Van a tener éxito la gente que pueden hacer más que hacer programación, porque nosotros también estamos como desarrollando las Ias. Entonces las Ias, las primeras personas que van a quitar el trabajo son los otros son nosotros. Como van a quitar los trabajos de nosotros. Entonces hay que hacer un poco más que hacer la programación. Puede ser Ley, puede ser lo que sea, puede ser física, pero hay que explorar más eso. Eso lo veo un poco menos de lo que me gustaría. -Pues ya para terminar, quería hacerte la pregunta trampa que les hacemos a todos los invitados en este programa. Y es que nomines a alguna persona que quieras de la UPM que te parezca que a lo mejor alguien de tu grupo de investigación pues que te parezca que sea interesante que venga aquí a contarnos también en qué está trabajando - A una persona que yo recomendaría. Es un chico que está haciendo su doctorado, creo se llama y Santiago está trabajando en lingüística, pero lingüística. Informática. Entonces sabe otra vez que este es campos decisionales interdisciplinarios son de futuro. Yo diría que eso es como los niveles de porvenir. Entonces yo le recomendaría así. - Fenomenal. Pues ha sido un placer tenerte por aquí. Se nos está acabando el tiempo, así que nos despedimos con ese mensaje a los ingenieros de que abran un poco sus miras, de que miran un poquito más allá de lo que sería simplemente el tema de la programación. Ha sido de verdad un placer que hayas venido a compartir con nosotros en lo que estás trabajando. Y a todos vosotros, pues muchísimas gracias por haber estado ahí en un nuevo episodio de este Somos UPM, el podcast Random de la Universidad Politécnica de Madrid.