- Buenos días, bienvenidos a un nuevo episodio de este.
Somos UPM, el podcast Random de la Universidad Politécnica de Madrid.
Hoy vamos a hablar de Inteligencia Artificial y de datos,
pero también vamos a hablar de normativa, de legislación
y de ética y de cómo todo esto se está combinando en un proyecto europeo
para tratar de dar un poco de claridad y un poco de luz a cómo se va a formar
nuestro futuro.
De todo ello
vamos a hablar con un investigador de la Universidad Politécnica de Madrid.
Él es Meem Arafat y trabaja en el proyecto Harness.
Muchísimas gracias por estar aquí hoy, Meem.
- ¿Qué tal? Bien, muy bien. Muchísimas gracias por invitarme.
- Bueno, lo primero que te quería preguntar es un poco cómo llegas tú a la UPM.
Porque tú has pasado por muchas universidades.
Estudiaste, si no me equivoco, en la Universidad de Dakar
estuviste después también en Dublín.
¿Cómo llegas tú a la UPM?
¿Por qué escoges finalmente la UPM?
- Ah, pues dos cosas.
Uno es que UPM en nuestro campo de investigación
tiene un espacio muy especial, porque no hay muchas personas
que trabajan en nuestro campo.
Es decir, que nosotros trabajamos sí en informática,
pero la informática como se ve... la gente como lo ve en
general, es como más de desarrollo, más de más de lujo.
¿sabes? Como más de mucho de lujo.
Muchos de cosas de, por ejemplo, modelos fundamentales que están vendiendo
como estamos viendo muchas cosas de IA y cosas así.
Pero no hay mucha gente que trabaje en gobernanza
y legislaciones.
Casi nadie, literal. No hay mucha gente que trabaja en este campo.
Entonces yo hice un máster en Dublín, en Irlanda, en derecho de datos.
Si uno era un campo muy amplio, no había mucha gente trabajando en esto
y esto va buscando quién lo trabaja más, quién trabaja
desde un punto de vista de informático
con las leyes. Y UPM salió como un lugar muy interesante para trabajar en eso,
porque UPM tiene un grupo casi dedicado en eso
y también España es muy, muy, muy buen país.
Es bastante... Yo diría que es muy acogedor,
la ciudad de Madrid y todo eso, y también el clima.
- Sí te hizo, te hizo decidirte.
Tú has llegado a España con una beca Marie Curie.
Es una beca de investigación.
No sé si nos puedes comentar un poco en
qué consiste esta beca, porque además no es fácil conseguirla.
- Es que
Marie Curie no es fácil, pero hay mucha gente que lo consigue.
Tiene sus propios criterios. Criterios, por ejemplo, hay uno que es muy interesante
y que no lo sabe mucha gente, es que no puede vivir
en el mismo país que está aplicando.
Entonces no puede vivir más que un año en los últimos cinco años, dice,
porque no puede ver todo el toda la vida, entonces de los últimos cinco años.
Y eso dice porque la Unión Europea, porque eso está fundada por la Unión
Europea, quiere que haya más intercambios entre Europa.
Entonces cuando yo apliqué de Dublín, eso contó.
Pero si yo apliqué como sabe,
como si yo viví muchos años en España, entonces yo no podría trabajar en España,
yo tuviera que trabajar en otros países de uno en Europa
y mucha gente no quiere que mudarse o no sé qué.
Como mucha gente, a mucha gente no le gusta hacer maletas... Entonces
esto es una cosa y otra
es que esta beca viene del mismo fondo, pero viene para muchas cosas.
Hay cosas ambientales, hay cosas de ingeniería, hay cosas, ESA.
Entonces, yo solo sé de mi parte, no sé de otras partes, cada uno
yo creo que tiene su propio calidad, que quiere averiguar. - Y dentro de esa beca,
el proyecto en el que tú estás trabajando es el proyecto Harness,
que no sé si nos puedes contar un poquito en qué consiste.
Está relacionado con la gobernanza de los datos
y con la legislación como lo estabas contando.
- Vale, es que este proyecto es como un proyecto de nueve universidades,
como en distintos países, como Países Bajos
y Bélgica, Letonia y Irlanda también, y España.
Y entonces tenemos nueve universidades y 13 investigadores trabajando en cada uno.
Y aquí tenemos más.
Pero ahora están en esta estancia en Italia, en Irlanda.
Entonces es que tenemos gente de ética, tenemos
filosofía y gente de derecho y también gente de informática.
UPM es el coordinador oficial,
entonces, por ejemplo, mi jefe, el doctor Rodríguez
Doncel, es el que manda todo, pero también tenemos otras universidades
y las reuniones primeras veces eran muy cómico porque cada uno
hablando de su propia cosa... - De su tema... - Es que en el campo en el que trabajamos es un poco.
Es un poco duro, no es duro, pero es un poco poco interesante
porque hablamos en el mismo idioma, pero hablamos de cosas muy diferentes,
porque cuando un ingeniero habla de seguridad o cuando un ingeniero
habla de privacidad, habla de una cosa que es muy distinto
que cuando hable un abogado, porque un abogado tiene...
Y eso es precisamente lo que estamos intentando hacer,
como cruzar este, esta brecha, construir un puente, un puente
para cruzar este este hueco ¿sabes? Porque hay un hueco de entender
de lo que estamos hablando,
- ¿Por qué es tan importante que haya ese marco común en gobernanza de datos?
- Es que nosotros trabajamos en dos cosas. Uno es tecnología,
que cumple con las leyes. Y el otro
es las leyes de tecnología como regulaciones de tecnología.
Estas dos cosas son muy distintas, porque las regulaciones
de tecnología es algo que no quieren,
yo voy a decir la verdad, es algo que no quieren las compañías de tecnología.
-Claro... - Siempre van a decir que a la regulación va a frenar la innovación,
va a frenar, como se dice, el desarrollo.
Siempre dicen eso, pero lo que están intentando hacer
es como evitar, como la responsabilidad de cumplir con nuestros derechos.
Obvio. ¿Entonces qué quieren?
Es que por ejemplo, a ellos le gustan mucho hacer este
informes de compliance, de cumplimiento sabe como si se cumplen con estas leyes,
pero no, lo que no gustan es que cumplir de verdad.
Por ejemplo, hacen informes en PDF siempre.
Usted nunca va de ver un informe en
como en Excel porque no quieren que usted lo ve como es.
Como siempre quieren hacerlo más opaco, más
sabe como más quieren... - Que no se vea lo que no están cumpliendo.
-Sí, literalmente quieren ocultar lo que se está haciendo.
Y es muy interesante porque por ejemplo, tenemos, aquí en Europa
tenemos una regulación que se llama RDPD, protección de datos.
Casi todo el mundo está firmando cosas... Existe sobre
el papel desde 2018. Pero
cumplirlo de verdad necesita como mucho...
Por ejemplo, necesitan contratos de verdad, necesitan hablar con gente,
necesitan cubrir con sus solicitudes y siempre lo rechazan la primera vez.
Entonces eso es muy difícil para un ciudadano,
un residente de Unión Europea, ejercer ese derecho.
- Esos derechos. - ¿Entonces, qué hacemos nosotros?
Es que hacerlo más fácil para que usted puede ejercer sus derechos,
porque los derechos sí existen.
Eso es como la parte de legislación de regulaciones.
La otro parte es tecnología que cumple con las leyes.
Eso no existe porque es obvio que no quieren que exista, porque si existiera
ellos no ganaría tanto dinero como dinero como están ganando ahora.
- ¿Qué tendría que tener desde tu punto de vista, ya que estás trabajando en ello
Una buena regulación de gobernanza de datos?
¿Qué es lo que le falta a la que tenemos actualmente?
- Yo diría que no falta mucho.
Es que la regulación no cambia tanto como la tecnología, porque la tecnología
está cambiando cada seis meses, ahora probablemente cada seis horas.
Pero es que si usted lee estas leyes, usted va a ver que esas leyes
no dicen que no use este algoritmo, no use este no es este.
Simplemente dice que respete a la privacidad de nuestros ciudadanos.
Nuestros residentes. Eso no es mucho.
Eso no es pedir mucho.
Entonces las declaraciones no son malas.
Las regulaciones son bastante flexibles y además tienen un montón de lobbistas
en Bruselas.
La verdad, ellos no quieren que ejercemos nuestro derecho.
Entonces ellos dicen Ah, la regulación es muy mala.
Pero yo no diría que la regulación es mala.
La declaración ha cambiado mucho para el beneficio de las compañías.
Además, el único problema que tenemos es que falta
una educación de derecho, que es como la divulgación de las leyes.
Por ejemplo, si usted quiere acceder al BOE, para mí era muy
muy difícil acceder.
Es complejo, pero ese es complejo por diseño.
Ese es el problema, que las regulaciones son buenas, pero no podemos verlos,
no podemos ejercerlos, no podemos, Existen y ya existen por papel.
- Esa era otra pregunta que te quería hacer.
¿Tú crees que somos conscientes los ciudadanos de la cantidad de datos
que generamos cada día y de los derechos que tenemos con relación a esos datos?
- Como dije que eso es ocultado por diseño.
Por ejemplo, cada vez que usted usa Google Mapa con Google Maps,
cada vez que usted le da, o paga con una tarjeta.
Yo conozco a gente que no usa tarjeta, por eso solamente saca su dinero
de un cajero y después como usa el dinero porque cada vez que usamos estas cosas
ya saben dónde estamos y todo eso.
Y España es muy interesante.
Por ejemplo, cada vez que alguien usa el transporte público también
sabe donde está la persona, pero por lo menos él no está privatizado.
Pero hay muchas compañías que saben casi toda de su vida
y está ocultado por diseño.
Por lo menos en España, la gente habla más entre sí.
Entonces yo diría que España
en la gente de
España está un poco más consciente que otros países en este sentido.
- Me comentabas también al principio que España
tiene una muy buena posición en todo lo que
es la gobernanza de los datos, en la regulación de datos abiertos.
¿Qué es lo que hace que seamos tan buenos en este sentido?
¿Qué es lo que hacemos diferente de otros países?
-Tres cosas.
Uno es que España es una economía enorme,
enorme... No es enorme, enorme, pero es una economía muy potente.
Entonces España tiene algunas cosas que está funcionando muy bien.
Por ejemplo, tiene una organización en A Coruña que se llama AESIA,
trabaja con la regulación de IA y todo eso, como la gobernanza de IA,
y lo están haciendo muy bien ellos.
Nuestro grupo (de investigación) lo está haciendo muy bien.
No hay muchos grupos de ese tipo en otras partes de Europa.
NI en el mundo, ni en Europa.
Entonces hay cosas que está pasando muy bien en España y yo
diría que una cosa muy buena de España además, es el ambiente cultural
y el ambiente político, porque por su propia historia
la gente es todavía es un poco más consciente
que como el Estado también puede quitar sus derechos.
Entonces la gente sabe, la gente sabe qué puede pasar, si no,
no protegemos nuestro derecho.
Eso también ayuda. Yo diría.
Y otra cosa es que como la gente de España tiene una vida,
eso no debo decir en público.
Pero es la verdad que aquí tenemos una vida
pública mucho más que otros países.
Por ejemplo, yo viví en Japón, allí toda la vida es más restringida
y si usted tiene una vida tan restringida como la vida,
el derecho de vida privada, como viene con una acción pública
Uno no puede tener una vida privada, si no conecta con otra gente,
eso sí ayuda.
Este ambiente sí ayuda.
- Ya por último, te quería preguntar sobre la importancia
de un concepto que se habla mucho y no sé si la gente tenemos muy claro
en qué consiste, que son los datos abiertos,
qué son los datos abiertos y por qué se habla tanto de ellos.
- Ahora mismo eso directamente va a
nuestro tema
es que como nuestro tema de investigación, literalmente se trata con estas cosas,
por ejemplo, estamos trabajando en algo que se llama espacio de datos.
Casi 80% de los datos de usuarios ahora pertenece a cinco
o seis compañías del mundo y casi todos de Estados Unidos.
¿Por qué?
Porque redes sociales y todo eso, y ahora todo el mundo
incluso preguntándote a ti que voy a cocinar esta noche.
Entonces cómo estamos dependiendo de cada vez.
Entonces este esta idea de datos abiertos,
como nos vamos a tanto poder a estas compañías,
entonces vamos a tenerlo un poco más a nuestro mano.
Entonces vamos a saber qué datos compartimos y vamos a, por ejemplo,
ahora está diciendo Unión Europea, especialmente sobre la salud
que tengamos o tengamos un espacio de datos
para el sistema de salud para que los hospitales, los
las entidades que trabaja con salud puede compartir sus datos entre sí
sin ir a una compañía más
grande que viene de otros países o como otras partes del mundo.
Entonces ni China ni Estados Unidos, porque ellos tienen muchas más compañías.
Entonces, datos abiertos es un principio que nos deben ayudar
en tener más a mano nuestros datos,
pero todavía es un propósito,
todavía no está implementado de verdad.
- ¿Es más un deseo todavía que una realidad?
Yo diría que sí. ¿Existe un prototipo?
Sí, existe, pero todavía no está tan adoptado por la gente general.
Entonces es un es una lucha que hay que seguir.
- Comentabas al principio
que no hay muchos grupos de investigación que trabajen en lo mismo que vosotros.
Yo te quería preguntar
sobre todo de cara al futuro, algún estudiante que nos esté viendo y diga ey,
pues mira, me interesa esto, ¿qué consejo le darías o cómo le animarías
a estudiar una ingeniería y especializarse en este tipo de cosas?
Como un estudiante de ingeniería,
un estudiante de ingeniería o un estudiante que esté
en el bachillerato y se está planteando.
Bueno, me podría plantear
estudiar esto, pero no sé
muy bien qué hace, especialmente a los estudiantes de ingeniería.
- Yo diría que aprenda a leer algo más que ingeniería, ¿sabes?
Porque a mí me interesó mucho el tema de política, el tema de ética,
el tema de Ley.
Entonces yo intenté poco a poco leer estas cosas
y que yo veo en muchos estudiantes, en nuestra universidad,
en mi país, en muchos, muchos lugares, en muchos lugares distintos.
Es que los ingenieros, los estudiantes de ingeniería,
a veces no exploramos qué podemos explorar
porque tenemos estudiantes muy inteligentes y podemos hacer más.
Y en 20 años, 20 años es demasiado, en cinco años, en seis años
los ingenieros que van a tener éxito no son los ingenieros que hacen
programaciones mejores.
Van a tener éxito la gente que pueden hacer más que hacer
programación, porque nosotros también estamos como desarrollando las Ias.
Entonces las Ias, las primeras personas que van a quitar el trabajo
son los otros son nosotros.
Como van a quitar los trabajos de nosotros.
Entonces hay que hacer un poco más que hacer la programación.
Puede ser Ley, puede ser lo que sea, puede ser física,
pero hay que explorar más eso.
Eso lo veo un poco menos de lo que me gustaría.
-Pues ya para terminar, quería
hacerte la pregunta trampa que les hacemos a todos los invitados en este programa.
Y es que nomines a alguna persona que quieras
de la UPM que te parezca que a lo mejor alguien de tu grupo de investigación
pues que te parezca que sea interesante que venga aquí a contarnos también
en qué está trabajando - A una persona que yo recomendaría.
Es un chico que está haciendo su doctorado, creo se llama y Santiago
está trabajando en lingüística, pero lingüística.
Informática.
Entonces sabe otra vez que este es campos decisionales
interdisciplinarios son de futuro.
Yo diría que eso es como los niveles de porvenir.
Entonces yo le recomendaría así. - Fenomenal.
Pues ha sido un placer tenerte por aquí.
Se nos está acabando el tiempo, así que nos despedimos
con ese mensaje a los ingenieros de que abran un poco sus miras, de que
miran un poquito más allá de lo que sería simplemente el tema de la programación.
Ha sido de verdad
un placer que hayas venido a compartir con nosotros en lo que estás trabajando.
Y a todos vosotros, pues muchísimas gracias por haber estado ahí
en un nuevo episodio de este Somos UPM, el podcast Random de la Universidad
Politécnica de Madrid.