1
00:00:07,340 --> 00:00:07,740
Bueno, lo

2
00:00:07,740 --> 00:00:10,740
primero y realmente lo más importante.

3
00:00:10,820 --> 00:00:13,820
Formar, formar,
formar y formar a la gente.

4
00:00:14,460 --> 00:00:17,960
Si no conoces es imposible que apliques,
es imposible que sepas

5
00:00:17,960 --> 00:00:19,260
que es lo que están haciendo otros.

6
00:00:19,260 --> 00:00:24,160
Así que el primer mensaje a trasladaros
es vamos a formar todo lo que podamos.

7
00:00:24,180 --> 00:00:27,000
Lo estamos haciendo con las jornadas
online.

8
00:00:27,000 --> 00:00:31,080
Creemos que están teniendo cierto éxito,
pero tenemos que hacer mucho más

9
00:00:31,260 --> 00:00:34,260
y tenemos que, los profesores, el PTGAS,

10
00:00:35,040 --> 00:00:38,120
los investigadores, tienen que conocer,
porque si no conoces es imposible

11
00:00:38,120 --> 00:00:40,160
todo lo demás.

12
00:00:40,160 --> 00:00:42,680
Lo segundo
que creo que creemos que tenemos que hacer

13
00:00:42,680 --> 00:00:46,200
y esta jornada está en esa línea,
es compartir, compartir.

14
00:00:46,200 --> 00:00:49,160
Aquí las metodologías docentes
cambian la forma de trabajar.

15
00:00:49,160 --> 00:00:53,220
También hay algunas personas que ya llevan
una experiencia,

16
00:00:53,540 --> 00:00:56,540
otros estamos empezando,
algunos todavía no han empezado.

17
00:00:56,840 --> 00:01:00,480
Tenemos que compartir para ver cómo otros
hacen cosas para ver si podemos.

18
00:01:00,980 --> 00:01:05,280
Y esta jornada tiene ese objetivo
y también queremos compartir.

19
00:01:05,660 --> 00:01:08,760
Hay una encuesta que hemos hecho pública
que probablemente

20
00:01:09,080 --> 00:01:13,200
vosotros la, la la conocéis para ir
recopilando experiencias.

21
00:01:13,200 --> 00:01:14,360
Luego, en la mesa redonda

22
00:01:14,360 --> 00:01:17,420
que presentaré, hablaré
un poco de los resultados de esa encuesta.

23
00:01:17,820 --> 00:01:21,440
Creo que es muy importante que compartamos
y que sepamos lo que estamos haciendo.

24
00:01:21,480 --> 00:01:26,060
En ese sentido, queremos hacer un cierto
catálogo de experiencias.

25
00:01:27,200 --> 00:01:30,140
Desde el
Rectorado tenemos, queremos pilotar cosas,

26
00:01:30,140 --> 00:01:35,480
queremos hacer proyectos piloto
para, digamos, ver cosas que

27
00:01:35,480 --> 00:01:40,160
a día de hoy todavía son una cierta
incertidumbre, costes, temas legales.

28
00:01:40,160 --> 00:01:44,720
Entonces estamos pilotando muchas
experiencias, vamos a hacer más vale.

29
00:01:45,300 --> 00:01:48,200
Estamos recibiendo aluviones de verdad,
Son aluviones de gente

30
00:01:48,200 --> 00:01:49,200
que está haciendo cosas

31
00:01:49,200 --> 00:01:52,920
y que nos dice nos gustaría
que la universidad nos hiciera X

32
00:01:53,580 --> 00:01:56,840
Bueno, estamos pilotando ejemplos,
los compartiremos

33
00:01:56,840 --> 00:02:01,280
y en una segunda jornada abierta pues
probablemente os podremos dar resultados.

34
00:02:01,920 --> 00:02:05,520
Estamos haciendo todo lo posible
para dar herramientas, herramientas

35
00:02:06,060 --> 00:02:11,520
para que digamos lo que se haga con la
IA esté, digamos, sectorizado,

36
00:02:11,540 --> 00:02:15,020
que no salgan datos de la universidad
sensibles fuera de la universidad,

37
00:02:15,780 --> 00:02:18,840
que me imagino que no digo nada
que no sepáis.

38
00:02:18,840 --> 00:02:22,940
El coste de estas cosas no es pequeño,
pero estamos haciendo todo lo posible

39
00:02:22,940 --> 00:02:26,600
para que tengáis las herramientas,
técnicas, información de las herramientas.

40
00:02:27,420 --> 00:02:31,740
No vamos a poder tenerlas todas, pero
bueno, haremos todo lo posible para

41
00:02:31,880 --> 00:02:34,760
para facilitar o que las tengáis

42
00:02:34,760 --> 00:02:37,760
o que las podáis adquirir,
que es otra cosa que tampoco es sencilla.

43
00:02:38,040 --> 00:02:41,840
Estamos haciendo acuerdos con empresas
para que el que tenga capacidad

44
00:02:42,380 --> 00:02:45,620
para adquirir, porque tenga un proyecto,
porque su departamento lo necesita,

45
00:02:45,620 --> 00:02:47,180
porque tiene lo que sea,

46
00:02:47,180 --> 00:02:50,760
pues pueda adquirir herramientas
que a día de hoy son difíciles de comprar.

47
00:02:51,980 --> 00:02:54,200
Y por último, y con esto ya acabó,

48
00:02:54,200 --> 00:02:57,420
estamos empezando a preparar documentos
de buenas prácticas.

49
00:02:58,080 --> 00:03:01,320
O sea que pensamos que está bien
hacer, que pensamos que no se debe hacer,

50
00:03:01,880 --> 00:03:04,360
porque evidentemente hay que dar guías,
hay que dar guías

51
00:03:04,360 --> 00:03:07,360
a los profesores, a todos los colectivos.

52
00:03:07,820 --> 00:03:11,520
En este sentido, os animo a que
si alguno de vosotros le apetece formar

53
00:03:11,520 --> 00:03:14,120
parte de los grupos de trabajo
que estamos organizando,

54
00:03:14,120 --> 00:03:16,280
pues estáis más que invitados.

55
00:03:16,280 --> 00:03:19,620
Y el objeto aquí, ya digo,
es escribir documentos, documentos

56
00:03:19,620 --> 00:03:23,640
que tendrán una vida de tres meses
porque quedarán obsoletos en tres meses.

57
00:03:24,120 --> 00:03:27,120
Pero creemos que tenemos
que dar guías a las, al

58
00:03:27,240 --> 00:03:30,240
a la comunidad de qué cosas hacer
y qué cosas no hacer.

59
00:03:31,020 --> 00:03:34,220
Y creo que me he entretenido un poco más
de lo que quería, pero nada agradeceros

60
00:03:34,220 --> 00:03:38,360
una vez más y bueno, espero que
que sacáis mucho provecho de la jornada.

61
00:03:45,180 --> 00:03:47,300
Bueno, muchas
gracias Fernando y buenos días a todos.

62
00:03:47,300 --> 00:03:49,020
Muy breve por mi parte.

63
00:03:49,020 --> 00:03:52,980
Primero agradeceros que estéis aquí para
para dedicar una jornada.

64
00:03:53,100 --> 00:03:56,060
Yo hoy discrepo con Fernando, digo buenas,

65
00:03:56,060 --> 00:03:59,340
aunque es viernes y hace mucho calor
fuera.

66
00:03:59,780 --> 00:04:01,200
Que mejor que dedicar la mañana

67
00:04:01,200 --> 00:04:04,400
aquí a pensar en nuestro oficio,
a ver cómo mejorar,

68
00:04:04,940 --> 00:04:07,940
digamos a compartir experiencias
y encima con aire acondicionado.

69
00:04:07,940 --> 00:04:10,940
O sea, no,
no creo que haya una alternativa mejor.

70
00:04:11,040 --> 00:04:12,080
Bueno, gracias por estar aquí.

71
00:04:12,080 --> 00:04:15,720
Gracias, por supuesto, a Fernando
y a su vicerrectorado y a las personas

72
00:04:15,720 --> 00:04:18,740
que habéis estado involucradas
en generar esta jornada que es.

73
00:04:18,920 --> 00:04:22,620
No es que sea útil,
es que creo que es más que necesaria

74
00:04:22,620 --> 00:04:27,600
y espero que sea seguramente la primera
de una serie, porque nos hace falta

75
00:04:27,680 --> 00:04:31,640
aprender, conocer para calibrar y valorar
lo que lo que se nos viene.

76
00:04:31,760 --> 00:04:35,320
Yo creo que lo estamos todos,
lo vemos así, un momento singular.

77
00:04:35,880 --> 00:04:38,120
Cuando hablas a veces con algunas personas

78
00:04:39,500 --> 00:04:40,920
del entorno nuestro

79
00:04:40,920 --> 00:04:41,400
te dicen

80
00:04:41,400 --> 00:04:44,480
bueno, esto es como una revolución,
como como fue la revolución industrial,

81
00:04:44,500 --> 00:04:48,000
donde las máquinas empezaron a sustituir
la fuerza bruta del ser humano

82
00:04:48,920 --> 00:04:51,800
y o incluso también
me dicen la calculadora, antes

83
00:04:51,800 --> 00:04:56,160
sabíamos sumar, hacer raíces cuadradas
y tal y ahora no usamos la calculadora.

84
00:04:56,540 --> 00:04:58,380
Yo creo que es algo más, sinceramente.

85
00:04:58,380 --> 00:05:01,500
¿Es verdad que es una revolución
y puede tener similitudes,

86
00:05:01,500 --> 00:05:06,080
pero creo que estamos ante un cambio
de nuestros, de nuestro ecosistema, no?

87
00:05:06,380 --> 00:05:10,640
Es un momento tremendamente
difícil para todos y para la universidad.

88
00:05:10,920 --> 00:05:12,480
De mi punto de vista, todavía más.

89
00:05:12,480 --> 00:05:17,040
Antes el conocimiento estaba en los
docentes, en los libros, en los apuntes.

90
00:05:17,460 --> 00:05:19,560
Ahora el conocimiento ahí sigue estando.

91
00:05:19,560 --> 00:05:23,160
Pero hay otros sitios mucho más rápidos
de conseguir y muy, muy eficientes.

92
00:05:23,220 --> 00:05:27,980
Entonces tenemos que pensar, como digo,
hablar y compartir experiencias.

93
00:05:27,980 --> 00:05:31,880
Y creo que la conclusión de todo esto
que no se puede sacar hoy, pero sí que

94
00:05:32,540 --> 00:05:35,420
como consecuencia de estas jornadas
seguramente podremos seguir llegando a

95
00:05:35,420 --> 00:05:38,580
eso, es que creo que tenemos que repensar
nuestro modelo educativo.

96
00:05:38,960 --> 00:05:39,780
Clarísimamente.

97
00:05:39,780 --> 00:05:42,780
Creo que no podemos seguir, digamos bueno,

98
00:05:42,920 --> 00:05:45,920
si esto ha llegado, vamos, lo incorporo
en mi asignatura de alguna manera.

99
00:05:45,920 --> 00:05:47,760
Yo creo que hay que seguramente cambiar
la manera

100
00:05:47,760 --> 00:05:52,380
en que hacemos las cosas como docentes
y no solo como docentes, sino también

101
00:05:52,740 --> 00:05:55,520
reorganizar los servicios de
nuestra universidad,

102
00:05:55,520 --> 00:05:58,520
la investigación, etcétera
No es realmente un momento.

103
00:05:58,580 --> 00:06:00,960
Por un lado apasionante,
porque creo yo lo veo así,

104
00:06:00,960 --> 00:06:02,820
pero por otro lado
también muy, muy delicado.

105
00:06:02,820 --> 00:06:06,600
Ayer estuve en la reunión del Patronato
de la Fundación Universidad,

106
00:06:06,600 --> 00:06:10,760
empresa a la cual la Politécnica pertenece
y bueno, a petición

107
00:06:11,160 --> 00:06:13,800
de algunos de nosotros,
han hecho un estudio que ayer

108
00:06:13,800 --> 00:06:17,480
nos presentaron las primeras conclusiones
y no son demasiado buenas.

109
00:06:17,520 --> 00:06:21,300
La primera conclusión es que había decaído
o ya consecuencia de la IA,

110
00:06:21,300 --> 00:06:24,380
consecuencia directa de la
IA había caído un 13%.

111
00:06:24,380 --> 00:06:26,360
La contratación
de estudiantes en prácticas,

112
00:06:27,320 --> 00:06:30,420
lo cual, pues bueno, pues es que es así.

113
00:06:30,620 --> 00:06:34,460
Es verdad que
seguramente aparecerán otras alternativas,

114
00:06:34,460 --> 00:06:38,280
otras digamos trabajos,
pero la primera consecuencia

115
00:06:38,280 --> 00:06:40,640
es que está habiendo un impacto
claramente en la contratación

116
00:06:40,640 --> 00:06:42,600
y estamos en los albores.

117
00:06:42,600 --> 00:06:45,660
Ahí ponían la serie de tareas
que les que normalmente les

118
00:06:45,660 --> 00:06:49,460
les encargaban a los estudiantes
en prácticas que van a esas empresas.

119
00:06:50,160 --> 00:06:53,420
Pues os podéis imaginar recopilación
de datos, estudio de casos

120
00:06:53,420 --> 00:06:54,660
previos, etcétera, etcétera.

121
00:06:54,660 --> 00:06:58,140
Pues ahora casi todo eso lo hace la
IA con el soporte de alguien.

122
00:06:58,140 --> 00:07:00,360
Pero claro,
menos personas de las que había antes.

123
00:07:00,360 --> 00:07:01,340
¿Entonces creo que todo esto nos

124
00:07:01,340 --> 00:07:04,960
tiene que hacer pensar
cómo enseñamos que enseñamos, eh?

125
00:07:05,100 --> 00:07:07,580
Qué énfasis ponemos en cada cosa.

126
00:07:07,580 --> 00:07:11,540
Y bueno,
pues esta esta jornada del primavera tech,

127
00:07:11,840 --> 00:07:13,200
pues nos puede ayudar un poquito a ir

128
00:07:13,200 --> 00:07:16,200
encaminando como nos posicionamos
como universidad,

129
00:07:16,320 --> 00:07:18,900
que creo que tenemos que hacerlo
sin ninguna duda.

130
00:07:18,900 --> 00:07:23,220
Así que bueno, pues repito, muchas gracias
por estar aquí, por hacer esta jornada

131
00:07:23,760 --> 00:07:27,180
que es Primavera Tec,
pero el domingo empieza el el verano.

132
00:07:27,840 --> 00:07:31,140
Que habrá que hacer un verano tec si es
que hacemos más jornadas en estos días.

133
00:07:31,460 --> 00:07:32,360
Bueno, muchas gracias.

134
00:07:39,100 --> 00:07:42,100
Bueno, pues si os parece
empezamos directamente con el programa.

135
00:07:42,320 --> 00:07:44,940
Bueno, no se ve muy bien,
pero está proyectado.

136
00:07:44,940 --> 00:07:48,060
Bueno, vamos a empezar con una ponencia
breve. ¿Eh?

137
00:07:48,860 --> 00:07:51,200
Porque es indistinto de lo que
vamos a hacer después, que son mesas

138
00:07:51,200 --> 00:07:54,260
redondas, hemos invitado a Joaquín Muñoz.

139
00:07:54,480 --> 00:07:58,520
Vale, ahora os lo presentaré
porque, digamos, vemos un agujero en

140
00:07:58,800 --> 00:08:02,840
nuestra comunidad que es muy tecnológica,
vemos un agujero en la parte legal, vale.

141
00:08:03,240 --> 00:08:04,700
¿Entonces hemos dicho bueno,

142
00:08:04,700 --> 00:08:07,100
vamos a invitar a alguien
que sepa de estas cosas

143
00:08:07,100 --> 00:08:08,660
y que nos hable un poco de la parte legal,

144
00:08:08,660 --> 00:08:11,660
la parte ética, la parte jurídica
que hay detrás de todo esto, no?

145
00:08:12,200 --> 00:08:14,100
Entonces, sin más, os lo presento.

146
00:08:14,100 --> 00:08:14,700
¿Y luego ya

147
00:08:14,700 --> 00:08:19,500
Joaquín se incorpora a la mesa redonda que
vamos a hablar de todas estas cosas, eh?

148
00:08:19,520 --> 00:08:21,780
Bueno, permitidme que lo lea.

149
00:08:21,780 --> 00:08:23,180
Bueno, Joaquín Muñoz es abogado

150
00:08:23,180 --> 00:08:26,240
especializado en derecho de la privacidad
y de las tecnologías,

151
00:08:26,240 --> 00:08:29,660
Cuenta con experiencia
asesorando empresas en el cumplimiento

152
00:08:30,060 --> 00:08:33,500
de la normativa de protección de datos,
ciberseguridad e inteligencia artificial.

153
00:08:34,540 --> 00:08:37,160
Fue uno de los abogados de Mario Costa

154
00:08:37,160 --> 00:08:39,480
en el proceso
en el procedimiento de Google, en el que

155
00:08:39,480 --> 00:08:40,640
el Tribunal de Justicia de la Unión

156
00:08:40,640 --> 00:08:43,640
Europea falló a su favor,
reconociendo su derecho al olvido

157
00:08:43,860 --> 00:08:47,600
y este caso es considerado uno de los más
importantes en materia de privacidad.

158
00:08:47,820 --> 00:08:50,840
EH Bueno, participo
habitualmente como ponente

159
00:08:50,840 --> 00:08:54,620
en universidades conferencias,
escuelas de negocio EH

160
00:08:55,200 --> 00:08:59,220
y desarrollando temas fundamentalmente
relacionados con el derecho tecnológico.

161
00:08:59,220 --> 00:09:00,320
Muchas gracias Joaquín.

162
00:09:00,320 --> 00:09:03,140
Sé que te vas de viaje en un rato, así
que gracias dobles

163
00:09:03,140 --> 00:09:05,400
por aprovechar este ratito.

164
00:09:05,400 --> 00:09:08,780
Y pues nada, estamos interesadísimo
en saber la parte legal

165
00:09:08,780 --> 00:09:11,780
de todo esto, Así que nada,
muchas gracias.

166
00:09:12,400 --> 00:09:14,960
Bueno, pues nada, buenos días y al revés.

167
00:09:14,960 --> 00:09:16,260
Muchas gracias Fernando

168
00:09:16,260 --> 00:09:20,460
y a la universidad,
en especial a Jessica por por invitarme.

169
00:09:22,260 --> 00:09:23,580
Como como decía Fernando, yo

170
00:09:23,580 --> 00:09:28,100
soy seguramente el menos técnico
de la sala, pero no os preocupéis,

171
00:09:28,100 --> 00:09:31,800
que no voy a hablar de leyes,
ni de artículos ni nada así.

172
00:09:32,060 --> 00:09:34,460
¿Se trata un poco de contaros, eh?

173
00:09:34,460 --> 00:09:38,940
¿Pues de alguna forma mi experiencia
ayudando a empresas, a instituciones,

174
00:09:38,940 --> 00:09:43,460
un poco al al cumplimiento
en materia de inteligencia artificial, no?

175
00:09:44,060 --> 00:09:47,660
Y sobre todo mandar algunos mensajes
o algunas recomendaciones

176
00:09:47,820 --> 00:09:50,820
que como justo como estaban diciendo,
como justo

177
00:09:50,820 --> 00:09:53,820
estaban diciendo ahora, pues

178
00:09:53,820 --> 00:09:57,140
creo que es importante
tener tener en cuenta,

179
00:09:57,440 --> 00:10:01,520
pues a la hora de los usos que
estamos haciendo todos en el día a día,

180
00:10:01,680 --> 00:10:05,720
seguro que ya todos
hemos jugado con algunas ideas, otros

181
00:10:05,760 --> 00:10:09,180
la hemos usado
ya en modo real en el día a día.

182
00:10:09,480 --> 00:10:12,180
Y es verdad que esto
pues es una tecnología que tiene

183
00:10:12,180 --> 00:10:15,980
pues una gran un gran impacto
sobre todo en la eficiencia,

184
00:10:15,980 --> 00:10:20,160
en hacernos hacer las cosas
más rápido, mejor, etcétera, etcétera

185
00:10:20,160 --> 00:10:21,440
Poder llegar a hacer más cosas.

186
00:10:21,440 --> 00:10:24,560
Pero también tiene algunas cuestiones
que tenemos que tener en cuenta

187
00:10:24,720 --> 00:10:26,480
para no meternos en líos nosotros,

188
00:10:26,480 --> 00:10:29,760
para no meter en líos a la universidad,
para que los alumnos no nos metan en líos,

189
00:10:30,360 --> 00:10:33,320
etcétera No es un poco
es de lo que se trata hoy. ¿No?

190
00:10:33,320 --> 00:10:34,260
Voy a ir.

191
00:10:34,260 --> 00:10:37,260
La presentación es bastante extensa,
pero la ha hecho así para que luego,

192
00:10:37,260 --> 00:10:40,140
si la queréis compartir
pues podáis tener algo de material.

193
00:10:40,140 --> 00:10:42,500
Pero voy a ir bastante
rápido con las diapositivas.

194
00:10:43,640 --> 00:10:45,200
La normativa de inteligencia artificial.

195
00:10:45,200 --> 00:10:49,380
Esto viene dentro de un paquete que
no es solo que al final no sé si estáis

196
00:10:49,380 --> 00:10:52,380
un poco al tanto, pero en los últimos años
la unión Europea está

197
00:10:53,420 --> 00:10:55,080
hiper regulando todo lo que

198
00:10:55,080 --> 00:10:58,080
hay alrededor de tecnología,
ciberseguridad,

199
00:10:58,880 --> 00:11:01,980
temas de datos,
temas de secreto empresarial, temas de IA

200
00:11:01,980 --> 00:11:05,840
y ahora también desde hace
desde hace poco también la inteligencia,

201
00:11:05,840 --> 00:11:06,720
la inteligencia artificial.

202
00:11:06,720 --> 00:11:11,040
Comentábamos justo antes que en esos,
en esas conversaciones en torno de la

203
00:11:11,040 --> 00:11:13,520
Unión Europea, precisamente el tema legal
fue uno de los primeros

204
00:11:13,520 --> 00:11:17,040
que se puso encima de la mesa
por el impacto que puede tener en las

205
00:11:17,040 --> 00:11:20,280
en las personas que como veo yo.

206
00:11:20,280 --> 00:11:22,100
¿Y bueno, un poco
la idea es que cada uno ya

207
00:11:22,100 --> 00:11:25,040
veis lo que estoy contando
a vuestro día a día, no?

208
00:11:25,040 --> 00:11:26,400
¿Cuál es el contexto?

209
00:11:26,400 --> 00:11:29,520
Pues un poco en la
en el ámbito universitario, pues al final

210
00:11:29,820 --> 00:11:32,280
supongo que la estaréis usando,
pues para preparar las sesiones

211
00:11:32,280 --> 00:11:36,900
para la investigación,
para incluso corrección de.

212
00:11:39,060 --> 00:11:42,060
¿Los trabajos
que os entreguen en los exámenes

213
00:11:42,620 --> 00:11:45,980
generar de alguna forma,
incluso en el ámbito de la

214
00:11:46,640 --> 00:11:50,800
de la coordinación
o de la gestión académica

215
00:11:51,020 --> 00:11:54,740
o incluso usarla como predicción de
oye que viene, que podemos ofrecer?

216
00:11:54,740 --> 00:11:59,020
¿Cómo podemos hacer un mejor servicio
a nuestros a nuestros alumnos?

217
00:11:59,040 --> 00:12:02,580
Hay un montón de usos muy claros

218
00:12:02,900 --> 00:12:05,900
y todos muy interesantes
y muy beneficiosos.

219
00:12:06,260 --> 00:12:09,240
¿Por qué importa
o por qué Creo que me habéis invitado hoy?

220
00:12:09,240 --> 00:12:12,360
¿Porque por qué tiene esto
una derivada jurídica?

221
00:12:12,360 --> 00:12:14,120
Pues oye,

222
00:12:14,120 --> 00:12:16,800
el uso de la IA al final

223
00:12:16,800 --> 00:12:18,800
lo que tenemos es es una herramienta

224
00:12:18,800 --> 00:12:21,680
y como una herramienta, pero muy potente.

225
00:12:21,680 --> 00:12:26,420
Justo estabais, estaban comentando
justo en la introducción que esto no es

226
00:12:27,660 --> 00:12:30,140
algo como lo que hemos vivido
anteriormente.

227
00:12:30,140 --> 00:12:31,280
No va mucho más allá

228
00:12:31,280 --> 00:12:35,720
y teniendo en cuenta toda esa potencia,
esa potencia viene asociado también

229
00:12:35,880 --> 00:12:39,800
unas posibles riesgos, unas posibles
consecuencias, principalmente

230
00:12:40,280 --> 00:12:46,500
porque los derechos de los alumnos
pueden verse afectados si la utilizamos.

231
00:12:46,500 --> 00:12:49,400
Imaginad, por ejemplo,
para hacer la selección de

232
00:12:49,400 --> 00:12:52,400
alumnos para unos determinados
cursos para determinadas, tal

233
00:12:52,400 --> 00:12:55,160
porque los derechos de los profesores
pueden también ser

234
00:12:55,160 --> 00:12:57,960
puede estar también en juego
en caso de que lo utilicemos,

235
00:12:57,960 --> 00:13:02,780
pues para determinar determinadas
asignaciones, etcétera, etcétera.

236
00:13:02,780 --> 00:13:04,220
Bueno, muchas cuestiones en las

237
00:13:04,220 --> 00:13:08,160
que al final este uso de la tecnología
puede tener un puede tener un impacto.

238
00:13:08,280 --> 00:13:08,820
Y aquí es

239
00:13:10,440 --> 00:13:12,080
donde entran pues

240
00:13:12,080 --> 00:13:15,140
estos algunos de estos riesgos
que que veis ahí.

241
00:13:15,980 --> 00:13:19,400
Como digo antes, os lo dejo
porque entiendo los unos casos de uso

242
00:13:19,400 --> 00:13:23,760
que se me han ocurrido a mí, pero que
seguramente no aplican a todos vosotros.

243
00:13:23,880 --> 00:13:28,860
¿Pero por ejemplo, si utilizamos IA
para la evaluación, admisión

244
00:13:28,860 --> 00:13:31,800
y perfilado de estudiantes,
pues a lo mejor en un momento determinado

245
00:13:31,800 --> 00:13:36,360
la IA puede determinar algunos sesgos,
puede dar más preponderancia

246
00:13:36,360 --> 00:13:39,360
a unas circunstancias que a otras
y al final,

247
00:13:39,680 --> 00:13:42,420
bueno, pues tener una

248
00:13:42,420 --> 00:13:45,260
un impacto en la decisión, no?

249
00:13:45,260 --> 00:13:47,640
¿En qué?

250
00:13:47,640 --> 00:13:49,260
¿En qué?

251
00:13:49,260 --> 00:13:50,600
A ver, aquí un poco adelante.

252
00:13:50,600 --> 00:13:51,920
¿En qué afecta esto?

253
00:13:51,920 --> 00:13:55,600
Pues principalmente en que en el ámbito.

254
00:13:55,600 --> 00:13:58,140
Cuando usemos la IA
en el ámbito universitario,

255
00:13:58,140 --> 00:14:00,200
la IA no va a sustituir
nuestra responsabilidad.

256
00:14:00,200 --> 00:14:02,180
No vale con decir yo esto
lo he hecho con IA.

257
00:14:02,180 --> 00:14:04,760
Es lo que me dijo la IA y ya está.

258
00:14:04,760 --> 00:14:07,280
¿Y como estoy usando además
el último modelo de

259
00:14:07,280 --> 00:14:10,340
IA que todo el mundo dice
que es superpotente, pues

260
00:14:11,300 --> 00:14:13,860
me remito a lo que ha dicho la IA, no?

261
00:14:13,860 --> 00:14:16,860
Llega un momento en el
que esa responsabilidad, de alguna forma

262
00:14:17,220 --> 00:14:18,860
se redistribuye.

263
00:14:18,860 --> 00:14:21,000
Sí, del mismo, del mismo.

264
00:14:21,000 --> 00:14:24,000
Del mismo modo
que si yo tengo un ayudante.

265
00:14:24,020 --> 00:14:26,240
En mi caso
hablábamos justo ahora con Jorge.

266
00:14:26,240 --> 00:14:28,440
En mi caso, yo tengo en el despacho

267
00:14:28,440 --> 00:14:31,320
abogados en mi equipo
que tiene más o menos experiencia.

268
00:14:31,320 --> 00:14:34,520
En el momento que yo recibo una ayuda

269
00:14:34,520 --> 00:14:37,520
de un abogado junior
o con menos experiencia

270
00:14:38,360 --> 00:14:40,500
y me la creo o la entrego

271
00:14:40,500 --> 00:14:43,580
directamente al cliente, pues el que está
asumiendo la responsabilidad soy yo.

272
00:14:44,400 --> 00:14:46,760
Del mismo modo sucede con la IA.

273
00:14:46,760 --> 00:14:51,980
Si yo recibo un determinado
mensaje de la inteligencia artificial

274
00:14:52,140 --> 00:14:56,660
y no lo cuestiono, me lo creo directamente
y lo entrego directamente,

275
00:14:56,660 --> 00:14:59,180
pues el que está asumiendo
la responsabilidad soy yo.

276
00:14:59,180 --> 00:15:00,360
Ha habido un caso reciente en

277
00:15:01,820 --> 00:15:04,160
una aerolínea canadiense, por ejemplo,

278
00:15:04,160 --> 00:15:08,120
que ha puesto un chatbot de
IA a gestionar reclamaciones de usuarios

279
00:15:09,420 --> 00:15:12,620
y le ha dado todo el poder,
entre comillas, al chatbot.

280
00:15:12,620 --> 00:15:14,780
¿No ha confiado mucho en la tecnología
al lado del poder, al chat

281
00:15:14,780 --> 00:15:16,580
o se ha dado cuenta que el saludo estaba
fallando?

282
00:15:16,580 --> 00:15:19,600
Estaba dando compensaciones
cuando no tocaba y

283
00:15:19,620 --> 00:15:22,620
ha intentado recular y decir oye, nada más
que se ha equivocado el chatbot.

284
00:15:22,760 --> 00:15:26,600
¿Lo que le han dicho los tribunales
es oye, ok, pero la culpa la

285
00:15:26,600 --> 00:15:30,960
tienes tú por poner A1A una
IA sin vigilar o sin revisión, no?

286
00:15:31,140 --> 00:15:32,340
Entonces aquí pasa lo mismo.

287
00:15:32,340 --> 00:15:35,960
Sí, si nos fiamos demasiado, le damos esa,

288
00:15:36,380 --> 00:15:40,260
esa, ese poder o esa potestad
a la IA sin revisión, pues podemos.

289
00:15:41,380 --> 00:15:43,460
La responsabilidad al final
va a ser nuestra.

290
00:15:43,460 --> 00:15:45,500
¿Si finalmente se demuestra que el fallo

291
00:15:45,500 --> 00:15:48,020
efectivamente es de la IA
en una determinada función, pues podemos

292
00:15:48,020 --> 00:15:51,300
a lo mejor reclamar esa responsabilidad
al al fabricante,

293
00:15:51,300 --> 00:15:55,080
pero en principio la
la responsabilidad es de quien?

294
00:15:56,220 --> 00:15:58,220
¿De quien utiliza esto no?

295
00:15:58,220 --> 00:16:00,620
¿Entonces a que aquí?

296
00:16:00,620 --> 00:16:01,620
¿A que es a lo que vamos?

297
00:16:01,620 --> 00:16:05,420
Pues vamos a un marco en el que yo
os voy a hablar ahora

298
00:16:05,420 --> 00:16:06,840
del Reglamento de Inteligencia Artificial.

299
00:16:06,840 --> 00:16:08,840
Pero no es solo
el Reglamento de Inteligencia Artificial

300
00:16:08,840 --> 00:16:09,800
lo que tenemos que tener en cuenta.

301
00:16:09,800 --> 00:16:12,320
Tenemos que tener en cuenta
y lo hablaremos después en la mesa

302
00:16:12,320 --> 00:16:15,320
temas de seguridad
informática, temas de datos, temas de

303
00:16:15,780 --> 00:16:18,980
de otros, de otros ámbitos
o seguramente en las futuras

304
00:16:18,980 --> 00:16:22,500
normativas
específicas del sector educativo.

305
00:16:22,800 --> 00:16:26,360
Seguramente haya referencias de casos
en los que se nos haría casos en los que

306
00:16:26,360 --> 00:16:30,720
no se duda que la IA tiene que estar
supervisada, etcétera, etcétera.

307
00:16:31,880 --> 00:16:34,640
Bueno, os dejo esto
un poco en la línea de lo que

308
00:16:34,640 --> 00:16:37,680
de lo que decíamos en sobre todo.

309
00:16:38,240 --> 00:16:40,940
Todo va o todo va a ir muy enfocado

310
00:16:40,940 --> 00:16:45,680
a un entorno en el que en el que la IA
se pueda auditar.

311
00:16:45,680 --> 00:16:49,040
Es decir, que el Mi principal mensaje
hoy es,

312
00:16:49,700 --> 00:16:52,700
por supuesto,
usad la inteligencia artificial

313
00:16:52,760 --> 00:16:54,620
al máximo todo lo que podáis,

314
00:16:54,620 --> 00:16:59,060
pero tenemos que intentar primero entender
qué es lo que tenemos entre manos.

315
00:16:59,180 --> 00:17:02,840
Es fundamental que si vamos a utilizar
una herramienta de inteligencia artificial

316
00:17:02,840 --> 00:17:05,840
y más en un entorno técnico
como el que estamos hoy,

317
00:17:06,540 --> 00:17:08,960
por lo menos entendamos
qué es lo que tengo entre manos que

318
00:17:10,140 --> 00:17:12,540
como funciona esa herramienta.

319
00:17:12,540 --> 00:17:15,540
Determinadas cuestiones
que voy a contar después, como funciona

320
00:17:15,620 --> 00:17:18,640
y qué cuestiones o qué riesgos
puede haber asociados,

321
00:17:18,660 --> 00:17:20,900
no que podamos auditar
qué es lo que tenemos

322
00:17:20,900 --> 00:17:24,980
y decidir en algunos casos como, como,
como es la mejor forma de usarla.

323
00:17:24,980 --> 00:17:28,980
Justo estaba estaban comentando antes
el rector y el vicerrector, pues

324
00:17:30,060 --> 00:17:32,360
probablemente desde la universidad
se nos van a ayudar con guías,

325
00:17:32,360 --> 00:17:35,360
con recomendaciones,
con políticas, etcétera, etcétera

326
00:17:35,420 --> 00:17:38,460
Pero bueno, cuando cuando eso llegue
pues tendremos una referencia,

327
00:17:38,760 --> 00:17:41,840
pero al final se trata de sentido
común, entender que es la herramienta

328
00:17:41,840 --> 00:17:44,940
que tengo entre manos
y los riesgos que puede tener

329
00:17:45,800 --> 00:17:48,380
asociados.

330
00:17:48,380 --> 00:17:53,700
Entonces, cuando desde la universidad
nos planteamos tener

331
00:17:54,380 --> 00:17:59,180
o desarrollar desde cero un sistema de IA,
o bien implementar una IA de terceros,

332
00:17:59,560 --> 00:18:02,940
o bien cuando nosotros
en nuestro ámbito privado decidimos

333
00:18:02,940 --> 00:18:07,820
instalar una aplicación de IA en el móvil
o en el ordenador para Para usarla,

334
00:18:08,080 --> 00:18:09,180
pues tenemos que tener en cuenta

335
00:18:09,180 --> 00:18:12,200
ciertas ciertas cuestiones que básicamente
va en la línea de lo que os decía

336
00:18:12,200 --> 00:18:15,320
antes de entender qué es lo que tengo,
qué es lo que tengo entre manos.

337
00:18:15,720 --> 00:18:16,560
Hay muchas cuestiones.

338
00:18:16,560 --> 00:18:20,180
Os lo dejo aquí para que tengáis una guía
un poco donde mirar

339
00:18:20,800 --> 00:18:23,560
los términos y condiciones
de lo que estoy contratando.

340
00:18:23,560 --> 00:18:25,220
¿Qué es lo que yo os recomiendo?

341
00:18:25,220 --> 00:18:28,380
Que reviséis, pero me voy a centrar
en tres cosas que creo que son

342
00:18:28,380 --> 00:18:32,380
las más más relevantes que es importante
entender cuando usamos una IA.

343
00:18:32,400 --> 00:18:35,520
La primera
es cómo se ha entrenado la IA, es decir,

344
00:18:37,040 --> 00:18:40,040
tengo que entender cómo el sistema
que yo tengo entre manos

345
00:18:40,260 --> 00:18:41,040
ha sido entrenado,

346
00:18:41,040 --> 00:18:43,560
porque desde el punto de vista jurídico
esto puede tener mucho impacto.

347
00:18:43,560 --> 00:18:47,040
Si al final estoy utilizando una
IA que no me garantiza que ha sido

348
00:18:47,700 --> 00:18:51,180
entrenada con con fuentes legítimas,
es decir, que ha pedido permiso

349
00:18:51,180 --> 00:18:54,920
para toda la información, que la he metido
como base de entrenamiento al modelo.

350
00:18:55,320 --> 00:19:00,360
Puedo estar indirectamente incumpliendo
derechos de derechos de terceros.

351
00:19:00,360 --> 00:19:04,680
Vale, si tengo entre manos una
IA que lo que me dice es que básicamente

352
00:19:04,680 --> 00:19:07,080
lo que hace es scraping
de todo lo que hay en internet,

353
00:19:07,080 --> 00:19:09,260
pues probablemente me está
dando una pista de

354
00:19:09,260 --> 00:19:11,480
que si luego yo
voy a utilizar ese resultado,

355
00:19:11,480 --> 00:19:12,900
a lo mejor voy a estar infringiendo

356
00:19:12,900 --> 00:19:15,240
derechos de terceros
a los que no les han pedido permiso

357
00:19:15,240 --> 00:19:17,860
y de ahí han venido prácticamente
todos los pleitos que hay hoy en día.

358
00:19:17,860 --> 00:19:21,840
En en el ámbito
de inteligencia artificial, precisamente

359
00:19:22,040 --> 00:19:25,140
han venido de titulares de esos derechos
que saben que se ha entrenado.

360
00:19:25,140 --> 00:19:27,320
Es así, es con sus con sus bases de datos

361
00:19:27,320 --> 00:19:30,320
y no se les ha compensado,
no se les ha pedido permiso ni nada.

362
00:19:30,480 --> 00:19:33,800
Pero también
es importante entender qué pasa con

363
00:19:33,840 --> 00:19:35,360
con los datos que yo voy a meter ahí.

364
00:19:35,360 --> 00:19:37,640
Si la IA va a seguir entrenando
con los datos que yo meto.

365
00:19:37,640 --> 00:19:40,580
Y esto es una de las cosas
más importantes, sobre todo a este nivel

366
00:19:40,580 --> 00:19:42,620
académico,
porque en un momento determinado

367
00:19:42,620 --> 00:19:45,200
podemos perder el control
de lo que nosotros metamos como input.

368
00:19:45,200 --> 00:19:50,120
Es decir, si la IA que estoy utilizando
no es poner un ejemplo, no me garantiza

369
00:19:50,600 --> 00:19:55,580
que que que no va a entrenar el modelo
con esos datos.

370
00:19:55,580 --> 00:19:58,040
En realidad lo que me está diciendo
es todo lo que tú me das aquí

371
00:19:58,040 --> 00:20:00,680
lo voy a usar para mi propio,
para mi propia finalidad.

372
00:20:00,680 --> 00:20:01,520
No sé si me explico.

373
00:20:01,520 --> 00:20:05,760
Al final, si meto datos personales,
si meto un proyecto confidencial

374
00:20:05,760 --> 00:20:07,380
en el que estoy trabajando, si meto

375
00:20:08,540 --> 00:20:09,740
determinados papers,

376
00:20:09,740 --> 00:20:11,820
si estoy usando una
IA que me dice que va a usar eso

377
00:20:11,820 --> 00:20:12,300
para entrenar,

378
00:20:12,300 --> 00:20:15,820
seguir entrenando su modelo, al final
estoy perdiendo el control sobre eso.

379
00:20:15,980 --> 00:20:18,260
Entonces eso es una de las principales
cuestiones.

380
00:20:18,260 --> 00:20:21,780
Una, la que pasa con el input con la que
metemos los datos de entrenamiento.

381
00:20:22,740 --> 00:20:26,660
La segunda es qué pasa o que puedo hacer
yo con ese contenido generado

382
00:20:26,660 --> 00:20:27,740
por la inteligencia artificial

383
00:20:27,740 --> 00:20:31,700
que me dice el proveedor de IA que me dice
el sistema que voy a poder hacer

384
00:20:31,980 --> 00:20:35,960
con lo que me entrega,
si puedo usarlo con fines académicos,

385
00:20:35,960 --> 00:20:38,960
si lo puedo usar con fines comerciales,
si lo puedo usar

386
00:20:39,000 --> 00:20:42,320
para lo que yo
para el interés que yo que yo tengo.

387
00:20:42,320 --> 00:20:45,600
¿Entonces, qué pasa con entender
bien qué pasa con el input,

388
00:20:45,780 --> 00:20:47,340
qué puedo hacer con el output?

389
00:20:47,340 --> 00:20:51,300
Y por último, en casos en los que haya
decisiones automatizadas,

390
00:20:51,300 --> 00:20:53,580
en el caso en el que estoy utilizando
la inteligencia artificial para

391
00:20:53,580 --> 00:20:58,460
toma de decisiones, para determinar
si concedo o no una determinada

392
00:20:59,900 --> 00:21:02,900
beca o un determinado o una promoción,

393
00:21:03,240 --> 00:21:06,900
siempre que haya decisiones automatizadas,
tenemos que entender muy bien cuál

394
00:21:06,900 --> 00:21:07,640
va a ser el impacto

395
00:21:07,640 --> 00:21:10,860
que eso va a tener en las personas
sobre las que estoy tomando esa decisión.

396
00:21:10,980 --> 00:21:11,640
Vale.

397
00:21:11,640 --> 00:21:15,720
Si confío directamente en la IA,
en conceder lo que yo

398
00:21:15,720 --> 00:21:18,860
os decía antes de conceder o no
una compensación en un vuelo, conceder

399
00:21:18,860 --> 00:21:22,220
o no una beca a un tal,
pues ahí es donde tenemos que revisar

400
00:21:22,920 --> 00:21:25,880
y ahí ya hay muchas guías
de las agencias de datos,

401
00:21:25,880 --> 00:21:28,880
etcétera, etcétera
en las que es importante revisar

402
00:21:30,000 --> 00:21:33,000
qué consecuencias va a tener eso,
qué obligaciones tengo de transparencia.

403
00:21:33,180 --> 00:21:37,260
Si el la persona sobre la
que tomo la decisión tiene derecho

404
00:21:37,260 --> 00:21:41,100
a pedir que un humano lo revise,
Es decir, si yo le tengo que decir

405
00:21:41,640 --> 00:21:45,420
en general la norma
va a ser que yo le tengo que decir

406
00:21:46,040 --> 00:21:49,220
que transparentemente esta decisión
se ha tomado con IA

407
00:21:49,620 --> 00:21:52,640
y a partir de ahí esa persona
pues pueda reclamar o no,

408
00:21:52,640 --> 00:21:55,640
etcétera etcétera
Entonces sobre todo, como os decía,

409
00:21:56,300 --> 00:21:59,960
mensaje principal entender qué es lo que
tengo entre manos, entender cómo funciona

410
00:21:59,960 --> 00:22:02,960
técnicamente y los riesgos que puede haber
para la función para la que yo

411
00:22:02,960 --> 00:22:04,700
la quiero utilizar y después

412
00:22:06,180 --> 00:22:07,400
muchas cosas a revisar.

413
00:22:07,400 --> 00:22:09,080
Pero en concreto yo diría que estas tres.

414
00:22:09,080 --> 00:22:11,880
¿Qué pasa con lo que meto yo en la IA?

415
00:22:11,880 --> 00:22:17,600
¿Qué pasa con lo que me da y qué pasa
en los casos de decisiones automatizadas?

416
00:22:17,600 --> 00:22:19,220
Esto me lo salgo, me lo salto.

417
00:22:19,220 --> 00:22:20,460
Pero bueno, son ejemplos de esto.

418
00:22:20,460 --> 00:22:23,840
Por ejemplo, aprendizaje federado,
pues es un ejemplo de cómo poder utilizar

419
00:22:23,840 --> 00:22:27,780
IA en entornos muy confidenciales
en los cuales, pues en vez de enviar toda

420
00:22:27,780 --> 00:22:31,620
la documentación de los datasets
a la IA, se envía la

421
00:22:31,620 --> 00:22:34,820
IA a cada dataset para que aprenda
y se vuelva con el aprendizaje.

422
00:22:34,820 --> 00:22:36,240
Hay soluciones técnicas también.

423
00:22:36,240 --> 00:22:39,380
En muchos casos no son siempre
soluciones legales, pero hay soluciones.

424
00:22:39,380 --> 00:22:40,380
Hay veces

425
00:22:40,380 --> 00:22:43,620
que hay soluciones técnicas que ayudan
a resolver un problema, un problema legal.

426
00:22:44,120 --> 00:22:44,780
Esto es un ejemplo

427
00:22:44,780 --> 00:22:48,000
de un poco de las preguntas
que nosotros recomendamos hacer a la hora

428
00:22:48,000 --> 00:22:52,140
de decidir si implemento o no
un sistema de inteligencia artificial y

429
00:22:53,280 --> 00:22:55,740
cómo se resuelven esas preguntas.

430
00:22:55,740 --> 00:22:58,040
Esas preguntas derivan en unos riesgos,

431
00:22:58,040 --> 00:23:00,140
unos determinados riesgos,
Pues hay una revisión.

432
00:23:00,140 --> 00:23:02,480
Imaginad, por ejemplo,
que se identifica un riesgo

433
00:23:02,480 --> 00:23:06,020
en el ámbito de protección de datos,
pues habrá que involucrar al delegado.

434
00:23:06,020 --> 00:23:06,700
Protección de datos.

435
00:23:06,700 --> 00:23:09,700
Si hay un riesgo seguridad, pues habrá que
involucrar al responsable de seguridad.

436
00:23:10,820 --> 00:23:13,280
Estos son algunos ejemplos
de lo que os decía antes.

437
00:23:13,280 --> 00:23:16,280
Por ejemplo, en OpenAI,
la empresa de chat GPT.

438
00:23:16,760 --> 00:23:20,040
No sé si se ve bien, pero lo que me dice,
lo que me dice aquí es

439
00:23:21,720 --> 00:23:25,020
si estás usando la versión no API de GPT,

440
00:23:25,200 --> 00:23:28,080
yo voy a usar todo lo que metas
para entrenar el modelo.

441
00:23:28,080 --> 00:23:28,760
Por lo tanto, lo que me

442
00:23:28,760 --> 00:23:32,320
está diciendo es si usas
esa versión gratuita, no API y tal.

443
00:23:32,820 --> 00:23:35,400
Cualquier dato personal que metas dato
confidencial,

444
00:23:35,400 --> 00:23:38,400
que metas secreto que tú
no quieres que nadie sepa y me lo

445
00:23:38,400 --> 00:23:41,940
estás diciendo para confirmar
si tienes razón o no, tienes razón,

446
00:23:42,300 --> 00:23:46,460
yo lo voy a usar para entrenar mi modelo,
por tanto perdemos el control sobre eso.

447
00:23:46,500 --> 00:23:49,580
En cambio,
si usas la versión API de OpenAI,

448
00:23:50,100 --> 00:23:54,120
pues ahí yo no voy a tocar lo que tú
me metas para entrenar mi modelo.

449
00:23:54,140 --> 00:23:57,680
O sea, lo que os quiero decir es que
sabiendo que estas cosas pueden pasar,

450
00:23:57,680 --> 00:24:00,660
pues tendremos que elegir la versión
que mejor se adapte.

451
00:24:00,660 --> 00:24:01,500
Si voy a usar la IA

452
00:24:01,500 --> 00:24:04,520
para una cuestión inocua en la
que simplemente quiero hacer el cartel

453
00:24:04,520 --> 00:24:06,260
de la presentación de las jornadas,

454
00:24:06,260 --> 00:24:09,960
me da igual que use lo que yo le meto
para entrenar el modelo, si la voy a usar

455
00:24:10,160 --> 00:24:14,180
con una finalidad distinta
o con un enfoque un poco más sensible,

456
00:24:14,180 --> 00:24:18,400
pues ahí tengo que tener cuidado de
no entender leerme.

457
00:24:18,440 --> 00:24:19,500
Es verdad que

458
00:24:19,500 --> 00:24:23,780
creo que hay una estadística por ahí
que dice que solo un 2% de las personas

459
00:24:24,680 --> 00:24:27,800
se leen los términos y condiciones
en las condiciones

460
00:24:27,800 --> 00:24:30,980
de los de estos sistemas y un 2% a mí
me parece muchísimo.

461
00:24:31,520 --> 00:24:34,820
Pero bueno, por lo menos,
aunque no nos leamos todo el rollo

462
00:24:34,820 --> 00:24:39,000
de los términos y condiciones, entenderlo,
no poder entender qué va a pasar,

463
00:24:39,500 --> 00:24:41,040
sobre todo en casos de uso sensible.

464
00:24:41,040 --> 00:24:44,400
Y os pongo algunos ejemplos de sesgos
también que las propias ideas

465
00:24:44,400 --> 00:24:48,300
ya están poniendo sus propios auto
controles, sus propias auto,

466
00:24:48,300 --> 00:24:53,220
auto, controles y nada, simplemente
que hay ya bastantes autoridades

467
00:24:53,220 --> 00:24:56,220
que ya se están pronunciando y nos están
dando bastantes, bastantes guías.

468
00:24:56,280 --> 00:24:57,020
Todo lo que os he contado

469
00:24:57,020 --> 00:25:00,420
hasta aquí voy a correr ya porque justo
estoy en mi tiempo.

470
00:25:00,960 --> 00:25:02,400
Todo lo que os he contado hasta aquí
no es nada

471
00:25:02,400 --> 00:25:05,220
del reglamento de inteligencia artificial,
es otras cuestiones

472
00:25:05,220 --> 00:25:08,220
relacionadas con propiedad intelectual,
con datos, con seguridad.

473
00:25:08,340 --> 00:25:09,020
Vale.

474
00:25:09,020 --> 00:25:13,100
¿En qué, que que importa o que influye
el reglamento de propiedad intelectual?

475
00:25:13,140 --> 00:25:17,820
Bueno, primero que ya está aprobado,
que justo ayer se aprobó en la Comisión

476
00:25:17,820 --> 00:25:20,640
Europea una ley, la Ley Ómnibus

477
00:25:20,640 --> 00:25:23,640
que de alguna forma intenta armonizar
el Reglamento de Inteligencia Artificial

478
00:25:23,640 --> 00:25:24,600
con otras normativas

479
00:25:24,600 --> 00:25:28,640
en las que no se hablaba muy bien
como datos, como ciberseguridad y otras.

480
00:25:28,980 --> 00:25:32,060
El principal cambio que introduce Omnibus
es que había una obligación

481
00:25:32,060 --> 00:25:34,860
para ellas de alto riesgo
que entraba en vigor en agosto de este año

482
00:25:34,860 --> 00:25:35,700
y esto se pospone

483
00:25:35,700 --> 00:25:38,940
hasta diciembre del 27, con lo cual
las empresas que usan IA de alto riesgo

484
00:25:39,440 --> 00:25:42,080
tienen más plazo para para homologar,

485
00:25:42,080 --> 00:25:44,700
pero no simplemente una pincelada.

486
00:25:44,700 --> 00:25:47,400
Cuando escuches hablar del reglamento
de Inteligencia Artificial, el principal

487
00:25:47,400 --> 00:25:51,600
impacto que tiene es porque el reglamento
no regula la inteligencia artificial.

488
00:25:51,600 --> 00:25:55,200
No se puede regular una tecnología,
lo que hace es regular los usos

489
00:25:55,200 --> 00:25:56,660
que se hagan
de la inteligencia artificial.

490
00:25:56,660 --> 00:25:58,820
Lo que nos dice
es la inteligencia artificial.

491
00:25:58,820 --> 00:26:02,520
No es mala, pero si la usas
para determinadas cuestiones,

492
00:26:02,940 --> 00:26:06,180
pues puede tener un impacto
muy importante en las personas y por tanto

493
00:26:06,180 --> 00:26:10,020
esas cuestiones las regula y determina
diferentes niveles de riesgo, riesgo

494
00:26:10,020 --> 00:26:12,320
inaceptable,
es decir, usos prohibidos, que básicamente

495
00:26:12,320 --> 00:26:15,500
son cosas que veis ahora en pantalla,
que es cosas que van a tener.

496
00:26:15,680 --> 00:26:17,540
Son cosas muy graves
que si alguien las hace,

497
00:26:17,540 --> 00:26:19,440
pues puede tener un impacto
muy grande en la sociedad.

498
00:26:21,560 --> 00:26:22,200
Y por

499
00:26:22,200 --> 00:26:25,200
tanto el reglamento directamente dice esto
no se puede hacer.

500
00:26:25,680 --> 00:26:28,700
Luego tiene otro nivel que es un nivel
de alto riesgo, que es lo que os decía

501
00:26:29,880 --> 00:26:32,900
y es que sí se pueden utilizar,
pero como tienen un impacto importante,

502
00:26:33,720 --> 00:26:37,040
les pido a las empresas que controlen
esos sistemas de alto riesgo,

503
00:26:37,040 --> 00:26:38,820
que hagan
un sistema de gestión de riesgos,

504
00:26:38,820 --> 00:26:41,040
que hagan una serie de cuestiones
muy parecidas.

505
00:26:41,040 --> 00:26:43,140
Yo siempre lo explico
explicando que es un poco

506
00:26:43,140 --> 00:26:46,380
como lo que sucede con los medicamentos,
los medicamentos antes de salir al mercado

507
00:26:46,640 --> 00:26:49,980
necesitan una revisión previa,
una auditoría, una control de riesgos.

508
00:26:49,980 --> 00:26:52,300
Incluso cuando salen al mercado
tienen que estar monitorizados.

509
00:26:52,300 --> 00:26:55,620
Y si en el mercado se identifica
que ese medicamento ha generado un efecto

510
00:26:55,860 --> 00:26:59,380
que nos esperaba,
pues se vuelve y se arregla con la IA.

511
00:26:59,400 --> 00:27:02,660
Es prácticamente el mismo sistema
auditoría previa al sistema de gestión

512
00:27:02,660 --> 00:27:05,780
de riesgos y luego monitorización
una vez que está en el mercado.

513
00:27:06,140 --> 00:27:08,360
¿En qué implican esos sistemas de
alto riesgo?

514
00:27:08,360 --> 00:27:09,240
¿Principalmente?

515
00:27:11,580 --> 00:27:13,820
Lo que os pueda, digamos, afectar
a lo mejor a vosotros

516
00:27:13,820 --> 00:27:17,340
es cuando se hacen scoring,
cuando se hace clasificación muy,

517
00:27:17,840 --> 00:27:20,960
muy perfilada de personas,
etcétera, etcétera y

518
00:27:21,200 --> 00:27:24,060
sobre todo en el ámbito de recursos
humanos, en el ámbito financiero

519
00:27:24,060 --> 00:27:26,720
se pueden dar estos sistemas de alto
riesgo de lo que dice la normativa es

520
00:27:26,720 --> 00:27:30,680
Esos sistemas se permiten,
pero dentro de un control.

521
00:27:30,840 --> 00:27:34,500
Vale, os dejo información y con esto
voy a acabar.

522
00:27:34,500 --> 00:27:37,500
Hay sistemas luego de uso general,
que lo que requieren es de transparencia.

523
00:27:37,500 --> 00:27:40,500
Es saber que detrás
de lo que estoy haciendo es IA

524
00:27:40,740 --> 00:27:42,980
y solamente con esto termino.

525
00:27:42,980 --> 00:27:44,720
Para que entendáis un poco
la responsabilidad

526
00:27:44,720 --> 00:27:49,020
que puede tener la universidad
en función del rol que asume,

527
00:27:49,560 --> 00:27:53,840
si nosotros usamos o integramos un sistema

528
00:27:54,380 --> 00:27:58,020
de de de IA de uso general que pone ahí.

529
00:27:58,020 --> 00:28:00,200
GP Ahí general, por ahí.

530
00:28:00,200 --> 00:28:03,740
Básicamente tenemos que tener en cuenta
entender la documentación técnica.

531
00:28:06,480 --> 00:28:07,820
Identificar

532
00:28:07,820 --> 00:28:10,800
la información
y accesos a sistemas, etcétera.

533
00:28:10,800 --> 00:28:13,760
Hacer lo que os he contado antes un poco,
entender qué es lo que tengo entre manos.

534
00:28:13,760 --> 00:28:17,060
Si usamos IA de alto riesgo,
pues además podemos pedirle al proveedor

535
00:28:17,400 --> 00:28:18,440
pues todas esas cuestiones

536
00:28:18,440 --> 00:28:21,480
que me demuestre que tiene un sistema
de gestión de riesgos, etcétera, etcétera.

537
00:28:21,780 --> 00:28:24,480
Y si somos responsables del despliegue,
yo creo que la final es lo que

538
00:28:24,480 --> 00:28:27,920
vamos a hacer en la mayoría de los casos,
que es cuando yo implemento una

539
00:28:27,920 --> 00:28:33,420
IA en mis entornos, pues en algunos casos
cuando eso vaya a ser utilizado para

540
00:28:34,200 --> 00:28:37,500
cosas que tengan impacto en los alumnos,
en los profesores y tal,

541
00:28:37,500 --> 00:28:41,180
pues tendré que hacer algunas evaluaciones
de ese impacto, que es que

542
00:28:41,420 --> 00:28:42,960
los riesgos asociados a ese uso

543
00:28:42,960 --> 00:28:45,960
y que puede pasar que pueden salir mal
y tener previsto como lo arreglo.

544
00:28:46,620 --> 00:28:49,080
Obviamente utilizarlo
de acuerdo a las instrucciones,

545
00:28:49,080 --> 00:28:52,380
garantizar la pertinencia de los datos,
que lo que yo meto ahí puedo meterlo,

546
00:28:52,380 --> 00:28:55,380
que tengo la posibilidad de meterlo

547
00:28:55,460 --> 00:28:58,960
y luego seguir supervisando
el funcionamiento, etcétera, etcétera

548
00:28:58,980 --> 00:29:02,000
Entonces, en función del rol que asumamos,

549
00:29:02,000 --> 00:29:05,420
pues tendremos una serie
de una serie de de cuestiones.

550
00:29:05,440 --> 00:29:07,700
Luego después vamos a hablar de temas
de responsabilidad.

551
00:29:07,700 --> 00:29:12,720
En la mesa habrá normativas específicas
que regulen cosas concretas de la IA.

552
00:29:13,280 --> 00:29:15,800
Están saliendo ya certificados
que garantizan

553
00:29:15,800 --> 00:29:19,260
que la IA que uso
está auditada, etcétera, etcétera.

554
00:29:19,700 --> 00:29:21,560
Y poco más.

555
00:29:21,560 --> 00:29:24,740
Pero bueno, mi mensaje de hoy
es uno principalmente.

556
00:29:24,740 --> 00:29:28,380
Y con esto cierro y pasamos a la mesa,
que también tenemos un debate interesante.

557
00:29:29,000 --> 00:29:30,260
El mensaje es principalmente

558
00:29:31,680 --> 00:29:33,440
tenemos que entender
qué es lo que tenemos entre manos,

559
00:29:33,440 --> 00:29:37,040
Tenemos que entender los riesgos asociados
a lo que tenemos entre manos,

560
00:29:37,680 --> 00:29:41,840
seguir esas guías que se nos den
desde la universidad, evitar utilizar

561
00:29:42,200 --> 00:29:45,200
en el ámbito laboral universitario

562
00:29:45,680 --> 00:29:49,140
Ias que no
estén, digamos, dentro de las permitidas

563
00:29:49,140 --> 00:29:53,240
o dentro de lo que ya se ha revisado
y ya la Universidad ha hecho ese

564
00:29:53,940 --> 00:29:56,940
esa labor
de ver que puede usar ese proveedor.

565
00:29:57,140 --> 00:30:00,120
Y por último,

566
00:30:00,120 --> 00:30:02,000
bueno, entender también estar un poco

567
00:30:02,000 --> 00:30:05,300
despierta, que si tenemos entre manos
alguna IA que pueda ser considerada

568
00:30:05,340 --> 00:30:08,340
alto riesgo, etcétera, etcétera, pues

569
00:30:08,420 --> 00:30:10,520
tener clara la

570
00:30:10,520 --> 00:30:14,480
las implicaciones y la forma en la
que el proveedor me dice que la

571
00:30:14,480 --> 00:30:15,480
que la debe usar.

572
00:30:15,480 --> 00:30:17,360
Vale, entonces yo creo que lo más

573
00:30:17,360 --> 00:30:21,440
interesante ahora probablemente es el
es el debate, las preguntas.

574
00:30:21,440 --> 00:30:23,880
Abriremos al turno de preguntas también,

575
00:30:23,880 --> 00:30:27,620
Así que nada, yo lo dejo,
lo dejo aquí y pasamos a la mesa.

576
00:30:27,620 --> 00:30:28,160
Muchas gracias.

577
00:30:36,380 --> 00:30:39,380
Pues vamos a dar

578
00:30:39,440 --> 00:30:42,980
entrada a la mesa redonda
sobre aspectos legales,

579
00:30:42,980 --> 00:30:46,280
protección de datos,
propiedad intelectual y ciberseguridad.

580
00:30:46,800 --> 00:30:50,100
Y bueno, como decía Joaquín, encima
es la semana ideal

581
00:30:50,100 --> 00:30:55,100
porque ha habido reformas de la ley
que nos afectan, porque la educación

582
00:30:55,100 --> 00:30:58,100
es uno de estos sistemas de riesgo

583
00:30:58,160 --> 00:31:00,860
y bueno, que todos tenemos que contemplar.

584
00:31:00,860 --> 00:31:05,060
Entonces me he rodeado
de unos grandes expertos en el tema,

585
00:31:05,060 --> 00:31:08,580
a quien que ya ha hablado
y tengo también conmigo a Luis Cancela,

586
00:31:09,180 --> 00:31:12,600
delegado de Protección de Datos
de la Universidad Politécnica de Madrid

587
00:31:12,620 --> 00:31:17,060
desde 2018, y Jorge Blasco es profesor

588
00:31:17,060 --> 00:31:20,280
titular de la ESI en Sistemas Informáticos
en el Campus Sur.

589
00:31:20,660 --> 00:31:25,140
Es investigador principal
del grupo de seguridad sofware,

590
00:31:25,140 --> 00:31:29,660
algo de criptografía y además también
dirige la cátedra de seguridad INCIBE.

591
00:31:30,120 --> 00:31:33,660
Y bueno, yo la verdad es que no me
quiero entretener muchísimo más.

592
00:31:33,980 --> 00:31:36,420
¿Daros entrada, eh?

593
00:31:36,420 --> 00:31:41,040
Luis y Jorge nos van a plantear cuál
es, cuáles son sus mayores preocupaciones

594
00:31:41,300 --> 00:31:44,580
en este tema y os animo a todos
a participar porque como ha dicho antes

595
00:31:44,580 --> 00:31:47,720
Fernando, el objetivo de la jornada
es que sea muy participativa

596
00:31:47,720 --> 00:31:50,720
e intentar solucionar el máximo de dudas
que tengáis.

597
00:31:50,720 --> 00:31:53,360
Entonces, si quieres Luis, nos comentas

598
00:31:54,660 --> 00:31:55,080
un poco tu

599
00:31:55,080 --> 00:31:58,080
opinión sobre el tema
y tus preocupaciones.

600
00:31:59,060 --> 00:31:59,760
Sí. Buenos días.

601
00:31:59,760 --> 00:32:02,760
Bueno, agradeceros
porque es una oportunidad pues muy buena

602
00:32:03,080 --> 00:32:06,440
la que brinda es para poder trasladar
pues un mensaje

603
00:32:06,440 --> 00:32:07,740
a toda la comunidad educativa.

604
00:32:07,740 --> 00:32:12,320
¿No habíamos quedado en que
me ibas a preguntar la primera pregunta?

605
00:32:12,320 --> 00:32:15,360
¿Y entonces un poco
la respuesta en el sentido de

606
00:32:15,920 --> 00:32:18,920
el primer mensaje que sí,
que que quiero trasladar

607
00:32:19,860 --> 00:32:22,340
yo cuando me enfrento
a veces a vuestros proyectos,

608
00:32:22,340 --> 00:32:25,800
sobre todo en el ámbito de la
investigación, pues como que hay un cierto

609
00:32:26,580 --> 00:32:29,840
sentido de que esta normativa
lo único que hace es obstaculizar no?

610
00:32:30,500 --> 00:32:33,760
Bueno, pues ya el propio RGPD yo me

611
00:32:33,940 --> 00:32:36,940
me limito a hablar del
del ámbito de de datos personales.

612
00:32:37,640 --> 00:32:40,140
No se predica solo de protección

613
00:32:40,140 --> 00:32:43,460
frente a lo que es una utilización
de datos personales,

614
00:32:43,460 --> 00:32:47,320
puede afectar a otros derechos
o libertades de las personas, sino que eh

615
00:32:47,420 --> 00:32:50,840
implica o se predica en su título

616
00:32:51,500 --> 00:32:54,500
que sea la circulación
libre de esos datos.

617
00:32:55,140 --> 00:32:57,500
En ese sentido, yo pongo un ejemplo.

618
00:32:57,500 --> 00:33:00,900
Por ejemplo,
con la normativa vial que dices oye,

619
00:33:01,860 --> 00:33:03,360
pues no se trata

620
00:33:03,360 --> 00:33:06,380
de de impedir
que circulen con vuestros vehículos.

621
00:33:06,380 --> 00:33:09,600
Pero claro, si me traes, por ejemplo,
pues datos,

622
00:33:09,980 --> 00:33:12,840
bueno, en este caso menores de edad, dice.

623
00:33:12,840 --> 00:33:14,820
Pues claro nuestro caso.

624
00:33:14,820 --> 00:33:18,840
Extrapolando esos datos de categoría
especial, pues tienes que llevarlos

625
00:33:19,200 --> 00:33:21,140
en unas ciertas condiciones.

626
00:33:21,140 --> 00:33:25,100
Mira, hay unos sistemas, nos vale con el
cinturón que llevas a otras personas.

627
00:33:25,560 --> 00:33:28,700
Y otro mensaje también
que cuando tratamos datos tratamos datos.

628
00:33:28,920 --> 00:33:30,360
Tampoco.

629
00:33:30,360 --> 00:33:34,040
Una vez entiendes que tratas
datos personales, tienes que aplicar

630
00:33:34,040 --> 00:33:37,860
unos principios que rigen la normativa
y de los que se derivan unas obligaciones.

631
00:33:38,360 --> 00:33:41,840
Con lo cual esto de no,
pero si es que son datos

632
00:33:41,840 --> 00:33:46,220
que no tienen, bueno, ya llevan un mínimo,
digamos, por normativa.

633
00:33:46,220 --> 00:33:49,920
¿A partir de ahí puede suceder eso
que como en circulación dices,

634
00:33:50,240 --> 00:33:53,180
no es que para menores como
que pues los dejo en casa, no?

635
00:33:53,180 --> 00:33:57,080
A los menores no me los dejas en casa,
pero es cierto que

636
00:33:57,400 --> 00:34:00,660
que los menores vamos a tener
pues unas garantías adicionales

637
00:34:00,660 --> 00:34:02,580
porque entendemos que es mayor el riesgo.

638
00:34:02,580 --> 00:34:03,540
¿Y no me digas que

639
00:34:03,540 --> 00:34:06,540
bueno que es un chavalote que tienes
es muy fuerte porque ese

640
00:34:06,620 --> 00:34:08,040
aunque no le ponga cinturón no

641
00:34:08,040 --> 00:34:11,600
mira, hay que cumplir porque es que lo
que estamos es transportando personas, no?

642
00:34:12,000 --> 00:34:15,000
Es un poco esos dos mensajes así de inicio

643
00:34:15,320 --> 00:34:17,140
y para abrir un poco el debate,
porque sí que es cierto

644
00:34:17,140 --> 00:34:20,660
que pues normalmente yo entiendo
que personas que se dedican a otro tipo de

645
00:34:21,020 --> 00:34:24,740
y que estos aspectos
legales pueden no otorgarles

646
00:34:25,920 --> 00:34:26,840
todo son trabas.

647
00:34:26,840 --> 00:34:30,560
¿O es que a qué me estás diciendo que
que no se pueden tratar entonces?

648
00:34:30,560 --> 00:34:32,300
Bueno, pues había por ahí una pregunta.

649
00:34:32,300 --> 00:34:34,880
¿Dice que el uso de una herramienta
o no, verdad?

650
00:34:34,880 --> 00:34:35,880
¿Pues qué datos?

651
00:34:35,880 --> 00:34:38,940
Bueno, pues desde luego las herramientas
que proporcione ahora la universidad.

652
00:34:38,940 --> 00:34:41,580
Como veo que estáis haciendo
un gran esfuerzo o están haciendo

653
00:34:41,580 --> 00:34:45,420
un gran esfuerzo, es es vital
porque nos lo ha dicho Joaquín.

654
00:34:45,780 --> 00:34:49,380
Si tú entras en el mundo de Internet
y empiezas a utilizar datos personales,

655
00:34:49,380 --> 00:34:52,380
eso ya empieza a vulnerar principios,

656
00:34:52,620 --> 00:34:55,080
porque es que estás utilizando
datos de los que en principio

657
00:34:55,080 --> 00:34:59,780
responde la universidad en un ámbito en el
que ya te indican que determinadas

658
00:35:00,060 --> 00:35:02,900
garantías de confidencialidad
o de que no vayan a entrenarse

659
00:35:02,900 --> 00:35:04,440
modelos a otros sitios.

660
00:35:04,440 --> 00:35:07,120
¿Bueno,
pues en ese sentido no me enrollo más, que

661
00:35:08,100 --> 00:35:08,540
vamos un

662
00:35:08,540 --> 00:35:11,540
poquito justos de tiempo,
pero vamos, esos dos mensajes,

663
00:35:12,440 --> 00:35:14,820
eh? Jorge quiere manifestar

664
00:35:14,820 --> 00:35:17,820
alguna preocupación específica
o si quieres,

665
00:35:17,940 --> 00:35:20,360
todo el tema de
cómo conectamos nuestras ideas

666
00:35:20,360 --> 00:35:23,760
con otros sistemas institucionales
tipo modelo, tipo,

667
00:35:23,780 --> 00:35:27,800
otros sistemas de investigación,
ahí que cosas sí, yo cogiendo un poco

668
00:35:27,800 --> 00:35:31,720
el guante, digamos de Luis de
hay que tener cuidado con los datos,

669
00:35:31,720 --> 00:35:34,720
pues una de las cosas buenas
que tienen las ideas ahora es que

670
00:35:35,340 --> 00:35:36,040
ya no sea.

671
00:35:36,040 --> 00:35:39,920
O sea, no sé si la gente que está aquí,
pero ya no es que sea eso.

672
00:35:39,940 --> 00:35:41,400
Los sistemas de chat son sistemas.

673
00:35:41,400 --> 00:35:44,480
Al final son sistemas de texto en los que
tú les metes texto y te sacan texto.

674
00:35:44,900 --> 00:35:45,740
Pero ese texto se

675
00:35:45,740 --> 00:35:48,740
puede usar para muchas cosas
y a día de hoy se usa muchísimo también

676
00:35:48,780 --> 00:35:49,760
para ejecutar acciones

677
00:35:49,760 --> 00:35:53,200
en los ordenadores directamente
en sistemas de agentes, etcétera Entonces,

678
00:35:53,680 --> 00:35:56,360
una cosa que uno puede pensar
es bueno, yo no le voy a meter los datos

679
00:35:57,360 --> 00:35:57,560
de las

680
00:35:57,560 --> 00:36:00,700
personas, lo que voy a decir es que
quiero hacer con los datos de las personas

681
00:36:00,700 --> 00:36:04,920
para que la IA me haga las acciones
y entonces no comparto esos datos.

682
00:36:04,920 --> 00:36:07,920
Pero aún así, una cosa que a mí
me gustaría eh

683
00:36:08,300 --> 00:36:12,060
mostrar y destacar es que aunque hagamos
eso, sigue habiendo ciertos riesgos.

684
00:36:12,060 --> 00:36:15,140
Las ideas no siempre hacen lo que nosotros
queremos que hagan.

685
00:36:15,140 --> 00:36:17,960
Entonces yo les digo
hazme con los datos de los alumnos,

686
00:36:17,960 --> 00:36:21,480
con los datos, esto x la IA quizás
no siempre va a hacer eso.

687
00:36:21,800 --> 00:36:24,800
Hay riesgos de pérdidas de datos,
hay riesgos de

688
00:36:25,520 --> 00:36:29,280
incluso que en esas operaciones
que me hace vuelva de nuevo,

689
00:36:29,300 --> 00:36:31,020
por ejemplo,
a incumplir cosas de datos personales

690
00:36:31,020 --> 00:36:34,020
porque se conectan a otros servicios,
etcétera O incluso,

691
00:36:34,380 --> 00:36:36,080
como tú decías, Jessica,
que yo conecte leía

692
00:36:36,080 --> 00:36:39,320
con un servicio tipo Moodle que era bueno,
pues esto a día de hoy se puede hacer,

693
00:36:39,320 --> 00:36:41,880
o sea, yo le puedo hacer una
ya que se me conecte al moodle

694
00:36:41,880 --> 00:36:44,880
y me haga una revisión por ejemplo
de todo mi modelo para que revise

695
00:36:45,420 --> 00:36:48,500
si las transparencias están bien, si está
todo bien colocado, etcétera etcétera

696
00:36:48,780 --> 00:36:50,780
Pero al hacer eso también

697
00:36:50,780 --> 00:36:53,940
le estoy dando la ya el poder de meterse
en Moodle, quizá modificar cosas.

698
00:36:53,960 --> 00:36:58,220
Qué pasa si la IA coge, se mete en Moodle,
toca el botón que no tiene que votar,

699
00:36:58,460 --> 00:36:59,840
que tocar y me borra algo.

700
00:36:59,840 --> 00:37:02,840
Entonces hay una responsabilidad
que también, como decía Joaquín,

701
00:37:02,900 --> 00:37:06,180
aunque yo le diga al ahí hacer esas cosas,
la responsabilidad es mía

702
00:37:06,620 --> 00:37:08,940
y tenemos que tener mucho
cuidado con estas cosas,

703
00:37:09,960 --> 00:37:11,340
porque al final

704
00:37:11,340 --> 00:37:14,580
la IA hace más o menos lo que nosotros
le digamos que haga, pero la IA

705
00:37:14,580 --> 00:37:17,760
también se equivoca y esas equivocaciones,
pues al final son nuestras, que somos

706
00:37:17,760 --> 00:37:20,760
los que le estamos dando la orden a la IA.

707
00:37:22,440 --> 00:37:25,040
¿Quieres añadir algo, Joaquín?

708
00:37:25,040 --> 00:37:25,880
Bueno, como hemos dicho

709
00:37:25,880 --> 00:37:28,880
antes, esto es un evento para vosotros,
participativos.

710
00:37:29,100 --> 00:37:33,120
Entonces,
si tenéis alguna duda, pregunta mejor

711
00:37:33,120 --> 00:37:36,020
y si no, bueno,
pues nosotros nos enrollamos, pero

712
00:37:36,020 --> 00:37:39,600
preferimos que daros voz y si tenéis
cualquier duda, levantar la mano.

713
00:37:39,740 --> 00:37:43,040
Hay por aquí
una persona para con el micro.

714
00:37:43,160 --> 00:37:45,760
Esta alegría no la veo.

715
00:37:45,760 --> 00:37:48,060
Ah, vale.

716
00:37:48,060 --> 00:37:49,680
¿Alguna pregunta?

717
00:37:49,680 --> 00:37:52,680
Sí, Por aquí.

718
00:37:55,860 --> 00:37:56,540
Hola.

719
00:37:56,540 --> 00:37:57,840
Buenos días.

720
00:37:57,840 --> 00:37:58,440
Eh, yo.

721
00:37:58,440 --> 00:38:00,260
La verdad es que me he quedado un poco
sorprendida

722
00:38:00,260 --> 00:38:04,260
con el último comentario
del concepto de la IA.

723
00:38:04,260 --> 00:38:04,940
Se equivoca.

724
00:38:04,940 --> 00:38:08,840
Yo pensaba que no se equivocaba,
que simplemente era que tú les dabas

725
00:38:09,320 --> 00:38:14,840
una orden no completa o errónea,
pero no que ella se equivocara.

726
00:38:17,580 --> 00:38:20,000
¿Que no sé si Joaquín, tú quieres añadir
algo?

727
00:38:20,000 --> 00:38:23,340
No, no, Supongo que lo que querías decir
con lo que la IA se equivoca.

728
00:38:23,640 --> 00:38:27,380
Yo creo que es sobre todo también más
que que la haya seguido, que es la IA.

729
00:38:27,380 --> 00:38:29,660
No es perfecta. O sea, sobre todo
hay varias.

730
00:38:29,660 --> 00:38:30,560
Hay varias cuestiones.

731
00:38:30,560 --> 00:38:33,260
Una muy importante es, primero,
que le preguntamos el contexto.

732
00:38:33,260 --> 00:38:37,200
Quedamos justo hablaba antes con Jorge
que que yo trato un poco la IA,

733
00:38:37,200 --> 00:38:39,980
pues como decíamos antes,
como un compañero que tiene

734
00:38:39,980 --> 00:38:43,620
poca experiencia o que al que yo le tengo
que dar mucho contexto.

735
00:38:43,760 --> 00:38:47,520
Cuando haces una pregunta o cuando
introduces la consulta, el input en el.

736
00:38:47,960 --> 00:38:51,560
En los sistemas de IA
es importante darle todo el contexto,

737
00:38:51,740 --> 00:38:54,620
porque si no puede ocurrir
que la IA interprete lo que tú

738
00:38:54,620 --> 00:38:55,700
no le has querido preguntar.

739
00:38:55,700 --> 00:38:59,360
O como decía antes, Jorge, pues toque
el botón que no tenga que tocar.

740
00:38:59,960 --> 00:39:00,480
Al final

741
00:39:02,160 --> 00:39:04,620
estos
sistemas lo que tienen es unos sistemas

742
00:39:04,620 --> 00:39:08,520
lógicos de toma de decisiones por detrás,
Entonces es muy importante.

743
00:39:08,880 --> 00:39:12,140
El contexto que le doy
es decir, darle un mensaje claro,

744
00:39:12,440 --> 00:39:15,460
pero luego también
no tomarnos como como decías.

745
00:39:15,720 --> 00:39:18,860
Yo creo que estar en el punto medio de
no tomarnos como decías, la sensación

746
00:39:18,860 --> 00:39:22,520
de que la IA lo va a entregar todo
perfecto, si es una orden muy clara que es

747
00:39:22,860 --> 00:39:27,920
organizarme esto en orden alfabético,
organizarme tal de mayor a mayor.

748
00:39:27,920 --> 00:39:30,080
O dime quién ha hecho tal.

749
00:39:30,080 --> 00:39:32,660
Eso lo puede hacer bien,
pero hay otras funciones en las que

750
00:39:32,660 --> 00:39:34,680
en las que la IA ya le toca pensar.

751
00:39:34,680 --> 00:39:38,100
Es decir, por ejemplo, yo en mi ámbito
utilizamos una IA específica

752
00:39:38,100 --> 00:39:41,100
en el ámbito legal y la IA te recomienda

753
00:39:41,280 --> 00:39:44,480
pues vías de acción en el ámbito jurídico

754
00:39:44,840 --> 00:39:48,200
que qué decisiones tomar
o que recomendar, qué recomendaciones.

755
00:39:48,860 --> 00:39:52,380
Yo creo que el mensaje principal es
no demos por hecho

756
00:39:52,380 --> 00:39:56,880
que todo lo que me entrega la IA
es importante, o sea, está correcto,

757
00:39:57,120 --> 00:39:59,580
sino tenemos que aplicar
también algo de crítica

758
00:39:59,580 --> 00:40:01,440
y algo de pensamiento
crítico a lo que me da,

759
00:40:01,440 --> 00:40:05,220
porque si yo uso eso, tal cual,
la responsabilidad la estoy asumiendo yo.

760
00:40:05,600 --> 00:40:09,220
Es decir, en el ejemplo que yo
ponía antes, si un compañero junior de mí,

761
00:40:09,420 --> 00:40:13,100
de mi equipo me entrega
una respuesta para un cliente y yo la cojo

762
00:40:13,100 --> 00:40:16,700
y se la entrego sin mirarla, que está
asumiendo la responsabilidad soy yo,

763
00:40:17,820 --> 00:40:18,780
tendré que.

764
00:40:18,780 --> 00:40:22,380
Tendremos que ponernos nosotros
como como humanos, un poco en esa

765
00:40:22,980 --> 00:40:25,620
labor de cuestionar y de

766
00:40:25,620 --> 00:40:28,700
y de revisar
todo lo que me entrega la vida.

767
00:40:28,980 --> 00:40:33,120
Si yo quería añadir a eso
que las ideas de forma muy simplificadas

768
00:40:33,120 --> 00:40:34,500
son sistemas estadísticos,

769
00:40:34,500 --> 00:40:37,760
o sea, es simplificando muchísimo
su sistema estadístico.

770
00:40:38,100 --> 00:40:41,100
Y uno de los problemas que tienen también
es que.

771
00:40:41,880 --> 00:40:44,600
Entre comillas,
no saben decir que no saben muchas veces.

772
00:40:44,600 --> 00:40:46,820
Entonces, por ejemplo,
una cosa que nosotros,

773
00:40:46,820 --> 00:40:49,820
o al menos nos pasa a nosotros
mucho en conferencias y que hemos

774
00:40:49,860 --> 00:40:52,860
detectado un sistema
para implementar sistemas para detectarlo.

775
00:40:53,280 --> 00:40:57,200
Cuando tú a una IA le pides que te diga
papers relacionados con un tema,

776
00:40:57,200 --> 00:40:58,400
por ejemplo

777
00:40:58,400 --> 00:41:01,800
a día de hoy esto en unos meses
probablemente se solucionado,

778
00:41:01,800 --> 00:41:04,540
pero a día de hoy te detecta los papers
bien, pero cuando te los cita

779
00:41:04,540 --> 00:41:06,660
se inventa
los autores. No me preguntes por qué,

780
00:41:07,640 --> 00:41:08,820
pero se los inventa.

781
00:41:08,820 --> 00:41:12,880
Entonces nosotros en varias conferencias
tenemos un sistema en el que vamos a

782
00:41:13,140 --> 00:41:16,920
a la bibliografía y simplemente mirando
si los autores son los correctos o no

783
00:41:17,400 --> 00:41:20,400
de las citas, sabemos
si el paper se ha utilizado ya o no,

784
00:41:21,920 --> 00:41:23,640
entonces

785
00:41:23,640 --> 00:41:25,680
digamos, digamos que están hechas también.

786
00:41:25,680 --> 00:41:28,080
En cierto sentido, depende del uso
que se les están hechas

787
00:41:28,080 --> 00:41:31,080
para complacer a la gente y para darte la
la respuesta que quieres.

788
00:41:31,080 --> 00:41:34,980
Y si no la sabe, pues llega el momento
de la típica alucinación

789
00:41:34,980 --> 00:41:35,820
en la que se la inventa.

790
00:41:35,820 --> 00:41:38,820
Entonces las alucinaciones en un chat,

791
00:41:39,140 --> 00:41:41,580
pues te hacen que copies quizá un texto,
que cojas un texto

792
00:41:41,580 --> 00:41:44,580
y lo metes en un informe que esté mal,
pero una alucinación

793
00:41:44,820 --> 00:41:47,820
en algo que luego ejecuta acciones
quizá puede tener problemas mayores.

794
00:41:48,240 --> 00:41:50,060
Simplemente es solo justo

795
00:41:51,360 --> 00:41:54,360
lo que dice Jorge, que creo que igual
tenemos que haber empezado por ahí.

796
00:41:54,360 --> 00:41:55,040
Es justo eso.

797
00:41:55,040 --> 00:41:57,060
La IA no te da la respuesta correcta,

798
00:41:57,060 --> 00:41:59,600
te da la respuesta
probablemente más correcta.

799
00:41:59,600 --> 00:42:01,920
O sea, en probabilidad
la respuesta que tenga

800
00:42:01,920 --> 00:42:03,560
una mayor probabilidad de ser la correcta,

801
00:42:03,560 --> 00:42:04,820
pero no quiere decir que sea la correcta.

802
00:42:04,820 --> 00:42:06,800
Por eso hay que.

803
00:42:06,800 --> 00:42:10,100
Y además añadiría, es humilde la IA.

804
00:42:10,220 --> 00:42:13,220
Tú le haces esa pregunta
y te va a decir ojo, ojo,

805
00:42:13,860 --> 00:42:17,760
lo que yo te diga así,
porque es una de las cositas que uno

806
00:42:17,760 --> 00:42:21,900
cuando empieza a contactar con la
IA le preguntas y te dice

807
00:42:22,100 --> 00:42:26,120
espera, no tengas la certeza absoluta,
incluso algún aviso.

808
00:42:26,120 --> 00:42:30,600
Hay sistemas que te dicen
esto no es totalmente.

809
00:42:30,740 --> 00:42:33,320
Entonces ya empezamos a chocar
con principios también.

810
00:42:33,320 --> 00:42:35,980
Por ejemplo, la protección de datos
como el de exactitud de los datos.

811
00:42:35,980 --> 00:42:37,440
Si tú tratas datos

812
00:42:37,440 --> 00:42:41,280
y ya no puedo tener certeza
de que esos datos que me vas a devolver

813
00:42:41,280 --> 00:42:45,180
sean exactos o hayas realizado algo
que implique una afectación,

814
00:42:45,680 --> 00:42:48,180
pues ya te digo
que la propia IA lo reconoce y te dice

815
00:42:48,180 --> 00:42:51,740
antes de cualquier cosa que pueda afectar
a determinadas

816
00:42:52,020 --> 00:42:54,680
cuestiones
que estamos hoy tratando. Verifícalo.

817
00:42:56,240 --> 00:42:57,120
Sí, por eso justo se

818
00:42:57,120 --> 00:43:00,120
habla del que siempre se dice.

819
00:43:00,200 --> 00:43:03,200
Eso es lo que han destacado antes.

820
00:43:06,320 --> 00:43:07,820
Hola, buenos días, Israel.

821
00:43:07,820 --> 00:43:09,900
Cañón de la Chime.

822
00:43:09,900 --> 00:43:12,380
Quería preguntar qué tipo de

823
00:43:12,380 --> 00:43:15,360
de, digamos, de impedimentos legales

824
00:43:15,360 --> 00:43:18,680
o qué tipo de cosas se pueden infringir
cuando se usa la IA para

825
00:43:19,740 --> 00:43:23,040
programar
para asistente de programación de código,

826
00:43:23,540 --> 00:43:26,540
por ejemplo, para automatizar
procesos o macros o en fin,

827
00:43:27,300 --> 00:43:30,000
qué tipo de cosas
hay que tener en cuenta en ese sentido,

828
00:43:30,000 --> 00:43:33,200
más allá de los datos personales
que uno pueda

829
00:43:34,080 --> 00:43:36,980
necesitar proveerle a la IA.

830
00:43:36,980 --> 00:43:38,100
Gracias.

831
00:43:38,100 --> 00:43:40,860
Yo en cuanto a temas legales, poco
puedo puedo decir.

832
00:43:40,860 --> 00:43:45,000
Lo aviso en cuanto,
por ejemplo consejos que yo

833
00:43:45,000 --> 00:43:48,000
daría una cosa que

834
00:43:48,420 --> 00:43:51,060
cuando tú programas
puedes hacer lo que sea.

835
00:43:51,060 --> 00:43:53,360
O sea, el programa
puede hacer por propia definición

836
00:43:53,360 --> 00:43:54,620
ejecutar código, ejecutar lo que sea.

837
00:43:54,620 --> 00:43:58,580
Entonces una de las acciones
que puede hacer también son destructivas.

838
00:43:58,800 --> 00:44:00,720
Lo que decía antes se puede coger.

839
00:44:00,720 --> 00:44:03,960
Entonces,
una recomendación que se tiene mucho es.

840
00:44:05,960 --> 00:44:07,580
Que ya
digo que no siempre es fácil de hacer.

841
00:44:07,580 --> 00:44:11,660
Vale, es que todo desarrollo que se haga,
que se haga dentro

842
00:44:11,660 --> 00:44:13,040
de una máquina virtual en la que tú

843
00:44:13,040 --> 00:44:16,820
tienes a la gente. De ahí que haga cosas
porque la gente de IA, tú la

844
00:44:16,820 --> 00:44:20,760
ahí le das todos los permisos que quieras,
entonces la gente ya se equivoca.

845
00:44:21,000 --> 00:44:25,320
El problema queda
solo dentro de ese espacio virtual

846
00:44:25,680 --> 00:44:28,680
y no se propaga a tu disco. Por ejemplo,

847
00:44:29,000 --> 00:44:30,180
imagínate que la gente dice

848
00:44:30,180 --> 00:44:33,360
tengo que borrar este directorio
porque estoy porque me he equivocado.

849
00:44:33,360 --> 00:44:33,920
Una cosa

850
00:44:33,920 --> 00:44:36,920
y el directorio que borra es un directorio
que tú tienes, vete tú a saber qué.

851
00:44:37,040 --> 00:44:39,380
Entonces eso rompería tú tu sistema.

852
00:44:39,380 --> 00:44:41,520
Pero si lo haces
en una máquina virtual, no,

853
00:44:41,520 --> 00:44:43,820
esos son
el tipo de consejos que puedo dar yo.

854
00:44:43,820 --> 00:44:45,480
Pero en cuanto a legal,

855
00:44:45,480 --> 00:44:48,680
si no en cuanto a esto,
algunas cuestiones que he comentado antes.

856
00:44:48,680 --> 00:44:53,280
Es decir, por ejemplo
si entender dónde estoy metiendo

857
00:44:53,280 --> 00:44:57,060
esa esa información, lo que he dicho antes
como se ha entrenado, porque por ejemplo

858
00:44:57,220 --> 00:45:01,900
se ha entrenado con librerías de terceros,
imaginad que es una IA que no, que

859
00:45:02,840 --> 00:45:05,300
se ha entrenado con software libre,
que hay colgado,

860
00:45:05,300 --> 00:45:08,460
que tiene todas las librerías de software
libre colgadas y tal.

861
00:45:08,460 --> 00:45:11,000
Pero esas librerías de software libre
individualmente

862
00:45:11,000 --> 00:45:14,640
tienen también sus licencias
y tienen también unas limitaciones de uso

863
00:45:14,640 --> 00:45:18,140
o de mención de que se ha utilizado esa
librería, etcétera, etcétera Entonces,

864
00:45:18,680 --> 00:45:23,700
entender que de lo que ha aprendido es
ahí a que me va a ayudar a programar,

865
00:45:24,120 --> 00:45:28,140
ha obtenido los los los derechos,
porque si no a lo mejor está de repente

866
00:45:28,200 --> 00:45:32,160
utilizando una licencia de GPU
que me requiere, que la puedo utilizar

867
00:45:32,160 --> 00:45:36,500
pero que requiere mención a la propia
licencia y ya eso no me lo va a dar.

868
00:45:36,900 --> 00:45:40,200
Entonces, entender que la IA se ha
entrenado correctamente, que ha respetado

869
00:45:40,380 --> 00:45:43,980
derechos de terceros después, como decía
antes también que el Código que yo meta

870
00:45:44,240 --> 00:45:47,120
me lo va a respetar en el sentido de
si a lo mejor estoy desarrollando

871
00:45:47,120 --> 00:45:48,620
un código confidencial.

872
00:45:48,620 --> 00:45:50,900
Hubo un caso con desarrolladores de

873
00:45:51,900 --> 00:45:55,340
una empresa famosa de tecnología
que iban a sacar un software

874
00:45:55,340 --> 00:45:57,200
para sus televisiones

875
00:45:57,200 --> 00:45:59,760
y los desarrolladores
antes de que esas televisiones

876
00:45:59,760 --> 00:46:02,760
subieran al mercado usaron IA para

877
00:46:02,900 --> 00:46:04,700
comprueba el código y mejora.

878
00:46:04,700 --> 00:46:06,540
Me lo

879
00:46:06,540 --> 00:46:10,080
la la IA era como las que he enseñado
yo antes de las que te dicen

880
00:46:10,080 --> 00:46:13,080
Voy a usar lo que tú
me das aquí para entrenar mi algoritmo.

881
00:46:13,280 --> 00:46:16,700
Por tanto, ellos están metiendo
una información confidencial secreta

882
00:46:16,700 --> 00:46:19,700
para su empresa que todavía
no había salido en un sistema que luego

883
00:46:20,640 --> 00:46:22,100
lo iba a utilizar para sus propios fines.

884
00:46:22,100 --> 00:46:24,380
Por lo tanto,
pierden esa confidencialidad.

885
00:46:24,380 --> 00:46:27,720
Entonces,
entender que la IA que me va a ayudar

886
00:46:28,200 --> 00:46:32,520
respeta licencias de terceros, porque para
aprender seguramente ha tenido que leer

887
00:46:33,800 --> 00:46:36,180
bibliotecas de código, etcétera, etcétera.

888
00:46:36,180 --> 00:46:39,020
¿Dos Qué va a pasar con con lo que yo meto
aquí?

889
00:46:39,020 --> 00:46:41,100
Estoy poniendo en riesgo
lo que yo estoy metiendo,

890
00:46:41,100 --> 00:46:44,420
el código que ya tengo desarrollado
lo estoy poniendo en riesgo.

891
00:46:44,760 --> 00:46:46,320
Y tres también. Lo que os decía antes

892
00:46:47,300 --> 00:46:49,620
qué puedo hacer yo con ellos si el código
lo quiero,

893
00:46:49,620 --> 00:46:50,960
si el código que yo estoy desarrollando

894
00:46:50,960 --> 00:46:54,140
lo quiero simplemente para un uso
doméstico o académico,

895
00:46:54,800 --> 00:46:56,040
pues seguramente lo voy a poder utilizar.

896
00:46:56,040 --> 00:47:00,620
Pero hay ideas que luego te limitan que tú
puedas usar lo que ellos te entregan

897
00:47:00,620 --> 00:47:03,980
con un fin comercial, por ejemplo,
las ideas de imágenes,

898
00:47:03,980 --> 00:47:06,980
las ideas de música,
las ideas de vídeos, etcétera.

899
00:47:07,500 --> 00:47:10,440
Lo que os enseñaba antes,
la versión gratis normalmente te dice tú

900
00:47:10,440 --> 00:47:12,080
esto no lo
puedes usar con un fin comercial,

901
00:47:12,080 --> 00:47:13,680
es decir, lo que has usado gratis

902
00:47:13,680 --> 00:47:17,160
para ponerle tu marca y venderlo
en el mercado y ganar dinero con ello.

903
00:47:17,180 --> 00:47:20,160
Entonces es un poco
lo que os decía antes entender sobre todo.

904
00:47:20,160 --> 00:47:21,500
¿Para mí la clave está en

905
00:47:22,680 --> 00:47:24,980
qué es lo que quiero conseguir,

906
00:47:24,980 --> 00:47:28,320
qué riesgos hay si yo meto
esto dentro de esta guía y luego qué

907
00:47:28,320 --> 00:47:31,640
voy a poder hacer con el
código que me que me entrega?

908
00:47:36,080 --> 00:47:37,100
Hola,

909
00:47:37,100 --> 00:47:40,160
Me habéis abierto los ojos de una cosa
que no era muy consciente

910
00:47:40,620 --> 00:47:44,400
que era si yo por ejemplo utilizo una
IA de estas

911
00:47:44,400 --> 00:47:48,120
que utilizan la información
que meto para para entrenarse

912
00:47:48,660 --> 00:47:54,000
y meto una dirección de una persona,
su DNI, sus datos dentro de un convenio.

913
00:47:54,000 --> 00:47:59,040
Por ejemplo, si otra persona pregunta
por los datos personales de esa

914
00:47:59,160 --> 00:48:02,160
de esa persona
sobre la que yo he metido información,

915
00:48:02,340 --> 00:48:06,000
si le saldría toda la información
o si la IA tiene algún

916
00:48:06,000 --> 00:48:09,140
tipo de restricción
para dar información de personas privadas.

917
00:48:09,440 --> 00:48:12,320
¿Eso uno y después

918
00:48:12,320 --> 00:48:15,920
eh, qué riesgo tiene
la persona que ha metido

919
00:48:15,920 --> 00:48:19,060
la información en la IA, eh

920
00:48:19,280 --> 00:48:22,280
Indebidamente, Supongo, eh?

921
00:48:22,440 --> 00:48:23,900
¿O sea que qué riesgos tiene?

922
00:48:23,900 --> 00:48:25,680
¿Porque me imagino que será difícil

923
00:48:25,680 --> 00:48:29,680
trazar quién ha metido esa información
dentro del modelo, eh?

924
00:48:29,760 --> 00:48:32,300
No sé si eso lo he explicado bien.

925
00:48:32,300 --> 00:48:34,980
Es decir, si alguien demanda la IA porque

926
00:48:36,300 --> 00:48:39,260
aparecen sus datos, eh,

927
00:48:39,260 --> 00:48:42,440
de manera automática,
cualquiera que realice esa búsqueda,

928
00:48:42,980 --> 00:48:47,280
eh, sí, eh, la IA puede venirme a a mí

929
00:48:47,280 --> 00:48:50,760
que he metido la información a decirme
pues ahora te demando a ti.

930
00:48:51,800 --> 00:48:54,140
No sé si me explico.

931
00:48:54,140 --> 00:48:54,960
Muy interesante.

932
00:48:54,960 --> 00:48:57,960
Contestamos esta pregunta
y lamentablemente no hay más tiempo.

933
00:48:58,020 --> 00:49:01,700
Luego aprovechamos en el café porque
tenemos que seguir con la siguiente mesa.

934
00:49:02,340 --> 00:49:06,000
Contestamos el A la primera pregunta
que haces Técnicamente

935
00:49:06,000 --> 00:49:10,520
es posible ya pasado, pero que sea
estadísticamente probable es muy bajo.

936
00:49:11,460 --> 00:49:14,840
O sea, muchas empresas tienen mecanismos
para luego filtrar todo ese tipo de cosas

937
00:49:15,420 --> 00:49:18,420
y que aunque tú
le estés mandando datos personales, ellos

938
00:49:18,780 --> 00:49:21,200
tengan cuidado,
sobre todo a la hora de devolverlos.

939
00:49:21,200 --> 00:49:24,200
Pero se han dado casos en los que

940
00:49:25,040 --> 00:49:27,560
estos son ataques,
digamos que se llaman ataques de.

941
00:49:30,060 --> 00:49:30,980
Tú puedes chequear.

942
00:49:30,980 --> 00:49:33,980
En algunos casos se una IA sido entrenada
con ciertos datos.

943
00:49:34,320 --> 00:49:35,460
Básicamente.

944
00:49:35,460 --> 00:49:37,260
Entonces

945
00:49:37,260 --> 00:49:42,200
se puede pasar, pero es muy poco probable
que en el día a día, etcétera pase.

946
00:49:42,240 --> 00:49:45,240
Evidentemente eso no quiere decir
que se puedan subir alegremente.

947
00:49:45,480 --> 00:49:48,500
Lo que dice Luis hay que tenerlo en cuenta
desde el punto de vista

948
00:49:48,720 --> 00:49:50,120
sobre todo legal, de la universidad.

949
00:49:50,120 --> 00:49:53,300
Y en cuanto a
a la trazabilidad hacia atrás.

950
00:49:56,240 --> 00:49:57,740
Muchas de las IA, sobre todo de pago,

951
00:49:57,740 --> 00:50:00,800
tienen servicios para monitorizar
como cada persona,

952
00:50:00,800 --> 00:50:02,400
que eso es otra cosa que también
hay que tener en cuenta.

953
00:50:02,400 --> 00:50:04,860
Desde luego,

954
00:50:04,860 --> 00:50:06,020
si tú tienes una cuenta

955
00:50:06,020 --> 00:50:09,180
empresarial,
por ejemplo, tú puedes revisar

956
00:50:09,180 --> 00:50:12,180
como cada uno de los empleados
está usando esa IA,

957
00:50:12,420 --> 00:50:14,760
esto, esto,
esto es así, esto se puede hacer en

958
00:50:16,020 --> 00:50:18,860
el trazar exactamente el culpable.

959
00:50:18,860 --> 00:50:21,800
Ya no sé si desde el punto de vista legal
es posible o no,

960
00:50:21,800 --> 00:50:23,580
Bueno, es que también aquí estamos.

961
00:50:23,580 --> 00:50:25,400
Estamos hablando de la IA.

962
00:50:25,400 --> 00:50:27,200
La IA es muchas Ias, es decir.

963
00:50:27,200 --> 00:50:30,500
O sea, yo diría que es lo que preguntaba
a las dos preguntas.

964
00:50:30,500 --> 00:50:35,460
Depende, porque al final
cada sistema de inteligencia artificial,

965
00:50:35,460 --> 00:50:38,880
cada producto, cada software,
tiene sus propias características.

966
00:50:38,880 --> 00:50:42,500
Por eso mi único mensaje
yo creo que quería que os quedaréis es

967
00:50:42,680 --> 00:50:44,700
entendamos
qué es lo que tenemos entre manos.

968
00:50:44,700 --> 00:50:49,020
¿La primera opción es
no es lo mismo CoPilot que Chat GPT

969
00:50:49,020 --> 00:50:54,360
que Clot, que tal entonces que las chinas
o que tal dependiendo de las Ias?

970
00:50:54,360 --> 00:50:57,360
Pues hay unas condiciones u otras.

971
00:50:59,460 --> 00:51:01,200
Respecto a lo de si se

972
00:51:01,200 --> 00:51:04,320
si se puede luego salir ese ese dato, pues

973
00:51:05,460 --> 00:51:08,060
lo que sí está claro es que ya no
está en nuestro control, es decir,

974
00:51:08,060 --> 00:51:11,520
cuando metemos esa información en la IA
ya no está en nuestro control.

975
00:51:11,520 --> 00:51:14,360
Entonces, si la IA nos ha dicho como
hay algunas

976
00:51:14,360 --> 00:51:17,240
que de lo que va a nutrirse
es de nuestros servidores,

977
00:51:17,240 --> 00:51:19,500
es una IA que me instalan
en mis propios servidores

978
00:51:19,500 --> 00:51:21,180
que se va a nutrir
de los datos de entrenamiento

979
00:51:21,180 --> 00:51:22,320
de mis servidores y tal, pues

980
00:51:22,320 --> 00:51:25,440
estaremos en un entorno más controlado
y seguramente eso no va a pasar,

981
00:51:25,940 --> 00:51:29,240
pero yo estoy usando una
IA de uso general, un copiloto de estos

982
00:51:29,240 --> 00:51:32,480
que lo usa todo el mundo,
pues ahí ese, hay ese riesgo.

983
00:51:32,880 --> 00:51:35,880
Aunque coincido con lo que decía Jorge,
que las

984
00:51:35,960 --> 00:51:38,700
las buenas, las confiables,
las que todos usamos,

985
00:51:38,700 --> 00:51:43,560
tienen también filtros y tienen límites
para no dar esa, esos, esos datos.

986
00:51:43,560 --> 00:51:46,580
Y luego sí se puede trazar
quién ha sido el culpable

987
00:51:46,580 --> 00:51:49,920
o quien lo ha hecho o tal, pues también
va a depender de cada una de ellas.

988
00:51:49,920 --> 00:51:52,920
Cada una tiene sus propias condiciones,
cada una tiene sus propios

989
00:51:53,120 --> 00:51:55,400
términos, términos de uso.

990
00:51:55,400 --> 00:51:59,000
Pero en general, una de las cosas que sí
que se les pide

991
00:51:59,000 --> 00:52:01,460
a las inteligencias artificiales,
sobre todo en el ámbito

992
00:52:01,460 --> 00:52:04,620
de responsabilidad,
es que como para mí como usuario

993
00:52:05,420 --> 00:52:08,900
va a ser muy difícil
determinar si la IA ha fallado

994
00:52:08,900 --> 00:52:09,900
porque ha fallado la IA

995
00:52:09,900 --> 00:52:13,220
o ha sido culpa mía porque le he metido un
ha hecho un mal uso

996
00:52:13,740 --> 00:52:16,100
en todas las normativas
de responsabilidad.

997
00:52:16,100 --> 00:52:19,520
Y todo esto,
lo que si se pide, que si se traslada

998
00:52:19,880 --> 00:52:23,420
es la responsabilidad de la prueba,
lo que se llama la carga de la prueba,

999
00:52:23,420 --> 00:52:24,800
se le traslada a las

1000
00:52:26,000 --> 00:52:26,960
a las Ias,

1001
00:52:26,960 --> 00:52:29,820
a los responsables de las inteligencias
artificiales, porque como

1002
00:52:29,820 --> 00:52:34,140
para el usuario medio va a ser muy difícil
explicar qué es lo que ha fallado

1003
00:52:34,560 --> 00:52:37,840
en un momento determinado de un juicio
o una responsabilidad,

1004
00:52:37,860 --> 00:52:40,700
una cuestión legal para una específica
responsabilidad.

1005
00:52:40,700 --> 00:52:44,840
Digamos que eso se trasladará
o se le pedirá a la al fabricante de la

1006
00:52:44,840 --> 00:52:47,840
IA que sea el que explique
qué es lo que ha pasado.

1007
00:52:48,960 --> 00:52:51,300
¿Yo creo que queda contestado, eh?

1008
00:52:51,300 --> 00:52:53,040
Muchísimas gracias, Joaquín.

1009
00:52:53,040 --> 00:52:57,020
Luis Jorge ha sido breve y esto demuestra,
Fernando, que tenemos que hacer otra

1010
00:52:57,560 --> 00:53:00,840
porque esta vez ha quedado muy, muy breve
y seguramente

1011
00:53:00,840 --> 00:53:02,640
que han quedado muchas cuestiones
abiertas.

1012
00:53:02,640 --> 00:53:05,000
Agradeceros
y nos ponemos a vuestra disposición.

1013
00:53:05,000 --> 00:53:08,640
Si hay más cuestiones, nos las enviáis
y tratamos de contestarlas a todas.

1014
00:53:08,960 --> 00:53:09,740
Muchísimas gracias.

1015
00:53:17,120 --> 00:53:17,580
¿Bueno, aquí

1016
00:53:17,580 --> 00:53:23,340
vamos a hablar de docencia, de docencia,
que bueno, pues es nuestro curro principal

1017
00:53:23,340 --> 00:53:26,560
y que se está
viendo muy afectado por todo esto eh?

1018
00:53:27,180 --> 00:53:31,760
Bueno, mi la mesa me acompañan Andrés,
profesor de la Escuela de Industriales

1019
00:53:32,300 --> 00:53:35,460
que lleva ya muchos años haciendo cosas
con IA y por eso lo hemos invitado

1020
00:53:36,000 --> 00:53:37,120
en su docencia.

1021
00:53:37,120 --> 00:53:42,000
Hoy hemos invitado esta mesa redonda
y Fali, profesor de la Escuela de Caminos,

1022
00:53:42,800 --> 00:53:43,520
aunque tiene otros

1023
00:53:43,520 --> 00:53:47,820
muchos roles en la universidad,
pues que también está retando a la parte

1024
00:53:47,820 --> 00:53:52,080
académica con todas las cosas de la IA
y os queremos comentar algunas cosas

1025
00:53:52,080 --> 00:53:55,700
que vemos
que nos llegan y abrir el debate.

1026
00:53:56,420 --> 00:53:59,400
Eh, Yo para empezar
tengo unas poquitas transparencias

1027
00:53:59,400 --> 00:54:02,400
que es un resumen rápido
que por supuesto me ha hecho la IA.

1028
00:54:02,640 --> 00:54:06,600
Ayer por la noche de las encuestas
de las encuestas

1029
00:54:06,600 --> 00:54:10,020
que habéis rellenado o que han rellenado
los profesores que han tenido a

1030
00:54:10,020 --> 00:54:13,100
bien invertir unos minutitos en contarnos
qué es lo que están haciendo.

1031
00:54:13,100 --> 00:54:13,320
Vale.

1032
00:54:14,340 --> 00:54:15,200
Al copiarlas se ha

1033
00:54:15,200 --> 00:54:18,360
perdido alguna cosa,
pero creo que las siguientes está bueno.

1034
00:54:18,360 --> 00:54:22,140
¿Hemos recibido 57 encuestas
que teniendo en cuenta lo poco

1035
00:54:22,140 --> 00:54:25,880
que nos gusta a todos rellenar encuesta,
pues creo que no está mal, eh?

1036
00:54:26,460 --> 00:54:29,880
Todos los centros de la universidad,
al menos un profesor

1037
00:54:29,900 --> 00:54:32,900
ha rellenado una encuesta. ¿Eh?

1038
00:54:34,280 --> 00:54:36,500
El 60% de las encuestas

1039
00:54:36,500 --> 00:54:39,540
nos dicen que están utilizando la
IA con estudiantes

1040
00:54:40,080 --> 00:54:43,080
y hay más de 3400 estudiantes

1041
00:54:43,800 --> 00:54:46,640
que están pasando
por un proceso de enseñanza

1042
00:54:46,640 --> 00:54:49,640
en el cual de alguna forma
está implicada la IA.

1043
00:54:49,720 --> 00:54:53,660
EH La herramienta que más se nombra es GPT

1044
00:54:55,040 --> 00:54:57,000
GPT, que casualmente es de las que

1045
00:54:57,000 --> 00:55:00,800
no deberíamos de usar, vale,
pero que es la que está

1046
00:55:00,800 --> 00:55:04,680
usando mayoritariamente
los estudiantes, también el profesorado.

1047
00:55:04,680 --> 00:55:06,120
¿Luego hablaremos un poquito más de esto,

1048
00:55:07,100 --> 00:55:08,820
eh? Y en la

1049
00:55:08,820 --> 00:55:11,900
parte de investigación,
porque la encuesta está pensada

1050
00:55:11,900 --> 00:55:13,640
para docencia, investigación
en la parte de investigación.

1051
00:55:13,640 --> 00:55:14,840
Luego hay otra mesa redonda.

1052
00:55:14,840 --> 00:55:18,680
Me la salto,
pero deciros que mayoritariamente la IA se

1053
00:55:18,680 --> 00:55:21,680
está usando
para escribir propuestas y revisar papers.

1054
00:55:22,940 --> 00:55:25,440
Bueno, aquí está

1055
00:55:25,440 --> 00:55:28,740
esta presentación, os la comparto,
luego la compartimos.

1056
00:55:29,220 --> 00:55:33,040
Y bueno, pues aquí simplemente
que escuelas nos han presentado, eh,

1057
00:55:33,740 --> 00:55:36,560
digamos experiencias que están teniendo,

1058
00:55:36,560 --> 00:55:40,620
eh Vemos aquí, en esta os muestro, eh,

1059
00:55:41,700 --> 00:55:46,920
digamos que usos en la parte académica
se se está haciendo de la

1060
00:55:46,920 --> 00:55:51,540
IA las encuestas que hemos visto,
pues el 50% de las encuestas hablan

1061
00:55:51,540 --> 00:55:55,820
de que están usando la IA para cosas,
digamos en las que participan

1062
00:55:55,820 --> 00:55:59,820
estudiantes y profesores,
no solo profesores, no solo estudiantes

1063
00:55:59,820 --> 00:56:06,600
conjuntamente la mitad de ellas,
pues hay un 57%, perdón, 54%

1064
00:56:06,640 --> 00:56:10,740
pues profesorado
que ha utilizado entre, digamos,

1065
00:56:10,740 --> 00:56:15,320
la IA tanto para trabajar con estudiantes
como para trabajar el por.

1066
00:56:15,320 --> 00:56:17,880
¿Por otro lado, de forma individual no?

1067
00:56:17,880 --> 00:56:21,660
Eh En cuanto al uso del alumnado,

1068
00:56:23,060 --> 00:56:25,080
eh lo hemos.

1069
00:56:25,080 --> 00:56:28,620
El resultado es que nos dice
que el 50% de las encuestas,

1070
00:56:29,480 --> 00:56:32,480
eh no se indicó cómo había que usar la IA.

1071
00:56:33,060 --> 00:56:35,480
El profesor no trasladó,

1072
00:56:35,480 --> 00:56:39,200
digamos perdón, al revés,
en un 50% de los casos sí se trasladó

1073
00:56:39,200 --> 00:56:42,200
como se estaba usando
la IA en la parte académica,

1074
00:56:43,340 --> 00:56:45,980
pero en otros casos no.

1075
00:56:45,980 --> 00:56:49,460
En cuanto a herramientas,
pues lo que os decía GPT es la primera.

1076
00:56:50,120 --> 00:56:53,220
Y luego están las otras dos herramientas
que hemos comprado

1077
00:56:53,220 --> 00:56:55,320
o que tenemos
corporativamente en la universidad

1078
00:56:55,320 --> 00:56:57,480
y que como se ha comentado
en las charlas anteriores,

1079
00:56:57,480 --> 00:57:00,480
son las que nos dan una garantía
de que lo que se está haciendo ahí,

1080
00:57:01,260 --> 00:57:02,700
pues está controlado.

1081
00:57:02,700 --> 00:57:04,140
¿Vale? ¿Eh?

1082
00:57:04,140 --> 00:57:07,400
Sin embargo, como ya nos ha ocurrido
en alguna otra encuesta

1083
00:57:07,400 --> 00:57:10,400
que hemos visto,
es la que se sigue utilizando más.

1084
00:57:10,400 --> 00:57:13,020
¿Entonces queremos trasladar el mensaje de

1085
00:57:13,020 --> 00:57:16,020
deberíamos utilizar
herramientas corporativas?

1086
00:57:16,320 --> 00:57:20,720
¿No deberíamos utilizar esas herramientas
para temas que realmente tengan impacto?

1087
00:57:20,760 --> 00:57:24,600
Si quiero preguntar cuál
es el mejor bar para tomarme unas cañas,

1088
00:57:25,140 --> 00:57:26,180
voy a usar chat GPT.

1089
00:57:26,180 --> 00:57:29,180
No hay ningún problema,
pero si queréis ordenar las notas

1090
00:57:29,180 --> 00:57:32,720
de los estudiantes de mayor a menor,
pues no es la herramienta adecuada.

1091
00:57:34,340 --> 00:57:37,080
Nos preguntan
frecuentemente y podéis comprarnos.

1092
00:57:37,080 --> 00:57:39,480
¿Podéis darnos chat GPT?

1093
00:57:39,480 --> 00:57:41,880
Hemos hecho un cálculo

1094
00:57:41,880 --> 00:57:43,040
GPT a todo el profesorado.

1095
00:57:43,040 --> 00:57:45,800
Son unos 400.000 € al año.

1096
00:57:45,800 --> 00:57:49,020
Damos igual que otras herramientas
como CoPilot, Microsoft

1097
00:57:49,200 --> 00:57:52,200
y Google,
que son las que tenemos corporativas.

1098
00:57:52,680 --> 00:57:55,860
Nos han dado,
digamos, licencias campus que

1099
00:57:55,860 --> 00:57:58,980
por unos costes asumibles
pues las podemos pagar.

1100
00:57:58,980 --> 00:58:03,860
Otras herramientas como esta GPT
o como CLADE, no hay esas licencias.

1101
00:58:03,860 --> 00:58:09,460
Campus es un tema que escala 20 € al mes
por 12 meses por 3000 profesores.

1102
00:58:09,480 --> 00:58:13,220
Si echáis esa cuenta pues sale un montón
de dinero que a día de hoy no podemos.

1103
00:58:13,700 --> 00:58:18,520
Hemos estamos trabajando
intentando hablar con GPT, que no es un

1104
00:58:18,540 --> 00:58:22,460
alguien con quien sea fácil
hablar y con otros eh, IAS

1105
00:58:22,500 --> 00:58:26,840
para ver si nos dan licencias de campus
que podamos compartir con vosotros.

1106
00:58:26,860 --> 00:58:27,140
Vale.

1107
00:58:29,000 --> 00:58:30,560
Bueno, esto, eh.

1108
00:58:30,560 --> 00:58:34,180
¿Digamos, cuando preguntamos qué usos
se le da a la docencia, eh?

1109
00:58:34,280 --> 00:58:38,000
¿La mayor parte de las usos
es generación de contenidos,

1110
00:58:38,480 --> 00:58:41,400
generación de material, eh?

1111
00:58:41,400 --> 00:58:44,820
Otra parte tiene que ver con la escritura
académica

1112
00:58:44,820 --> 00:58:49,260
y hay un 13% que nos preocupa,
que es el tema de la evaluación.

1113
00:58:49,560 --> 00:58:51,800
Se está utilizando la IA para evaluar
que esa

1114
00:58:51,800 --> 00:58:55,020
es una de las actividades de alto riesgo
que se ha comentado en la mesa anterior.

1115
00:58:55,760 --> 00:58:59,640
Cuidado con
cómo usamos para evaluar la IA.

1116
00:58:59,640 --> 00:59:02,780
Vale, no es el objeto de esta mesa,
pero lo comento en investigación.

1117
00:59:02,780 --> 00:59:05,120
¿Me lo salto, eh?

1118
00:59:05,120 --> 00:59:08,620
¿Bueno, número de estudiantes impactados
me lo saltó, eh?

1119
00:59:09,220 --> 00:59:12,220
Y creo que esta es la última penúltima.

1120
00:59:12,320 --> 00:59:12,980
Vale.

1121
00:59:12,980 --> 00:59:15,920
¿Eh, qué nos decís los profesores?

1122
00:59:15,920 --> 00:59:17,400
Pues algo que.

1123
00:59:17,400 --> 00:59:19,580
Perdón, me he ido a la siguiente.

1124
00:59:20,960 --> 00:59:23,100
¿Pues que necesitáis formación,

1125
00:59:23,100 --> 00:59:27,280
que necesitáis más recursos, eh?

1126
00:59:27,860 --> 00:59:28,940
Que CoPilot,

1127
00:59:28,940 --> 00:59:32,120
que era la herramienta que teníamos
hasta hace poco tiempo, no es suficiente.

1128
00:59:32,160 --> 00:59:35,700
Hemos hecho un esfuerzo para integrar
las herramientas de Google.

1129
00:59:36,200 --> 00:59:39,200
Bueno.

1130
00:59:39,660 --> 00:59:40,040
Y bueno.

1131
00:59:40,040 --> 00:59:44,280
Y no, no quiero, no quiero entretenerme
más, que ya me me enrollado bastante.

1132
00:59:44,280 --> 00:59:48,380
¿Prefiero que mis compañeros de mesa
os hablen algo, eh?

1133
00:59:48,920 --> 00:59:53,340
¿Bueno, Andrés, cuéntanos cómo estás
usando esto, qué resultados

1134
00:59:53,340 --> 00:59:54,080
estás teniendo?

1135
00:59:54,080 --> 00:59:57,080
Y bueno, arrancó un poco el debate,

1136
00:59:57,440 --> 01:00:00,440
pero voy a ponerte las transparencias

1137
01:00:00,780 --> 01:00:01,740
si quieres.

1138
01:00:01,740 --> 01:00:04,020
Sigo un poco
la línea de las transparencias.

1139
01:00:04,020 --> 01:00:05,160
Buenos días a todos.

1140
01:00:05,160 --> 01:00:08,240
La verdad es que es un privilegio
estar por primera vez en mi vida

1141
01:00:08,240 --> 01:00:11,240
presentando en el Paraninfo de la

1142
01:00:11,580 --> 01:00:14,580
Este muy motivado

1143
01:00:14,700 --> 01:00:19,860
y entiendo que algunas de las razones
por las que estoy aquí es por la siguiente

1144
01:00:19,860 --> 01:00:24,080
transparencia que hace referencia
a un artículo que publicamos.

1145
01:00:24,080 --> 01:00:28,320
Mi colega amigo José Luis Martín Núñez,
director del ICE

1146
01:00:28,440 --> 01:00:31,340
y yo en 2020, un artículo sobre

1147
01:00:32,300 --> 01:00:33,660
como la inteligencia artificial

1148
01:00:33,660 --> 01:00:37,680
pensábamos que podía llegar a ayudar
en la enseñanza de la de la ingeniería.

1149
01:00:38,240 --> 01:00:41,420
Y la verdad es que
detectamos cosas interesantes.

1150
01:00:41,420 --> 01:00:43,020
Creo que se han ido cumpliendo.

1151
01:00:43,020 --> 01:00:46,020
En ese roadmap que hicimos de 2020 a 2030

1152
01:00:46,640 --> 01:00:50,840
vimos que la inteligencia artificial
podía ser facilitadora del aprendizaje.

1153
01:00:51,900 --> 01:00:54,900
Vimos que iba a ser necesario,

1154
01:00:54,940 --> 01:00:57,920
pues una formación también
de los propios profesores.

1155
01:00:57,920 --> 01:00:58,700
¿Pero qué cosa más

1156
01:00:58,700 --> 01:01:01,880
bonita para nosotros como profesionales
que aprender a lo largo de la vida,

1157
01:01:02,400 --> 01:01:03,180
en muchas ocasiones,

1158
01:01:03,180 --> 01:01:06,960
junto con nuestros estudiantes,
incluso aprendiendo de ellos, Por qué no?

1159
01:01:07,520 --> 01:01:10,460
Y creo que a ese respecto a la universidad
Politécnica de Madrid,

1160
01:01:10,460 --> 01:01:13,380
pues está haciendo un esfuerzo desde
desde el Rectorado,

1161
01:01:13,380 --> 01:01:16,700
organizando formaciones, organizando
sesiones como la jornada de hoy,

1162
01:01:17,160 --> 01:01:20,600
en la que aprendemos los unos de los otros
y es una privilegiada por contar,

1163
01:01:21,200 --> 01:01:24,140
por ejemplo,
con el Instituto de Ciencias de la

1164
01:01:24,140 --> 01:01:27,260
Educación,
con el ICE para todos los cursos

1165
01:01:27,260 --> 01:01:31,260
y la actualización de la formación
del profesorado que imparte anualmente.

1166
01:01:31,960 --> 01:01:34,460
Ahí creo que lo
estamos haciendo verdaderamente bien.

1167
01:01:34,460 --> 01:01:37,680
Creo que la incorporación progresiva
de la inteligencia artificial

1168
01:01:38,060 --> 01:01:41,720
a las titulaciones
y a su empleo en el aula,

1169
01:01:42,140 --> 01:01:45,500
pues estamos experimentando
también acompañados muy bien por

1170
01:01:45,500 --> 01:01:49,940
proyectos de innovación educativa
que seguro luego vais a a presentar.

1171
01:01:51,060 --> 01:01:53,900
Quizás no lo estamos haciendo también
en lo que pensábamos que la IA

1172
01:01:53,900 --> 01:01:56,900
nos iba a ayudar a la hora de facilitar
nuestra gestión del día a día.

1173
01:01:57,980 --> 01:02:00,120
Voy a hacer la bromita,
pero este fin de semana

1174
01:02:00,120 --> 01:02:03,120
me esperan por delante
nueve guías docentes

1175
01:02:04,220 --> 01:02:07,940
que cada año me parece que nos enfrentamos

1176
01:02:07,940 --> 01:02:10,940
a rellenarlas
igual en uno en una nueva plataforma

1177
01:02:11,360 --> 01:02:15,320
o preguntándonos cosas que quizá
la propia inteligencia artificial sí

1178
01:02:15,320 --> 01:02:18,320
que nos podría ayudar
muchísimo en esa tarea de simplificar

1179
01:02:18,560 --> 01:02:21,320
ese tipo de tareas que en muchas ocasiones
son muy burocráticas.

1180
01:02:21,320 --> 01:02:23,060
En esencialmente mis

1181
01:02:23,060 --> 01:02:26,100
mis guías docentes no van a cambiar,
pero voy a dedicar muchas horas

1182
01:02:27,180 --> 01:02:27,660
a ello.

1183
01:02:27,660 --> 01:02:31,920
Este fin de semana,
quizá también a la hora de gestionar,

1184
01:02:31,920 --> 01:02:35,340
pues procesos de acreditación y demás.

1185
01:02:35,340 --> 01:02:37,580
Entiendo que una inteligencia artificial

1186
01:02:37,580 --> 01:02:39,660
que tiene
ya los datos de la propia universidad,

1187
01:02:39,660 --> 01:02:44,040
pues podría rellenar automáticamente
muchos excels y demás que se podrían

1188
01:02:44,040 --> 01:02:48,240
utilizar para acreditar las titulaciones
o para verificarlas y demás.

1189
01:02:48,240 --> 01:02:51,620
Pero bueno, eso digamos que son retos
que tenemos por delante.

1190
01:02:52,160 --> 01:02:56,780
¿Eh? ¿Busqué ayer si la IA debería
de ser un medio o un fin y medio

1191
01:02:56,780 --> 01:03:00,120
la inteligencia artificial,
pues esa pequeña definición extraída

1192
01:03:00,740 --> 01:03:03,680
de un post de LinkedIn de un colega, eh?

1193
01:03:03,680 --> 01:03:07,020
Pienso que debe ser un medio, No, no,
debe de ser como un epígrafe

1194
01:03:07,020 --> 01:03:10,020
que se incorpora a modo de marketing
para que las titulaciones

1195
01:03:10,020 --> 01:03:13,340
de la Politécnica de Madrid
resulten más, más atractivas.

1196
01:03:13,860 --> 01:03:17,940
Realmente creo que deben vertebrar la IA,
pues las distintas asignaturas,

1197
01:03:17,940 --> 01:03:22,320
porque es algo verdaderamente transversal
y un poco pues si pasas

1198
01:03:23,480 --> 01:03:24,060
era lo que

1199
01:03:24,060 --> 01:03:27,440
también analizaba en algunos aspectos.

1200
01:03:27,440 --> 01:03:30,440
Cuando presenté
el concepto de educación en Ingeniería 5.0

1201
01:03:30,860 --> 01:03:33,860
y analicé como 16

1202
01:03:35,300 --> 01:03:36,660
aspectos principales

1203
01:03:36,660 --> 01:03:40,400
de este nuevo modelo educativo,
en ese en ese estudio,

1204
01:03:41,220 --> 01:03:44,780
al respecto de la inteligencia artificial,
me parecía que podía ser una herramienta

1205
01:03:45,120 --> 01:03:48,920
que nos ayudase a mejorar,
que facilitase el aprendizaje,

1206
01:03:48,920 --> 01:03:53,100
pero de nuevo, no como no como fin,
sino como medio.

1207
01:03:53,520 --> 01:03:56,840
Pienso que una titulación
de cualquier ámbito de la ingeniería

1208
01:03:57,600 --> 01:04:00,140
no se transforma
introduciendo una asignatura, por ejemplo,

1209
01:04:00,140 --> 01:04:03,560
de inteligencia artificial
para ingenieros industriales

1210
01:04:03,560 --> 01:04:07,560
o inteligencia artificial para ingenieros
agrónomos, por poner dos ejemplos.

1211
01:04:07,860 --> 01:04:11,960
Me parece que esto tiene que ser un cambio
mucho más transversal y además

1212
01:04:12,420 --> 01:04:15,320
continuo en el tiempo.

1213
01:04:15,320 --> 01:04:17,820
De nuevo, si metes una asignatura
de ese estilo en el plan de estudios,

1214
01:04:17,820 --> 01:04:20,820
casi estás pensando más en el marketing
que vas a hacer a las familias

1215
01:04:21,120 --> 01:04:25,200
que están pensando en que universidad
matricular a sus estudiantes.

1216
01:04:25,200 --> 01:04:26,760
Yo creo que todos somos conscientes

1217
01:04:26,760 --> 01:04:30,560
de que lo que de verdad
necesitan las titulaciones para que la IA

1218
01:04:31,260 --> 01:04:34,220
permee
y nos permita transformar la educación,

1219
01:04:35,240 --> 01:04:35,840
pues son

1220
01:04:35,840 --> 01:04:39,540
más matemáticas, más estadística
y más programación.

1221
01:04:40,800 --> 01:04:43,800
No es necesario
llamarlo inteligencia artificial.

1222
01:04:44,640 --> 01:04:47,640
Pienso que para ser verdadero experto
en inteligencia artificial,

1223
01:04:47,640 --> 01:04:52,320
lo que sí será necesario es contar
con algún programa de máster que incorpore

1224
01:04:52,740 --> 01:04:55,620
muchísimas temáticas de IA

1225
01:04:55,620 --> 01:04:58,320
y que forme a verdaderos expertos.

1226
01:04:58,320 --> 01:05:00,080
Pero si estamos hablando
de que en los distintos

1227
01:05:00,080 --> 01:05:03,300
ámbitos de la ingeniería es fundamental,
pues aprender los conceptos básicos

1228
01:05:03,300 --> 01:05:05,960
y si la inteligencia artificial
va a ser una herramienta

1229
01:05:05,960 --> 01:05:08,960
que nos va a facilitar nuestra tarea,
pues que eso

1230
01:05:08,960 --> 01:05:11,700
vertebre, no la titulación.

1231
01:05:11,700 --> 01:05:14,700
Creo que además, pues estos aspectos
éticos legales de la IA

1232
01:05:15,480 --> 01:05:19,620
nos pueden ayudar a repensar la formación
en ingeniería desde el punto de vista

1233
01:05:20,000 --> 01:05:25,220
de guiarla por la ética, de hacerla
quizá más humanista.

1234
01:05:25,800 --> 01:05:28,800
Y creo que de esto
luego hablaremos en el en el debate.

1235
01:05:28,940 --> 01:05:32,340
Os cuento en las siguientes diapositivas
como la estoy utilizando en algunas de mis

1236
01:05:33,240 --> 01:05:34,620
de mis asignaturas para.

1237
01:05:34,620 --> 01:05:37,980
Para nosotros en el ámbito
del desarrollo de productos, la ingeniería

1238
01:05:37,980 --> 01:05:43,560
mecánica, la fabricación aditiva y
y el desarrollo de dispositivos médicos.

1239
01:05:43,940 --> 01:05:46,260
El verdadero cambio
se produjo con las versiones.

1240
01:05:46,260 --> 01:05:47,480
Me parece que fue a partir de

1241
01:05:48,680 --> 01:05:49,820
GPT cuatro y luego

1242
01:05:49,820 --> 01:05:53,180
cuando CoPilot
fue incorporando esos avances

1243
01:05:53,600 --> 01:05:58,260
en cuanto a grandes modelos de lenguaje
que permitían recibir

1244
01:05:58,260 --> 01:06:02,040
input externo del usuario,
diferente a un prompt textual, diferente

1245
01:06:02,040 --> 01:06:07,080
a una instrucción de
dame una imagen que sea una casa bonita

1246
01:06:07,080 --> 01:06:11,060
al atardecer en la playa
y pintada al estilo de Van Gogh.

1247
01:06:11,460 --> 01:06:14,360
Eso es fantástico,
pero entiendo bien lo que hay detrás.

1248
01:06:14,360 --> 01:06:16,700
Pero para nosotros
lo que fue verdaderamente transformador

1249
01:06:16,700 --> 01:06:20,360
es que nosotros pudiéramos hacer
nuestros diseños con un programa de diseño

1250
01:06:20,360 --> 01:06:24,500
asistido por computador y pasarle
como input a la inteligencia artificial

1251
01:06:25,320 --> 01:06:25,920
una imagen,

1252
01:06:25,920 --> 01:06:27,600
una imagen de las geometrías que nosotros

1253
01:06:27,600 --> 01:06:31,160
habíamos diseñado en este ejemplo
que vemos aquí, pues que ilustra

1254
01:06:31,160 --> 01:06:34,580
esa metodología de diálogos constructivos
con una inteligencia artificial.

1255
01:06:35,040 --> 01:06:38,780
Diseñamos una estructura reticulada
en la que queríamos representar

1256
01:06:38,780 --> 01:06:42,020
células colonizando a modo de andamio
de ingeniería de tejidos.

1257
01:06:42,020 --> 01:06:45,480
Entonces nosotros pasamos a la
inteligencia artificial, nuestro diseño.

1258
01:06:45,920 --> 01:06:47,300
Le pedimos que lo represente

1259
01:06:48,260 --> 01:06:50,860
como un andamio de ingeniería de tejidos
colonizado por células.

1260
01:06:50,860 --> 01:06:55,160
Eso se transforma para nosotros en una
ilustración de una posible materia prima.

1261
01:06:55,160 --> 01:06:58,860
Luego decimos transformarlo en una
prótesis de cadera bio híbrida

1262
01:06:59,160 --> 01:07:02,100
y luego le decimos
dame una solución menos futurista.

1263
01:07:02,100 --> 01:07:06,240
Y todo esto son ilustraciones
con las que uno puede ir potenciando

1264
01:07:06,660 --> 01:07:09,840
esas etapas más creativas
del proceso de desarrollo de productos.

1265
01:07:10,880 --> 01:07:12,920
Evidentemente,
luego estas ilustraciones se tienen

1266
01:07:12,920 --> 01:07:15,980
que transformar en un diseño fabricante
y ahí ya entra

1267
01:07:15,980 --> 01:07:19,860
pues la experiencia del diseñador
a partir de un diseño.

1268
01:07:20,180 --> 01:07:23,120
Poder hacer un ejemplo.

1269
01:07:23,120 --> 01:07:24,240
Los revisores de aquel estudio

1270
01:07:24,240 --> 01:07:27,300
nos pidieron un ejemplo más
y hicimos lo mismo con esta estructura.

1271
01:07:28,280 --> 01:07:32,300
Le proporcionamos una esfera reticulada
y le dijimos representa algo

1272
01:07:32,300 --> 01:07:36,020
como una estructura coralina
colonizada por células

1273
01:07:36,020 --> 01:07:39,420
y luego transfórmalo
en una prótesis de rodilla.

1274
01:07:40,340 --> 01:07:43,800
Lo que me resultó más fascinante de esta
interacción con la inteligencia artificial

1275
01:07:43,800 --> 01:07:48,000
es que empezó a a devolverme
no solo imágenes, sino también texto,

1276
01:07:48,920 --> 01:07:51,800
y me habla del diseño,
de la integración funcional.

1277
01:07:51,800 --> 01:07:55,520
Me decía imagínate
con esta prótesis que es bio híbrida

1278
01:07:56,520 --> 01:07:57,660
en el mar.

1279
01:07:57,660 --> 01:07:58,520
No lo leo bien desde aquí,

1280
01:07:58,520 --> 01:08:02,340
pero viene a decir algo así
como A la orilla del océano y la prótesis.

1281
01:08:02,340 --> 01:08:06,560
Las células de la prótesis
hacen el eco a las olas del mar y

1282
01:08:08,100 --> 01:08:10,800
te susurran cuentos de resiliencia.

1283
01:08:10,800 --> 01:08:12,720
La verdad es que era como muy poético
todo.

1284
01:08:12,720 --> 01:08:15,800
Y a mí, un estudiante que desarrolla
dispositivos médicos me hubiera llegado

1285
01:08:15,800 --> 01:08:18,860
con una propuesta de este estilo.

1286
01:08:18,860 --> 01:08:22,140
La verdad es que se hubiera llevado
seguramente un diez por esa capacidad

1287
01:08:22,140 --> 01:08:25,940
de combinar
arte, ingeniería en ciencia de materiales.

1288
01:08:26,780 --> 01:08:29,780
Pero bueno, al margen de esos aspectos más

1289
01:08:30,440 --> 01:08:32,180
tipo marketing, yo también le llamaba

1290
01:08:32,180 --> 01:08:35,180
Coral Lumina, no le
ponía un nombre comercial a la prótesis,

1291
01:08:35,180 --> 01:08:37,300
pero también te
da soluciones interesantes.

1292
01:08:37,300 --> 01:08:40,740
Como dices, utiliza unos conectores
de titanio para la integración funcional

1293
01:08:41,100 --> 01:08:42,680
de esta prótesis en el organismo humano.

1294
01:08:42,680 --> 01:08:46,880
En ningún momento habíamos hablado
de ese empleo, del del titanio.

1295
01:08:46,880 --> 01:08:49,880
Entonces me parece como herramienta
que acompaña a los diseñadores.

1296
01:08:50,380 --> 01:08:51,760
Me parece enormemente interesante.

1297
01:08:51,760 --> 01:08:55,380
La estamos incorporando a las herramientas
de a las asignaturas

1298
01:08:55,820 --> 01:08:58,760
de aprendizaje
basado en proyectos que que impartimos

1299
01:08:58,760 --> 01:09:01,700
y en las que desarrollamos dispositivos
médicos, como en el siguiente ejemplo.

1300
01:09:02,920 --> 01:09:05,880
Bueno, en este
caso también es prácticamente lo mismo,

1301
01:09:05,880 --> 01:09:08,880
pero distintas materias primas virtuales

1302
01:09:09,320 --> 01:09:12,540
procesadas de forma
aditiva en un roadmap de cómo podíamos

1303
01:09:12,540 --> 01:09:15,660
incorporar la inteligencia artificial
a la fabricación aditiva.

1304
01:09:15,660 --> 01:09:17,460
Por si os por si os interesa,

1305
01:09:17,460 --> 01:09:20,540
llegas a la postre
a distintos tipos de conceptos ideas

1306
01:09:20,840 --> 01:09:23,300
de una prótesis de rodilla,
una prótesis de esternón,

1307
01:09:23,300 --> 01:09:26,640
una mano robótica
y luego todo eso se puede transformar

1308
01:09:27,260 --> 01:09:30,880
en las distintas asignaturas
y se puede llegar a fabricar.

1309
01:09:31,400 --> 01:09:34,420
¿Y si continuamos
con la siguiente diapositiva?

1310
01:09:34,880 --> 01:09:36,080
Ahora han surgido, claro.

1311
01:09:36,080 --> 01:09:39,020
Antes todo esto eran imágenes,
son ilustraciones.

1312
01:09:39,020 --> 01:09:41,580
Tenía que haber un diseñador
que se pusiera a diseñar

1313
01:09:41,580 --> 01:09:44,840
a partir de esa ilustración,
que fuera capaz de esa complejidad

1314
01:09:44,840 --> 01:09:48,300
geométrica, plasmarla
en un diseño que luego fuera fabricarla.

1315
01:09:49,160 --> 01:09:51,300
Están surgiendo también
herramientas que directamente

1316
01:09:51,300 --> 01:09:54,420
en pocos clics te permiten pasar
de una imagen conceptual.

1317
01:09:54,420 --> 01:09:56,100
Lo que veis en el centro son dos imágenes,

1318
01:09:56,100 --> 01:09:59,240
son cuatro imágenes conceptuales
de dos dispositivos médicos

1319
01:09:59,880 --> 01:10:02,580
y lo que podéis ver hacia la derecha

1320
01:10:02,580 --> 01:10:05,580
son las reconstrucciones tridimensionales

1321
01:10:05,580 --> 01:10:08,420
hechas con una inteligencia artificial
en un solo clic.

1322
01:10:08,420 --> 01:10:11,420
Directamente fabricarlas por impresión 3D.

1323
01:10:11,480 --> 01:10:14,460
Eso creo que puede tener un potencial
enorme

1324
01:10:14,460 --> 01:10:18,140
a la hora de cómo en nuestras asignaturas
vamos a diseñar en un futuro cercano

1325
01:10:18,140 --> 01:10:23,040
que en vez de utilizar quizás quizá
un ratón, vamos a utilizar el texto,

1326
01:10:23,040 --> 01:10:28,560
vamos a hablar con el computador
y traigo algún ejemplo más.

1327
01:10:29,580 --> 01:10:31,140
En este caso, pues el mismo enfoque.

1328
01:10:31,140 --> 01:10:33,960
Tenemos nuestro diseño
de una estructura reticulada

1329
01:10:33,960 --> 01:10:37,940
que lo utilizamos para llegar a un
concepto de una especie de prótesis

1330
01:10:38,180 --> 01:10:42,860
híbrida colonizada por células
cuyas secuelas imitan las colas del hueso

1331
01:10:42,860 --> 01:10:48,420
y que además integra algunos sensores
que permiten monitorizar su estado.

1332
01:10:48,920 --> 01:10:51,300
¿Esto es un concepto, es fabricarlo o no?

1333
01:10:51,300 --> 01:10:54,740
Bueno, pues en una escuela que hicimos
recientemente en la Universidad de Piura,

1334
01:10:55,220 --> 01:10:57,980
los propios estudiantes
hicieron algo del estilo y ahora no

1335
01:10:57,980 --> 01:11:01,760
es su diseño y directamente
fue diseño fabricado

1336
01:11:02,260 --> 01:11:04,380
generado con inteligencia artificial,

1337
01:11:04,380 --> 01:11:07,620
lo cual nos está permitiendo
que asignaturas que esa parte de diseño

1338
01:11:07,620 --> 01:11:10,620
y fabricación nos llevaba
a lo mejor un par de meses o tres

1339
01:11:10,820 --> 01:11:14,260
lo estamos reduciendo a poderlo
hacer en un par de días o tres,

1340
01:11:14,720 --> 01:11:17,880
de tal manera que nos centramos
en los aspectos en el ámbito médico

1341
01:11:18,200 --> 01:11:21,600
más relevantes, que no son los
tecnológicos, son los aspectos humanos.

1342
01:11:22,080 --> 01:11:22,880
Tienes más tiempo

1343
01:11:22,880 --> 01:11:26,220
para poder interactuar con los pacientes,
tienes más tiempo para poder interactuar

1344
01:11:26,540 --> 01:11:29,420
con los profesionales de la salud
y tienes más tiempo para hacer

1345
01:11:29,420 --> 01:11:33,420
esa evaluación de la tecnología
sanitaria en contextos reales.

1346
01:11:33,640 --> 01:11:37,840
Entonces, para mí es
son oportunidades de aprendizaje continuas

1347
01:11:37,840 --> 01:11:43,160
y resulta enormemente motivador
y es parte de nuestro aprendizaje.

1348
01:11:43,160 --> 01:11:44,880
Lo veo, lo veo así.

1349
01:11:44,880 --> 01:11:45,560
Muchas gracias.

1350
01:11:45,560 --> 01:11:47,460
Esta era la pequeña presentación que traía

1351
01:11:48,420 --> 01:11:58,680
hoy. Bueno, en primer lugar
dar las gracias por crear este espacio.

1352
01:11:58,680 --> 01:12:02,240
Creo que de esos espacios deseados
por parte de todos.

1353
01:12:03,460 --> 01:12:06,840
En estos últimos años, las conversaciones
alrededor de la inteligencia artificial

1354
01:12:06,840 --> 01:12:11,120
han sido abundantes
y aquellos que llevamos dedicándonos,

1355
01:12:11,120 --> 01:12:15,420
pues 25 años
al tema de la inteligencia artificial, eh

1356
01:12:16,400 --> 01:12:20,120
Bueno, tenemos de alguna manera
la necesidad también de compartir con

1357
01:12:20,120 --> 01:12:24,140
con todos vosotros las reflexiones
que que hemos ido construyendo juntos.

1358
01:12:24,420 --> 01:12:29,040
Estoy de acuerdo con con mi compañero en
el que creo que la inteligencia artificial

1359
01:12:29,340 --> 01:12:30,840
creo fervientemente en que la

1360
01:12:30,840 --> 01:12:34,340
inteligencia artificial es una oportunidad
para crear un espacio humano.

1361
01:12:34,960 --> 01:12:38,460
Y hoy vengo sumando un poco lo que decía
Fernando, la experiencia un poco

1362
01:12:38,460 --> 01:12:41,460
en la parte de inteligencia artificial,
pero también el

1363
01:12:42,120 --> 01:12:44,840
las reflexiones que surgen
desde el Centro de Liderazgo y Tecnología,

1364
01:12:44,840 --> 01:12:49,700
que al final son las que están vinculadas
con el tema que me gustaría compartir con

1365
01:12:49,920 --> 01:12:52,640
Con vosotros en el día de hoy,
que son las competencias transversales,

1366
01:12:52,640 --> 01:12:56,780
la inteligencia artificial
y está muy vinculada con el desarrollo

1367
01:12:56,780 --> 01:13:00,880
de competencias y eso es lo que
me gustaría transmitiros. El

1368
01:13:01,840 --> 01:13:03,880
la inteligencia
artificial al final también se

1369
01:13:03,880 --> 01:13:07,080
se embebe
dentro de un marco de de de cambio

1370
01:13:07,200 --> 01:13:10,200
y para la organización y para las personas
que constituyen la organización

1371
01:13:10,620 --> 01:13:14,620
suponen un reto y a ver,
aquí no paso a paso.

1372
01:13:14,660 --> 01:13:19,940
Yo tengo por aquí y me gustaría,
ya que que hemos tenido recientemente,

1373
01:13:19,940 --> 01:13:25,100
recientemente una visita de de del Papa
porque no va a hacer una referencia.

1374
01:13:25,100 --> 01:13:29,120
¿Yo creo que me parece que es una
referencia así chula para arrancar, eh?

1375
01:13:29,780 --> 01:13:34,840
El tercero 13.º 13 eh lanza su

1376
01:13:35,120 --> 01:13:41,460
su primera encíclica vinculada
que se renovaron y la enmarca

1377
01:13:41,460 --> 01:13:45,140
dentro de un marco de cambio global
en el que la.

1378
01:13:45,340 --> 01:13:48,020
La industria 1.0

1379
01:13:48,020 --> 01:13:51,020
está empezando a pensar las costuras de de

1380
01:13:51,460 --> 01:13:54,200
de la relación entre personas.

1381
01:13:54,200 --> 01:13:56,720
Hay una explotación de las personas
por las personas

1382
01:13:56,720 --> 01:14:00,020
y en ese marco de desarrollo industrial
pues se decide.

1383
01:14:00,180 --> 01:14:03,080
La Iglesia decide postularse y decir oye,

1384
01:14:03,080 --> 01:14:06,800
hay un cambio que es necesario,
sobre el cual es necesario reflexionar.

1385
01:14:07,520 --> 01:14:10,740
Bueno, pues León 14
al final decide poner su nombre también

1386
01:14:10,740 --> 01:14:14,980
un poco vinculado,
vinculado con esa sensación de que eh

1387
01:14:16,040 --> 01:14:16,880
hoy estamos en un

1388
01:14:16,880 --> 01:14:20,280
momento de cambio y hay que hay cosas
que hay que reflexionar y.

1389
01:14:20,640 --> 01:14:24,480
Y su primera encíclica
es una que está vinculada con también

1390
01:14:24,480 --> 01:14:27,500
con la persona y con la inteligencia
y con la inteligencia artificial.

1391
01:14:28,500 --> 01:14:31,100
¿Por qué esa reflexión, esas reflexiones?

1392
01:14:31,100 --> 01:14:33,620
Porque la Iglesia suele
ser un espacio bastante conservador

1393
01:14:33,620 --> 01:14:37,520
a la hora de acoger realidades sociales.

1394
01:14:37,880 --> 01:14:42,100
Las acoge, pero las confronta
y las maneja con bastante retraso.

1395
01:14:42,120 --> 01:14:45,380
¿Bueno, pues la Iglesia
se ha adelantado a la a la Academia

1396
01:14:47,000 --> 01:14:49,440
y a un silencio tenso, eh?

1397
01:14:49,440 --> 01:14:50,120
¿La Academia?

1398
01:14:50,120 --> 01:14:53,260
La Academia todavía no ha lanzado ningún
ningún texto.

1399
01:14:53,280 --> 01:14:56,520
Sí lo ha hecho en el ámbito,
en el ámbito legal, pero la Academia

1400
01:14:56,520 --> 01:14:59,520
no ha reflexionado
todavía de una manera colectiva.

1401
01:14:59,520 --> 01:15:02,520
Esto es un problemón
porque la universidad, la academia,

1402
01:15:02,640 --> 01:15:03,560
normalmente suele

1403
01:15:03,560 --> 01:15:07,980
ser un elemento proactivo y prospectivo
y no estamos cumpliendo esa esa función.

1404
01:15:07,980 --> 01:15:11,780
A pesar de haber sido y participado en el
en el proceso de

1405
01:15:12,000 --> 01:15:15,000
de conceptualización, es cierto que
estamos en un momento de cambio y.

1406
01:15:15,120 --> 01:15:17,820
Y es cierto que ese momento de cambio

1407
01:15:17,820 --> 01:15:21,480
lo vivimos intensamente,
pero es que va a ser mucho más rápido.

1408
01:15:22,100 --> 01:15:22,440
Aquellos que

1409
01:15:22,440 --> 01:15:26,100
trabajamos con estas tecnologías
sabemos que los próximos diez, 15 años

1410
01:15:26,520 --> 01:15:27,360
la transformación

1411
01:15:27,360 --> 01:15:30,500
y la implantación de estas tecnologías
va a superar muy ampliamente

1412
01:15:30,500 --> 01:15:33,780
la velocidad y la sensación emocional
que está generando su implantación.

1413
01:15:33,780 --> 01:15:38,300
Así que, eh, este es el principio
de un proceso de de aceleración

1414
01:15:38,760 --> 01:15:41,140
y os tengo que decir
que en ese proceso de aceleración,

1415
01:15:41,140 --> 01:15:44,280
la academia de nuevo
en el ámbito del aprendizaje, en el ámbito

1416
01:15:44,280 --> 01:15:47,480
de la docencia y específicamente
en el ámbito de la ingeniería,

1417
01:15:47,760 --> 01:15:50,960
pues tampoco es que vaya muy rápido
el Plan Bolonia.

1418
01:15:50,980 --> 01:15:54,080
El año 99
nos plantea que los conocimientos

1419
01:15:55,140 --> 01:15:56,740
tienen que abandonarse

1420
01:15:56,740 --> 01:15:59,780
a la experiencia educativa,
a generar un espacio de experiencia

1421
01:15:59,780 --> 01:16:03,920
educativa
dentro del dentro del aula y no, no,

1422
01:16:04,340 --> 01:16:07,920
después de 27 años todavía
no hemos hecho una implantación,

1423
01:16:07,920 --> 01:16:09,420
una implantación real,

1424
01:16:09,420 --> 01:16:13,200
convirtiendo el conocimiento
en un elemento que conviva de una manera

1425
01:16:13,760 --> 01:16:16,520
práctica con con 1,1

1426
01:16:16,520 --> 01:16:19,520
aprendizaje pleno
dentro de dentro del aula.

1427
01:16:19,920 --> 01:16:20,700
¿Y qué pasa?

1428
01:16:20,700 --> 01:16:25,100
Pues que en paralelo
tenemos a un docente que que cada vez

1429
01:16:25,760 --> 01:16:29,220
ha pasado de ser docente
a ser investigador, a ser gestor,

1430
01:16:29,220 --> 01:16:33,240
a ser coach,
a ser creador de contenido divulgador,

1431
01:16:33,720 --> 01:16:36,420
a ser una cantidad de cosas
que le han alejado

1432
01:16:36,420 --> 01:16:40,280
de su actividad natural
dentro del ágora universitaria,

1433
01:16:40,500 --> 01:16:43,740
que es acoger al estudiante
y ponerlo en el centro.

1434
01:16:44,180 --> 01:16:49,260
La meritocracia, el desarrollo del yo,
mi de mi mérito individual.

1435
01:16:49,920 --> 01:16:53,820
Y permitidme que hoy sea transgresor
para jugar un poco con con el diálogo.

1436
01:16:54,140 --> 01:16:58,180
Los méritos individuales se han comido
uno de los papeles fundamentales que es

1437
01:16:58,260 --> 01:17:03,320
al estudiar al estudiante y el estudiante
está respondiendo con

1438
01:17:03,560 --> 01:17:04,580
con dos grandes retos

1439
01:17:04,580 --> 01:17:08,460
que la inteligencia artificial
ha acelerado y ha puesto de manifiesto.

1440
01:17:08,460 --> 01:17:11,460
Y es que el docente, el estudiante

1441
01:17:12,000 --> 01:17:15,000
pensando que el docente es el único

1442
01:17:15,300 --> 01:17:18,680
que atesora conocimiento,
que eso ya no es real, porque hemos vivido

1443
01:17:18,680 --> 01:17:21,680
un proceso de transformación
en ese sentido

1444
01:17:21,980 --> 01:17:26,720
desde el principio del siglo 20
hemos ido poco a poco condensando la

1445
01:17:27,000 --> 01:17:30,080
nuestra información,
nuestros textos a través de

1446
01:17:30,780 --> 01:17:34,440
de textos docentes que nos han servido
a nosotros como base para dar clase

1447
01:17:35,180 --> 01:17:38,780
y a partir de los primeros 20 años de
de este siglo,

1448
01:17:38,960 --> 01:17:42,380
eso se ha digitalizado y ha servido
como base para el proceso de entrenamiento

1449
01:17:42,380 --> 01:17:44,700
de nuestros modelos
de inteligencia artificial,

1450
01:17:44,700 --> 01:17:48,120
con lo cual el conocimiento que antes
era parte de la libertad de cátedra

1451
01:17:48,120 --> 01:17:51,420
y ahora lo que gestionaba un profesor
dentro del aula, ya no es elemento,

1452
01:17:51,420 --> 01:17:54,420
ya no es el elemento fundamental,
no es el elemento fundamental.

1453
01:17:54,980 --> 01:17:57,960
Y seguimos sosteniendo,
sosteniendo a través de la evaluación

1454
01:17:57,960 --> 01:18:01,860
y a través de la acreditación
en habitación, siendo los cancerberos de.

1455
01:18:02,540 --> 01:18:05,540
El proceso de acreditación profesional.

1456
01:18:06,060 --> 01:18:10,460
Bueno, ponemos centrado en el conocimiento
y el aula no está, no es la protagonista

1457
01:18:10,460 --> 01:18:13,800
y los estudiantes a medida que han podido,
han ido poco a poco

1458
01:18:13,940 --> 01:18:16,980
abandonando el COVID aceleró
este proceso, aceleró este proceso,

1459
01:18:17,180 --> 01:18:20,580
se dieron cuenta de que podían
seguir el proceso meritocrático.

1460
01:18:20,580 --> 01:18:25,620
La yincana ese ese conjunto de pruebas
que le ponemos y que le limitan

1461
01:18:25,620 --> 01:18:29,580
para llegar hasta el sector profesional,
que es una carrera

1462
01:18:31,040 --> 01:18:31,500
que se pueden

1463
01:18:31,500 --> 01:18:35,520
saltar sin venir a clase, sin tener una
experiencia colectiva de de aprendizaje.

1464
01:18:35,520 --> 01:18:38,540
Entonces, uno de los grandes retos
es a través de la inteligencia

1465
01:18:38,540 --> 01:18:41,800
artificial, ser capaces de devolver
otra vez a los estudiantes ahí.

1466
01:18:41,820 --> 01:18:44,960
Pero ahí se confronta el gran problema,
y es que las competencias,

1467
01:18:44,960 --> 01:18:47,960
y es lo que estamos trabajando,
las competencias de los docentes,

1468
01:18:48,000 --> 01:18:50,460
las competencias transversales
de los docentes,

1469
01:18:50,460 --> 01:18:54,000
las competencias transversales
que queremos incorporar a los profesores,

1470
01:18:54,240 --> 01:18:56,400
no las tenemos nosotros como colectivo.

1471
01:18:56,400 --> 01:18:59,420
Trabajar en equipo, dinamizar,
hacer gestión emocional,

1472
01:18:59,660 --> 01:19:02,720
ser capaces de inocular a mediante

1473
01:19:04,140 --> 01:19:06,540
innovación educativa,
que por supuesto, evidentemente

1474
01:19:06,540 --> 01:19:10,260
tenemos la gran suerte de tener
un centro de ciencias de la Educación

1475
01:19:10,760 --> 01:19:13,860
en la universidad,
pero no se nos selecciona

1476
01:19:14,060 --> 01:19:17,880
por tener esas capacidades,
no se nos obliga a tener esas capacidades

1477
01:19:18,080 --> 01:19:20,840
y tampoco está
en el core de nuestra actividad cotidiana

1478
01:19:20,840 --> 01:19:21,500
dentro de la universidad,

1479
01:19:21,500 --> 01:19:24,500
porque tenemos otras 20.000
por las cuales no acreditamos.

1480
01:19:24,680 --> 01:19:28,880
Y además tenemos otro reto, otro reto
paralelo, y es que estamos identificando

1481
01:19:28,880 --> 01:19:30,960
que ya que la inteligencia artificial,
con el uso que se le

1482
01:19:30,960 --> 01:19:34,940
está haciendo ahora mismo,
está condicionando importantemente

1483
01:19:34,940 --> 01:19:40,500
la manera de realizar el aprendizaje en el
en el estudiante, quiere decir que las.

1484
01:19:40,740 --> 01:19:45,120
Las pruebas de evaluación
al final se consisten en dar elementos que

1485
01:19:45,440 --> 01:19:49,140
constaten que han adquirido conocimiento
no no aprendizaje.

1486
01:19:49,440 --> 01:19:53,060
Y esto la inteligencia artificial
lo reta sobresaliente mente.

1487
01:19:54,300 --> 01:19:54,600
De hecho

1488
01:19:54,600 --> 01:19:58,640
tenemos estudiantes como por ejemplo
el de Colima y el y sus compañeros

1489
01:19:58,640 --> 01:20:02,620
en el año 2005, en el que ya nos dice
que la inteligencia, la.

1490
01:20:02,700 --> 01:20:06,140
El uso de GPT
u otras herramientas de de escritura

1491
01:20:06,140 --> 01:20:07,880
están reduciendo la capacidad de

1492
01:20:07,880 --> 01:20:11,920
comprensión, asimilación y aprendizaje
de los estudiantes en más de un 80% en.

1493
01:20:12,180 --> 01:20:15,180
En el MIT. Así que, eh.

1494
01:20:15,320 --> 01:20:17,460
Yo creo que ya
hay constataciones que nos permiten.

1495
01:20:17,460 --> 01:20:20,080
Entonces, simplemente para no extender

1496
01:20:20,080 --> 01:20:22,220
y porque creo que es un regalo
el tener la oportunidad

1497
01:20:22,220 --> 01:20:24,600
de compartir con compañeros
y con personas que uno quiere.

1498
01:20:24,600 --> 01:20:29,000
No veo muchas caras conocidas y con las
que compartimos de una manera cotidiana.

1499
01:20:29,000 --> 01:20:30,840
¿Actividad eh?

1500
01:20:30,840 --> 01:20:34,680
Dejo ahí en ese QR
una reflexión sobre qué competencias

1501
01:20:34,680 --> 01:20:37,080
desde el Centro de Liderazgo,
desde aquellas personas que estamos

1502
01:20:37,080 --> 01:20:40,920
estamos pendientes de cuáles son
las competencias en el en el ámbito del

1503
01:20:40,920 --> 01:20:44,560
aula que deben de desarrollarse,
deben de desarrollarse en el ámbito de

1504
01:20:45,020 --> 01:20:47,820
de la docencia
y de la evaluación y de la evaluación

1505
01:20:47,820 --> 01:20:51,600
y poner encima de la mesa
algo muy importante,

1506
01:20:51,600 --> 01:20:56,820
y es que lo más importante
es aprender a formular problemas,

1507
01:20:57,360 --> 01:20:59,960
porque gran parte de los problemas,
la inteligencia artificial

1508
01:20:59,960 --> 01:21:04,580
nos va a ayudar a resolverlos, como bien
nos acaba de plantear aquí el compañero.

1509
01:21:05,160 --> 01:21:08,240
Así que, Y por supuesto,
las competencias de comunicación,

1510
01:21:09,260 --> 01:21:12,300
las consecuencias básicamente
dentro de la universidad, el fraude,

1511
01:21:12,300 --> 01:21:17,760
el fraude es no aprender principal fraudes
no aprende y el principal fraude,

1512
01:21:17,760 --> 01:21:21,740
el fraude también es no enseñar a aprender
a hacer ese aprendizaje

1513
01:21:21,740 --> 01:21:24,740
a lo largo, a lo largo de la vida
y que tenemos que redefinir

1514
01:21:25,080 --> 01:21:28,920
nuestras maneras de evaluar,
de evaluar el aprendizaje.

1515
01:21:29,600 --> 01:21:34,040
La inteligencia artificial se basa en
esta, en esta sencilla dinámica visual.

1516
01:21:34,400 --> 01:21:38,400
Yo hago, tengo una necesidad
y a través de un lenguaje natural,

1517
01:21:38,400 --> 01:21:42,720
hasta accedo a una base de conocimiento
con tener o no con tener izada,

1518
01:21:43,280 --> 01:21:45,780
y desde ahí obtengo una respuesta.

1519
01:21:45,780 --> 01:21:47,120
La propuesta que hacemos

1520
01:21:47,120 --> 01:21:51,200
desde el Centro de Liderazgo
y desde aquellos modelos humanistas

1521
01:21:51,540 --> 01:21:55,140
del uso de la inteligencia artificial,
es que la inteligencia artificial

1522
01:21:55,140 --> 01:21:58,740
debe ser una herramienta
mayéutica socrática platónica.

1523
01:21:59,120 --> 01:22:03,500
Es una herramienta que debe de ayudar
a generar preguntas para que la persona.

1524
01:22:03,660 --> 01:22:06,240
La inteligencia artificial a la hora de
interactuar con el estudiante,

1525
01:22:06,240 --> 01:22:09,240
le pueda permitir reflexionar
sobre lo que ya sabe

1526
01:22:09,440 --> 01:22:12,800
y con ello generar valor en el entorno.

1527
01:22:12,800 --> 01:22:16,860
Es decir, debe ser un elemento que
le permita la auto reflexión y nosotros,

1528
01:22:16,860 --> 01:22:19,820
los que tenemos que ser alimentadores
de ese conocimiento tácito

1529
01:22:19,820 --> 01:22:22,320
y utilizar esa herramienta
dentro, dentro de clase.

1530
01:22:22,320 --> 01:22:26,300
Así que con eso yo creo que
que se queda en una reflexión general.

1531
01:22:26,540 --> 01:22:28,020
Muy bien. Muchas gracias Felipe.

1532
01:22:35,180 --> 01:22:37,500
Bueno, no nos mentiré si os

1533
01:22:37,500 --> 01:22:42,060
digo que intuía que nos íbamos a pasar
un poco de tiempo, pero aún así

1534
01:22:42,060 --> 01:22:47,160
vamos a dar la oportunidad de
que los compañeros hagan alguna pregunta.

1535
01:22:47,160 --> 01:22:50,720
Nos podemos retrasar, Humbelina
Acortamos el tiempo de café y demás.

1536
01:22:51,540 --> 01:22:53,940
Eh, vamos.

1537
01:22:53,940 --> 01:22:57,300
Había previsto una serie de preguntas para
vosotros, pero creo que es más relevante

1538
01:22:57,500 --> 01:23:00,740
que los compañeros comenten, pregunten

1539
01:23:02,700 --> 01:23:05,700
si tenéis por ahí.

1540
01:23:10,620 --> 01:23:11,640
Gracias.

1541
01:23:11,640 --> 01:23:13,380
Bueno, hay unas cuantas declaraciones

1542
01:23:13,380 --> 01:23:17,680
académicas como la Clara,
la de Leiden y University,

1543
01:23:17,700 --> 01:23:22,080
la UNESCO, y si miras a la guía
te va a dar otras, otras más

1544
01:23:23,160 --> 01:23:25,280
pequeño

1545
01:23:25,280 --> 01:23:26,100
apunte.

1546
01:23:26,100 --> 01:23:30,200
Luego mi comentario es el siguiente

1547
01:23:31,220 --> 01:23:34,800
La IA produce una deuda cognitiva
y tú has visto,

1548
01:23:35,600 --> 01:23:39,120
conoces todos artículos y estudios
que hablan de ello.

1549
01:23:39,120 --> 01:23:44,760
Similar a la que produce las las pantallas
que están todavía aún más documentadas

1550
01:23:44,760 --> 01:23:50,460
porque empezaron antes y creo que has
dado el diagnóstico correcto.

1551
01:23:51,420 --> 01:23:53,660
La IA tiene que ser mayéutica,

1552
01:23:53,660 --> 01:23:56,660
pero para eso te va a hacer
falta que tengas sentido crítico.

1553
01:23:57,000 --> 01:24:00,000
No obstante,
lo que se ve en muchísimas de las clases

1554
01:24:00,380 --> 01:24:03,300
es un conocimiento basado en la memoria

1555
01:24:03,300 --> 01:24:07,040
y las destrezas de bajo nivel
para hacer destrezas de alto nivel.

1556
01:24:07,080 --> 01:24:11,120
Haría falta que los profesores tuviesen
una formación emocional,

1557
01:24:11,120 --> 01:24:12,780
que la mayor parte de ellos no tienen.

1558
01:24:12,780 --> 01:24:16,760
Y esto tiene que ver con que la formación,
la selección de dichos profesores,

1559
01:24:17,100 --> 01:24:20,660
es sencillamente basada en el

1560
01:24:21,560 --> 01:24:24,560
en la investigación,
en el número de papers.

1561
01:24:25,100 --> 01:24:28,220
Parece mentira, pero
la baremación de la docencia es al peso.

1562
01:24:29,540 --> 01:24:33,240
Y luego, cuando varios profesores
son conscientes de que tienen que entrar

1563
01:24:33,240 --> 01:24:35,040
en ese,

1564
01:24:35,040 --> 01:24:37,800
digamos, formación emocional,
se niegan a ello.

1565
01:24:37,800 --> 01:24:41,880
Porque empezando por ellos mismos,
son inadecuados emocionalmente.

1566
01:24:42,300 --> 01:24:46,140
Y entonces no veo cómo es posible
eso que estás

1567
01:24:46,140 --> 01:24:49,200
poniendo que la necesidad lo cambie.

1568
01:24:49,880 --> 01:24:53,960
No es la universidad
estructuralmente defectuosa para eso

1569
01:24:54,200 --> 01:24:55,680
y la IA lo único que está haciendo

1570
01:24:55,680 --> 01:24:59,580
es desnudando a los profesores
cuyos exámenes son imitables.

1571
01:25:00,320 --> 01:25:02,760
No veo. O sea, creo que has pecado.

1572
01:25:02,760 --> 01:25:04,220
Dicho con cariño, de optimismo.

1573
01:25:05,460 --> 01:25:06,060
Gracias.

1574
01:25:06,060 --> 01:25:08,600
Bueno, a mí me toca pecar de optimismo
porque la dirección

1575
01:25:08,600 --> 01:25:11,960
del Centro de Liderazgo y Tecnología
tiene como encomienda precisamente el

1576
01:25:11,960 --> 01:25:14,040
potenciar las competencias trasversales
dentro de la Universidad.

1577
01:25:14,040 --> 01:25:18,040
¿Entonces, si, si no peco yo de optimismo,
bien, quien peca? ¿No?

1578
01:25:18,080 --> 01:25:21,140
Pero yo te tengo que decir
que hay dos vertientes.

1579
01:25:21,540 --> 01:25:24,200
En estos últimos tres años
nosotros estamos trabajando

1580
01:25:24,200 --> 01:25:27,560
y hemos desarrollado el desarrollo
de la inteligencia artificial

1581
01:25:27,560 --> 01:25:33,260
para potenciar la inteligencia emocional
y el auto evaluación emocional.

1582
01:25:33,600 --> 01:25:38,060
O sea que te tengo que decir que ahí
hay una luz alrededor de este problema

1583
01:25:38,060 --> 01:25:39,780
que puede ser importante,

1584
01:25:39,780 --> 01:25:41,340
en la que la inteligencia artificial,

1585
01:25:41,340 --> 01:25:43,740
siendo el problema, también
puede ser parte de la solución.

1586
01:25:43,740 --> 01:25:45,480
Siempre depende de cómo la enfoquemos.

1587
01:25:45,480 --> 01:25:48,440
Y la segunda derivada
es que yo confío plenamente.

1588
01:25:48,440 --> 01:25:51,440
Por lo menos desde estos últimos
siete años que he tenido la oportunidad

1589
01:25:51,800 --> 01:25:54,680
de a través de esta universidad
que ha apostado por un centro

1590
01:25:54,680 --> 01:25:55,620
como el Centro de Liderazgo

1591
01:25:55,620 --> 01:25:57,800
para desarrollar estas competencias
en profesor en el PDI,

1592
01:25:59,400 --> 01:26:00,420
en los equipos de gobierno.

1593
01:26:00,420 --> 01:26:04,640
Te tengo que decir que eh el impacto
que está teniendo

1594
01:26:05,940 --> 01:26:08,340
dentro de la comunidad es muy, muy alto.

1595
01:26:08,340 --> 01:26:10,760
Es decir,
cuando se le permite a la comunidad

1596
01:26:10,760 --> 01:26:13,760
el desarrollar estas competencias,
la abraza enormemente.

1597
01:26:14,040 --> 01:26:17,400
Pero eso sí, tenemos que
de una manera acelerada, acelerada,

1598
01:26:17,600 --> 01:26:21,900
poner estos recursos de la mano
porque no han sido puestos antes

1599
01:26:22,060 --> 01:26:27,720
de la mano de de de nuestro de todo
nuestro personal dentro de la universidad.

1600
01:26:28,040 --> 01:26:31,040
Pero créeme, confía en mí, en que que hoy

1601
01:26:31,420 --> 01:26:34,320
hay mucha luz alrededor de.

1602
01:26:34,320 --> 01:26:37,680
Hay muy buena gente
dentro de la universidad, con muchas ganas

1603
01:26:37,680 --> 01:26:40,680
de desarrollar estas competencias
de verdad.

1604
01:26:43,200 --> 01:26:46,200
Sí, por ahí.

1605
01:26:49,220 --> 01:26:54,600
Sí que me conecto mucho con, sobre todo
la última parte de la presentación.

1606
01:26:54,600 --> 01:26:59,100
Cuando has incluido a la IA en el loop
donde el estudiante aprendía.

1607
01:26:59,100 --> 01:27:00,120
Exacto.

1608
01:27:00,120 --> 01:27:03,500
Y ahí es verdad que
de hecho, en este semestre me he lanzado

1609
01:27:04,000 --> 01:27:05,360
a la práctica con los alumnos.

1610
01:27:05,360 --> 01:27:08,720
Les decía no, no utiliza hacía digo verso.

1611
01:27:08,720 --> 01:27:13,140
Si en la evaluación lo que entreguéis
no es lo que va a medir vuestra capacidad

1612
01:27:13,700 --> 01:27:16,260
de comprender lo que hemos hecho,
sino luego va a ser

1613
01:27:16,260 --> 01:27:19,760
unas preguntas que yo os voy a formular
y que dependiendo de cómo me respondáis,

1614
01:27:20,940 --> 01:27:23,060
pues sabré si lo habéis entendido o no,

1615
01:27:23,060 --> 01:27:25,080
Entonces
es verdad que este diagrama me gusta

1616
01:27:25,080 --> 01:27:28,080
porque considero que el profesor debería
estar aquí a la derecha

1617
01:27:28,500 --> 01:27:31,880
y entonces la IA
no es una IA como caja negra,

1618
01:27:31,880 --> 01:27:35,900
sino como un recurso que el profesor
ha preparado para que el alumno acceda

1619
01:27:36,120 --> 01:27:39,080
a un contenido que el profesor
en ese momento no le puede dar.

1620
01:27:39,080 --> 01:27:42,920
Entonces por un lado te da agilidad,
disponibilidad, pero control.

1621
01:27:43,440 --> 01:27:46,100
¿Entonces mi pregunta sería realmente

1622
01:27:46,100 --> 01:27:49,280
este enfoque
es al que creo que deberíamos llegar?

1623
01:27:50,280 --> 01:27:52,760
Totalmente de acuerdo. El el.

1624
01:27:52,760 --> 01:27:56,760
Nosotros estamos desarrollando agentes por
asignatura, por ejemplo por asignatura.

1625
01:27:57,140 --> 01:28:00,140
Los contenidos
lo estamos volcando en en genética,

1626
01:28:00,680 --> 01:28:04,280
en la genética, con tan erizada,
es decir, que no bebe de otras fuentes

1627
01:28:04,280 --> 01:28:07,260
salvo las propias del propio entrenamiento
a través del modelo.

1628
01:28:07,260 --> 01:28:10,400
Y el gran reto es renunciar a otras partes

1629
01:28:10,520 --> 01:28:13,680
que tenemos ahora mismo muy vigentes
dentro de nuestro desarrollo curricular.

1630
01:28:13,680 --> 01:28:15,680
Y digo profesional,
que son la investigación

1631
01:28:15,680 --> 01:28:20,880
y la transferencia, porque el nuevo modelo
de docencia requiere primero

1632
01:28:22,260 --> 01:28:24,800
renunciar a los contenidos

1633
01:28:24,800 --> 01:28:28,620
y facilitar que el estudiante aprenda
esos contenidos a través de esa gente.

1634
01:28:29,060 --> 01:28:34,020
Y en segundo lugar, cedernos
nosotros como personas a atender a,

1635
01:28:34,320 --> 01:28:37,100
desde un punto de vista humano,
a ese proceso de aprendizaje

1636
01:28:37,100 --> 01:28:40,400
y ser capaces de evaluar el aprendizaje
desde la cercanía,

1637
01:28:40,640 --> 01:28:43,680
porque es una evaluación cualitativa
y eso nos da muchísimo miedo.

1638
01:28:43,980 --> 01:28:46,860
El hecho de que no sea un número,
un decimal,

1639
01:28:46,860 --> 01:28:51,480
una contestación precisa que sea que esté
conectada con unos contenidos concretos.

1640
01:28:51,680 --> 01:28:53,460
A los docentes nos da muchísimo vértigo.

1641
01:28:53,460 --> 01:28:57,500
Y es que la idoneidad en el
En la evaluación es fundamental.

1642
01:28:57,840 --> 01:29:00,840
La equidad y la igualdad es fundamental
y la hemos logrado recuperar.

1643
01:29:01,100 --> 01:29:05,900
Pero la idoneidad que es entender cómo
has aprendido y ha ganado esa competencia,

1644
01:29:06,240 --> 01:29:09,020
requiere de mucho tiempo de observación
con el con el estudiante

1645
01:29:10,700 --> 01:29:11,660
y de conversación.

1646
01:29:11,660 --> 01:29:15,380
Un espacio muy oral es una de las grandes
competencias para que los que podáis

1647
01:29:15,380 --> 01:29:18,740
echarle un ojo al artículo ahí
se pone encima, se pone encima de la mesa.

1648
01:29:21,560 --> 01:29:23,700
Si lo único es para la grabación, sí.

1649
01:29:23,700 --> 01:29:26,660
Bueno, os pediría que tratemos
de que sean preguntas más cortas.

1650
01:29:26,660 --> 01:29:27,840
¿Rápidas, eh?

1651
01:29:27,840 --> 01:29:31,140
Digo, para dar oportunidad,
como luego tenemos el café. ¿Eh?

1652
01:29:31,200 --> 01:29:33,500
Creo que Andrés quería decir algo
a ese respecto.

1653
01:29:33,500 --> 01:29:37,080
Quería comentar, por ejemplo,
que con un modelo parecido al final, eh.

1654
01:29:37,580 --> 01:29:40,860
A mí personalmente utilizar la
IA en el aula me ha ayudado a que

1655
01:29:40,860 --> 01:29:42,060
los estudiantes también

1656
01:29:42,060 --> 01:29:45,740
o a hacer análisis éticos con los propios
estudiantes de cómo es el uso de esa,

1657
01:29:46,260 --> 01:29:49,680
de esa de esas herramientas
y no tienen asignatura de ética.

1658
01:29:49,680 --> 01:29:52,800
Pero en mis asignaturas han analizado
cuatro principios básicos de hacer

1659
01:29:52,800 --> 01:29:53,780
el bien, no hacer el mal

1660
01:29:54,740 --> 01:29:57,200
respeto a la autonomía y justicia.

1661
01:29:57,200 --> 01:29:59,160
Y analizamos,
no analizamos estas herramientas

1662
01:29:59,160 --> 01:30:00,420
y decimos lo que estamos haciendo,

1663
01:30:00,420 --> 01:30:02,700
pues en principio
utilizamos una herramienta

1664
01:30:02,700 --> 01:30:05,880
que nos acelera el desarrollo
de una de una tecnología médica,

1665
01:30:05,880 --> 01:30:08,940
pues en principio estás haciendo el bien,
te tienes que garantizar también de

1666
01:30:08,940 --> 01:30:12,420
que no haces el mal,
de que el dispositivo se desarrolla

1667
01:30:12,420 --> 01:30:16,560
con todos los criterios de seguridad,
siguiendo las normas establecidas,

1668
01:30:17,600 --> 01:30:19,380
cumpliendo con la legalidad.

1669
01:30:19,380 --> 01:30:21,360
Evidentemente

1670
01:30:21,360 --> 01:30:23,340
poniendo todo tipo de salvaguardas.

1671
01:30:23,340 --> 01:30:26,040
Pero ahí veo que la idea en en ambos casos

1672
01:30:26,040 --> 01:30:29,040
pues resulta provechosa.

1673
01:30:29,780 --> 01:30:32,520
En cuanto a la equidad,
son unas herramientas.

1674
01:30:32,520 --> 01:30:35,220
Si utilizas CoPilot, pues es gratuito.

1675
01:30:35,220 --> 01:30:37,640
¿Yo creo que es una herramienta
que puede utilizar cualquiera en

1676
01:30:37,640 --> 01:30:42,660
prácticamente cualquier lugar del mundo
que te permite llevar estas herramientas,

1677
01:30:42,660 --> 01:30:45,480
pues a entornos de muy bajos recursos

1678
01:30:45,480 --> 01:30:49,020
y hacer una experiencia formativa
de altísimo nivel, eh?

1679
01:30:49,160 --> 01:30:52,160
Me preocupa y se lo hago
ver a los estudiantes un poco más.

1680
01:30:52,380 --> 01:30:55,260
Ese respeto a la autonomía,
no solo en los aspectos

1681
01:30:55,260 --> 01:30:58,680
de privacidad, sino también
de que no terminen estos modelos

1682
01:30:59,760 --> 01:31:01,440
llevando a los estudiantes

1683
01:31:01,440 --> 01:31:04,440
hacia soluciones
que terminen siendo repetitivas.

1684
01:31:04,440 --> 01:31:07,580
Que al principio digas que fancy,
que bonito, que sorprendente

1685
01:31:07,980 --> 01:31:12,360
y que luego continuamente la IA te termine
dando más de lo que tú quieres,

1686
01:31:12,360 --> 01:31:14,760
como cuando tú buscas en google
y al final el algoritmo.

1687
01:31:14,760 --> 01:31:18,320
Si eres de determinado partido político,
pues te va ofreciendo

1688
01:31:19,340 --> 01:31:21,840
noticias
que refuerzan tus propios criterios.

1689
01:31:21,840 --> 01:31:25,940
Entonces, eso sí, me preocupa que la
IA les lleve hacia soluciones tecnológicas

1690
01:31:25,940 --> 01:31:27,180
que refuercen

1691
01:31:27,180 --> 01:31:31,160
su propio criterio, que no les haga pensar
fuera de la caja, por así decir.

1692
01:31:31,200 --> 01:31:34,520
Pues se lo hago ver
y me parece que es una buena opción

1693
01:31:34,520 --> 01:31:37,520
para todo lo que son competencias
transversales.

1694
01:31:37,640 --> 01:31:39,660
Y bueno,

1695
01:31:39,660 --> 01:31:41,220
iremos aprendiendo, claro.

1696
01:31:41,220 --> 01:31:44,340
Sí, yo quería
aportar una cosa que ha salido y es

1697
01:31:45,200 --> 01:31:49,040
hay muchas ideas
y la UPM quiere tener su IA vale.

1698
01:31:49,560 --> 01:31:52,100
Y en ese sentido
estamos haciendo inversiones

1699
01:31:52,100 --> 01:31:55,980
para intentar comprar equipos
que nos permitan tener nuestras ideas,

1700
01:31:55,980 --> 01:31:59,240
ser un poco más soberanos
respecto a todas estas grandes compañías,

1701
01:31:59,840 --> 01:32:03,600
que un día
alguien decide que no exportan a Europa,

1702
01:32:04,040 --> 01:32:07,680
nos podemos quedar colgados
y que cada profesor tenga, como

1703
01:32:07,860 --> 01:32:12,200
creo que alguien ha dicho,
su IA para sus cosas, para sus alumnos.

1704
01:32:12,240 --> 01:32:15,080
A mí me recuerda un poco
lo que pasó en su momento.

1705
01:32:15,080 --> 01:32:18,080
Los que ya tenemos unos años
aquí con las transparencias

1706
01:32:18,260 --> 01:32:21,980
cuando empezó el modelo transparencias,
copiamos las transparencias que algún

1707
01:32:21,980 --> 01:32:26,360
gurú de por ahí tenía hasta que dijimos
oye, vamos a ir haciéndonos

1708
01:32:26,360 --> 01:32:29,600
las nuestras y ya tenemos nuestras
propias transparencias.

1709
01:32:30,560 --> 01:32:31,500
No es un camino

1710
01:32:31,500 --> 01:32:35,640
sencillo por los costes que tiene asociado
todo esto y la parte tecnológica,

1711
01:32:35,640 --> 01:32:39,440
pero nos gustaría anunciar en
no mucho tiempo que los profesores que

1712
01:32:39,440 --> 01:32:42,720
tengan interés
van a poder utilizar ias nuestras

1713
01:32:43,920 --> 01:32:47,460
entrenadas por nosotros
con una serie de garantías,

1714
01:32:47,460 --> 01:32:51,840
con una serie de cosas,
eh Bueno, es una inversión elevada,

1715
01:32:51,840 --> 01:32:55,640
porque esto es un coste altísimo
el que tiene, pero estamos en ese camino.

1716
01:32:56,580 --> 01:32:57,900
De hecho, si me permites, Fernando,

1717
01:32:57,900 --> 01:33:00,900
creo que uno de los grandes retos
y lo conecto un poco con el trabajo

1718
01:33:01,040 --> 01:33:04,400
que estamos haciendo estos últimos años,
son las reglas de comportamiento de la

1719
01:33:04,920 --> 01:33:06,840
del módulo de lenguaje,
o sea, la modelo de lenguaje.

1720
01:33:06,840 --> 01:33:07,500
Tienen por un lado

1721
01:33:07,500 --> 01:33:08,880
la base de conocimiento,

1722
01:33:08,880 --> 01:33:10,860
pero después
tienen las reglas de comportamiento

1723
01:33:10,860 --> 01:33:12,260
y de interacción con el usuario.

1724
01:33:12,260 --> 01:33:16,160
Y estas reglas son fundamentales
porque para precisamente incentivar

1725
01:33:16,160 --> 01:33:20,100
y potenciar ciertas competencias
tienen que tener reglas de interacción

1726
01:33:20,100 --> 01:33:22,260
muy concretas,
que una tiene una dimensión ética.

1727
01:33:22,260 --> 01:33:23,360
Y miro por aquí

1728
01:33:23,360 --> 01:33:25,620
Celia, otras
tienen que tener una dimensión

1729
01:33:25,620 --> 01:33:27,480
en el marco del uso del conocimiento
y otra

1730
01:33:27,480 --> 01:33:31,140
tiene que ser en las reglas en las cual,
a través de las cuales incentivamos

1731
01:33:31,140 --> 01:33:34,940
un modelo de oralidad o de escritura
con el usuario, con el usuario.

1732
01:33:35,060 --> 01:33:39,300
Y es ahí donde se produce
la conexión tácita con el con el individuo

1733
01:33:39,900 --> 01:33:40,980
de lo que ya saben.

1734
01:33:40,980 --> 01:33:43,620
Creo que tenemos otra pregunta por aquí
y con esto,

1735
01:33:43,620 --> 01:33:46,760
si os parece, cerramos y damos paso
a la mesa redonda de investigación.

1736
01:33:47,460 --> 01:33:48,580
Vale, lo primero muchas gracias.

1737
01:33:48,580 --> 01:33:52,820
Es súper interesante
esta reflexión general sobre sobre la IA.

1738
01:33:52,820 --> 01:33:55,620
¿En concreto esta última parte eh?

1739
01:33:55,620 --> 01:34:01,380
Yo tengo un comentario primero,
por temas de igualdad entre estudiantes,

1740
01:34:01,880 --> 01:34:05,720
está muy bien dar acceso a sistemas
de IA de la Universidad

1741
01:34:06,920 --> 01:34:07,740
también porque es una

1742
01:34:07,740 --> 01:34:11,160
ventaja competitiva tener IA o poder
pagarse el PRO de echar GPT

1743
01:34:11,600 --> 01:34:14,600
a cualquier estudiante que pueda hacerlo
y no para los que no.

1744
01:34:15,660 --> 01:34:16,140
Y luego.

1745
01:34:16,140 --> 01:34:21,200
Además, en cuanto a la evaluación
de los conocimientos o del aprendizaje

1746
01:34:21,980 --> 01:34:23,760
que tienen los alumnos,

1747
01:34:23,760 --> 01:34:28,320
eh un poco también pensar en los recursos
que los profesores tendríamos que tener

1748
01:34:28,320 --> 01:34:31,440
de cara a poder hacer evaluaciones orales

1749
01:34:31,440 --> 01:34:34,440
o evaluaciones que demuestren

1750
01:34:34,520 --> 01:34:38,100
un aprendizaje concreto, eh,

1751
01:34:39,560 --> 01:34:42,140
Que digamos
no esté, no esté mediado por la IA.

1752
01:34:42,140 --> 01:34:48,060
Porque es verdad que que los exámenes
al uso actuales, pues muchas veces

1753
01:34:48,060 --> 01:34:51,620
no permiten evaluar verdaderamente
si el aprendizaje

1754
01:34:51,620 --> 01:34:54,620
es real o no.

1755
01:34:54,620 --> 01:34:57,620
Obviamente,
pues una memoria sí que la la la evalúa,

1756
01:34:57,680 --> 01:35:00,800
pero hay otras cosas que requieren
de muchísimo más tiempo, muchísimo más

1757
01:35:01,500 --> 01:35:04,700
contacto con el alumno y muchísima
más asistencia por parte de los alumnos.

1758
01:35:05,240 --> 01:35:08,240
Y no sé si tenéis
alguna reflexión a este a este respecto.

1759
01:35:08,360 --> 01:35:08,720
Gracias.

1760
01:35:10,340 --> 01:35:12,260
¿Me dejáis que empiece yo, eh?

1761
01:35:12,260 --> 01:35:13,940
A ver, uno de los problemas que a mí

1762
01:35:13,940 --> 01:35:16,940
me preocupa es la brecha digital
que está generando la IA.

1763
01:35:17,700 --> 01:35:20,700
Hay alumnos que se pueden pagar cuatro
Ias porque

1764
01:35:21,120 --> 01:35:25,940
y se gastan 400 € al mes, 300 €
al mes frente a otros que no pueden

1765
01:35:26,120 --> 01:35:30,540
y cosas que habíamos conseguido
equilibrar, democratizar un poco.

1766
01:35:30,920 --> 01:35:32,040
Se están rompiendo.

1767
01:35:32,040 --> 01:35:35,760
Y ahí creo que, de nuevo,
es una buena apuesta de la universidad

1768
01:35:35,760 --> 01:35:38,700
el dar cosas a todo el mundo. Vale.

1769
01:35:38,700 --> 01:35:39,780
No podemos pagar.

1770
01:35:39,780 --> 01:35:41,780
Ya lo he comentado
antes, determinadas cosas,

1771
01:35:41,780 --> 01:35:44,780
pero nuestro esfuerzo va a estar en esa
línea.

1772
01:35:44,880 --> 01:35:47,600
Vale.
Y luego abrir el melón de la evaluación.

1773
01:35:47,600 --> 01:35:51,360
Pues estuvimos dudando
en hacer una mesa redonda de evaluación,

1774
01:35:51,360 --> 01:35:53,940
porque yo creo que es lo que ha despertado
a la comunidad.

1775
01:35:53,940 --> 01:35:55,160
Honestamente,

1776
01:35:55,160 --> 01:35:58,640
ya lleva unos años encima de la mesa,
pero cuando hemos empezado a ver

1777
01:36:00,360 --> 01:36:01,940
todos los problemas que nos

1778
01:36:01,940 --> 01:36:05,520
genera en la evaluación el fraude,
para qué vas a pedir un trabajo,

1779
01:36:05,900 --> 01:36:10,200
para que vas a pasarles unos ejercicios
o sea, todo eso pierde sentido.

1780
01:36:10,200 --> 01:36:12,360
Para mí ha perdido todo el sentido

1781
01:36:12,360 --> 01:36:15,860
y el sentido lo
tiene el ponte delante de mí.

1782
01:36:16,820 --> 01:36:20,520
Voy a preguntarte y vamos a ver qué
has aprendido usando la IA.

1783
01:36:20,760 --> 01:36:25,040
Pero eso requiere un cambio
de modelo tremendo y unos esfuerzos

1784
01:36:25,980 --> 01:36:29,340
del profesorado que a día de hoy
creo que no podemos asumir.

1785
01:36:29,340 --> 01:36:30,600
Honestamente.

1786
01:36:30,600 --> 01:36:33,600
Y dejo que mis otros colegas
reflexionen sobre esto.

1787
01:36:36,680 --> 01:36:38,720
¿La pregunta es
por qué no podemos asumirlo?

1788
01:36:38,720 --> 01:36:42,720
O sea, esto es un tsunami y
estamos pensando en el color del bañador.

1789
01:36:44,580 --> 01:36:45,140
No, en serio.

1790
01:36:45,140 --> 01:36:48,440
Lo digo totalmente en serio. No, no es la.

1791
01:36:48,620 --> 01:36:51,260
El volviendo.

1792
01:36:51,260 --> 01:36:54,560
Retomando un poco el tema de la
el tema de la de la evaluación.

1793
01:36:55,620 --> 01:36:55,920
Hay que

1794
01:36:55,920 --> 01:36:59,340
redefinir otra vez la el
el concepto de evaluación.

1795
01:36:59,360 --> 01:37:02,180
O sea, no cabe ninguna

1796
01:37:02,180 --> 01:37:04,820
ninguna duda
y y el concepto de aprendizaje

1797
01:37:04,820 --> 01:37:07,180
es qué impacto ha generado en ti
el proceso de aprendizaje.

1798
01:37:07,180 --> 01:37:10,760
Y aquí voy a tocar otro elemento
que creo que que es sensible.

1799
01:37:10,760 --> 01:37:14,580
Pero yo creo que el día también
para tocarlo hay muy pocas universidades

1800
01:37:14,820 --> 01:37:18,420
que tengan unos estándares de calidad
altos dentro del mundo,

1801
01:37:18,660 --> 01:37:22,820
que entiendan que los estudiantes,
los planes de estudio diseñados

1802
01:37:22,820 --> 01:37:27,440
para un número de años concreto
deben de durar un 30% más de los años.

1803
01:37:27,820 --> 01:37:28,700
La matriculación.

1804
01:37:28,700 --> 01:37:31,800
El hecho de que la gente no vaya
curso por curso es un fracaso

1805
01:37:31,800 --> 01:37:35,040
para la universidad, en otros,
en otros contextos de investigación.

1806
01:37:35,340 --> 01:37:38,800
Y aquí nos ceñimos a que los suspensos
estén vinculados con la.

1807
01:37:38,840 --> 01:37:39,740
Con la evaluación

1808
01:37:39,740 --> 01:37:43,620
del conocimiento del conocimiento per sé,
no de la no del propio aprendizaje.

1809
01:37:43,920 --> 01:37:47,780
Y eso está también dentro de un
dentro de la de la de la genética,

1810
01:37:47,960 --> 01:37:51,420
de la genética conductual,
de de nuestra universidad.

1811
01:37:51,740 --> 01:37:54,980
A lo mejor un momento para retar
esto es que cualquiera de nosotros

1812
01:37:54,980 --> 01:37:58,680
puede hacer de su asignatura la última
Coca-Cola fresquita del desierto.

1813
01:37:59,280 --> 01:38:01,440
Todo lo podemos hacer.

1814
01:38:01,440 --> 01:38:04,980
Pero la pregunta es en qué medida
eso ayuda al aprendizaje profundo

1815
01:38:04,980 --> 01:38:07,820
del estudiante y a generar estudiantes,
Generar impacto en la sociedad.

1816
01:38:10,020 --> 01:38:12,540
Bueno, yo
cuando he dicho que no estamos preparados,

1817
01:38:12,540 --> 01:38:15,400
eh, no tenemos en algún

1818
01:38:15,400 --> 01:38:18,000
los unos volúmenes de estudiantes
en determinados sitios

1819
01:38:18,000 --> 01:38:22,920
donde complica las cosas,
Pero sobre todo no estamos preparados

1820
01:38:22,920 --> 01:38:27,900
mentalmente para ese cambio,
Esa eso me refería a eso y eso.

1821
01:38:27,900 --> 01:38:30,480
Bueno, pues no nos va a costar.

1822
01:38:30,480 --> 01:38:33,380
Hay que acompañar el desarrollo
de competencias transversales,

1823
01:38:33,380 --> 01:38:34,500
de competencias emocionales.

1824
01:38:34,500 --> 01:38:38,280
Hay que descargar a los profesores de
de su meritocracia

1825
01:38:38,480 --> 01:38:42,800
para volver a que recuperen de nuevo su
sentido profundo dentro de la institución,

1826
01:38:42,980 --> 01:38:46,140
que es conectar con el estudiante
y generar un aprendizaje profundo.

1827
01:38:46,140 --> 01:38:49,140
¿Para que generar impacto en la sociedad?

1828
01:38:49,860 --> 01:38:51,680
¿Bueno,
nos estamos poniendo un poco filosóficos,

1829
01:38:51,680 --> 01:38:54,860
así que
creo que es momento de dar paso a la mesa

1830
01:38:54,860 --> 01:38:57,860
redonda de investigación
que va a liderar Carlos,

1831
01:38:58,860 --> 01:39:01,940
eh? En este sentido, pido disculpas
porque el vicerrector de Investigación

1832
01:39:01,940 --> 01:39:04,880
que quería venir
le han colocado otro evento y.

1833
01:39:04,880 --> 01:39:07,880
Pero vamos, Carlos lo va a hacer igual de
bien o mejor.

1834
01:39:14,880 --> 01:39:19,280
Bueno, muy buenos días.

1835
01:39:19,440 --> 01:39:21,720
¿Qué tal? ¿Como estáis?
Me voy a presentar.

1836
01:39:21,720 --> 01:39:24,900
Soy Carlos López,
soy adjunto al vicerrector de

1837
01:39:24,900 --> 01:39:27,900
Investigación
para Centros Institutos de Investigación

1838
01:39:28,380 --> 01:39:32,760
y la verdad es que me complace mucho
veros a todos tan, tan tranquilos,

1839
01:39:33,180 --> 01:39:35,820
tan interesados

1840
01:39:35,820 --> 01:39:38,280
en esta jornada de IA,
que hay que agradecer

1841
01:39:38,280 --> 01:39:41,520
al Vicerrectorado de Universidad Digital
que lo haya, que lo haya hecho.

1842
01:39:42,240 --> 01:39:47,160
Pero la verdad es que mi pensamiento
y mi sensación es de poca tranquilidad

1843
01:39:47,300 --> 01:39:50,520
o por lo menos de cierta incertidumbre

1844
01:39:51,120 --> 01:39:55,860
frente a lo que estamos viviendo
en cualquier ámbito.

1845
01:39:56,100 --> 01:39:59,900
Esta mesa la
vamos a dedicar a ver cómo la IA.

1846
01:40:00,200 --> 01:40:03,080
¿Y bueno, voy a especificar
la IA generativa, verdad?

1847
01:40:03,080 --> 01:40:07,440
Porque muchas veces
hemos mezclado conceptos aquí como la

1848
01:40:07,440 --> 01:40:11,060
IA generativa está
afectando a la actividad científica,

1849
01:40:11,700 --> 01:40:15,980
no solo a la pura actividad científica
como tal, sino a lo que conlleva la

1850
01:40:15,980 --> 01:40:19,980
ciencia, que es la consecución de fondos
para hacer investigación científica.

1851
01:40:20,400 --> 01:40:25,340
Como dice minamos los resultados
que generamos con nuestros proyectos.

1852
01:40:25,340 --> 01:40:27,680
Es verdad que hay un
cambio completo de paradigma

1853
01:40:28,800 --> 01:40:31,260
y estamos absolutamente

1854
01:40:31,260 --> 01:40:34,260
inundados en una herramienta nueva que

1855
01:40:35,040 --> 01:40:38,040
creo que hay poca conciencia

1856
01:40:38,120 --> 01:40:41,220
de cómo puede afectar a cortísimo plazo

1857
01:40:41,220 --> 01:40:44,520
a lo que entendemos como ciencia,
como tal.

1858
01:40:44,960 --> 01:40:49,020
Entonces, para intentar profundizar
un poquito en este mundo,

1859
01:40:49,580 --> 01:40:52,320
eh contamos en esta mesa con dos

1860
01:40:52,320 --> 01:40:55,320
grandísimos expertos, además muy jóvenes.

1861
01:40:55,520 --> 01:40:59,060
Es un auténtico placer tenerles aquí hoy
con nosotros,

1862
01:40:59,600 --> 01:41:03,300
a Alejandro Rodríguez
y a Gustavo Hernández.

1863
01:41:03,560 --> 01:41:07,160
Los dos son profesores de informática,
uno de la escuela de Monte

1864
01:41:07,160 --> 01:41:10,860
Gancedo y otro de la Escuela de Sistemas
Informáticos en Campus Sur.

1865
01:41:11,280 --> 01:41:15,600
Los dos tienen una amplísima experiencia
en el uso de herramientas de IA,

1866
01:41:15,920 --> 01:41:18,980
solapan parte de su actividad
científica en aplicaciones de

1867
01:41:18,980 --> 01:41:21,980
IA en salud en el ámbito de salud.

1868
01:41:22,160 --> 01:41:26,820
Y ellos van a abrir la mesa
dándonos una idea general de

1869
01:41:26,820 --> 01:41:30,780
bueno que que puede suponer
la entrada masiva de IA

1870
01:41:30,780 --> 01:41:35,180
o que está suponiendo ya en el ámbito
de la de la actividad científica.

1871
01:41:35,720 --> 01:41:38,660
Pero yo realmente
soy una persona muy preocupada.

1872
01:41:38,660 --> 01:41:40,880
Yo soy un científico de la vieja escuela.

1873
01:41:40,880 --> 01:41:44,420
Yo empecé como físico experimental,
luego soy ingeniero láser

1874
01:41:45,060 --> 01:41:48,360
y la verdad es que empecé
a usar IA muy tempranamente.

1875
01:41:48,360 --> 01:41:51,800
¿Hace veintitantos años ya
tenía un paper publicado de aplicaciones

1876
01:41:51,800 --> 01:41:54,860
de machine learning
para control de procesos láser, verdad?

1877
01:41:54,880 --> 01:41:57,980
Pero luego he visto entrar directamente
la IA predictiva

1878
01:41:57,980 --> 01:42:00,980
hace muy poco de forma masiva
en la actividad científica.

1879
01:42:01,400 --> 01:42:04,680
Y cuando estábamos todos tan contentos
utilizándola de repente

1880
01:42:04,680 --> 01:42:08,040
aparece la
IA generativa y nos cambia completamente.

1881
01:42:08,040 --> 01:42:10,460
Y me gustaría que al final de esta mesa
habláramos también

1882
01:42:10,460 --> 01:42:14,160
de que nos vamos a encontrar en el futuro,
más allá de la IA generativa

1883
01:42:14,160 --> 01:42:17,360
que nos la vamos a encontrar
antes de lo que pensamos.

1884
01:42:17,360 --> 01:42:20,580
¿Es verdad que me tranquiliza mucho
vivir en un país

1885
01:42:20,580 --> 01:42:24,560
y con gente que ante el mayor apagón
masivo de la historia de un país avanzado,

1886
01:42:24,960 --> 01:42:27,960
decide hacer cosas
como bajarse a las terrazas, verdad?

1887
01:42:28,200 --> 01:42:30,540
A beber cerveza
antes de que se caliente. ¿Eso

1888
01:42:31,820 --> 01:42:34,700
da una
idea de cómo podemos abordar, verdad?

1889
01:42:34,700 --> 01:42:39,440
Cambios a los que no nos esperábamos
enfrentar nunca en nuestra vida

1890
01:42:39,980 --> 01:42:44,300
y realmente
Pues quizá la primera reflexión

1891
01:42:44,780 --> 01:42:47,780
es si supone la IA

1892
01:42:48,380 --> 01:42:51,260
el mayor cambio

1893
01:42:51,260 --> 01:42:56,220
en la ciencia tal y como la conocemos
a partir del método científico.

1894
01:42:56,220 --> 01:42:58,320
Desde la época de Galileo.

1895
01:42:58,320 --> 01:43:01,520
Esa es la primera, quizá
pregunta que deberíamos hacernos,

1896
01:43:01,520 --> 01:43:04,520
al menos si la IA generativa

1897
01:43:05,040 --> 01:43:07,500
supone realmente

1898
01:43:07,500 --> 01:43:09,560
ese gran cambio o si alguna

1899
01:43:09,560 --> 01:43:12,560
IA posterior lo puede, lo puede suponer.

1900
01:43:12,620 --> 01:43:18,000
Y para entrar en ese tipo de
disquisiciones que no son menores,

1901
01:43:18,500 --> 01:43:21,720
vamos a intentar de verdad
convenceros de que no son menores.

1902
01:43:22,440 --> 01:43:24,800
Vamos a dar paso
a dos pequeñas presentaciones

1903
01:43:24,800 --> 01:43:29,480
que tienen Alejandro y Gustavo
y vamos a entrar en materia.

1904
01:43:29,660 --> 01:43:31,880
Así que vamos allá. ¿Bueno,

1905
01:43:33,560 --> 01:43:35,940
muchas gracias en primer lugar
por haberme invitado

1906
01:43:35,940 --> 01:43:39,260
a formar parte de de esta mesa, eh?

1907
01:43:39,920 --> 01:43:43,940
Yo vengo un poco en modo
Pepito Grillo, en cierto modo,

1908
01:43:44,060 --> 01:43:47,900
porque en vez de venir a plantear
soluciones, vengo a plantear retos

1909
01:43:47,900 --> 01:43:51,180
o problemas porque creo que también
tenemos que ser un poco conscientes

1910
01:43:51,180 --> 01:43:57,360
de que toda la entrada de la IA generativa
es un cambio de paradigma enorme del que

1911
01:43:57,360 --> 01:44:01,940
hay consecuencias que todavía creo que no
estamos imaginando por dónde van a ir.

1912
01:44:02,100 --> 01:44:07,160
¿Y concretamente vengo a hablar
sobre todo de dos aspectos clave, eh?

1913
01:44:07,820 --> 01:44:08,300
Creo.

1914
01:44:08,300 --> 01:44:09,200
Empiezo contextualizando

1915
01:44:09,200 --> 01:44:12,260
con esta pequeña slide que quizás algunos
ya habéis oído hablar de esa noticia.

1916
01:44:12,260 --> 01:44:15,500
No sé si conocéis Arkaitz,
que es un repositorio de pre prints

1917
01:44:15,800 --> 01:44:18,800
para para artículos científicos,
sobre todo en el campo de

1918
01:44:19,140 --> 01:44:23,520
de la parte de informática
y empezaron a ver que

1919
01:44:24,000 --> 01:44:28,580
bueno, pues el número de sus misiones
subía exageradamente,

1920
01:44:29,000 --> 01:44:32,820
pero es que además empezaron a ver que ya
eran papers claramente generados por IA,

1921
01:44:33,200 --> 01:44:37,340
pero además un uso de la
IA totalmente absurdo,

1922
01:44:37,340 --> 01:44:41,600
porque ellos empezaron a banear,
no consideraron banear a los autores

1923
01:44:41,600 --> 01:44:43,560
que subían este tipo de artículos
durante un año.

1924
01:44:43,560 --> 01:44:46,260
Es decir, tú mandas algo
que claramente ha sido generado por IA

1925
01:44:46,260 --> 01:44:49,580
y te lo y te lo y te dejó durante un año
que no puedes mandar nada.

1926
01:44:50,760 --> 01:44:53,660
Básicamente porque esto es una cosa de
no cuidar las formas.

1927
01:44:53,660 --> 01:44:57,660
¿Eran papers que tenían la típica frase de
aquí tienes lo que me has pedido, vale?

1928
01:44:57,680 --> 01:44:59,400
Cosas de este estilo.

1929
01:44:59,400 --> 01:45:03,660
Y luego pues las referencias alucinadas
que que también es un problema que

1930
01:45:03,660 --> 01:45:06,660
de hecho comentó antes Jorge y que

1931
01:45:06,660 --> 01:45:09,660
bueno, ese es un tema bastante importante.

1932
01:45:09,840 --> 01:45:12,980
De hecho con las referencias alucinadas
es una cosa, es una cosa curiosa.

1933
01:45:12,980 --> 01:45:14,900
No sé si alguno os ha pasado, a mí
me ha pasado.

1934
01:45:14,900 --> 01:45:18,480
Yo empiezo a tener coautores en Google
Scholar con los que no he publicado nunca.

1935
01:45:18,900 --> 01:45:19,340
¿Por qué?

1936
01:45:19,340 --> 01:45:22,620
Porque se ha inventado una referencia
de que he publicado con menganito

1937
01:45:22,620 --> 01:45:23,940
y luego resulta que me dice oye,

1938
01:45:23,940 --> 01:45:26,840
es que tienes un paper con él,
es una referencia alucinada.

1939
01:45:26,840 --> 01:45:29,420
Y entonces yo no tengo ningún paper
con este señor.

1940
01:45:29,420 --> 01:45:32,460
Entonces empezamos a ver,
ya hay problemas en este sentido.

1941
01:45:33,140 --> 01:45:34,820
Luego otro de los problemas

1942
01:45:34,820 --> 01:45:37,700
es otro, otro que ilustra
este caso de los de los papers.

1943
01:45:37,700 --> 01:45:41,180
Esta conferencia,
que es una de las más prestigiosas,

1944
01:45:41,180 --> 01:45:43,940
sobre todo en el mundo de la
de la inteligencia artificial,

1945
01:45:43,940 --> 01:45:47,240
pues ya ha empezado
a ver que no pueden controlar

1946
01:45:47,240 --> 01:45:50,960
y que están empezando a aceptar papers con
contenido claramente generado por IA,

1947
01:45:51,000 --> 01:45:54,380
lo cual no hace más que aumentar
porque bueno, en un sprint bueno,

1948
01:45:54,620 --> 01:45:57,620
pero es que esto ya es una conferencia
que ha pasado un proceso de peer review

1949
01:45:57,840 --> 01:46:00,240
y que estamos hablando de algo
que va a ser

1950
01:46:00,240 --> 01:46:01,620
ahí generado para toda la vida

1951
01:46:01,620 --> 01:46:03,900
y que se supone que ha pasado
un proceso de revisión.

1952
01:46:03,900 --> 01:46:08,340
Entonces,
bueno, esto da lugar a una cuestión y aquí

1953
01:46:08,340 --> 01:46:12,660
pongo esta infografía generada por,
como no, en el que hablamos también de

1954
01:46:13,740 --> 01:46:16,180
los problemas que está generando
la IA generativa en

1955
01:46:16,180 --> 01:46:17,940
en la publicación científica.

1956
01:46:17,940 --> 01:46:22,800
Yo soy editor en jefe de una revista
y recibo unos 240 artículos al mes.

1957
01:46:23,000 --> 01:46:24,680
Vale, solo como para hacer.

1958
01:46:24,680 --> 01:46:27,920
Sí, pero si pasan la revisión o no,
y soy uno de los seis editores en jefe.

1959
01:46:28,020 --> 01:46:28,860
Vale.

1960
01:46:28,860 --> 01:46:32,480
O sea, eso hace una idea y es una revista
que ni siquiera está en el JCR.

1961
01:46:32,480 --> 01:46:33,980
La han sacado el JCR. Vale.

1962
01:46:33,980 --> 01:46:34,680
Entonces, para que os hagáis

1963
01:46:34,680 --> 01:46:38,720
una idea del volumen de artículos
que se están generando, esto está

1964
01:46:38,720 --> 01:46:42,720
dando lugar a que la presión de publicar
ahora se va a complicar.

1965
01:46:42,720 --> 01:46:43,080
¿Por qué?

1966
01:46:43,080 --> 01:46:45,680
Porque vamos a tener

1967
01:46:45,680 --> 01:46:48,280
situaciones en las que mandamos papers
a revistas y no pasa

1968
01:46:48,280 --> 01:46:50,280
ni siquiera el primer filtro del editor
en jefe.

1969
01:46:50,280 --> 01:46:50,540
¿Por qué?

1970
01:46:50,540 --> 01:46:53,900
¿Porque el volumen es tan
exageradamente alto que se está recibiendo

1971
01:46:54,180 --> 01:46:55,080
y por qué es eso?

1972
01:46:55,080 --> 01:46:56,700
Porque hay más investigación.

1973
01:46:56,700 --> 01:47:00,320
No, porque es mucho más fácil escribir
un paper ahora mismo con IA generativa.

1974
01:47:01,280 --> 01:47:01,640
Yo he

1975
01:47:01,640 --> 01:47:05,380
estado en congresos donde un de medicina
sobre todo

1976
01:47:05,400 --> 01:47:08,720
me decían vos, te voy a explicar
cómo hacer tu proyecto del fish.

1977
01:47:08,720 --> 01:47:13,000
En cinco minutos eso empieza a generar,
es aplicado a los papers,

1978
01:47:13,040 --> 01:47:14,400
empieza a generar un problema

1979
01:47:14,400 --> 01:47:18,540
y es un problema que escala porque
mandamos los artículos no pasan a revisión

1980
01:47:18,720 --> 01:47:22,560
porque hay que hacer un corte,
porque es imposible encontrar revisores,

1981
01:47:22,560 --> 01:47:26,600
ya sabéis todos a quien no le llegan
25 peticiones de revisión a la semana

1982
01:47:26,600 --> 01:47:29,600
para para revisar artículos
y no damos abasto.

1983
01:47:29,880 --> 01:47:30,400
Lo comentaba

1984
01:47:30,400 --> 01:47:31,820
precisamente que tenemos un perfil ahora,

1985
01:47:31,820 --> 01:47:35,240
que es que estamos haciendo todo
desde el punto de vista académico y esto,

1986
01:47:35,560 --> 01:47:38,780
eso son los papers,
pero el asunto es que va a ir a peor

1987
01:47:38,780 --> 01:47:42,240
porque los papers, bueno, es una
perdonarme la expresión putada,

1988
01:47:42,600 --> 01:47:46,220
pero es que cuando empecemos a hablar
de lo que es conseguir dinero

1989
01:47:46,220 --> 01:47:49,820
y conseguir financiación, que
es gran parte de nuestra labor académica,

1990
01:47:51,080 --> 01:47:53,540
empezamos a ver que las aplicaciones

1991
01:47:53,540 --> 01:47:57,820
a los programas de financiación
están creciendo de una manera exagerada.

1992
01:47:58,560 --> 01:48:01,880
Estamos viendo que también esto implica
que claro,

1993
01:48:01,880 --> 01:48:03,380
como crece el número de propuestas,

1994
01:48:03,380 --> 01:48:06,800
pero la financiación es la misma,
se financia el mismo número de proyectos.

1995
01:48:06,800 --> 01:48:10,280
¿Realmente hay un lado por qué?

1996
01:48:10,280 --> 01:48:11,400
Porque se financian

1997
01:48:11,400 --> 01:48:15,780
muchos menos de los que se presentan
y esto es un problema también.

1998
01:48:15,780 --> 01:48:19,380
¿Y con esto ya voy a finalizar,
que es que tenemos un problema en la

1999
01:48:19,620 --> 01:48:22,620
EN también en la parte de proyectos eh?

2000
01:48:23,240 --> 01:48:26,580
¿Sabéis que hay muchas agencias que pagan
a los revisores por revisar proyectos?

2001
01:48:27,140 --> 01:48:30,900
¿Claro, si yo recibo 100 propuestas
en una convocatoria del Plan Nacional

2002
01:48:30,900 --> 01:48:34,700
por ejemplo, y ahora recibo 500
y tengo que pagarles 60 € por proyecto,

2003
01:48:34,700 --> 01:48:37,080
de dónde sale ese dinero?
Tenemos ese dinero.

2004
01:48:37,080 --> 01:48:40,860
Vamos a tener un problema muy grande,
yo creo desde las instituciones

2005
01:48:40,860 --> 01:48:43,860
que financian
en cuanto a conseguir evaluadores

2006
01:48:44,480 --> 01:48:48,360
para todo el volumen que recibimos
y que luego que tengamos dinero

2007
01:48:48,360 --> 01:48:51,360
para poder pagar a esos evaluadores,
entonces eh,

2008
01:48:51,960 --> 01:48:56,100
como os digo, un poco de Pepito Grillo
y realmente vengo aquí a quizás

2009
01:48:56,100 --> 01:49:00,360
a poner la de que todo no es fantasía
y no todo es magia, hay que.

2010
01:49:00,740 --> 01:49:03,800
La ingeniería es una herramienta
increíble, es alucinante

2011
01:49:04,220 --> 01:49:07,620
y hay muchísimas cosas en las que
podemos trabajar y podemos hacer.

2012
01:49:07,820 --> 01:49:11,060
Pero hay que tener en cuenta que la
IA generativa también nos está generando

2013
01:49:11,060 --> 01:49:13,080
y nos va a generar una serie de problemas,
sobre todo

2014
01:49:13,080 --> 01:49:15,440
a los que nos dedicamos al mundo
académico.

2015
01:49:15,440 --> 01:49:18,440
Y con esto, pues nada más. Muchas gracias.

2016
01:49:18,500 --> 01:49:18,700
Muchas,

2017
01:49:19,700 --> 01:49:22,460
muchas, muchas gracias Alejandro.

2018
01:49:22,460 --> 01:49:24,900
La verdad es que ya han aparecido

2019
01:49:24,900 --> 01:49:28,160
temas concretos que nos gustaría
luego profundizar un poco.

2020
01:49:28,200 --> 01:49:32,180
Uno es cómo afecta la IA a procesos
básicos de la actividad científica,

2021
01:49:32,660 --> 01:49:36,500
como puede ser la escritura de artículos,

2022
01:49:36,800 --> 01:49:40,160
incluso lo genere
los aspectos éticos asociados.

2023
01:49:40,340 --> 01:49:44,540
¿Si yo hago un paper con IA,
es mi coautor, no es mi coautor, eh?

2024
01:49:44,600 --> 01:49:47,940
¿Dónde va toda esa información
que he generado durante el proceso

2025
01:49:47,940 --> 01:49:51,620
de escritura del artículo
y cómo es alimentado el modelo de IA

2026
01:49:51,620 --> 01:49:54,620
con toda la información
generada en mi laboratorio?

2027
01:49:54,840 --> 01:49:57,140
Y luego, efectivamente, está
el tema de la financiación.

2028
01:49:57,140 --> 01:49:59,060
Es decir, está creciendo

2029
01:49:59,060 --> 01:50:02,960
de forma masiva el número de propuestas
y cómo se va a hacer esa evaluación.

2030
01:50:03,980 --> 01:50:07,580
¿Eh bueno, soluciones puede haber, no?

2031
01:50:07,800 --> 01:50:10,800
Por ejemplo, esto
si lo extrapolamos a la innovación,

2032
01:50:10,860 --> 01:50:13,440
pues los grandes fondos de inversión

2033
01:50:13,440 --> 01:50:16,920
tienen sus propios métodos en cómo hacer

2034
01:50:16,920 --> 01:50:20,000
la inversión, no invierten en ideas,
sino que invierten en personas.

2035
01:50:20,120 --> 01:50:23,840
A lo mejor cuando se evalúen las RC
no se va a evaluar tanto

2036
01:50:23,840 --> 01:50:27,900
por la disrupción de la propuesta,
sino por el tipo de investigador al que se

2037
01:50:27,900 --> 01:50:28,800
está financiando.

2038
01:50:28,800 --> 01:50:30,600
Es un ejemplo de cómo puede cambiar.

2039
01:50:30,600 --> 01:50:33,180
Vale,
no sabemos cómo va a cambiar realmente,

2040
01:50:33,180 --> 01:50:36,560
pero estamos enfrentándonos
a un proceso completo de cambio.

2041
01:50:36,560 --> 01:50:38,640
¿Y luego está el uso realmente

2042
01:50:38,640 --> 01:50:42,400
de la IA para la actividad
científica del día a día, no?

2043
01:50:42,420 --> 01:50:44,880
¿Qué tipo de científico vamos a querer?

2044
01:50:44,880 --> 01:50:48,520
Un científico
al uso clásico con una buena formación

2045
01:50:48,520 --> 01:50:53,300
en física, química, en biología
o un prompter excelente que sea el

2046
01:50:53,300 --> 01:50:57,280
que haga las preguntas adecuadas a la IA,
porque ahí está todo.

2047
01:50:57,300 --> 01:50:57,920
¿Y luego cuál

2048
01:50:57,920 --> 01:51:01,280
es el tipo de pensamiento que tiene la
IA desde el punto de vista científico?

2049
01:51:01,760 --> 01:51:07,140
Etimológicamente es un tipo de pensamiento
fundamentalmente analítico

2050
01:51:07,140 --> 01:51:11,640
o es proyectivo, es decir,
puede realmente generar ideas disruptivas.

2051
01:51:12,260 --> 01:51:14,460
Bueno, la IA generativa habrá que verlo.

2052
01:51:14,460 --> 01:51:18,680
Los modelos que vengan a posteriori,
pues si queréis luego lo discutimos.

2053
01:51:18,980 --> 01:51:19,860
Pero desde luego

2054
01:51:19,860 --> 01:51:23,740
Alejandro ha puesto el dedo en la llaga,
en cosas que en el día a día nos afectan.

2055
01:51:23,800 --> 01:51:26,240
¿Vale, qué ocurre con los papers?

2056
01:51:26,240 --> 01:51:28,220
¿Qué ocurre con la financiación?

2057
01:51:28,220 --> 01:51:32,240
Y vamos a ver que nos cuenta Gustavo en
esta introducción.

2058
01:51:32,240 --> 01:51:32,540
Nada más.

2059
01:51:35,700 --> 01:51:36,380
Vale, perfecto.

2060
01:51:36,380 --> 01:51:39,380
Pues muchas
gracias por intentar contribuir.

2061
01:51:39,680 --> 01:51:42,920
Yo, por supuesto, suscribo
todo lo que ha comentado el compañero

2062
01:51:42,920 --> 01:51:45,920
en tema de investigación en artículos
científicos.

2063
01:51:46,620 --> 01:51:49,160
Quizá por aportar un poco más, a mí
me gustaría

2064
01:51:49,160 --> 01:51:52,240
hablar sobre la experiencia
en la escritura de propuestas.

2065
01:51:52,260 --> 01:51:53,180
¿Vale?

2066
01:51:53,180 --> 01:51:56,180
En mi presentación
traía hasta ahí estaba algo.

2067
01:51:56,420 --> 01:51:59,420
Perfecto, Pues.

2068
01:51:59,460 --> 01:52:02,000
Vale, simplemente unos pequeños datos

2069
01:52:02,000 --> 01:52:04,640
que creo que nos pueden ayudar,
que son enriquecedores.

2070
01:52:04,640 --> 01:52:07,560
Vale. Eh,

2071
01:52:07,560 --> 01:52:10,620
El que está abajo,
que es el más relativo, es que comparado

2072
01:52:10,620 --> 01:52:12,960
el número de propuestas,
estoy hablando de Europa

2073
01:52:12,960 --> 01:52:14,960
porque no encontré
datos sobre las nacionales.

2074
01:52:14,960 --> 01:52:15,960
Vale.

2075
01:52:15,960 --> 01:52:18,960
En Horizon que se presentaron

2076
01:52:19,220 --> 01:52:24,920
en 2025 subió un 80%, un 80%

2077
01:52:25,340 --> 01:52:30,000
comparado al periodo de 2024, o sea,
en un año, un 80%.

2078
01:52:30,300 --> 01:52:33,240
Vale todo lo que ha dicho de la logística

2079
01:52:33,240 --> 01:52:36,500
a la hora de evaluar
es lo que ha comentado el compañero.

2080
01:52:36,720 --> 01:52:39,540
Es cierto, es un problema actual. Vale.

2081
01:52:39,540 --> 01:52:43,220
De hecho, nosotros tenemos la suerte
de evaluar en algunos programas.

2082
01:52:43,680 --> 01:52:44,360
Vale.

2083
01:52:44,360 --> 01:52:47,520
Y otro mensaje
claro que quisiera transmitir aquí,

2084
01:52:47,520 --> 01:52:51,320
que es el que está
a la derecha, el European Research Council

2085
01:52:52,860 --> 01:52:54,260
María Leptina, que es

2086
01:52:54,260 --> 01:52:57,260
la presidenta
del Consejo de Investigación.

2087
01:52:58,020 --> 01:53:01,700
Eh Dice que es una realidad

2088
01:53:01,700 --> 01:53:05,040
que es imposible vigilar
si algo se hace con la IA o no.

2089
01:53:05,340 --> 01:53:10,260
O sea que es imposible que lo más que se
puede hacer, y de hecho es lo que se hace,

2090
01:53:11,100 --> 01:53:15,980
es que la gente sea responsable
de lo que escribe de aquí.

2091
01:53:16,460 --> 01:53:17,720
Vale.

2092
01:53:17,720 --> 01:53:20,700
Eh, De hecho, el de la izquierda,

2093
01:53:20,700 --> 01:53:23,700
que es el primero, Vale, pues el de abajo
arriba,

2094
01:53:23,880 --> 01:53:25,200
el de la izquierda.

2095
01:53:25,200 --> 01:53:27,800
Lo que viene diciendo
es que en el último briefing,

2096
01:53:27,800 --> 01:53:32,280
que es aquel documento que da las guías
a los evaluadores de propuestas europeas,

2097
01:53:32,820 --> 01:53:36,080
se les especifica claramente
que el hecho de utilizar

2098
01:53:36,080 --> 01:53:40,460
inteligencia artificial en la escritura
no es una causa para rechazarla.

2099
01:53:41,660 --> 01:53:43,460
O sea, el evaluador
lo que tiene que evaluar

2100
01:53:44,900 --> 01:53:46,920
es lo que hay escrito.

2101
01:53:46,920 --> 01:53:49,460
Te puede gustar más o menos
porque puede tener más lírica

2102
01:53:49,460 --> 01:53:52,840
o menos lírica, pero lo que va a evaluar
es lo que hay escrito.

2103
01:53:52,860 --> 01:53:56,000
Es decir, si sospecho que algo
fue hecho con ella generativa,

2104
01:53:56,160 --> 01:53:58,980
eso no es ningún motivo
para descalificar una propuesta.

2105
01:53:58,980 --> 01:54:00,140
Vale.

2106
01:54:00,140 --> 01:54:02,420
¿Por qué es importante esto?

2107
01:54:02,420 --> 01:54:05,540
Porque creo que el mensaje
que quiero transmitir es.

2108
01:54:06,200 --> 01:54:07,500
Hay que utilizarlas.

2109
01:54:07,500 --> 01:54:11,960
O sea, lo que no puede ser es
no me gusta, no la utilizo porque ahí te

2110
01:54:11,960 --> 01:54:15,800
estás, eh, tú
solo bajando de un tren bala.

2111
01:54:15,840 --> 01:54:18,840
Es como tener una herramienta y decir no,
prefiero hacerlo con las manos.

2112
01:54:19,880 --> 01:54:20,580
Lo puedes hacer.

2113
01:54:20,580 --> 01:54:23,580
Lo hacíamos hace nada, pero

2114
01:54:23,960 --> 01:54:27,180
es verdad
que es mejor tener esa segunda opinión

2115
01:54:27,180 --> 01:54:31,640
o tercera opinión del área ahora,
porque la detección no funciona.

2116
01:54:32,040 --> 01:54:32,940
¿Vale?

2117
01:54:32,940 --> 01:54:37,080
¿Aquí está este estudio que dejo el link
para quien le interese donde lo

2118
01:54:37,080 --> 01:54:40,220
pueda ver,
en el que se evaluaron 14 herramientas

2119
01:54:42,080 --> 01:54:45,080
de detección de ideas generativo,

2120
01:54:46,160 --> 01:54:49,160
eh? Ninguna llegó al 80% de precisión

2121
01:54:50,420 --> 01:54:52,740
en la detección de la IA.

2122
01:54:52,740 --> 01:54:55,280
Vale. ¿Eh?

2123
01:54:55,280 --> 01:54:57,960
¿Además, una cosa de ese estudio

2124
01:54:57,960 --> 01:55:02,460
que es muy relevante
o muy interesante, eh?

2125
01:55:03,000 --> 01:55:06,420
Muchas de las partes de texto

2126
01:55:07,020 --> 01:55:10,460
que son escritas por personas cuyo cuello

2127
01:55:11,100 --> 01:55:14,100
personas en las cuales
el inglés no es su lengua materna,

2128
01:55:14,580 --> 01:55:17,580
las detectaba como IA generadas por IA.

2129
01:55:18,320 --> 01:55:20,540
Vale, entonces

2130
01:55:20,540 --> 01:55:23,240
ya no es solo es que no la podamos
detectar,

2131
01:55:23,240 --> 01:55:26,420
es que si usamos esas herramientas, además
estamos introduciendo un sesgo,

2132
01:55:26,420 --> 01:55:29,840
porque a lo mejor
estamos penalizando a personas

2133
01:55:30,680 --> 01:55:33,680
cuyo primer idioma
no es el inglés para escribirlas.

2134
01:55:33,900 --> 01:55:35,000
Vale.

2135
01:55:35,000 --> 01:55:38,000
¿Eh, En cuanto a

2136
01:55:38,960 --> 01:55:41,960
la detección de estas herramientas, eh?

2137
01:55:42,440 --> 01:55:47,120
¿No solo en este nivel o
bueno Turnitin, lo usábamos todos, eh?

2138
01:55:47,480 --> 01:55:50,220
Pero es que la detección de plagio y demás

2139
01:55:50,220 --> 01:55:53,400
es una bandera, es una especie de camino

2140
01:55:53,400 --> 01:55:56,660
opaco que las inteligencias
tampoco son capaces de detectar.

2141
01:55:56,820 --> 01:55:57,080
Vale.

2142
01:55:58,520 --> 01:56:00,780
¿Eh? Por lo tanto.

2143
01:56:00,780 --> 01:56:03,780
Y el mensaje que os quería decir es

2144
01:56:05,180 --> 01:56:07,820
el por un lado, ya veis.

2145
01:56:07,820 --> 01:56:13,700
O sea, un 80% más y os puedo asegurar
que ha subido, o sea, yo este año

2146
01:56:13,700 --> 01:56:17,840
propuestas a las que históricamente
enviábamos, en las cuales competíamos

2147
01:56:17,840 --> 01:56:21,920
a lo mejor con 30 propuestas
para financiar dos, os puedo decir.

2148
01:56:21,920 --> 01:56:23,660
El año pasado.

2149
01:56:23,660 --> 01:56:26,540
Nacho, acabamos de recibir el resultado.

2150
01:56:26,540 --> 01:56:29,820
Misma convocatoria a continuación
se financiaban

2151
01:56:29,820 --> 01:56:32,820
dos, se presentaron 240 propuestas.

2152
01:56:33,740 --> 01:56:34,320
Vale.

2153
01:56:34,320 --> 01:56:37,320
Entonces es una realidad.

2154
01:56:37,320 --> 01:56:39,180
No podemos evitarla.

2155
01:56:39,180 --> 01:56:41,780
No podemos decir no la uso tampoco.

2156
01:56:41,780 --> 01:56:43,340
Simplemente tenemos que adaptarnos.

2157
01:56:43,340 --> 01:56:44,720
Vale. ¿Eh?

2158
01:56:44,720 --> 01:56:48,020
Y creo aquí algo que se mencionó antes,
que es muy interesante.

2159
01:56:48,600 --> 01:56:51,600
Hace unos años,
sobre el concepto de pronto.

2160
01:56:52,100 --> 01:56:54,540
Y sonaba como algo rarísimo.

2161
01:56:54,540 --> 01:56:58,100
Es súper importante,
es súper importante y ojalá la universidad

2162
01:56:58,100 --> 01:57:00,240
ya nos ha ayudado con algunos cursos.

2163
01:57:00,240 --> 01:57:01,580
Ojalá este tipo de iniciativas

2164
01:57:01,580 --> 01:57:04,100
se desarrollen mucho más
porque son necesarias.

2165
01:57:04,100 --> 01:57:06,320
Creo que eso es todo lo que tenía
que decir. Muchas gracias.

2166
01:57:07,760 --> 01:57:10,760
Muchas gracias.

2167
01:57:11,240 --> 01:57:13,640
Pues efectivamente,

2168
01:57:13,640 --> 01:57:18,240
empezaremos a utilizar un lenguaje nuevo
en los laboratorios de investigación, que

2169
01:57:18,260 --> 01:57:22,800
es in fact checking y todas estas cosas
que la actividad científica con IA

2170
01:57:23,820 --> 01:57:27,600
obligatoriamente nos va a llevar
si queremos seguirlas

2171
01:57:27,600 --> 01:57:31,340
utilizando con con criterio,
con todo el criterio que podamos.

2172
01:57:32,300 --> 01:57:34,640
Seguramente muchos sabéis que en octubre

2173
01:57:34,640 --> 01:57:39,840
de 2025
hubo el primer Congreso de Agentes de IA

2174
01:57:40,020 --> 01:57:42,920
para Ciencia
en la Universidad de Stanford,

2175
01:57:42,920 --> 01:57:45,480
donde se presentaban papers en los

2176
01:57:45,480 --> 01:57:48,480
que la coautoría fundamental era IA.

2177
01:57:49,080 --> 01:57:53,280
Esos paper
eran revisados para su aceptación por IA.

2178
01:57:53,840 --> 01:57:57,260
Y bueno,
pues los resultados del experimento

2179
01:57:57,260 --> 01:58:00,260
fueron bastante bastante curiosos.

2180
01:58:00,260 --> 01:58:02,840
Por supuesto,
no cabe ninguna duda que la vía

2181
01:58:02,840 --> 01:58:06,920
es un acelerador de la ciencia
en la actividad científica brutal.

2182
01:58:06,920 --> 01:58:09,860
Es una herramienta, una súper herramienta.

2183
01:58:09,860 --> 01:58:12,980
Y en concreto la IA generativa,
que no podemos obviar.

2184
01:58:13,220 --> 01:58:15,180
Sería absurdo liarla.

2185
01:58:15,180 --> 01:58:20,120
Está cambiando la velocidad
a la que estamos generando conocimiento,

2186
01:58:20,760 --> 01:58:23,540
pero también
es verdad que no todo lo hace bien.

2187
01:58:23,540 --> 01:58:26,520
Por ejemplo,
en el proceso de revisión de aceptación

2188
01:58:26,520 --> 01:58:30,320
estaban muy contentos
los que analizaban los resultados porque

2189
01:58:30,320 --> 01:58:34,020
el índice de rechazo era como humano,
aproximadamente como un buen congreso.

2190
01:58:34,440 --> 01:58:39,540
¿El 13 15% estaba muy bien,
pero en lo que se fijaban fundamentalmente

2191
01:58:39,540 --> 01:58:43,100
eran en los aspectos formales,
que es en lo que es muy buena la IA, no?

2192
01:58:43,340 --> 01:58:46,860
Que bien escrito está
el paper, que gramaticalmente,

2193
01:58:46,860 --> 01:58:50,700
sintácticamente que ordenadito está
todo o lo simplifico mucho,

2194
01:58:50,940 --> 01:58:55,040
pero conceptualmente
la mayoría de los paper aceptados

2195
01:58:55,040 --> 01:58:56,580
no eran demasiado relevantes.

2196
01:58:56,580 --> 01:58:59,580
Es más, algunos contenían errores

2197
01:59:00,020 --> 01:59:03,020
realmente de método muy importantes

2198
01:59:03,380 --> 01:59:07,200
y eso es uno de los problemas que
tenemos cuando utilizamos IA.

2199
01:59:08,160 --> 01:59:09,720
Y es que

2200
01:59:09,720 --> 01:59:11,900
son modelos que están entrenados

2201
01:59:11,900 --> 01:59:16,880
de una manera que utilizan unos vectores
matemáticos orientados

2202
01:59:17,420 --> 01:59:21,720
a que el modelo
obtenga recompensas de determinada manera.

2203
01:59:22,100 --> 01:59:25,080
Y eso no es exactamente

2204
01:59:25,080 --> 01:59:27,320
o no responde exactamente y literalmente

2205
01:59:27,320 --> 01:59:30,620
a lo que hemos conocido
tradicionalmente como método científico.

2206
01:59:30,800 --> 01:59:31,520
Vale.

2207
01:59:31,520 --> 01:59:35,580
Con lo cual, el uso de la
IA como única herramienta, como oráculo,

2208
01:59:35,580 --> 01:59:39,380
supone un riesgo real
para la actividad científica.

2209
01:59:40,020 --> 01:59:44,220
Entonces nos enfrentamos al dilema
de saber utilizar una súper herramienta

2210
01:59:44,220 --> 01:59:47,600
que sinceramente creo que nos
está desbordando completamente,

2211
01:59:48,180 --> 01:59:52,340
porque además nos va ofreciendo nuevas
características

2212
01:59:53,220 --> 01:59:56,700
a una velocidad en la
que es muy difícil de asimilar

2213
01:59:57,440 --> 02:00:03,720
y realmente va a transformar completamente
cualquier campo de actividad científica.

2214
02:00:03,720 --> 02:00:06,740
Ya lo está haciendo, ya lo está haciendo,
pero la velocidad

2215
02:00:06,740 --> 02:00:10,000
al que va a transformar cualquier campo
va a ser enorme.

2216
02:00:10,020 --> 02:00:15,440
Algunos que era inimaginable
poder trabajar con ellos, hacer simulación

2217
02:00:15,440 --> 02:00:20,220
de moléculas 3D para aplicaciones
y desarrollo de nuevos medicamentos.

2218
02:00:20,220 --> 02:00:23,300
Pues por poner un ejemplo concreto,
es solo posible

2219
02:00:23,580 --> 02:00:27,200
a la convergencia de las nuevas
capacidades en supercomputación

2220
02:00:27,720 --> 02:00:33,000
con la entrada de IA, y eso abre
posibilidades absolutamente novedosas.

2221
02:00:33,320 --> 02:00:37,100
Pero el problema como científicos
es la IA generativa y me voy a centrar

2222
02:00:37,120 --> 02:00:41,280
la generativa, hacer algo como tengo todo
el corpus de conocimiento anterior,

2223
02:00:41,280 --> 02:00:45,080
vale, le meto toda la física
que había en el siglo 19.

2224
02:00:45,720 --> 02:00:50,240
¿Sería la IA generativa capaz de generar

2225
02:00:50,240 --> 02:00:54,180
la teoría general de la relatividad
o la mecánica cuántica?

2226
02:00:54,840 --> 02:00:57,740
Posiblemente no la IA generativa al menos.

2227
02:00:57,740 --> 02:01:01,980
Posiblemente no, no lo sabemos,
pero posiblemente no, es decir,

2228
02:01:01,980 --> 02:01:07,940
por cómo genera aparentemente mediante
un proceso problemático información la IA

2229
02:01:08,940 --> 02:01:10,280
dar esos saltos

2230
02:01:10,280 --> 02:01:15,120
que la ciencia ha dado,
no de de intuitivos, realmente de novedad.

2231
02:01:15,120 --> 02:01:19,380
¿Vale que una herramienta
como el cerebro humano lleva haciendo

2232
02:01:19,380 --> 02:01:23,700
y desarrollando biológicamente durante
miles y miles de años, pues todavía

2233
02:01:24,740 --> 02:01:28,700
no es capaz, pero posiblemente
posiblemente nos encontremos

2234
02:01:28,700 --> 02:01:33,240
con ideas a futuro que esto
por lo menos puedan simularlo, no?

2235
02:01:33,780 --> 02:01:37,760
¿Y que no sea lo mejor es desviar mucho
la mesa de lo que

2236
02:01:39,020 --> 02:01:41,480
podríamos entrar en ella al barro,
no de oye,

2237
02:01:41,480 --> 02:01:44,480
cómo puedo utilizar
mejor la IA para escribir el paper?

2238
02:01:44,520 --> 02:01:48,620
O puedo utilizaría éticamente
para hacer la revisión del paper

2239
02:01:48,620 --> 02:01:51,920
que me han enviado, o por lo menos
si me mandan una revisión a ciegas.

2240
02:01:51,920 --> 02:01:55,320
Pues fíjate, no la voy a revisar el paper,
pero puedo saber el grupo

2241
02:01:55,320 --> 02:01:58,320
que lo ha hecho
con un 99% de posibilidades,

2242
02:01:58,340 --> 02:02:02,120
aunque el editor me tache los nombres,
no simplemente preguntándole a la IA.

2243
02:02:02,540 --> 02:02:06,020
Yo creo que la IA en investigación
y en innovación va mucho más allá.

2244
02:02:06,620 --> 02:02:10,620
Si dejamos no solo la investigación
y vamos a la innovación

2245
02:02:11,000 --> 02:02:15,420
hoy en día, para alguien que se plantee
hacer una startup vale,

2246
02:02:15,620 --> 02:02:18,780
y todo ese proceso de generación
de un plan de negocio tan complejo

2247
02:02:18,780 --> 02:02:22,400
que le lleva tanto tiempo sobre la
IA, se lo va a cortar a nada.

2248
02:02:22,400 --> 02:02:26,880
Es decir, hay tiempos en los que hemos
invertido media vida los investigadores

2249
02:02:27,920 --> 02:02:28,980
que van a desaparecer

2250
02:02:28,980 --> 02:02:32,300
no van a tener latencia directamente,
es que no van a tener la atención.

2251
02:02:32,720 --> 02:02:36,560
Y eso es un cambio de tal magnitud
que nos obliga a pensar

2252
02:02:37,040 --> 02:02:39,620
cómo prepararnos
y cómo orientar nuestra actividad

2253
02:02:39,620 --> 02:02:42,140
científica en un ámbito
como la universidad.

2254
02:02:42,140 --> 02:02:45,880
Con esta nueva súper herramienta. ¿Eh?

2255
02:02:47,960 --> 02:02:48,960
¿Qué pensáis?

2256
02:02:48,960 --> 02:02:53,700
¿Algo concreto respecto a
Realmente es un cambio tan brutal?

2257
02:02:53,700 --> 02:02:58,800
¿Va a ser una percusión de la magnitud
que yo estoy aquí anunciando?

2258
02:02:59,100 --> 02:03:03,120
¿O es que soy un viejo asustado de lo que
me viene y no entiendo bien qué pensáis?

2259
02:03:04,100 --> 02:03:07,100
Es sí, yo diría si lo tuviera.

2260
02:03:07,120 --> 02:03:10,460
En una palabra,
si es un cambio muy grande, pero porque

2261
02:03:11,280 --> 02:03:12,080
es que lo estamos viendo.

2262
02:03:12,080 --> 02:03:16,800
Es un cambio de modelo total
en cuanto a la manera de trabajar,

2263
02:03:16,800 --> 02:03:20,100
las oportunidades que nos ofrece
y en investigación.

2264
02:03:20,540 --> 02:03:22,760
Yo no sé si aventurar tanto.

2265
02:03:22,760 --> 02:03:26,240
A mí no me gustan las predicciones,
porque luego la hemeroteca

2266
02:03:26,820 --> 02:03:30,880
viene y envejecen muy mal,
pero sí que creo que

2267
02:03:31,500 --> 02:03:34,760
que va a transformar
probablemente cómo se investiga,

2268
02:03:35,360 --> 02:03:39,060
va a transformar todo lo que hay
en cuanto alrededor en el ámbito

2269
02:03:39,060 --> 02:03:42,060
académico, los números que
que os hemos dicho, Gustavo,

2270
02:03:42,080 --> 02:03:45,200
yo creo que lo reflejan
y y van a ir a más.

2271
02:03:45,660 --> 02:03:46,200
Entonces

2272
02:03:47,180 --> 02:03:49,460
es un cambio de paradigma

2273
02:03:49,460 --> 02:03:53,880
y creo que aquí
pues un poco como lo que comentaba,

2274
02:03:54,300 --> 02:03:58,020
lo que lo comenté antes, lo del tren
no de que si si te bajas del tren

2275
02:03:59,580 --> 02:04:03,500
es que es así, o sea, si no lo usas
vas a estar fuera.

2276
02:04:03,500 --> 02:04:05,300
Y ahora bien,

2277
02:04:05,300 --> 02:04:08,840
hay que usarlo de una manera responsable
y hay que saber usarlo sin problemas.

2278
02:04:08,840 --> 02:04:10,200
Creo que lo que nos falta

2279
02:04:10,200 --> 02:04:13,980
es probablemente saber usarlo
para sacarle lo mejor de ello.

2280
02:04:14,180 --> 02:04:17,520
Yo lo estaba pensando
antes, es como pues no sé, ahora

2281
02:04:18,440 --> 02:04:20,880
escribimos un paper
y lo escribimos en Word o en LaTeX.

2282
02:04:20,880 --> 02:04:24,440
Es como si hubieras querido escribirlo
a mano o en máquina de escribir,

2283
02:04:24,720 --> 02:04:27,560
pues es muchísimo más fácil
que yo pueda escribirlo

2284
02:04:27,560 --> 02:04:31,420
en un procesador de texto
que puedo corregir lo que no en en

2285
02:04:31,780 --> 02:04:34,440
en una máquina
de escribir antiguo o a mano directamente.

2286
02:04:34,440 --> 02:04:38,600
Entonces es una herramienta más
y es depende de nosotros utilizarla o no,

2287
02:04:38,600 --> 02:04:41,600
si nos ponemos de lado,
pues allá nosotros.

2288
02:04:41,700 --> 02:04:42,240
Así de simple.

2289
02:04:43,680 --> 02:04:45,620
Sí, sí, sí, totalmente de acuerdo.

2290
02:04:45,620 --> 02:04:49,060
Y para el mundo de búsqueda
de financiación, los números son evidencia

2291
02:04:49,220 --> 02:04:49,460
de hecho.

2292
02:04:49,460 --> 02:04:52,820
Pero además creo que va bastante más allá.

2293
02:04:52,820 --> 02:04:55,800
O sea, por ejemplo,

2294
02:04:55,800 --> 02:04:59,280
hace algún tiempo era súper importante
asistir a ciertos eventos

2295
02:04:59,520 --> 02:05:02,840
por el networking que podías hacer,
por los socios que podías conocer. Ahí.

2296
02:05:04,260 --> 02:05:07,260
Hoy en día coges la herramienta
y le dices mira, tengo esta convocatoria.

2297
02:05:07,740 --> 02:05:10,580
¿Cuáles
crees que serían los socios ideales

2298
02:05:10,580 --> 02:05:13,580
o quién ganó
esta convocatoria del año pasado?

2299
02:05:13,580 --> 02:05:14,540
Vale.

2300
02:05:14,540 --> 02:05:18,380
El contacto luego lo tienes que hacer tú
y la propuesta de valor es tuya.

2301
02:05:18,420 --> 02:05:21,420
Pero es que
es una herramienta que no puedes evitar.

2302
02:05:21,800 --> 02:05:24,780
¿Antiguamente, cuando querías hacer una,

2303
02:05:24,780 --> 02:05:27,240
tenías una propuesta, eh?

2304
02:05:27,240 --> 02:05:30,240
Era, por ejemplo,
algo súper de valor añadido.

2305
02:05:30,300 --> 02:05:35,700
Y bien visto contactar a los National
Contact Points para que te pudiesen dar

2306
02:05:36,660 --> 02:05:37,700
feedback.

2307
02:05:37,700 --> 02:05:40,160
¿Hoy en día con la IA genética, eh?

2308
02:05:40,160 --> 02:05:44,700
¿Una te escribe, otra
te lo revisa, otra te lo evalúa, eh?

2309
02:05:45,480 --> 02:05:49,220
Y no es que no es que no contactes al NCP,
es importante,

2310
02:05:49,740 --> 02:05:53,340
pero es que lo que quiero decir
es en todo el proceso te acompaña.

2311
02:05:53,760 --> 02:05:56,940
Antes a lo mejor era la
usabas para ayudar a mejorar una redacción

2312
02:05:56,940 --> 02:06:00,660
de un texto, pero es que ahora te acompaña
en todo el ciclo de vida, de desarrollo

2313
02:06:01,200 --> 02:06:04,700
y eso es algo que si tú no lo usas

2314
02:06:05,220 --> 02:06:08,700
hay gente que lo va a utilizar
y si tú no lo usas, pues

2315
02:06:10,080 --> 02:06:12,120
todavía puedes ganar. ¿Entiendo, vale?

2316
02:06:12,120 --> 02:06:15,800
Y hay iniciativas para que las propuestas
sean totalmente blind y etcétera,

2317
02:06:15,800 --> 02:06:19,920
etcétera Pero siempre tener esa doble
visión, ese feedback,

2318
02:06:19,920 --> 02:06:23,840
ese además, eh, creo que cambia.

2319
02:06:23,840 --> 02:06:25,640
O sea, para mí sí que ha cambiado.

2320
02:06:25,640 --> 02:06:29,120
O sea, no es que cambie, es que
ya has cambiado y en el futuro cambiará.

2321
02:06:29,120 --> 02:06:30,440
Y por ejemplo,

2322
02:06:30,440 --> 02:06:33,980
ya lo último, por ejemplo,
trabajamos mucho en en proyectos de salud.

2323
02:06:34,260 --> 02:06:36,560
Aquí está mi compañera Celia,

2324
02:06:36,560 --> 02:06:39,780
que nos ha ayudado
mucho con el tema legal, porque bueno,

2325
02:06:39,800 --> 02:06:41,780
es un proyecto muy
particular que es con países

2326
02:06:42,920 --> 02:06:44,300
africanos

2327
02:06:44,300 --> 02:06:47,460
en la hora del
desarrollo de estudios clínicos y demás.

2328
02:06:47,760 --> 02:06:49,880
La IA nos ayudó, pero infinito.

2329
02:06:49,880 --> 02:06:53,820
Pero o sea, tomando cosas
como consideraciones que decías, pero esto

2330
02:06:54,180 --> 02:06:55,820
jamás lo hubiese podido saber.

2331
02:06:55,820 --> 02:06:58,280
Condiciones específicas de países.

2332
02:06:58,280 --> 02:06:59,880
Todavía hay cosas que le faltan.

2333
02:06:59,880 --> 02:07:02,880
No nos dijo como hacer
llegar los móviles desde aquí hasta allí.

2334
02:07:03,200 --> 02:07:07,820
Tuvimos que hacerlo de aquella manera,
pero que es cuestión de tiempo y lo hará.

2335
02:07:08,160 --> 02:07:13,600
Vale, y creo que mi mensaje es usarla
si usarla en todo lo que se pueda.

2336
02:07:13,620 --> 02:07:18,140
Sí, y lo único
que todavía no se cumple, que es la EH,

2337
02:07:19,160 --> 02:07:22,520
se supone en esta declaración,
en este briefing, para los ayudantes

2338
02:07:22,520 --> 02:07:24,180
que dice que el uso de la IA

2339
02:07:24,180 --> 02:07:27,920
está permitida siempre
y cuando se especifique que se usa.

2340
02:07:28,260 --> 02:07:31,760
Yo todavía no he escrito ninguna propuesta
donde diga que la uso, vale,

2341
02:07:32,060 --> 02:07:34,920
y no he visto ninguna que diga que lo usa,

2342
02:07:34,920 --> 02:07:37,400
pero en algún momento
incluso podría ser causante.

2343
02:07:37,400 --> 02:07:40,340
O sea, de acuerdo a las normas,
incluso es un causante de descalificación.

2344
02:07:40,340 --> 02:07:40,860
Entonces

2345
02:07:41,840 --> 02:07:42,900
la puerta está abierta.

2346
02:07:42,900 --> 02:07:46,260
Lo que tenemos que hacer es entrar
y saber como, como movernos.

2347
02:07:46,260 --> 02:07:48,080
Una vez estando dentro.

2348
02:07:48,080 --> 02:07:50,240
Pues muchísimas gracias.

2349
02:07:50,240 --> 02:07:50,760
Vamos a abrir

2350
02:07:50,760 --> 02:07:54,740
enseguida el turno de preguntas, pero a mí
me gustaría dejar solo un apunte más.

2351
02:07:56,000 --> 02:07:59,700
Yo estoy absolutamente convencido
que la ciencia va a cambiar

2352
02:08:00,060 --> 02:08:04,020
radicalmente, radicalmente
y a una velocidad de vértigo.

2353
02:08:04,620 --> 02:08:07,160
Va a ser algo completamente disruptivo,

2354
02:08:07,160 --> 02:08:10,700
que está cambiando ya
la forma de hacer ciencia absolutamente.

2355
02:08:10,700 --> 02:08:12,120
En todo el mundo.

2356
02:08:12,120 --> 02:08:16,020
Pero un tema importante es la
sostenibilidad de lo que estamos haciendo.

2357
02:08:16,360 --> 02:08:21,060
¿Eh, eh, De momento,
parafraseando a Newton, verdad?

2358
02:08:22,040 --> 02:08:25,220
Veía más lejos
porque se apoyaba en hombros de gigantes.

2359
02:08:25,700 --> 02:08:29,960
De momento utilizarías apoyarte en hombros
de gigantes tecnológicos.

2360
02:08:30,840 --> 02:08:32,720
Y de momento no sé
si estamos viendo más lejos.

2361
02:08:32,720 --> 02:08:36,380
Lo que sí estamos viendo es muchísimo
más rápido, muchísimo más rápido.

2362
02:08:36,380 --> 02:08:40,160
Y eso es importantísimo porque al final
nos va a permitir llegar más lejos.

2363
02:08:40,160 --> 02:08:41,760
¿Pero a qué coste?

2364
02:08:41,760 --> 02:08:44,900
¿Realmente el coste energético
de uso de IA?

2365
02:08:45,120 --> 02:08:47,960
Y ahora mismo,
con el techo de la tecnología

2366
02:08:47,960 --> 02:08:50,160
de silicio que tenemos es enorme.

2367
02:08:50,160 --> 02:08:53,160
Mejorar porcentualmente.

2368
02:08:53,160 --> 02:08:54,240
Nada, nada.

2369
02:08:54,240 --> 02:08:57,200
Un modelo de los de IA
que estamos utilizando

2370
02:08:57,200 --> 02:09:00,200
supone un gasto energético

2371
02:09:00,620 --> 02:09:03,620
que hay que pensarse realmente
cuando decimos la

2372
02:09:03,620 --> 02:09:06,620
IA nos ayuda a hacer nuestra vida mejor,
que es lo que nos venden las big tech

2373
02:09:07,580 --> 02:09:09,320
de manera muy endulzada.

2374
02:09:09,320 --> 02:09:12,120
¿Bueno, realmente cómo de sostenible

2375
02:09:12,120 --> 02:09:15,960
es este modelo de IA
y cómo podemos salvar ese paradigma?

2376
02:09:15,960 --> 02:09:17,640
Estoy seguro que se va a salvar,

2377
02:09:17,640 --> 02:09:20,780
pero desde luego ahora mismo la situación
es que estamos ante una herramienta

2378
02:09:20,780 --> 02:09:23,880
muy poco sostenible de la
que la gente ignora completamente

2379
02:09:24,200 --> 02:09:28,160
el coste real,
incluso el coste de propiedad intelectual

2380
02:09:28,160 --> 02:09:31,440
que supone utilizarla
como herramienta en investigación.

2381
02:09:31,740 --> 02:09:35,380
Entonces, esto
abre unos retos enormes en el ámbito eh

2382
02:09:35,940 --> 02:09:38,060
científico y de innovación.

2383
02:09:38,060 --> 02:09:41,040
Y me gustaría que si tenéis
alguna pregunta para nuestros dos

2384
02:09:41,040 --> 02:09:44,040
expertos,
pues ahora es el momento de de hacerlo.

2385
02:09:44,580 --> 02:09:47,780
Hola buenas,
mira yo quería preguntarte alguna cosilla

2386
02:09:47,780 --> 02:09:52,500
porque me preocupa sobre todo tu parte
y es que eh.

2387
02:09:52,580 --> 02:09:53,460
¿O sea, para que?

2388
02:09:53,460 --> 02:09:57,500
¿Para ponernos en contexto, yo me dedico
a hacer investigación en física, eh?

2389
02:09:57,620 --> 02:09:58,760
En cosas que son numéricas.

2390
02:09:58,760 --> 02:10:00,200
Entonces normalmente lo que tú

2391
02:10:00,200 --> 02:10:03,320
hacías antes era planteabas
una pregunta que querías resolver,

2392
02:10:04,160 --> 02:10:07,000
hacías el programa con el programa,
sacabas un montón de figuras,

2393
02:10:07,000 --> 02:10:08,460
un montón de resultados,

2394
02:10:08,460 --> 02:10:11,820
sacabas tus conclusiones
y lo ponía en un paper donde estaba.

2395
02:10:11,840 --> 02:10:12,680
Y el cuello de botella.

2396
02:10:12,680 --> 02:10:13,800
¿Pues en que

2397
02:10:13,800 --> 02:10:16,800
te equivocabas mucho programando y
a lo mejor hacer un programa muy complejo

2398
02:10:17,120 --> 02:10:19,920
pues te llevaba un mes o dos o un año no?

2399
02:10:19,920 --> 02:10:22,880
Y ahora con la IA,
pues eso es tremendamente rápido.

2400
02:10:22,880 --> 02:10:25,380
Tú solo tienes que decirle exactamente
que quieres hacer.

2401
02:10:25,380 --> 02:10:28,380
Entonces a mí me ha servido la IA
precisamente para salirme del ordenador.

2402
02:10:28,680 --> 02:10:29,720
Yo ahora lo hago en papel.

2403
02:10:29,720 --> 02:10:31,620
Cuando lo tengo extremadamente claro.
Se lo preguntas.

2404
02:10:31,620 --> 02:10:33,180
La IA hace el programa.

2405
02:10:33,180 --> 02:10:36,180
Si hago las figuras y envío el papel,
entonces este mes

2406
02:10:36,600 --> 02:10:39,380
ya he enviado un paper
y he escrito otros tres.

2407
02:10:39,380 --> 02:10:44,780
¿Entonces, en cuanto al al volumen
de papers que se envían a revistas, eh?

2408
02:10:44,900 --> 02:10:47,840
Ha aumentado mucho como
ha dicho tu compañero, entre otras cosas

2409
02:10:47,840 --> 02:10:51,740
porque somos los mismos, haciendo muchas
más cosas, pero somos los mismos.

2410
02:10:52,400 --> 02:10:55,740
Me preocupa más la otra parte,
que es el aumento de lo de los proyectos.

2411
02:10:55,940 --> 02:10:57,300
¿Yo te quería preguntar,

2412
02:10:57,300 --> 02:11:00,800
al igual que con los papers,
creo que somos los mismos produciendo

2413
02:11:01,100 --> 02:11:03,800
cuatro veces más en el tema de proyectos

2414
02:11:03,800 --> 02:11:06,720
somos los mismos o de repente
ha entrado muchísima gente a competir?

2415
02:11:06,720 --> 02:11:07,760
Porque eso sí que me preocupa.

2416
02:11:10,680 --> 02:11:11,280
Han entrado

2417
02:11:11,280 --> 02:11:14,540
muchos actores y actores nuevos,
Muchísimos.

2418
02:11:14,640 --> 02:11:16,200
O sea,

2419
02:11:16,200 --> 02:11:19,640
sin ir más lejos, hace no mucho
me contrató una consultora

2420
02:11:20,780 --> 02:11:24,380
que nos ofrecía
escribirnos una propuesta entera por 35 €,

2421
02:11:25,560 --> 02:11:27,840
una propuesta europea que le dijésemos

2422
02:11:27,840 --> 02:11:30,840
el plan en el proyecto
y que ellos se encargaban de todo.

2423
02:11:31,580 --> 02:11:34,400
Y en LinkedIn es súper común encontrar

2424
02:11:34,400 --> 02:11:38,660
gente, consultores que te muestran
la estructura de todos los agentes

2425
02:11:38,660 --> 02:11:41,940
y te dan garantía de
en dos días tener una propuesta escrita.

2426
02:11:42,420 --> 02:11:44,940
¿Entonces
esos actores han entrado muchísimos,

2427
02:11:44,940 --> 02:11:47,940
muchísimos actores, eh?

2428
02:11:48,180 --> 02:11:52,140
En cuanto a las capacidades
y no a gente con capacidades,

2429
02:11:52,160 --> 02:11:55,160
o sea, con las habilidades,
con el background que se une.

2430
02:11:55,280 --> 02:11:58,280
También ha subido muchísimo porque

2431
02:11:58,820 --> 02:12:02,100
tú piensas que muchos investigadores
ahora eran muy bueno, o sea,

2432
02:12:02,160 --> 02:12:07,320
hasta ahora eran muy buenos en su campo,
pero todo aquello de tener que consorcio

2433
02:12:08,400 --> 02:12:11,400
de tener
que a lo mejor entender como como,

2434
02:12:12,360 --> 02:12:14,360
cómo por lo menos

2435
02:12:14,360 --> 02:12:17,360
preparar una propuesta.

2436
02:12:17,720 --> 02:12:19,880
¿Todo eso, eh?

2437
02:12:19,880 --> 02:12:24,380
¿Digamos ya esa barrera ha bajado,
por no decir que ha desaparecido, vale?

2438
02:12:25,160 --> 02:12:28,160
Y por ejemplo, yo me encuentro socios que

2439
02:12:28,680 --> 02:12:32,600
a través de la plataforma de becas y demás
te contactan diciéndote que

2440
02:12:32,600 --> 02:12:36,200
son muy buenos, que vas a hablar con ellos
y te das cuenta que no tienes ni idea

2441
02:12:36,860 --> 02:12:40,160
y al final te comienzan a hablar de
tenemos msps,

2442
02:12:40,280 --> 02:12:41,300
tenemos agentes,

2443
02:12:41,300 --> 02:12:45,180
tenemos sin idea, sin, o sea, sin ni
siquiera tener idea de qué es cada cosa.

2444
02:12:45,180 --> 02:12:49,140
Pero te dicen eso porque han entendido que
bueno que

2445
02:12:50,540 --> 02:12:52,640
es una buena oportunidad de financiación.

2446
02:12:52,640 --> 02:12:55,740
¿Yo hablo del contexto europeo, por
supuesto, el contexto nacional también,

2447
02:12:56,660 --> 02:13:00,540
eh? ¿Y por supuesto,
pues hay que ir a por ello, no?

2448
02:13:00,920 --> 02:13:02,120
Y te des cuenta así.

2449
02:13:02,120 --> 02:13:05,880
O sea que si ha aumentado número
de participantes, el número de propuestas

2450
02:13:05,880 --> 02:13:09,260
necesariamente implica que haya más gente
y más participantes.

2451
02:13:10,040 --> 02:13:13,040
Han aparecido nuevos actores,
nuevos intermediarios.

2452
02:13:13,800 --> 02:13:15,120
¿Ya está, eh?

2453
02:13:15,120 --> 02:13:19,020
Siempre han existido estas agencias
que te daban un cierto, un cierto soporte

2454
02:13:19,020 --> 02:13:22,640
escribiendo la propuesta
y a lo mejor pues las necesidades de socio

2455
02:13:22,920 --> 02:13:26,040
o luego llegaban
y te decían pues mira si sale, si sale

2456
02:13:27,200 --> 02:13:28,580
concedida, pues

2457
02:13:28,580 --> 02:13:33,540
tenemos un FIDE,
un 3% o un 4% o lo que sea, pero que ahora

2458
02:13:33,540 --> 02:13:39,020
ves personas 1 a 1, que son consultores
y que te lo ofrecen en dos días y 30 €.

2459
02:13:39,020 --> 02:13:41,600
Si tienes una propuesta es rentable.

2460
02:13:41,600 --> 02:13:44,600
Oye, pues por 30 € a lo mejor.

2461
02:13:45,620 --> 02:13:47,660
Entonces sí ha cambiado.

2462
02:13:47,660 --> 02:13:51,540
O sea, y
y aunque yo tengo mucha experiencia,

2463
02:13:52,500 --> 02:13:55,100
es decir que hay una incertidumbre,
o sea, ya

2464
02:13:55,100 --> 02:13:59,780
incluso en en topics,
en temas que eran como muy

2465
02:14:00,540 --> 02:14:02,940
que nos sentíamos muy fuertes,

2466
02:14:02,940 --> 02:14:05,240
pues te das cuenta que

2467
02:14:05,240 --> 02:14:08,060
esa fortaleza se ha ido diluyendo,

2468
02:14:08,060 --> 02:14:11,280
Entonces eso implica pues esforzarte más,

2469
02:14:12,020 --> 02:14:15,420
por supuesto,
y luego también hay un un factor

2470
02:14:15,420 --> 02:14:20,820
que el crecimiento de este ecosistema
hace por simple probabilidad que

2471
02:14:21,940 --> 02:14:23,760
tú, tu tasa de éxito baje.

2472
02:14:24,860 --> 02:14:27,920
Pero además también pues que se le añada

2473
02:14:28,400 --> 02:14:32,720
una incertidumbre de oye,
nosotros no nos hemos quedado.

2474
02:14:33,060 --> 02:14:36,060
¿Sabes que el sistema de evaluación
de propuestas europeas va de 0 a 15?

2475
02:14:36,320 --> 02:14:39,680
Nosotros nos hemos quedado en topics
con 15 puntos fuera.

2476
02:14:41,340 --> 02:14:42,740
¿Es que ya hacer la propuesta perfecta

2477
02:14:42,740 --> 02:14:45,740
tampoco te da garantía
de que vayan a financiar, vale?

2478
02:14:45,900 --> 02:14:48,900
Entonces, ahora sí ha cambiado y mucho.

2479
02:14:48,900 --> 02:14:51,980
Me gustaría matizar que yo yo sí
que creo que en los papers también

2480
02:14:52,440 --> 02:14:56,620
entran actores nuevos, porque la IA
democratiza una cosa que es el lenguaje.

2481
02:14:56,640 --> 02:15:01,520
Y en países
donde el inglés no es su lengua nativa

2482
02:15:01,520 --> 02:15:04,520
e incluso tiene muchísimos problemas
para escribir en inglés

2483
02:15:04,860 --> 02:15:09,260
ahora, aunque sea mismamente que tú
lo escribes en turco originalmente

2484
02:15:09,260 --> 02:15:12,420
y lo traduces, pero lo traduces
de una manera que ya no es pasarlo

2485
02:15:12,420 --> 02:15:15,680
por niveles,
que es bastante ir más allá y exponerle

2486
02:15:15,680 --> 02:15:19,400
ciertas ideas y que haga un hilo narrativo
científico adecuado.

2487
02:15:19,760 --> 02:15:22,760
Eso lo ha introducido la IA generativa.

2488
02:15:22,880 --> 02:15:25,620
Y entonces es que creo que el problema
está en que los mismos de

2489
02:15:25,620 --> 02:15:27,140
siempre producimos más.

2490
02:15:27,140 --> 02:15:28,220
Pero es que luego están entrando

2491
02:15:28,220 --> 02:15:30,600
los que producían menos
que ahora son capaces de producir.

2492
02:15:30,600 --> 02:15:33,400
Entonces es donde ahí
está habiendo una explosión.

2493
02:15:33,400 --> 02:15:36,720
Y solo por comentar que me sorprende
que ahora, por 35 € te hago una propuesta,

2494
02:15:36,720 --> 02:15:40,260
antes te cobran 5000 de una consultora,
pero ahora esta está muy bien.

2495
02:15:40,280 --> 02:15:42,860
Ahora si no tienes pasta esta está genial.

2496
02:15:42,860 --> 02:15:46,800
Solo por añadir algo como evaluador
hace muchísimos años

2497
02:15:46,800 --> 02:15:50,160
para todo tipo de agencias y comisiones

2498
02:15:50,160 --> 02:15:54,440
y convocatorias, la entrada de IA,
El primer impacto que va a tener

2499
02:15:54,440 --> 02:15:57,720
es que los aspectos formales
van a dejar de tener ningún valor.

2500
02:15:58,400 --> 02:16:00,720
Durante los últimos años

2501
02:16:00,720 --> 02:16:04,100
eso era muy importante en convocatorias
europeas, en convocatorias de la.

2502
02:16:04,160 --> 02:16:05,780
Y el entender bien

2503
02:16:05,780 --> 02:16:09,380
que alineamiento querías entender bien
en el contexto de financiación

2504
02:16:09,840 --> 02:16:12,420
y era un trabajo en el
que incluso te tenías que asesorar,

2505
02:16:12,420 --> 02:16:15,420
gastarte dinero o que gente
con mucha experiencia o lo hiciera.

2506
02:16:15,600 --> 02:16:17,880
Hoy en día
eso deja de tener cualquier valor.

2507
02:16:17,880 --> 02:16:23,060
Es un cambio absoluto de paradigma en la
evaluación para la financiación científica

2508
02:16:23,640 --> 02:16:26,600
y todas las agencias están preparándose

2509
02:16:26,600 --> 02:16:29,780
y desarrollando herramientas
para ver cómo manejar esto,

2510
02:16:30,120 --> 02:16:34,280
porque todos esos aspectos
dejan de tener absolutamente ningún valor.

2511
02:16:34,680 --> 02:16:37,880
Entonces que hay que ir al final
en las convocatorias realmente

2512
02:16:37,880 --> 02:16:41,280
grandes, potentes,
ágiles directamente y al tú, a tú,

2513
02:16:41,280 --> 02:16:45,740
pues seguramente ya se hacen algunas
y se venía haciendo en los últimos.

2514
02:16:45,740 --> 02:16:46,080
Step.

2515
02:16:46,080 --> 02:16:47,520
No estamos inventando nada nuevo,

2516
02:16:47,520 --> 02:16:51,240
lo que pasa es que seguramente lo
tengamos que ampliar a fases,

2517
02:16:51,620 --> 02:16:56,360
pues mucho, mucho previas, vale,
así que nos enfrentamos a eso.

2518
02:16:56,900 --> 02:16:58,040
Hay una pregunta por aquí.

2519
02:16:59,000 --> 02:17:00,240
Yo tenía una,

2520
02:17:00,240 --> 02:17:02,780
eh, cuando habéis hablado de la inflación

2521
02:17:02,780 --> 02:17:08,840
de proyectos y de artículos y la
el trabajo añadido de evaluar

2522
02:17:08,840 --> 02:17:13,320
y todo eso, eh Bueno, a mí
me viene a la mente inmediatamente

2523
02:17:13,320 --> 02:17:18,240
porque no se utiliza la IA para evaluar,
obviamente con criterios

2524
02:17:19,280 --> 02:17:24,380
que tú fijes, o sea que te ayude,
digamos, a filtrar toda esa información

2525
02:17:24,680 --> 02:17:27,740
y lo que está diciendo Carlos ahora,
pues a lo mejor primar

2526
02:17:27,740 --> 02:17:33,380
menos los aspectos formales de que esté
bien escrito y ver que realmente

2527
02:17:33,380 --> 02:17:36,800
abordan los problemas que en los que tú
estás interesado en financiar.

2528
02:17:37,320 --> 02:17:39,000
Entonces

2529
02:17:39,000 --> 02:17:43,040
no sé si y un poco igual también
con el procedimiento científico.

2530
02:17:43,700 --> 02:17:46,700
Entiendo que la IA se puede utilizar
también

2531
02:17:46,780 --> 02:17:50,840
de una manera que que puedas mejorar
el procedimiento

2532
02:17:50,840 --> 02:17:54,780
científico en los aspectos más arduos y

2533
02:17:55,200 --> 02:17:59,000
y no sé burocráticos

2534
02:17:59,000 --> 02:18:01,760
digamos de la investigación
que igual te lo pueda saltar.

2535
02:18:01,760 --> 02:18:04,760
Y no sé eso. Yo no soy científica.

2536
02:18:05,120 --> 02:18:08,720
Ana, Solo antes de dar paso
a mis compañeros de mesa.

2537
02:18:08,720 --> 02:18:11,720
El problema basal para el método
científico

2538
02:18:12,120 --> 02:18:15,260
de la guía generativa
es el modelo bajo el que funciona.

2539
02:18:15,440 --> 02:18:16,280
Vale.

2540
02:18:16,280 --> 02:18:19,840
O sea, cuando tú dices
Puedo utilizar la IA en el día a día,

2541
02:18:19,860 --> 02:18:24,280
Si yo puedo hacer un modelo digital
de un puente maravilloso, vale que sé

2542
02:18:24,280 --> 02:18:27,800
que va a funcionar
con un 99,9% de posibilidades,

2543
02:18:28,540 --> 02:18:32,340
pero posiblemente no sea capaz de trazar
cuáles son los modelos físicos

2544
02:18:32,340 --> 02:18:35,520
que ha utilizado mi modelo de Transformer
para hacer ese modelo digital.

2545
02:18:35,700 --> 02:18:37,100
Si no lo hago bien, vale.

2546
02:18:37,100 --> 02:18:41,420
Si no lo hago bien y cuando haga cosas
mucho más complejas, mucho más complejas,

2547
02:18:41,420 --> 02:18:45,020
ni siquiera podré tener trazabilidad
de los modelos físicos, que

2548
02:18:45,280 --> 02:18:47,240
ese es el reto al que nos enfrentamos.

2549
02:18:47,240 --> 02:18:50,940
Es decir, nos enfrentamos a un paradigma
de que podemos perder

2550
02:18:50,940 --> 02:18:54,600
la confianza en la ciencia
tal y como la conocemos.

2551
02:18:54,920 --> 02:18:58,640
Ese es el problema, porque son
unas herramientas que están programadas.

2552
02:18:58,640 --> 02:19:03,080
No olvidemos de determinada manera y para
optimizarse de una determinada manera.

2553
02:19:03,620 --> 02:19:05,660
Y lo que hemos hecho en ciencia durante

2554
02:19:07,020 --> 02:19:08,480
400 años ha sido otra

2555
02:19:08,480 --> 02:19:11,480
cosa completamente diferente.

2556
02:19:11,480 --> 02:19:14,480
Entonces, eh, es más tranquilizador pensar

2557
02:19:14,760 --> 02:19:17,600
en usar esto como una súper herramienta
que nos quita el trabajo.

2558
02:19:17,600 --> 02:19:21,280
¿Vamos, que te voy a decir, yo hago una
tesis de 20.000 líneas de código

2559
02:19:21,280 --> 02:19:25,220
picadas a mano, vamos, esto se lo cuento
a mis hijas y se les caen las lágrimas

2560
02:19:25,220 --> 02:19:28,400
diciendo Qué hace este hombre
con su tiempo y su juventud?

2561
02:19:28,400 --> 02:19:33,240
Eso hoy en día es absurdo,
pero el problema es que estamos usando.

2562
02:19:33,240 --> 02:19:36,560
Hay que saber lo que estamos usando
y lo que implica en fiabilidad.

2563
02:19:37,160 --> 02:19:40,860
Y esto cuando tú evalúas una propuesta,
el problema es que yo puedo cogería

2564
02:19:40,860 --> 02:19:44,780
y evaluar una propuesta,
pero realmente si lo que estoy evaluando

2565
02:19:44,780 --> 02:19:49,020
es cuál es la propuesta científica,
tengo que entender

2566
02:19:49,020 --> 02:19:52,920
cuál es la propuesta científica
que hay detrás y tengo que entender

2567
02:19:52,920 --> 02:19:55,520
cuál es la hipótesis, cuál
es el método que se está

2568
02:19:55,520 --> 02:19:58,520
aplicando para alcanzar los resultados
que me proponen.

2569
02:19:58,920 --> 02:20:02,340
Y eso en una evaluación de vida
no está garantizado.

2570
02:20:02,760 --> 02:20:05,780
Ese es el problema fundamental
al que nos enfrentamos con los modelos.

2571
02:20:06,020 --> 02:20:09,500
No sé si queréis yo solo comentar ahí

2572
02:20:09,740 --> 02:20:13,060
hay algún congreso que ya está
empezando a hacer esto, una especie de

2573
02:20:14,000 --> 02:20:17,840
algún triaje, sobre todo cuando congresos
que reciben 20.000 sus misiones

2574
02:20:18,840 --> 02:20:19,100
están

2575
02:20:19,100 --> 02:20:22,340
empezando a hacer este tipo de de piloto,
de momento de pilotos,

2576
02:20:22,340 --> 02:20:26,180
donde hay una guía intermedia
que hace esto, eh, yo no

2577
02:20:26,180 --> 02:20:29,340
descarto que esto probablemente empiece
a pasar en algunos contextos.

2578
02:20:29,340 --> 02:20:32,240
Por ejemplo los editoriales
donde se haga un primer filtrado.

2579
02:20:32,240 --> 02:20:37,460
La cuestión es que probablemente esto
llegará un momento que sea fácilmente

2580
02:20:37,640 --> 02:20:41,240
pasable, porque al final es
probablemente lo que le estamos diciendo.

2581
02:20:41,240 --> 02:20:45,540
Es algo que en términos de temática
me encaja con la revista.

2582
02:20:46,220 --> 02:20:50,420
Es que lo veo muy difícil o sea, lo que sí
que me parece que puede ser interesante

2583
02:20:50,420 --> 02:20:52,280
el día de mañana
en las propuestas de proyectos,

2584
02:20:52,280 --> 02:20:56,480
por ejemplo, un poco como lo que comentaba
Carlos, es que o como se hace

2585
02:20:56,480 --> 02:21:00,440
ya en algunos organismos, ya tenemos fase
uno y fase dos en muchos, en muchos casos

2586
02:21:00,480 --> 02:21:05,300
que igual haya que haber fase tres
y la primera es una hoja muy sucinta,

2587
02:21:05,300 --> 02:21:07,940
muy directa, donde se puede evaluar

2588
02:21:07,940 --> 02:21:10,100
20 propuestas
por parte de un solo evaluador

2589
02:21:10,100 --> 02:21:13,860
y ahí vemos quién pasa a la siguiente fase
y empezamos a hacer filtrados

2590
02:21:13,860 --> 02:21:14,820
de este estilo.

2591
02:21:14,820 --> 02:21:18,840
¿No lo sé, Es una hipótesis de por donde
yo creo que podría llegar la cosa

2592
02:21:20,240 --> 02:21:21,560
si en cuanto a

2593
02:21:21,560 --> 02:21:25,820
propuestas que hay ciertas,
por ejemplo hay una me viene ahora

2594
02:21:25,820 --> 02:21:29,940
una de La Caixa que te dice que claramente
la primera ronda de evaluación

2595
02:21:29,940 --> 02:21:32,940
la hace la IA, EH?

2596
02:21:32,960 --> 02:21:35,720
La experiencia que tenemos

2597
02:21:35,720 --> 02:21:38,720
no es muy alta y además el tema de

2598
02:21:38,720 --> 02:21:42,360
de hay un tema de explicabilidad del
por qué.

2599
02:21:42,940 --> 02:21:45,940
¿Y luego
hay un tema de de transparencia, de

2600
02:21:46,860 --> 02:21:49,260
como se ha entrenado esa IA,

2601
02:21:49,260 --> 02:21:50,700
quién ha entrenado?

2602
02:21:50,700 --> 02:21:51,380
¿Qué intereses?

2603
02:21:51,380 --> 02:21:54,660
Entonces lo que tú dices.

2604
02:21:54,980 --> 02:21:59,280
De hecho ya hay procesos que
que se realizan con herramientas

2605
02:21:59,280 --> 02:22:02,280
de inteligencia artificial,
pero lo que comentaba

2606
02:22:02,360 --> 02:22:07,520
Carlos es son procesos, formalidades,
no lo formal, las cosas más generales.

2607
02:22:07,980 --> 02:22:10,980
Pero por ejemplo,
el valor añadido como tal es.

2608
02:22:11,100 --> 02:22:13,760
Es algo
que creo que en honor a la transparencia,

2609
02:22:15,040 --> 02:22:15,560
una IA

2610
02:22:15,560 --> 02:22:18,560
hoy por hoy es muy complicado
que lo pueda.

2611
02:22:19,820 --> 02:22:21,500
No olvidemos que el método

2612
02:22:21,500 --> 02:22:24,780
científico nació de forma natural,
sin un interés.

2613
02:22:27,480 --> 02:22:29,160
Concreto, más allá del

2614
02:22:29,160 --> 02:22:33,440
de optimizar la generación de conocimiento
y hacerlo lo más fiable posible.

2615
02:22:33,860 --> 02:22:37,580
Los modelos de IA nacen con una vocación
claramente de beneficio

2616
02:22:37,580 --> 02:22:40,040
económico para los que lo genera. Vale.

2617
02:22:40,040 --> 02:22:43,040
Si perdemos ese punto
en toda esta discusión,

2618
02:22:43,680 --> 02:22:47,140
no sabemos de lo que estamos hablando
en ningún en ningún momento.

2619
02:22:47,180 --> 02:22:51,780
Vale, entonces el utilizar herramientas
que realmente están

2620
02:22:52,820 --> 02:22:55,540
bajo directrices

2621
02:22:55,540 --> 02:23:00,560
que en último término
no controlamos, tiene sus riesgos.

2622
02:23:00,560 --> 02:23:06,200
Por supuesto, no es usable en muchas
tensión y nos genera muchas oportunidades.

2623
02:23:06,600 --> 02:23:10,500
Pero también tenemos que saber exactamente
qué tipo de herramienta

2624
02:23:10,500 --> 02:23:14,120
es la que estamos utilizando
y tenemos que cerrar ya la mesa.

2625
02:23:14,120 --> 02:23:17,200
Voy a agradecer a los ponentes,
a vosotros una última pregunta.

2626
02:23:17,200 --> 02:23:18,860
Sí, sí.

2627
02:23:18,860 --> 02:23:22,820
A mí me gustaría saber en todo
este mecanismo de estandarización

2628
02:23:22,820 --> 02:23:25,820
de las publicaciones y de la ciencia,

2629
02:23:26,340 --> 02:23:29,340
si al final no es multiplicar la entropía,

2630
02:23:29,480 --> 02:23:32,480
no es generar basura que

2631
02:23:32,580 --> 02:23:34,980
retroalimenta
la propia inteligencia artificial.

2632
02:23:37,460 --> 02:23:38,840
Probablemente sea bueno.

2633
02:23:38,840 --> 02:23:44,240
Ya se supone que las Ya tenemos más datos
generados por inteligencia artificial

2634
02:23:44,240 --> 02:23:47,480
que generados por humanos ahora mismo
y en el sistema de publicaciones

2635
02:23:47,480 --> 02:23:50,480
esto probablemente puede acabar
llevando a esa deriva.

2636
02:23:50,660 --> 02:23:52,020
Por eso digo, yo no estoy

2637
02:23:52,020 --> 02:23:54,860
no he dicho que ni que está a favor
ni en contra de este tipo de sistemas.

2638
02:23:54,860 --> 02:23:55,820
Lo que sí que es verdad que está

2639
02:23:55,820 --> 02:23:59,940
claro que hay que poner un coto a
cómo se gestiona, porque si no

2640
02:23:59,940 --> 02:24:03,800
el sistema se va a hacer inabordable
en las publicaciones científicas.

2641
02:24:03,800 --> 02:24:04,920
Pues hombre,

2642
02:24:04,920 --> 02:24:05,960
creo que quizás

2643
02:24:05,960 --> 02:24:08,580
pueda tener que pasar algo parecido
a lo que comentaba en los proyectos.

2644
02:24:08,580 --> 02:24:11,660
¿En vez de mandarme
el paper de 40 páginas, lo que tendrás

2645
02:24:11,660 --> 02:24:15,200
que mandar es como lo haces
en algunos congresos de marzo directamente

2646
02:24:15,440 --> 02:24:19,220
y a partir de ahí ya te doy el feedback de
si pasas directamente a un proceso de

2647
02:24:19,980 --> 02:24:22,580
un proceso inicial de peer review,

2648
02:24:22,580 --> 02:24:25,880
que lo voy a remitir a los editores
si tira adelante o no donde se puede

2649
02:24:26,120 --> 02:24:29,960
o se debería ver si es Science o no,

2650
02:24:30,060 --> 02:24:33,980
luego
ese es otro tema también que que ocurre?

2651
02:24:33,980 --> 02:24:36,940
Que se genera mucho contenido,
que a veces pasan los procesos,

2652
02:24:36,940 --> 02:24:42,320
pero eso pasa ya y ha pasado siempre
en el proceso humano, sea papers, no

2653
02:24:42,700 --> 02:24:47,540
mal de mierda, sea publicado toda la vida
y pasando por revisión por humanos.

2654
02:24:47,540 --> 02:24:51,780
Porque también el el componente subjetivo
de la revisión por pares está ahí

2655
02:24:51,780 --> 02:24:55,760
y siempre somos humanos y lo que a ti
te gusta a mí no, y viceversa.

2656
02:24:55,760 --> 02:24:58,760
Y eso
a veces genera perversiones en el sistema.

2657
02:24:58,920 --> 02:25:02,360
Entonces ojalá tuviera una respuesta
más concreta.

2658
02:25:02,360 --> 02:25:05,160
No la tengo.
Ya digo que no soy muy de oráculos.

2659
02:25:07,100 --> 02:25:08,820
Muy bien, pues

2660
02:25:08,820 --> 02:25:12,180
sí, una una cosita que quiere Fali
hacer una pequeña.

2661
02:25:12,600 --> 02:25:16,820
No voy a decir con qué institución,
ni voy a decir en qué temática concreta,

2662
02:25:16,820 --> 02:25:17,900
pero estamos haciendo.

2663
02:25:17,900 --> 02:25:21,260
¿Han sido varias instituciones,
pero estamos haciendo pruebas de contraste

2664
02:25:21,260 --> 02:25:25,780
para evaluar la credibilidad de datos, eh?

2665
02:25:26,440 --> 02:25:30,200
Una ciencia orientada a la meritocracia
invita a generar ruido,

2666
02:25:30,360 --> 02:25:33,360
a generar, a generar

2667
02:25:33,420 --> 02:25:36,420
información
que permita promocionar al individuo.

2668
02:25:36,860 --> 02:25:41,000
Bueno, simplemente deciros que hemos hecho
un modelo estocástico, generación

2669
02:25:41,000 --> 02:25:45,860
de datos sintéticos que dan, que dan,
que suponen supuestamente son reales

2670
02:25:46,220 --> 02:25:49,820
en el ámbito de del
transporte, de contaminantes en el aire.

2671
02:25:49,820 --> 02:25:54,600
En el ámbito oceanográfico, en el ámbito
y lo hemos pasado a especialistas

2672
02:25:54,600 --> 02:25:58,320
para que identifiquen diciéndole
donde, de dónde son, en qué contexto.

2673
02:25:58,520 --> 02:26:00,000
Y no ha sido ninguno capaz

2674
02:26:00,000 --> 02:26:03,680
ninguno de los equipos capaces
de identificar la falsedad de estos datos

2675
02:26:04,020 --> 02:26:08,100
indicando instrumentos falsos
con localizaciones falsas y datos falsos.

2676
02:26:08,520 --> 02:26:09,980
Estamos en un en un momento

2677
02:26:09,980 --> 02:26:13,520
en el que estamos muy retados
por el ruido que se que se va a generar.

2678
02:26:13,920 --> 02:26:17,600
Hay una madre medio gracia, una eh, que

2679
02:26:17,700 --> 02:26:20,840
que vaga, que que puede ganar la partida
si no cambiamos las reglas del juego.

2680
02:26:21,360 --> 02:26:23,900
El ruido es intrínseco
a la actividad humana.

2681
02:26:23,900 --> 02:26:26,940
Esto no le podemos achacar a la IA,
somos nosotros mismos

2682
02:26:27,440 --> 02:26:31,860
los que generamos como subproducto esto
claramente.

2683
02:26:32,160 --> 02:26:34,020
Vamos a cerrar la mesa.

2684
02:26:34,020 --> 02:26:35,660
Simplemente a mí me gustaría acabar.

2685
02:26:35,660 --> 02:26:38,520
Yo, al contrario que Alejandro, sí
que me gusta mucho mirar al futuro,

2686
02:26:38,520 --> 02:26:41,700
hacer proyecciones
y me gustaría ver a muy corto

2687
02:26:41,700 --> 02:26:44,700
plazo
que yo creo que antes de lo que pensamos

2688
02:26:44,860 --> 02:26:48,900
que va a ocurrir, cuando la
IA generativa sea cosa del pasado,

2689
02:26:49,540 --> 02:26:52,540
claramente está
alcanzando un punto de saturación

2690
02:26:52,920 --> 02:26:56,600
y va a haber una disrupción
en tecnologías de computación.

2691
02:26:56,600 --> 02:27:00,740
Claramente las tecnologías fotónicas
claramente van a sustituir al silicio

2692
02:27:00,740 --> 02:27:02,200
más pronto que tarde

2693
02:27:02,200 --> 02:27:05,700
y no sabemos cuándo,
pero llegaremos al punto de disrupción

2694
02:27:05,700 --> 02:27:08,760
cuántica
cuando la IA y la computación cuántica

2695
02:27:08,760 --> 02:27:12,980
se encuentren para la ciencia será
una grandísima noticia.

2696
02:27:12,980 --> 02:27:17,780
A pesar de todos los riesgos o problemas
que podamos que podamos ver con esto.

2697
02:27:17,780 --> 02:27:19,260
Cerramos aquí la mesa. Muchas gracias.