1
00:00:07,960 --> 00:00:09,200
Buenos días.

2
00:00:09,200 --> 00:00:11,080
Vamos a dar comienzo. Bueno, me presento.

3
00:00:11,080 --> 00:00:12,880
Mi nombre es Jessica Díaz.

4
00:00:12,880 --> 00:00:16,320
Soy adjunta en el Vicerrectorado
para Universidad Digital y responsable

5
00:00:16,320 --> 00:00:20,000
de la Oficina de Apoyo a la Docencia

6
00:00:20,040 --> 00:00:23,040
junto con la responsable de Sonia Linio

7
00:00:23,240 --> 00:00:26,800
Vamos a ver
hoy una sesión súper interesante

8
00:00:26,800 --> 00:00:30,080
sobre el uso responsable de la
IA en la UPM.

9
00:00:30,400 --> 00:00:34,080
Todas las oportunidades, pero también
los riesgos que se nos generan,

10
00:00:34,080 --> 00:00:38,560
los principios éticos y toda la regulación
de la que debemos ser conscientes

11
00:00:38,560 --> 00:00:41,800
en cuanto a protección de datos,
propiedad intelectual, etcétera.

12
00:00:42,200 --> 00:00:45,200
Esta ponencia viene de la mano de Celia

13
00:00:45,200 --> 00:00:48,200
Fernández Aller y Jesús Salgado Criado.

14
00:00:48,680 --> 00:00:52,800
Celia es amiga, es compañera,
es una profesora contratada.

15
00:00:53,320 --> 00:00:57,920
Doctora en aspectos jurídicos,
éticos y sociales en la en el Campus Sur

16
00:00:58,440 --> 00:01:00,000
y Jesús Salgado

17
00:01:00,000 --> 00:01:00,720
es profesor

18
00:01:00,720 --> 00:01:02,680
doctor también
en el Departamento de Ingeniería

19
00:01:02,680 --> 00:01:04,920
de Organizaciones
y Administración de Empresas

20
00:01:04,920 --> 00:01:06,800
en la Escuela de Ingeniería Industrial.

21
00:01:06,800 --> 00:01:09,800
Y bueno, conozco de cerca su trabajo,

22
00:01:09,840 --> 00:01:14,080
el que han ido
desarrollando en ética desde el diseño.

23
00:01:14,120 --> 00:01:17,240
Y bueno, seguro que hoy vamos a aprender
muchísimas cosas interesantes,

24
00:01:17,280 --> 00:01:21,160
así que doy pie a ellos,
que son los importantes.

25
00:01:21,360 --> 00:01:22,280
Cuando quieras, Celia.

26
00:01:23,640 --> 00:01:24,080
Muy bien.

27
00:01:24,080 --> 00:01:25,400
Gracias, Jessica.

28
00:01:25,400 --> 00:01:26,080
Bueno, pues nada.

29
00:01:26,080 --> 00:01:28,960
Buenos días a todos y a todas.

30
00:01:28,960 --> 00:01:32,080
Hay bastante gente por aquí y bueno,

31
00:01:32,120 --> 00:01:35,760
la verdad que impresiona mucho
ver ahí tantos participantes, pero.

32
00:01:35,760 --> 00:01:38,720
Pero bueno, en la sesión
va a tener dos partes.

33
00:01:38,720 --> 00:01:42,040
En la primera me voy a referir al uso
de la inteligencia artificial

34
00:01:42,040 --> 00:01:46,000
en la docencia
y los principales retos éticos y sociales.

35
00:01:46,000 --> 00:01:48,600
Y luego en 1/2 se referirá el profesor
Jesús

36
00:01:48,600 --> 00:01:51,680
Salgado a los retos de la investigación

37
00:01:51,680 --> 00:01:55,240
y también
haremos una pequeña referencia a los retos

38
00:01:55,240 --> 00:01:58,240
en la administración
académica, en la gestión.

39
00:01:58,360 --> 00:02:02,000
Eh bueno, nos hubiese gustado
una sesión más participativa,

40
00:02:02,000 --> 00:02:06,400
pero bueno, realmente este formato
pues da para lo que da.

41
00:02:06,680 --> 00:02:10,520
Sí que os animamos si queréis, al hilo
de nuestra explicación.

42
00:02:11,360 --> 00:02:16,240
Bueno, pues poner en el chat cualquier
asunto sobre el que queráis comentar.

43
00:02:16,280 --> 00:02:19,280
Bueno, pues vamos a intentar manejar el

44
00:02:19,360 --> 00:02:23,240
el chat y si es necesario,
por la importancia del tema que planteáis.

45
00:02:23,920 --> 00:02:27,360
Daros la palabra, pues también no tenemos,

46
00:02:27,560 --> 00:02:32,040
no tenemos ningún inconveniente y
de hecho vamos a intentar dejar un ratito

47
00:02:32,040 --> 00:02:35,800
si es posible
al final de estas dos horas para

48
00:02:36,400 --> 00:02:39,000
para que la gente que quiera pueda
pueda intervenir.

49
00:02:39,000 --> 00:02:40,360
¿Porque yo creo que este es un tema

50
00:02:40,360 --> 00:02:43,360
que de una manera u otra nos
toca a todos como muy muy,

51
00:02:44,560 --> 00:02:45,480
muy de cerca, no?

52
00:02:45,480 --> 00:02:48,920
O sea que realmente todo, todo,
todo el profesorado estamos pensando

53
00:02:48,920 --> 00:02:52,280
en estos retos que nos plantea
la inteligencia artificial.

54
00:02:52,280 --> 00:02:58,600
No todos lo estamos utilizando,
pero bueno, pues realmente eh, por el

55
00:02:58,680 --> 00:03:02,000
por el de conversaciones que tenemos
con compañeros, con compañeras.

56
00:03:02,760 --> 00:03:06,160
Es un área de muchísima preocupación
ahora mismo sobre si lo

57
00:03:06,200 --> 00:03:10,160
lo estamos haciendo bien y también
como como animar a los estudiantes

58
00:03:10,160 --> 00:03:14,840
a que puedan sacar partido sin
sin jugársela mucho, sin jugársela mucho,

59
00:03:14,840 --> 00:03:18,640
porque estamos hablando de retos también
para los derechos humanos inclusive.

60
00:03:18,680 --> 00:03:21,200
Bueno, eh,

61
00:03:21,200 --> 00:03:22,640
Uy, a ver si puedo.

62
00:03:22,640 --> 00:03:26,960
Sí, vale,
entonces, eh, la estructura de mi parte

63
00:03:27,000 --> 00:03:30,000
es básicamente bueno, pues

64
00:03:31,080 --> 00:03:33,160
las oportunidades y los riesgos

65
00:03:33,160 --> 00:03:36,160
que presenta la inteligencia artificial
para la para la docencia.

66
00:03:36,200 --> 00:03:39,640
Bueno, en relación a la a la.

67
00:03:42,320 --> 00:03:43,400
A las oportunidades.

68
00:03:43,400 --> 00:03:46,800
¿Bueno, pues sin ninguna duda
la inteligencia artificial tiene bueno,

69
00:03:46,840 --> 00:03:50,840
nos presenta
pues muchas posibilidades nuevas, no?

70
00:03:51,080 --> 00:03:54,320
¿Para hacer nuestra nuestra docencia

71
00:03:54,520 --> 00:03:57,640
mucho más atractiva, eh?

72
00:03:57,880 --> 00:04:01,520
Y más
provechosa para para el estudiantado y.

73
00:04:04,120 --> 00:04:07,120
Y no sé.

74
00:04:10,400 --> 00:04:12,120
¿Sirve como

75
00:04:12,120 --> 00:04:15,640
ente de escritura o bueno,
pues para preparar cantidad de

76
00:04:15,880 --> 00:04:18,200
de formatos distintos no?

77
00:04:18,200 --> 00:04:20,920
Con bastante nivel de de eficacia,
dicho sea de paso,

78
00:04:20,920 --> 00:04:23,600
nos sirve para animar las clases.

79
00:04:23,600 --> 00:04:26,160
Nos podría servir también
para la evaluación,

80
00:04:26,160 --> 00:04:31,200
para hacer tutorías personalizadas
a través de chatbots, por ejemplo.

81
00:04:31,200 --> 00:04:35,440
Estos son algunos de los de los ámbitos
en los que de una manera o de otra,

82
00:04:35,440 --> 00:04:39,200
todos utilizamos la
la inteligencia artificial, EH.

83
00:04:39,760 --> 00:04:42,760
Los estudiantes, por su parte,

84
00:04:42,760 --> 00:04:46,160
también lo utilizan,
lo utilizan más que nosotros en general.

85
00:04:46,160 --> 00:04:48,520
¿Y para qué la suelen utilizar?

86
00:04:48,520 --> 00:04:51,800
Bueno, pues para
para la explicación de conceptos.

87
00:04:52,040 --> 00:04:55,480
¿Hasta un 58% de gente lo la

88
00:04:56,080 --> 00:04:58,480
le saca este este partido no?

89
00:04:58,480 --> 00:05:00,040
¿Además te lo dicen, no?

90
00:05:00,040 --> 00:05:04,200
Oye, hay videos realmente en internet
que incorporan inteligencia

91
00:05:04,200 --> 00:05:05,720
artificial que son

92
00:05:06,840 --> 00:05:08,200
buenísimos y que me

93
00:05:08,200 --> 00:05:11,320
sirven para aproximarme al contenido.

94
00:05:11,360 --> 00:05:14,840
¿No acaban de decirte
mejor que en una clase, pero bueno,

95
00:05:15,320 --> 00:05:18,320
a veces así en confianza,
sí que te lo dicen, no?

96
00:05:18,840 --> 00:05:23,960
Lo utilizan también para hacer resúmenes
de materiales, de artículos, de libros.

97
00:05:24,000 --> 00:05:27,000
¿También para la generación de ideas,

98
00:05:27,080 --> 00:05:28,600
para la investigación, no?

99
00:05:28,600 --> 00:05:32,920
O sea, como un brainstorming,
no como una lluvia de ideas inicial,

100
00:05:32,960 --> 00:05:37,520
porque creo que todo el mundo, eh
echamos mano de la de la IA para eso,

101
00:05:37,520 --> 00:05:43,520
porque indudablemente ofrece
muchas alternativas y también a veces un.

102
00:05:43,880 --> 00:05:47,840
Un 18% de los estudiantes admiten utilizar

103
00:05:49,160 --> 00:05:51,360
los resultados de la IA directamente.

104
00:05:51,360 --> 00:05:56,560
¿De eso somos
somos testigos los profesores no?

105
00:05:56,600 --> 00:06:00,920
O sea que yo algunos trabajos
fin de grado, eh,

106
00:06:01,720 --> 00:06:06,440
en sus versiones iniciales,
en sus borradores, que eran realmente.

107
00:06:06,480 --> 00:06:09,080
¿Pues un escupitajo de traje, no?

108
00:06:09,080 --> 00:06:12,280
Y vamos, Claro, es que eso.

109
00:06:12,320 --> 00:06:13,560
¿Pues tampoco puede ser, no?

110
00:06:13,560 --> 00:06:17,320
O sea que deberíamos
de tener una conciencia crítica

111
00:06:17,320 --> 00:06:21,040
suficiente como para conseguir
que nuestros estudiantes e,

112
00:06:22,720 --> 00:06:24,880
digamos, reformularse

113
00:06:24,880 --> 00:06:28,200
y utilizasen el primer input que les da,

114
00:06:28,280 --> 00:06:31,280
el primer output que les da la IA

115
00:06:31,560 --> 00:06:35,360
con un poco de espíritu crítico, no,
que no se fía de lo primero que aparece.

116
00:06:35,400 --> 00:06:37,160
Bueno, eh.

117
00:06:37,160 --> 00:06:40,960
Aunque ya veis, un porcentaje de vosotros
pequeño

118
00:06:41,000 --> 00:06:44,880
habéis rellenado el formulario
que os pedíamos para ver cuál

119
00:06:44,880 --> 00:06:46,760
es el asunto que más os preocupa,
etcétera.

120
00:06:46,760 --> 00:06:49,760
A mí me preocupa un poco
el tema de la evaluación con IA.

121
00:06:50,160 --> 00:06:53,160
Yo he hecho por ahí algunos,

122
00:06:53,360 --> 00:06:54,880
algunas pruebas y la verdad

123
00:06:54,880 --> 00:06:58,360
que por ahora los resultados en mi caso

124
00:06:58,880 --> 00:07:00,120
son muy malos, posiblemente

125
00:07:00,120 --> 00:07:03,920
porque yo me dedico a la parte de la ética
y de la legislación,

126
00:07:04,040 --> 00:07:07,080
pero yo no he conseguido que la IA

127
00:07:07,080 --> 00:07:10,080
me evalúe bien, o sea,
no lo he conseguido.

128
00:07:10,120 --> 00:07:13,440
Sí que os quería preguntar
y he lanzado un bucle.

129
00:07:13,720 --> 00:07:14,560
Os quería.

130
00:07:14,560 --> 00:07:17,880
Vamos a poner el código en el chat
para que, si sois tan amables,

131
00:07:18,400 --> 00:07:23,400
contestéis al bucle sobre si utilizáis
o no utilizáis la IA

132
00:07:23,800 --> 00:07:26,920
con esta finalidad de de evaluación. ¿Eh?

133
00:07:27,160 --> 00:07:30,320
Voy a poner el código de en el

134
00:07:31,000 --> 00:07:33,680
en el chat ya lo he puesto yo.

135
00:07:33,680 --> 00:07:38,600
Celia ya lo pusiste a Vale,
bueno, he puesto el vínculo entero, no sé

136
00:07:38,600 --> 00:07:44,120
si este, pero no sé si les llevará o no,
porque todo depende también

137
00:07:45,080 --> 00:07:46,240
de si están.

138
00:07:46,240 --> 00:07:49,400
Sabes que a veces el bucle te tienes que
si si si,

139
00:07:49,400 --> 00:07:52,400
si, dándole lleva correctamente,
no te preocupes.

140
00:07:53,000 --> 00:07:54,600
A ver.

141
00:07:54,600 --> 00:07:55,440
¿Bueno, porque?

142
00:07:55,440 --> 00:07:58,800
¿Porque lo lo contestase y así
yo luego me quedo con la información,

143
00:07:58,800 --> 00:08:02,880
porque preparando el curso con Jesús
lo que si tenemos es pues eso,

144
00:08:02,880 --> 00:08:07,280
muchas ganas de confrontar
con el profesorado y sobre todos estos,

145
00:08:08,560 --> 00:08:11,400
sobre las oportunidades
y sobre todo sobre los riesgos, no?

146
00:08:11,400 --> 00:08:15,600
Entonces, bueno, me resultaba interesante
contar con vuestra,

147
00:08:15,640 --> 00:08:18,360
con vuestra opinión y aprovechamos,
aprovechamos que estáis ahí.

148
00:08:18,360 --> 00:08:21,360
¿Todos están disponibles para

149
00:08:21,440 --> 00:08:24,440
para extraer información, no?

150
00:08:25,760 --> 00:08:28,520
Vale, yo trabajo en la biblioteca
y no lo utilizamos para evaluar.

151
00:08:28,520 --> 00:08:30,640
Bueno, pues mira eso
que te vale. Vale, vale.

152
00:08:30,640 --> 00:08:32,840
Eso que te que te pierdes.

153
00:08:32,840 --> 00:08:36,440
Porque la verdad que mis experiencias
han sido desastrosas con la evaluación.

154
00:08:36,480 --> 00:08:38,000
Bueno, eh,

155
00:08:39,600 --> 00:08:40,840
vale.

156
00:08:40,840 --> 00:08:43,520
Luego luego os compartiré
los los resultados.

157
00:08:43,520 --> 00:08:46,520
Voy a continuar entonces. Y

158
00:08:47,320 --> 00:08:49,000
aparte de oportunidades,

159
00:08:49,000 --> 00:08:52,000
la la inteligencia artificial

160
00:08:52,240 --> 00:08:57,200
tiene riesgos y voy a centrarme bastante
en esta parte de los riesgos.

161
00:08:57,400 --> 00:09:02,880
No porque crea que tiene más riesgos
que oportunidades, sino porque.

162
00:09:02,880 --> 00:09:05,520
Bueno, pues porque creo que

163
00:09:05,520 --> 00:09:08,520
sobre las oportunidades que nos ofrece
la IA

164
00:09:08,880 --> 00:09:11,840
van a estar centrándose

165
00:09:11,840 --> 00:09:15,320
la mayor parte
de las sesiones de Primavera Tech.

166
00:09:15,880 --> 00:09:21,080
La mayor parte de las sesiones nos ofrecen
herramientas nuevas con potencialidades

167
00:09:21,120 --> 00:09:24,520
y entonces digamos que están muy centradas
en las oportunidades.

168
00:09:24,560 --> 00:09:28,320
Hay menos posibilidades de reflexión
en torno a los riesgos.

169
00:09:28,360 --> 00:09:33,160
Por eso mis transparencias se van
a centrar fundamentalmente en los riesgos.

170
00:09:33,280 --> 00:09:36,600
Y os digo, pero no porque crea
que es más importante ni tiene más peso,

171
00:09:36,600 --> 00:09:39,600
sino porque ya que tengo esta oportunidad
y ya que tenemos esta oportunidad

172
00:09:39,600 --> 00:09:42,600
en el primavera,
te vamos a centrarnos aquí. ¿No?

173
00:09:43,080 --> 00:09:47,520
Bueno, la oficina C del Parlamento

174
00:09:47,600 --> 00:09:51,480
no sé si la conocéis, pero es una oficina
bastante interesante que intenta acercar

175
00:09:51,480 --> 00:09:56,080
la ciencia a los diputados y diputadas
para que adapten las políticas públicas.

176
00:09:56,520 --> 00:09:59,200
Bueno, pues tiene una serie de documentos
y hay uno

177
00:09:59,200 --> 00:10:01,080
sobre la inteligencia artificial
y la educación

178
00:10:01,080 --> 00:10:05,120
bastante reciente, donde resume muy bien
cuáles son los riesgos que deberíamos

179
00:10:05,120 --> 00:10:09,360
intentar minimizar en el ámbito educativo
si utilizamos inteligencia artificial.

180
00:10:09,360 --> 00:10:12,360
No habla de la protección de datos, de la

181
00:10:12,640 --> 00:10:17,360
de la vigilancia, de los sesgos,
de los efectos en las capacidades humanas.

182
00:10:17,600 --> 00:10:22,080
De estos temas vamos a hablar ahora
a continuación de la desconexión social

183
00:10:22,680 --> 00:10:25,720
y el posible aislamiento
de los estudiantes

184
00:10:25,840 --> 00:10:29,560
del efecto filtro del gasto energético
y coste ambiental.

185
00:10:29,800 --> 00:10:33,280
Este tema lo vamos a trabajar poco,
pero creemos que es de muchísima

186
00:10:33,280 --> 00:10:37,200
relevancia y deberían de estar
los alumnos mucho más sensibilizados

187
00:10:37,200 --> 00:10:40,720
y no lo están, porque sobre esto
yo sí que trabajo con ellos.

188
00:10:40,760 --> 00:10:44,520
Y realmente la crisis ecosocial que está
generando la inteligencia artificial

189
00:10:44,520 --> 00:10:50,480
en general a los estudiantes les parece
que tiene un interés muy, muy secundario.

190
00:10:50,480 --> 00:10:53,080
¿Y esto es es relevante?

191
00:10:53,080 --> 00:10:55,560
¿Bueno, el tema de la comercialización,
de la educación,

192
00:10:55,560 --> 00:10:58,560
de la privatización encubierta,
por ejemplo,

193
00:10:58,720 --> 00:11:01,560
el tema de las inexactitudes
y las alucinaciones, que también

194
00:11:01,560 --> 00:11:06,280
vamos a comentar, el uso de la IA
por parte de menores, el tema del plagio,

195
00:11:06,320 --> 00:11:10,840
el tema de las de cómo evidenciar la copia
y luego el tema de la evaluación, no?

196
00:11:10,880 --> 00:11:14,920
¿Que nos tendría que hacer replantearnos
en nuestros métodos tradicionales?

197
00:11:14,960 --> 00:11:18,880
Bueno, esto es como una
un resumen, no un resumen de algunas

198
00:11:18,880 --> 00:11:22,360
de las cosas que vamos a trabajar y tenéis
a vuestra disposición, por supuesto,

199
00:11:22,400 --> 00:11:26,520
el informe y y podéis echarle un vistazo.

200
00:11:26,520 --> 00:11:29,520
¿Eh, eh, Bueno, los riesgos que

201
00:11:29,520 --> 00:11:34,000
las propias empresas
reconocen en sus informes,

202
00:11:34,040 --> 00:11:37,040
pues también coinciden con los
que vamos a trabajar aquí, no?

203
00:11:37,160 --> 00:11:39,720
Algunos de ellos, otros
a lo mejor les dan menos peso.

204
00:11:39,720 --> 00:11:41,640
Es curioso que, por ejemplo, OpenAI

205
00:11:41,640 --> 00:11:44,880
haga referencia a las alucinaciones,
al contenido nocivo,

206
00:11:44,920 --> 00:11:48,000
a problemas en la representación
y la calidad del servicio.

207
00:11:48,000 --> 00:11:50,360
¿Desinformación?

208
00:11:50,360 --> 00:11:53,680
Bueno, temas de armas,
temas de privacidad, ciberseguridad

209
00:11:54,840 --> 00:11:59,000
e impactos
económicos, el tema de la aceleración,

210
00:11:59,040 --> 00:12:03,280
el tema de la dependencia y de la o

211
00:12:04,400 --> 00:12:07,040
sobre confianza en los temas de IA.

212
00:12:07,040 --> 00:12:08,360
No, aquí por ejemplo,

213
00:12:08,360 --> 00:12:10,640
no se hace alusión
a los temas ambientales,

214
00:12:10,640 --> 00:12:12,720
no se hace alusión a la
descarga cognitiva.

215
00:12:12,720 --> 00:12:17,960
¿O sea que bueno, cada uno
afronta y orienta los riesgos eh?

216
00:12:18,560 --> 00:12:22,520
¿Pues a su según su según sus eh,

217
00:12:23,240 --> 00:12:25,760
su jerarquía de valores también, no?

218
00:12:25,760 --> 00:12:29,920
Eh Bueno, entonces yo me voy a centrar
como tenemos, el tiempo es limitado,

219
00:12:29,920 --> 00:12:33,240
me voy a centrar fundamentalmente
en cuatro de estos riesgos

220
00:12:33,880 --> 00:12:36,920
y el primero de ellos
es el tema de las alucinaciones.

221
00:12:36,920 --> 00:12:41,920
El tema de las naciones es como un riesgo,

222
00:12:42,160 --> 00:12:45,400
eh, de bulto que todo el mundo conoce. Y

223
00:12:46,400 --> 00:12:48,600
de hecho y

224
00:12:48,600 --> 00:12:52,360
en el caso de chat GPT, eh, vamos,
las alucinaciones

225
00:12:52,360 --> 00:12:56,640
no son una cosa refinada,
sino que es que son errores,

226
00:12:57,000 --> 00:13:00,600
a veces de bulto, pero de bulto de bulto
que a mí me asustan porque digo

227
00:13:00,640 --> 00:13:04,720
bueno, ya, indudablemente
hay que irse a otro o bien pagar,

228
00:13:05,040 --> 00:13:08,680
que yo estoy segura que el modelo de pago
funciona mucho mejor.

229
00:13:08,720 --> 00:13:12,800
¿O quizás cambiarse,
no cambiarse de de modelo, eh?

230
00:13:13,560 --> 00:13:15,240
¿Puedes ponerme algún
ejemplo de alucinación

231
00:13:15,240 --> 00:13:18,000
que haya cometido la IA en relación
a la educación, por ejemplo?

232
00:13:18,000 --> 00:13:21,240
Le pregunto Bueno, pues te da esto
lo sabemos todos,

233
00:13:21,360 --> 00:13:24,520
te da referencias que no, que no existen.

234
00:13:24,640 --> 00:13:26,680
¿Yo esta mañana
le he preguntado y esta referencia existe?

235
00:13:26,680 --> 00:13:30,120
No, no existe, caramba, pero
si me la diste tú, le podría decir yo.

236
00:13:30,560 --> 00:13:33,440
¿Entonces,
bueno, esto es una cosa que tendríamos

237
00:13:33,440 --> 00:13:38,280
que tener mucho cuidado,
porque los errores que comete el modelo

238
00:13:38,360 --> 00:13:42,920
en E,
sobre todo en asignaturas como la mía, eh?

239
00:13:42,920 --> 00:13:44,080
¿Y bueno,

240
00:13:44,080 --> 00:13:47,960
supongo que afectarán a todas las áreas,
pero yo estoy viendo que en las áreas

241
00:13:47,960 --> 00:13:51,280
en las que yo trabajo,
en las áreas de ética, de regulación

242
00:13:51,720 --> 00:13:54,240
son errores grandes, no?

243
00:13:54,240 --> 00:13:56,960
O le preguntábamos
Sácame una imagen de un vikingo.

244
00:13:56,960 --> 00:13:59,800
Este es un ejemplo
que ponía Luisfer en otra sesión.

245
00:13:59,800 --> 00:14:02,520
¿Bueno, pues el de piel negra no?

246
00:14:02,520 --> 00:14:06,360
¿O sea, es que son
son errores, eh, Muy gordos, no?

247
00:14:06,400 --> 00:14:07,360
El otro día

248
00:14:08,400 --> 00:14:10,200
estaba yo corrigiendo una

249
00:14:10,200 --> 00:14:13,920
una entrega de un trabajo con el borrador.

250
00:14:13,960 --> 00:14:18,880
Todavía había plazo para terminarla,
pero era una como una tutoría intermedia

251
00:14:19,000 --> 00:14:23,320
de un trabajo de una asignatura, eh,
en ciencia de datos.

252
00:14:23,360 --> 00:14:26,280
Y entonces le entregué la rúbrica
y le entregué el trabajo final.

253
00:14:26,280 --> 00:14:27,160
Y me dicen el trabajo

254
00:14:27,160 --> 00:14:31,240
presenta un nivel notablemente alto,
tanto en contenido como en estructura.

255
00:14:31,920 --> 00:14:34,640
Me da una serie de cosas
y luego dice El trabajo se sitúa

256
00:14:34,640 --> 00:14:37,640
claramente en la franja alta de la
rúbrica.

257
00:14:38,120 --> 00:14:39,960
Vamos, lo veo yo.

258
00:14:39,960 --> 00:14:43,800
Me miré el trabajo
y desde luego el trabajo ni ni tenía

259
00:14:43,800 --> 00:14:47,040
un nivel notablemente alto
ni se situaba en la franja alta.

260
00:14:47,360 --> 00:14:51,840
¿O sea,
tenía algunos defectos e importantes, no?

261
00:14:52,360 --> 00:14:52,760
Entonces.

262
00:14:52,760 --> 00:14:56,560
Bueno, yo no sé si esto es lo que
nos va a ayudar en la evaluación.

263
00:14:56,560 --> 00:14:59,440
Yo necesito todavía
otros modelos un poco más refinados.

264
00:14:59,440 --> 00:15:00,360
Desde luego.

265
00:15:00,360 --> 00:15:04,040
¿Cuáles son los impactos de la
de todas estas alucinaciones?

266
00:15:04,040 --> 00:15:07,400
Bueno, pues los impactos, claro son
son muy relevantes.

267
00:15:07,520 --> 00:15:10,040
La desinformación, la falsedad.

268
00:15:10,040 --> 00:15:13,760
Tema de sesgos,
tema de impacto en la toma de decisiones.

269
00:15:13,800 --> 00:15:16,800
¿No sé si yo me decía ese pensé acepte

270
00:15:16,800 --> 00:15:19,800
para corregir los trabajos realmente, eh?

271
00:15:19,800 --> 00:15:20,360
En fin,

272
00:15:21,680 --> 00:15:24,680
viendo cuál es el nivel no he

273
00:15:25,240 --> 00:15:27,000
pérdida de confianza del usuario.

274
00:15:27,000 --> 00:15:30,000
¿Yo creo que este es un
un impacto muy importante, no?

275
00:15:30,040 --> 00:15:35,000
De lo de las alucinaciones no, yo
desde luego no tengo mucha confianza.

276
00:15:35,280 --> 00:15:38,840
¿Y las vulnerabilidades de seguridad?

277
00:15:38,840 --> 00:15:41,840
El incumplimiento de leyes. Bueno,

278
00:15:42,520 --> 00:15:46,200
os dejo ahí
unas cuantas referencias sobre cómo

279
00:15:47,360 --> 00:15:49,800
cómo reaccionar
frente a estas alucinaciones

280
00:15:49,800 --> 00:15:52,880
y también desde el punto de vista técnico,
que esa no es tanto mi especialidad.

281
00:15:52,920 --> 00:15:56,800
¿Pero hay mucho trabajo que se está
haciendo en torno a este,

282
00:15:56,840 --> 00:15:57,760
a este asunto no?

283
00:15:57,760 --> 00:16:00,760
Bueno, este es un un problema,

284
00:16:01,000 --> 00:16:04,000
otro, otro problema,

285
00:16:04,160 --> 00:16:07,160
otro problema que tiene la la.

286
00:16:07,480 --> 00:16:09,760
¿La inteligencia artificial en la docencia

287
00:16:09,760 --> 00:16:13,080
es el asunto de la de la
descarga cognitiva, no?

288
00:16:13,480 --> 00:16:18,720
Eh, bueno, eh, indudablemente hay estudios

289
00:16:20,440 --> 00:16:23,440
que sí,
efectivamente son muy concluyentes y

290
00:16:24,720 --> 00:16:26,400
según los cuales, bueno,

291
00:16:26,400 --> 00:16:30,320
pues parece que un uso continuado
de inteligencia artificial

292
00:16:30,320 --> 00:16:35,320
por parte del alumnado, eh
en algunas tareas que son esenciales.

293
00:16:35,320 --> 00:16:39,800
Por ejemplo, este estudio que tengo
ahí, eh es

294
00:16:40,680 --> 00:16:43,880
es un en el ámbito de las matemáticas,
pero también

295
00:16:43,920 --> 00:16:46,920
en el ámbito de la programación
en otros ámbitos.

296
00:16:47,280 --> 00:16:51,840
Claro, habrá que ver en qué ámbito nos
está descargando cognitivamente,

297
00:16:51,880 --> 00:16:55,120
pero desde luego el utilizar
por parte del alumnado

298
00:16:55,120 --> 00:16:58,240
la inteligencia artificial en tareas
que son muy relevantes.

299
00:16:58,240 --> 00:17:01,880
Voy a decir tareas que son relevantes
para mí.

300
00:17:01,880 --> 00:17:05,960
¿Por ejemplo, relevante es la capacidad
de razonamiento y pensamiento crítico, no?

301
00:17:07,240 --> 00:17:09,040
Y también es importante

302
00:17:09,040 --> 00:17:13,000
la capacidad de expresión
oral y escrita. Mmm.

303
00:17:13,160 --> 00:17:15,000
Entonces, en ambas cosas.

304
00:17:15,000 --> 00:17:16,640
¿En ambas cosas, eh?

305
00:17:18,400 --> 00:17:21,400
El impacto está siendo negativo. Mmm.

306
00:17:22,200 --> 00:17:25,800
Por lo menos en la literatura
que yo he ido revisando, que he revisado

307
00:17:26,200 --> 00:17:30,200
bastante literatura,
es cierto, y ahora la vamos a

308
00:17:30,760 --> 00:17:34,200
a poner de manifiesto
que hay otra parte de la literatura

309
00:17:34,200 --> 00:17:38,320
que es mucho más optimista
y que, bueno, sí que tiene.

310
00:17:38,880 --> 00:17:42,600
¿Mmm resultados positivos, no?

311
00:17:42,720 --> 00:17:46,960
En en relaciona positivamente
el uso de inteligencia artificial

312
00:17:46,960 --> 00:17:49,240
y el pensamiento crítico del estudiantado

313
00:17:49,240 --> 00:17:52,280
o el refuerzo de sus capacidades,
etcétera.

314
00:17:52,320 --> 00:17:57,760
Hay alguna literatura en ese sentido,
pero es menos cantidad de literatura

315
00:17:57,760 --> 00:18:02,280
y desde luego la que hay en el sentido
de un uso

316
00:18:02,560 --> 00:18:06,040
muy extendido de inteligencia artificial
para tareas importantes

317
00:18:07,040 --> 00:18:09,760
como son estas del pensamiento

318
00:18:09,760 --> 00:18:14,800
crítico, tareas de razonamiento
y de pensamiento abstracto.

319
00:18:15,040 --> 00:18:18,040
Tareas como la expresión oral y escrita

320
00:18:18,040 --> 00:18:21,240
eh hace que el estudiantado bueno

321
00:18:22,640 --> 00:18:24,080
se descargue cognitivamente,

322
00:18:24,080 --> 00:18:27,640
es decir, que el estudiantado
pierda algunas capacidades.

323
00:18:27,960 --> 00:18:30,960
El otro día en el ámbito de Primavera
Tech,

324
00:18:31,840 --> 00:18:34,720
la profesora Estefanía Avilés,

325
00:18:34,720 --> 00:18:39,800
que habló aquí sobre unos temas
de aprendizaje basado en proyectos y

326
00:18:40,440 --> 00:18:44,040
y otras cosas,
hacía alusión a esta década cognitiva

327
00:18:44,480 --> 00:18:47,960
que ella lo había, lo había observado.

328
00:18:48,280 --> 00:18:51,400
No se sabe si es como consecuencia del uso
de la inteligencia artificial,

329
00:18:51,400 --> 00:18:53,720
pero sí que había observado
cierta descarga.

330
00:18:53,720 --> 00:18:56,720
¿Agonizaba en el estudiantado,
en estas competencias,

331
00:18:56,720 --> 00:19:02,560
en estas competencias de expresión
oral y expresión escrita, no?

332
00:19:03,560 --> 00:19:08,400
Bueno, aquí, por ejemplo, en este estudio
al que os hago referencia del año pasado,

333
00:19:08,400 --> 00:19:11,480
bueno, de 2024, el hallazgo clave

334
00:19:11,480 --> 00:19:15,200
fue que cuando se retiró
el acceso al base,

335
00:19:15,240 --> 00:19:18,280
los estudiantes obtuvieron
pero resultados en los exámenes

336
00:19:18,320 --> 00:19:22,400
que aquellos que nunca tuvieron acceso
una reducción del 17%.

337
00:19:23,040 --> 00:19:26,280
Esto sugiere que el acceso a
a esta herramienta

338
00:19:26,280 --> 00:19:29,920
puede dañar los resultados educativos si
no se implementan las medidas adecuadas.

339
00:19:29,960 --> 00:19:32,960
Bueno, esta es una una referencia,

340
00:19:33,080 --> 00:19:36,080
eh, En el mismo estudio.

341
00:19:36,360 --> 00:19:40,840
¿Bueno, pues también También hacen
referencia a que estas herramientas

342
00:19:41,480 --> 00:19:44,720
pueden facilitar tareas
pero conllevan el riesgo

343
00:19:44,720 --> 00:19:46,680
de deteriorar
las capacidades de los estudiantes

344
00:19:46,680 --> 00:19:50,840
para aprender habilidades necesarias
para resolver dichas tareas, no?

345
00:19:51,200 --> 00:19:53,480
Bueno, a mí esto me parece preocupante.

346
00:19:53,480 --> 00:19:59,160
Desde luego, si las tareas que se
están descargando son tareas

347
00:20:00,520 --> 00:20:01,560
relevantes para el

348
00:20:01,560 --> 00:20:06,120
estudiantado y desde luego
el razonamiento crítico y la comunicación

349
00:20:06,120 --> 00:20:10,280
oral y escrita creo que son de las tareas
competencias blandas.

350
00:20:10,560 --> 00:20:13,560
¿Mmm más relevantes hoy día no?

351
00:20:13,680 --> 00:20:19,320
O sea que se necesita, que se necesitan
de manera clarísima y todos los estudios

352
00:20:19,320 --> 00:20:24,520
y todas las empresas con las que hablamos
nos lo nos lo recuerdan.

353
00:20:25,240 --> 00:20:27,520
Si realmente el uso
de la inteligencia artificial,

354
00:20:27,520 --> 00:20:30,800
pues porque se esté haciendo mal,
porque no sabemos orientarlo

355
00:20:30,800 --> 00:20:33,520
o por el motivo que sea,
está teniendo esta consecuencia.

356
00:20:33,520 --> 00:20:36,520
¿Bueno, pues yo creo que es para
para preocuparse, no?

357
00:20:36,520 --> 00:20:38,880
Aquí tenéis otra.

358
00:20:38,880 --> 00:20:40,360
¿Otra?

359
00:20:40,360 --> 00:20:42,440
Vale. Deterioro de las capacidades.

360
00:20:42,440 --> 00:20:45,400
Este es el mismo estudio y aquí tenéis
otro estudio también ya

361
00:20:45,400 --> 00:20:48,400
de 2026. Eh,

362
00:20:48,880 --> 00:20:54,280
del de la Universidad de Sídney,
que también concluye en la misma.

363
00:20:54,320 --> 00:20:56,240
En la misma línea, no. La.

364
00:20:56,240 --> 00:20:59,000
La comodidad que ofrece la IA
puede mermar la implicación

365
00:20:59,000 --> 00:21:02,080
de los alumnos en los procesos esenciales
de aprendizaje autorregulado,

366
00:21:02,560 --> 00:21:05,400
en la planificación,
en el seguimiento, en la revisión.

367
00:21:05,400 --> 00:21:11,920
Bueno, eh,
como os decía, hay sin embargo, otra línea

368
00:21:13,040 --> 00:21:16,280
de trabajo que tampoco podemos desde

369
00:21:17,200 --> 00:21:20,120
y os he sacado estos.

370
00:21:20,120 --> 00:21:23,280
Estas referencias que parece que arrojan

371
00:21:23,880 --> 00:21:27,720
arrojan resultados
a veces un poco distintos, o sea, como

372
00:21:27,720 --> 00:21:31,480
que no creen que la descarga conectiva
sea tan tan tan relevante.

373
00:21:31,480 --> 00:21:35,160
Es decir, bueno, eh,
hay estudios en todas las direcciones.

374
00:21:35,320 --> 00:21:40,200
O sea, bueno, el asunto requiere, yo creo,
más investigación, sin ninguna duda.

375
00:21:40,240 --> 00:21:42,400
Lo que pasa es que esto tiene un problema.

376
00:21:42,400 --> 00:21:45,480
La inteligencia artificial tiene problema,
y es que como todo va tan rápido,

377
00:21:45,520 --> 00:21:50,840
a veces los resultados acerca del impacto
que la inteligencia artificial

378
00:21:50,880 --> 00:21:54,960
tiene en derechos fundamentales
como sería el derecho a la educación

379
00:21:55,000 --> 00:21:56,280
en nuestro caso,

380
00:21:56,280 --> 00:21:59,960
porque la descarga cognitiva
no deja de ser un asunto relacionado

381
00:21:59,960 --> 00:22:01,400
con el derecho a la educación.

382
00:22:01,400 --> 00:22:05,440
O sea, si tú descargas cognitivamente
en algunos aspectos esenciales

383
00:22:05,480 --> 00:22:10,880
al alumnado, al final estás teniendo
un impacto en su derecho a la educación.

384
00:22:10,920 --> 00:22:13,400
¿O sea que
esto no es una cosa trivial, no?

385
00:22:13,400 --> 00:22:14,800
El problema es que los impactos

386
00:22:14,800 --> 00:22:18,800
en los derechos
requieren estudios de medio y largo plazo.

387
00:22:19,040 --> 00:22:22,440
¿O sea, los estudios de impacto
no se hacen así tan rápidamente

388
00:22:22,440 --> 00:22:25,640
como se despliegan los sistemas
de inteligencia artificial, no?

389
00:22:25,680 --> 00:22:29,160
¿Que en dos días
tienen millones de usuarios, no?

390
00:22:29,560 --> 00:22:32,560
Entonces ahí tenemos como una falta de,

391
00:22:33,040 --> 00:22:38,280
eh, una dificultad por los ritmos,
por los ritmos, no los ritmos de trabajo

392
00:22:38,280 --> 00:22:42,120
de los investigadores y los ritmos
de trabajo de los de los técnicos.

393
00:22:42,120 --> 00:22:45,120
No, los técnicos van siempre a toda,
a toda pastilla.

394
00:22:45,600 --> 00:22:49,360
Lo mismo pasa con las soluciones legales,
que siempre se dice que si los

395
00:22:49,400 --> 00:22:53,240
las soluciones jurídicas,
la legislación siempre llega tarde. Mmm.

396
00:22:53,400 --> 00:22:55,040
Pero claro, es que siempre llega tarde,

397
00:22:55,040 --> 00:22:58,960
porque para sacar una ley
pues hace falta un proceso participativo.

398
00:22:58,960 --> 00:23:01,600
Hay que probarlo en los parlamentos.

399
00:23:01,600 --> 00:23:04,600
Para que haya seguridad jurídica
necesitamos tiempo.

400
00:23:04,840 --> 00:23:08,720
Entonces, bueno, pues esto es un problema,
es un problema los ritmos

401
00:23:08,880 --> 00:23:12,920
a los que trabajan, las distintas,
eh, las distintas especialidades.

402
00:23:13,120 --> 00:23:16,640
Bueno, esto por otro lado, el tema de la

403
00:23:16,640 --> 00:23:19,640
descarga cognitiva, tercer riesgo que a mí
me parece relevante.

404
00:23:19,640 --> 00:23:21,560
Bueno, no es trivial.

405
00:23:21,560 --> 00:23:27,080
¿Y vamos, lo habéis señalado en la
en el formulario que nos preguntábamos

406
00:23:27,120 --> 00:23:30,160
hay alguna gente que sí que se preocupa
por la protección de datos,

407
00:23:30,160 --> 00:23:34,040
por la por la subida de datos sensibles
a los modelos?

408
00:23:34,080 --> 00:23:38,440
Hay alguna gente que está preocupada por
por este asunto e indudablemente

409
00:23:38,680 --> 00:23:40,200
es relevante.

410
00:23:40,200 --> 00:23:44,080
Primera cuestión
no debes introducir datos personales

411
00:23:45,200 --> 00:23:46,280
en los modelos.

412
00:23:46,280 --> 00:23:46,960
Yo creo que eso.

413
00:23:46,960 --> 00:23:49,280
En general
todos tenemos bastante sensibilidad,

414
00:23:49,280 --> 00:23:52,000
pero me da la impresión
de que los estudiantes tienen menos,

415
00:23:52,000 --> 00:23:56,600
porque yo llevo muchos años explicándoles
la protección de datos a los alumnos

416
00:23:56,600 --> 00:24:00,640
y las alumnas de esta escuela
y de otras escuelas con las que colaboro.

417
00:24:00,640 --> 00:24:04,800
¿Y la verdad es que
el alumnado en general, así

418
00:24:04,800 --> 00:24:08,360
como os decía al principio, que en torno
al asunto del impacto medio ambiente

419
00:24:08,360 --> 00:24:12,400
no tienen mucha preocupación,
tampoco la tienen con la privacidad, eh?

420
00:24:12,560 --> 00:24:14,880
O sea, son, eh,

421
00:24:14,880 --> 00:24:17,360
son jóvenes que han nacido ya

422
00:24:17,360 --> 00:24:22,320
con todas estas herramientas
a su disposición y realmente la privacidad

423
00:24:22,320 --> 00:24:26,600
no es un asunto que les preocupe
de manera muy importante.

424
00:24:26,640 --> 00:24:31,160
¿Eso es la conclusión que yo saco
porque les pregunto mucho

425
00:24:31,840 --> 00:24:32,880
y entonces me da la impresión

426
00:24:32,880 --> 00:24:35,920
de que ellos meten ahí datos personales
y todo lo que haga falta, no?

427
00:24:36,240 --> 00:24:37,960
Datos personales es cualquier información

428
00:24:37,960 --> 00:24:40,960
que se refiera a una persona
física identificada o identificable.

429
00:24:40,960 --> 00:24:43,960
Entonces datos de investigación
que no sean públicos, datos financieros,

430
00:24:43,960 --> 00:24:47,240
de recursos humanos, de expedientes
académicos, información médica. No,

431
00:24:48,280 --> 00:24:50,040
no se deben incluir.

432
00:24:50,040 --> 00:24:54,240
Y la información compartida
con las herramientas de IA generativa.

433
00:24:54,240 --> 00:24:55,680
Tenemos que tener cuidado

434
00:24:55,680 --> 00:24:59,600
porque normalmente la configuración
predeterminada, la configuración

435
00:24:59,600 --> 00:25:04,360
que tienen estas herramientas por defecto,
eh, no es privada.

436
00:25:04,560 --> 00:25:07,520
Sucede lo mismo que con las redes sociales
que tienen.

437
00:25:07,520 --> 00:25:10,800
No tienen configurada la la privacidad

438
00:25:10,920 --> 00:25:14,200
por defecto, sino que es el usuario
el que tiene que configurarlo.

439
00:25:14,200 --> 00:25:18,800
Y la verdad es que
la gente no nos dedicamos normalmente.

440
00:25:19,560 --> 00:25:22,360
¿No sé vosotros, no solemos

441
00:25:22,360 --> 00:25:25,360
hacer una configuración de la privacidad

442
00:25:25,360 --> 00:25:28,360
y entonces bueno, pues estamos expuestos a

443
00:25:29,640 --> 00:25:32,640
a amenazar a la privacidad, no?

444
00:25:33,200 --> 00:25:35,680
En esto, por ejemplo,

445
00:25:35,680 --> 00:25:38,920
son los argumentos
que yo suelo utilizar con mis estudiantes.

446
00:25:38,960 --> 00:25:42,280
¿Bueno, y en general en las conferencias
que doy siempre dedico mucho tiempo

447
00:25:42,320 --> 00:25:43,720
a este asunto, no?

448
00:25:43,720 --> 00:25:48,400
De recordar que la privacidad por un lado
es un derecho,

449
00:25:48,400 --> 00:25:50,720
pero también es un valor ético
que tiene muchísimo consenso.

450
00:25:50,720 --> 00:25:54,160
O sea que cuando tú preguntas a la gente,

451
00:25:54,720 --> 00:25:59,920
exceptuando los alumnos por su juventud
pero en general proliferan los estudios

452
00:25:59,920 --> 00:26:03,040
sobre el valor ético de la privacidad
en el campo de la ética.

453
00:26:03,160 --> 00:26:06,600
Cada vez hay más estudios en torno
a la privacidad.

454
00:26:06,680 --> 00:26:08,080
¿No, eh?

455
00:26:08,080 --> 00:26:11,080
Por otro lado, hay escándalos
que nos deberían hacer pensar

456
00:26:11,160 --> 00:26:14,160
No podemos contar estos,

457
00:26:14,320 --> 00:26:18,400
estos escándalos, pero sí que os dejo ahí
los enlaces porque son muy relevantes.

458
00:26:18,640 --> 00:26:22,000
O sea, el escándalo de Cambridge
Analytica es un escándalo

459
00:26:22,240 --> 00:26:28,480
brutal, brutal, de cómo la democracia
está absolutamente amenazada

460
00:26:28,480 --> 00:26:33,400
por el tipo de uso que se está
haciendo de los datos de opinión política.

461
00:26:33,520 --> 00:26:38,240
¿Y los datos de opinión política
están dispersos por por Internet, eh

462
00:26:38,840 --> 00:26:42,880
en las en las redes sociales de opinión
de manera más más clara, no?

463
00:26:43,400 --> 00:26:49,240
¿Eh, Bueno, el segundo escándalo
es el de las aplicaciones móviles, eh?

464
00:26:50,000 --> 00:26:53,000
De salud mental,
de apoyo a la salud mental.

465
00:26:53,160 --> 00:26:55,240
Todos estos programas que

466
00:26:56,240 --> 00:26:57,560
que utilizan

467
00:26:57,560 --> 00:27:00,560
por lo menos los jóvenes hoy día

468
00:27:00,560 --> 00:27:04,120
como sustitutos de las terapias
habitualmente, o sea,

469
00:27:04,200 --> 00:27:07,400
no como un complemento a la terapia,
en cuyo caso pues podría estar muy bien,

470
00:27:07,560 --> 00:27:11,480
sino como
como sustitución de las de las terapias.

471
00:27:11,480 --> 00:27:17,880
Estas aplicaciones tampoco
son un ejemplo de respeto a la privacidad

472
00:27:17,920 --> 00:27:21,280
y la verdad
que se te ponen los pelos de punta.

473
00:27:21,320 --> 00:27:26,240
Y luego el tercer escándalo
es el relativo a una neurotecnología o un

474
00:27:26,560 --> 00:27:29,520
un casco de medición de impacto cerebral,

475
00:27:29,520 --> 00:27:32,880
de medición, de de

476
00:27:34,000 --> 00:27:38,080
de rendimiento cerebral
que está al alcance de cualquiera

477
00:27:38,200 --> 00:27:41,200
por Internet Y como como

478
00:27:41,240 --> 00:27:45,160
hubo un asunto que llegó
incluso a los tribunales en Chile

479
00:27:45,160 --> 00:27:48,240
y condenaron a la empresa por mal
uso de los datos personales.

480
00:27:48,920 --> 00:27:52,080
Entonces, bueno, ya sabemos
que los datos personales son el petróleo

481
00:27:52,080 --> 00:27:57,880
de la economía digital y además el
el la protección de datos condiciona.

482
00:27:57,920 --> 00:28:02,040
¿O sea, es muy importante porque
condiciona otros, otros derechos no?

483
00:28:02,080 --> 00:28:05,880
Como el acceso al trabajo, al crédito,
a los beneficios sociales.

484
00:28:05,920 --> 00:28:07,880
O sea, la privacidad no es una.

485
00:28:07,880 --> 00:28:09,000
¿No es una broma, no?

486
00:28:09,000 --> 00:28:09,400
Entonces.

487
00:28:09,400 --> 00:28:10,960
Bueno, como no es una broma,

488
00:28:10,960 --> 00:28:15,720
conviene que hagamos un uso responsable
y no metamos nuestros datos en, eh,

489
00:28:17,040 --> 00:28:18,600
en la IA cuando la utilizamos.

490
00:28:18,600 --> 00:28:20,160
No. Eh.

491
00:28:20,160 --> 00:28:23,760
O Y reconocen uno de sus
de sus documentos,

492
00:28:23,760 --> 00:28:28,120
por ejemplo, que el modelo puede completar
múltiples tareas básicas

493
00:28:28,120 --> 00:28:29,200
que pueden estar relacionadas

494
00:28:29,200 --> 00:28:32,400
con información personal
y geográfica, como determinar

495
00:28:32,400 --> 00:28:36,280
las ubicaciones geográficas
asociadas a un número de teléfono. Sí.

496
00:28:36,520 --> 00:28:39,520
O sea que. Bueno, eh,

497
00:28:39,880 --> 00:28:40,560
esto es así.

498
00:28:40,560 --> 00:28:41,960
¿Ellos mismos lo reconocen, no?

499
00:28:41,960 --> 00:28:43,960
Bueno, ahí os recuerdo un poco.

500
00:28:43,960 --> 00:28:45,600
Aunque esto lo vamos a pasar rápido.

501
00:28:45,600 --> 00:28:47,680
¿Cuáles son estos principios
de la protección de datos?

502
00:28:47,680 --> 00:28:50,360
No. De cómo hemos de,

503
00:28:50,360 --> 00:28:53,880
eh, de tratar la información personal
que tenemos.

504
00:28:54,120 --> 00:28:56,920
Los profesores

505
00:28:56,920 --> 00:29:01,000
no somos responsables
de los de los ficheros de datos personales

506
00:29:01,000 --> 00:29:05,080
porque es la universidad la que
tiene la responsabilidad, pero nosotros y.

507
00:29:05,080 --> 00:29:08,720
¿Y bueno, la realidad es que manejamos
mucha información

508
00:29:08,720 --> 00:29:12,480
de los estudiantes,
con lo cual deberíamos de manejarla eh?

509
00:29:12,680 --> 00:29:15,600
¿Mmm, de forma segura,

510
00:29:15,600 --> 00:29:19,280
de forma justa,
sin transferirla a terceros, eh?

511
00:29:19,480 --> 00:29:23,440
¿Y con respeto pleno a los derechos
de los de los interesados, no?

512
00:29:23,480 --> 00:29:25,760
Entonces bueno, información personal

513
00:29:25,760 --> 00:29:28,760
es cualquier hoja de cálculo
en la que nosotros tenemos las

514
00:29:28,760 --> 00:29:33,960
las calificaciones o cualquier nota
que hagamos de un estudiante

515
00:29:34,800 --> 00:29:37,680
apreciaciones
sobre su desempeño académico.

516
00:29:37,680 --> 00:29:41,720
¿Todo eso es información
de carácter personal, no? ¿Eh

517
00:29:42,760 --> 00:29:43,440
Bueno, también

518
00:29:43,440 --> 00:29:44,680
para que tengamos claro que

519
00:29:44,680 --> 00:29:49,000
cuando hablamos de datos personales
y que hay que distinguir como distintos

520
00:29:49,000 --> 00:29:53,640
sujetos, nosotros somos los titulares
de nuestros propios datos, eh?

521
00:29:53,840 --> 00:29:55,160
El responsable.

522
00:29:55,160 --> 00:29:59,640
Si nosotros estamos diciendo el CPC,
por ejemplo, es es OpenAI, es la empresa,

523
00:30:00,680 --> 00:30:04,200
bueno, pues que tenga acceso a esos datos
en primer término.

524
00:30:04,200 --> 00:30:07,320
Pero luego hay una figura muy interesante
en protección de datos

525
00:30:07,360 --> 00:30:10,600
que es el encargado del tratamiento,
que son entidades

526
00:30:10,600 --> 00:30:14,240
que son intermediarias entre nosotros
y un responsable final.

527
00:30:14,800 --> 00:30:19,480
Y muy a menudo
estos encargados pasan muy desapercibidos.

528
00:30:19,520 --> 00:30:21,320
¿A veces no sabemos ni qué están,

529
00:30:21,320 --> 00:30:25,000
porque si open ella
y de pronto subcontrata un servicio a 1/3

530
00:30:25,000 --> 00:30:28,520
y le pasa a nuestros datos, nosotros
no nos vamos a enterar de eso, no?

531
00:30:28,560 --> 00:30:29,680
O sea que realmente

532
00:30:29,680 --> 00:30:33,920
la figura del encargado aparece
sin consentimiento por parte del usuario

533
00:30:33,960 --> 00:30:37,000
y es una figura que genera
muchísimos problemas en la práctica.

534
00:30:37,040 --> 00:30:41,400
Luego hablaremos más de esto
con algunos ejemplos que os traigo.

535
00:30:41,440 --> 00:30:46,200
¿Y entonces,
bueno, que seamos conscientes de esto, no?

536
00:30:46,400 --> 00:30:49,360
¿Bueno, dentro de los datos personales
hay que tener especial

537
00:30:49,360 --> 00:30:52,280
precaución
con los datos de carácter sensible,

538
00:30:52,280 --> 00:30:55,760
que son única y exclusivamente estos
que pongo ahí, no?

539
00:30:55,920 --> 00:30:59,480
Ideología, religión, creencias, origen
racial, salud, vida sexual,

540
00:30:59,520 --> 00:31:01,480
datos biométricos y datos genéticos.

541
00:31:01,480 --> 00:31:03,080
Esos son los únicos datos sensibles

542
00:31:03,080 --> 00:31:06,080
que establecen nuestra ley de protección
de datos.

543
00:31:06,080 --> 00:31:08,200
Y yo creo que sí, que es un

544
00:31:08,200 --> 00:31:12,080
un tema relevante distinguir
lo que son datos sensibles de lo que no,

545
00:31:12,120 --> 00:31:16,480
porque sobre los datos sensibles
recaen obligaciones mucho más reforzadas.

546
00:31:17,920 --> 00:31:19,160
Si se trata de datos sensibles,

547
00:31:19,160 --> 00:31:20,440
hay que tener un delegado de protección

548
00:31:20,440 --> 00:31:21,840
de datos,
hay que hacer estudios de impacto,

549
00:31:21,840 --> 00:31:23,960
hay que reforzar mucho
las medidas de seguridad.

550
00:31:23,960 --> 00:31:28,040
Digamos que son datos
además, que mal utilizados generan

551
00:31:28,720 --> 00:31:31,560
o tienen muchísimo
más impacto negativo en el usuario.

552
00:31:31,560 --> 00:31:35,680
Entonces es importante distinguir lo que
son datos sensibles de de los que no.

553
00:31:36,160 --> 00:31:39,640
Esto lo trabajo
yo mucho con mis estudiantes y es un tema

554
00:31:39,960 --> 00:31:42,720
que parece bastante fácil
de comprender por

555
00:31:42,720 --> 00:31:45,760
una inteligencia artificial, porque está
en la Ley de protección de datos.

556
00:31:45,800 --> 00:31:50,360
¿Bueno, pues si le pregunto al al
chat GPT, sabes dónde vive Jesús Salgado?

557
00:31:50,360 --> 00:31:52,920
¿Jesús Salgado
como si fuese único en el mundo?

558
00:31:52,920 --> 00:31:53,680
No tenía que haber dicho

559
00:31:53,680 --> 00:31:58,440
El profesor Salgado Criado no me dice
no tengo información sobre el domicilio

560
00:31:58,440 --> 00:32:02,280
de ninguna persona
y aunque la tuviera, no sería apropiado

561
00:32:02,280 --> 00:32:07,960
compartirla porque es un dato personal,
privado y sensible, dice.

562
00:32:08,000 --> 00:32:10,600
¿Y sensible, no?

563
00:32:10,600 --> 00:32:13,040
¿Esto sí
que es otra alucinación del PP, no?

564
00:32:13,040 --> 00:32:16,040
¿O sea, el dato de domicilio
no es un dato sensible, no?

565
00:32:16,440 --> 00:32:20,080
¿Entonces
digo, si el PP es capaz de alucinar

566
00:32:20,080 --> 00:32:23,600
con este, este, esta información
que es tan básica, no?

567
00:32:23,640 --> 00:32:29,560
¿O sea, realmente es una cosa como a mí
me asusta este nivel de fallos, no?

568
00:32:30,040 --> 00:32:33,800
Bueno, recientemente también
hemos sacado un estudio con otros

569
00:32:33,800 --> 00:32:35,400
profesores de la Escuela de

570
00:32:36,360 --> 00:32:39,000
de Telecomunicación de Ciudadanía.

571
00:32:39,000 --> 00:32:42,280
Eh, el profesor Álamo

572
00:32:42,280 --> 00:32:45,280
y el profesor Rodríguez Torrado, eh,

573
00:32:46,840 --> 00:32:48,360
son ingenieros de privacidad.

574
00:32:48,360 --> 00:32:52,840
¿Y bueno, pues lo que lo que sacamos de
este estudio es que más del 80%

575
00:32:52,840 --> 00:32:56,640
de las aplicaciones móviles eh

576
00:32:57,640 --> 00:33:01,040
no declaran los receptores, no?

577
00:33:01,280 --> 00:33:01,520
O sea,

578
00:33:01,520 --> 00:33:06,200
no declaran receptores de datos personales
cuando están enviando datos a terceros.

579
00:33:06,200 --> 00:33:09,160
Eh, eh, Por distintos motivos.

580
00:33:09,160 --> 00:33:10,080
Esto está muy relacionado

581
00:33:10,080 --> 00:33:11,640
con el uso
de las librerías de programación,

582
00:33:11,640 --> 00:33:14,000
pero la realidad es que se están
compartiendo.

583
00:33:14,000 --> 00:33:16,200
Nuestros datos personales se comparten.

584
00:33:16,200 --> 00:33:18,680
Ahí tenéis en el gráfico
los destinatarios.

585
00:33:18,680 --> 00:33:22,920
Google, Meta y Unity
son los destinatarios preferentes.

586
00:33:23,040 --> 00:33:26,280
Y además, en este estudio quedó claro que

587
00:33:26,280 --> 00:33:29,280
las las aplicaciones móviles

588
00:33:29,560 --> 00:33:32,840
en más de un 80% tampoco
cumplían sus políticas de privacidad.

589
00:33:33,080 --> 00:33:37,040
¿Dicen cosas pero que luego no cumplen
y además envían datos a terceros, no?

590
00:33:37,920 --> 00:33:41,400
Bueno, las aplicaciones
pueden usaría o no usarla,

591
00:33:41,400 --> 00:33:44,720
pero la realidad es que tenemos
este contexto de poco

592
00:33:44,720 --> 00:33:48,680
cumplimiento
de la normativa de protección de datos.

593
00:33:48,680 --> 00:33:51,680
Y luego ha salido,

594
00:33:51,720 --> 00:33:54,080
pues hace poquísimo ha salido.

595
00:33:54,080 --> 00:33:57,680
Yo no sé exactamente,
pero yo creo que fue hace semanas.

596
00:33:58,200 --> 00:34:01,440
El grupo de De Ideas
Software de la Carlos tres

597
00:34:02,400 --> 00:34:05,920
ha sacado también unas conclusiones
bastante alarmantes

598
00:34:05,960 --> 00:34:10,920
sobre cómo los asistentes
de inteligencia artificial están y

599
00:34:12,160 --> 00:34:14,640
están filtrando información personal.

600
00:34:14,640 --> 00:34:17,600
¿Esto lo han demostrado y no sé

601
00:34:17,600 --> 00:34:22,520
si aquí he puesto
el enlace en el en las notas, pero

602
00:34:23,120 --> 00:34:26,120
bueno, lo lo lo tengo que añadir eh?

603
00:34:26,480 --> 00:34:29,760
¿Tienen en GitHub
todo el desarrollo del trabajo

604
00:34:29,760 --> 00:34:33,440
que han que han hecho y bueno, pues
las conclusiones son estas que hay ahí no?

605
00:34:33,640 --> 00:34:36,640
O sea, realmente

606
00:34:37,080 --> 00:34:38,800
si tú sabes perplejo City,

607
00:34:38,800 --> 00:34:43,600
pues a quién se habilita
acceso a metadata a singular si utilizas

608
00:34:43,600 --> 00:34:46,840
antrópica meta intercom tal y a Google

609
00:34:46,840 --> 00:34:49,840
Analytics grog a TikTok a meta.

610
00:34:49,880 --> 00:34:53,600
O sea, realmente y esto es que está
demostrado porque estos son ingenieros

611
00:34:54,120 --> 00:34:57,560
de privacidad, también son súper punteros.

612
00:34:57,560 --> 00:35:02,600
¿Y bueno, a mí
la verdad que esto me da un poco de bueno,

613
00:35:03,200 --> 00:35:08,600
un poco de mal rollo en términos
así triviales, no?

614
00:35:08,880 --> 00:35:12,800
Eh DElía pregunta pregunta Jessica

615
00:35:13,280 --> 00:35:17,840
por reconfirmar el domicilio
no es un un dato

616
00:35:18,280 --> 00:35:23,120
eh, privado y sensible personal
es un dato personal, pero no es sensible.

617
00:35:23,200 --> 00:35:27,440
Ajá. Okay, No es un dato sensible, claro,
pero es privado.

618
00:35:27,440 --> 00:35:30,280
Estás violando la protección de datos
si lo subes.

619
00:35:30,280 --> 00:35:33,360
Si no es que tampoco que me generaba.

620
00:35:33,400 --> 00:35:34,320
Y por ejemplo

621
00:35:35,440 --> 00:35:36,520
listado anterior

622
00:35:36,520 --> 00:35:39,320
que has mencionado que lo ha puesto
aquí También Miguel lo ha recordado

623
00:35:39,320 --> 00:35:42,520
el origen racial, estado de salud,
opiniones políticas, preferencias.

624
00:35:42,520 --> 00:35:46,560
Bueno, todo lo que has dicho, pero claro,
hay expedientes, notas, no está.

625
00:35:46,600 --> 00:35:49,280
Entonces es un poco

626
00:35:49,280 --> 00:35:52,000
personales, claro,

627
00:35:52,000 --> 00:35:54,600
Hasta qué punto es claro.

628
00:35:54,600 --> 00:35:58,680
A ver, yo no quiero decir
que el resto de los datos personales

629
00:35:58,680 --> 00:36:01,800
no haya que ser cuidadoso con ellos,
porque hay que serlo.

630
00:36:01,840 --> 00:36:05,800
Para un estudiante sus calificaciones
es un dato muy relevante,

631
00:36:05,800 --> 00:36:08,800
pero no son datos sensibles. Mhm.

632
00:36:09,680 --> 00:36:14,040
Vale, digamos que es más problemático
hacer un mal uso de datos sensibles.

633
00:36:14,040 --> 00:36:16,280
Es más problemático,

634
00:36:16,280 --> 00:36:19,920
pero no todos los datos sensibles
hay que tratarlos con cuidado.

635
00:36:19,960 --> 00:36:25,520
¿Eso sí, pero los datos privados
de domicilio, expediente de notas y todo

636
00:36:25,520 --> 00:36:28,880
eso, también estaríamos violando
la Ley de Protección de datos, no?

637
00:36:29,280 --> 00:36:30,600
Claro, claro.

638
00:36:30,600 --> 00:36:33,440
Lo que pasa es que dentro de la Ley
de Protección de Datos

639
00:36:33,440 --> 00:36:36,560
se hace una diferencia entre los datos
sensibles y los que no lo son.

640
00:36:36,880 --> 00:36:39,920
¿Todos necesitan protección,
pero los sensibles

641
00:36:39,920 --> 00:36:42,920
tienen un nivel de protección
reforzada, no?

642
00:36:43,160 --> 00:36:47,840
Saber las sanciones, por ejemplo,
por incumplimiento, son mucho más altas

643
00:36:48,480 --> 00:36:52,160
y el impacto en los derechos
de las personas es mucho mayor.

644
00:36:52,600 --> 00:36:53,400
Rango Un.

645
00:36:53,400 --> 00:36:56,560
Un joven que utiliza
una aplicación de de estas de

646
00:36:57,520 --> 00:36:59,360
de salud mental no.

647
00:36:59,360 --> 00:37:04,400
Que lo utilizan en un porcentaje enorme
en un porcentaje enorme.

648
00:37:04,400 --> 00:37:07,880
Los alumnos utilizan estas aplicaciones
no. Y

649
00:37:09,040 --> 00:37:12,240
los datos de salud mental
son datos sensibles.

650
00:37:12,280 --> 00:37:14,320
O sea, es que si esas.

651
00:37:14,320 --> 00:37:17,520
Si esas aplicaciones ceden a terceros

652
00:37:17,560 --> 00:37:20,840
sin consentimiento,
es que es muy relevante.

653
00:37:20,880 --> 00:37:25,440
¿O sea, es que estamos hablando de una de,
o sea, de una información, eh?

654
00:37:27,920 --> 00:37:30,920
Es una información
que en el mundo empresarial

655
00:37:31,520 --> 00:37:35,880
descalifica a la persona
para acceder al mercado laboral. Mmm.

656
00:37:38,480 --> 00:37:41,440
Mmm. O sea,
yo he tenido una persona muy cercana

657
00:37:41,440 --> 00:37:45,040
en el semestre pasado con

658
00:37:45,400 --> 00:37:48,400
con un problema de salud mental y.

659
00:37:49,040 --> 00:37:52,040
Y para que os hagáis idea,

660
00:37:52,120 --> 00:37:53,920
ni en los registros

661
00:37:53,920 --> 00:37:59,160
que el centro de salud pasa a la empresa
ni en las comunicaciones de la empresa.

662
00:37:59,160 --> 00:38:03,680
Con esta persona
se ha llegado a a explicitar

663
00:38:03,800 --> 00:38:07,840
nunca que se trataba
de un tema de salud mental.

664
00:38:08,080 --> 00:38:12,800
O sea, es que el tema de salud mental
está proscrito, ya está proscrito.

665
00:38:12,800 --> 00:38:17,080
Es decir, que si tu empresa se llega,
o sea, si en tu empresa se llega a saber

666
00:38:17,080 --> 00:38:20,720
que tú
has tenido un episodio de salud mental,

667
00:38:21,480 --> 00:38:24,920
el que sea, eh, Vamos, que te la juegas.

668
00:38:25,160 --> 00:38:27,080
O sea que es que es muy fuerte.

669
00:38:27,080 --> 00:38:31,680
¿Entonces me refiero a que a que bueno,
a que el impacto que tiene en los derechos

670
00:38:31,800 --> 00:38:36,080
un mal uso de un de una
información de salud es muy relevante, no?

671
00:38:36,640 --> 00:38:40,840
¿Pero vamos, que como dices Jessica,
cualquier dato personal, cualquiera

672
00:38:41,840 --> 00:38:42,920
está dentro de la ley, por

673
00:38:42,920 --> 00:38:45,920
supuesto, y se deben de utilizar todos
bien, eh?

674
00:38:46,000 --> 00:38:48,000
Gracias. Bueno,

675
00:38:48,000 --> 00:38:50,160
vale más cosas.

676
00:38:50,160 --> 00:38:53,160
Celia esto pide Almudena.

677
00:38:53,160 --> 00:38:57,160
Si podemos compartir la web
de IT de GitHub

678
00:38:57,160 --> 00:39:02,320
del estudio de Si es que yo no sé
por qué no lo tengo ahí todo vale.

679
00:39:02,320 --> 00:39:03,800
Sí, sí, sí, sí.

680
00:39:03,800 --> 00:39:07,120
Ahora lo pongo en el ahora lo pongo en el

681
00:39:07,320 --> 00:39:10,400
voy a seguir
y cuando termine lo pongo en el chat.

682
00:39:10,440 --> 00:39:10,920
¿Vale?

683
00:39:10,920 --> 00:39:14,000
Porque ahora como estoy en este tema
no me puedo dispersar,

684
00:39:14,160 --> 00:39:19,600
pero si ahora os lo pongo
es él, es el profesor Marcelo que es un

685
00:39:19,880 --> 00:39:24,000
es un fiera en estas cosas y
la verdad es que yo me enteré por LinkedIn

686
00:39:24,640 --> 00:39:28,280
y mira que LinkedIn me tiene muy enfadada
porque utiliza, eh,

687
00:39:28,800 --> 00:39:30,440
O sea, se queda con todo, con todo.

688
00:39:30,440 --> 00:39:33,440
En esta información personal para, para,

689
00:39:33,440 --> 00:39:36,480
para alimentar a su
su inteligencia artificial.

690
00:39:36,760 --> 00:39:42,840
¿Pero bueno, hay que hay que entrar
en la configuración y y cambiarla no?

691
00:39:42,880 --> 00:39:46,200
Pero por defecto se queda
con todos nuestros datos personales.

692
00:39:46,640 --> 00:39:48,520
Bueno, más cosas

693
00:39:50,080 --> 00:39:51,200
entrenan con mis datos.

694
00:39:51,200 --> 00:39:53,400
Bueno, aquí tenéis también un resumen.

695
00:39:53,400 --> 00:39:56,560
Esto tenéis en las notas
la fuente, que es el profesor Betty

696
00:39:56,640 --> 00:39:58,400
de un observatorio que hay en Andalucía

697
00:39:58,400 --> 00:40:00,640
de inteligencia artificial
en el sector público

698
00:40:00,640 --> 00:40:03,680
que tiene un código de uso de la
IA generativa y.

699
00:40:04,200 --> 00:40:08,920
Y bueno, pues ahí también
tenemos información sobre si los modelos

700
00:40:09,280 --> 00:40:12,040
entrenan con mis datos o no,

701
00:40:12,040 --> 00:40:14,520
hay mucha información,
no hay mucha información.

702
00:40:14,520 --> 00:40:16,960
También os quiero recordar
porque creo que esto es relevante,

703
00:40:16,960 --> 00:40:20,480
que nuestra Ley de Protección de Datos
tiene un artículo en el que dice

704
00:40:20,480 --> 00:40:24,560
que la educación digital
que es obligatoria, o sea, eh

705
00:40:24,920 --> 00:40:28,000
es obligatorio
que los alumnos de las universidades

706
00:40:28,000 --> 00:40:33,240
reciban educación digital, sea educación
no solo sobre lo sobre

707
00:40:33,240 --> 00:40:37,400
lo técnico, sino también sobre
sobre los riesgos que tiene.

708
00:40:37,400 --> 00:40:38,760
¿Eh eh?

709
00:40:38,760 --> 00:40:40,440
Todo esto en la educación digital

710
00:40:40,440 --> 00:40:43,960
debe de comprender un uso crítico
y seguro de los medios digitales.

711
00:40:44,000 --> 00:40:44,720
Lo contrario

712
00:40:44,720 --> 00:40:47,720
no solo perjudica al aprendizaje,
sino también la dedicación, el esfuerzo

713
00:40:47,720 --> 00:40:51,720
y los procesos de pensamiento
que nos permiten ser pensadores críticos.

714
00:40:51,800 --> 00:40:54,240
Y esta es una ley
orgánica. O sea que esto no es

715
00:40:55,280 --> 00:40:57,440
importante, que es que es obligatorio,

716
00:40:57,440 --> 00:41:00,920
que es obligatorio que nuestros alumnos
hoy hablar de estas cosas.

717
00:41:01,280 --> 00:41:04,000
¿Y bueno, también
a nivel de certificación, que esto nos lo

718
00:41:04,000 --> 00:41:07,280
recordaba
Jessica cuando estuvimos planeando

719
00:41:07,280 --> 00:41:10,280
el curso, indudablemente

720
00:41:10,400 --> 00:41:13,440
todo lo que supone la certificación eh

721
00:41:14,400 --> 00:41:20,080
eh, es un ámbito muy relevante
porque a veces lo que hace es eh,

722
00:41:20,520 --> 00:41:26,120
como bajar a tierra los requisitos
que existen a nivel legal, no?

723
00:41:26,160 --> 00:41:29,160
Bueno, no hemos hablado, por ejemplo de la

724
00:41:29,560 --> 00:41:33,520
del Reglamento de Inteligencia Artificial
Europeo de ley, que sabéis que está

725
00:41:33,520 --> 00:41:38,680
bastante retrasado en cuanto a entrar
en vigor en su aplicación práctica.

726
00:41:38,720 --> 00:41:39,480
No, porque

727
00:41:39,480 --> 00:41:43,160
bueno, se ha aprobado el ómnibus digital
que ha retrasado la entrada en vigor

728
00:41:43,280 --> 00:41:45,040
de nuestro reglamento
de Inteligencia Artificial

729
00:41:45,040 --> 00:41:46,640
por presiones del gobierno americano.

730
00:41:46,640 --> 00:41:48,120
Y eso es así.

731
00:41:48,120 --> 00:41:52,520
¿Y de la industria americana
de tecnológica sobre todo, no?

732
00:41:52,680 --> 00:41:56,000
¿Y entonces
el Reglamento de Inteligencia Artificial

733
00:41:56,000 --> 00:41:58,880
se refiere a algunas
de las cosas que estamos hablando, no?

734
00:41:58,880 --> 00:42:02,760
Y en concreto prohíbe algunos usos

735
00:42:03,960 --> 00:42:06,600
en el ámbito de la educación, EH

736
00:42:06,600 --> 00:42:10,880
que se refieran, por ejemplo,
en el artículo cinco, a inferir

737
00:42:10,920 --> 00:42:14,400
emociones de la persona física
en los centros educativos,

738
00:42:14,400 --> 00:42:17,840
en todo lo que sea
inferencia emocional que ya se está

739
00:42:19,120 --> 00:42:21,360
probando en China, por ejemplo.

740
00:42:21,360 --> 00:42:23,480
Bueno, pues aquí no sería posible.

741
00:42:23,480 --> 00:42:26,800
O sea, está prohibido en
en la Unión Europea

742
00:42:27,120 --> 00:42:31,360
y se califican como de riesgo alto,
Es decir, tienen unos requisitos

743
00:42:31,480 --> 00:42:35,080
muy reforzados, eh Las aplicaciones de

744
00:42:35,120 --> 00:42:39,400
de inteligencia artificial
aplicadas a educación en el ámbito de

745
00:42:39,400 --> 00:42:42,760
precisamente la evaluación
en el ámbito de la evaluación

746
00:42:42,760 --> 00:42:48,360
y en el ámbito de la admisión
a los a los centros educativos no.

747
00:42:48,720 --> 00:42:50,640
¿Que son dos ámbitos
como muy críticos, no?

748
00:42:50,640 --> 00:42:53,080
¿Quién entre quién
no entra en determinados sitios?

749
00:42:53,080 --> 00:42:54,600
Y luego el tema de la evaluación.

750
00:42:54,600 --> 00:42:58,680
Entonces, en estos casos la inteligencia
artificial aplicada a estos sectores

751
00:42:58,760 --> 00:43:02,280
sería considerada de alto riesgo
y entonces eso quiere decir que

752
00:43:02,680 --> 00:43:05,960
los proveedores
tienen como unas obligaciones reforzadas

753
00:43:06,000 --> 00:43:09,240
de documentar
técnicamente de supervisión humana.

754
00:43:09,240 --> 00:43:11,760
¿En fin,
son obligaciones muy estrictas, no?

755
00:43:11,760 --> 00:43:15,600
¿Pero la ley se queda siempre
como a un nivel muy alto

756
00:43:15,640 --> 00:43:19,680
y la certificación
lo que hace es descender a la

757
00:43:19,720 --> 00:43:23,880
a la práctica de cuáles
son los requisitos técnicos

758
00:43:23,880 --> 00:43:27,920
y cómo se deben de verdad
de diseñar los los sistemas, no?

759
00:43:27,960 --> 00:43:28,320
¿Entonces,

760
00:43:28,320 --> 00:43:32,080
yo creo que el ámbito de la certificación
también es muy relevante y que sepamos

761
00:43:32,080 --> 00:43:36,240
que existe una norma ISO 42.001
que asegura la transparencia

762
00:43:36,240 --> 00:43:40,520
y la responsabilidad de los sistemas
de inteligencia artificial, no?

763
00:43:40,560 --> 00:43:44,920
¿O sea que bueno, vamos, vamos
avanzando en este asunto, no?

764
00:43:45,160 --> 00:43:49,400
Bueno, y luego el 4.º riesgo que
quería comentar y ya me queda poquito, es

765
00:43:50,520 --> 00:43:53,800
el tema de
la del plagio de la propiedad intelectual.

766
00:43:53,800 --> 00:43:55,560
Eh, eh.

767
00:43:55,560 --> 00:43:59,760
¿Antes de publicar el contenido,
compartirlo, eh?

768
00:44:00,480 --> 00:44:03,480
Bueno, hay que hay que revisarlo.

769
00:44:03,600 --> 00:44:08,000
El contenido generado por y además
puede ser inexacto, puede ser engañoso,

770
00:44:08,000 --> 00:44:11,120
puede contener material
protegido por derechos de autor

771
00:44:11,880 --> 00:44:15,560
y por otro lado, eres responsable
de cualquier contenido que publiques

772
00:44:15,560 --> 00:44:19,240
o compartas
y que incluya material generado por la IA.

773
00:44:19,360 --> 00:44:20,320
¿O sea que al final cada uno

774
00:44:20,320 --> 00:44:23,760
somos responsables del del material
que difundimos, no?

775
00:44:23,800 --> 00:44:28,200
¿En especial en el ámbito universitario,
el asunto de la propiedad intelectual

776
00:44:28,200 --> 00:44:34,240
y del crédito no
y de las de las producciones científicas

777
00:44:34,280 --> 00:44:39,120
es muy relevante, es muy relevante
y aquí tenemos un reto muy grande

778
00:44:39,240 --> 00:44:43,560
porque bueno,
pues eh, si utilizamos y a quién?

779
00:44:43,600 --> 00:44:47,720
¿Quien tiene la propiedad intelectual
sobre sobre los resultados, no?

780
00:44:47,760 --> 00:44:50,040
¿En principio somos nosotros,
seguimos siendo nosotros

781
00:44:50,040 --> 00:44:53,800
los los responsables
o a nadie le va a poner una una demanda

782
00:44:54,920 --> 00:44:56,520
por infracción de derechos de autor?

783
00:44:56,520 --> 00:44:58,200
En principio no.

784
00:44:58,200 --> 00:45:00,880
Bueno, ya sabéis que hay que distinguir
entre lo que es propiedad industrial

785
00:45:00,880 --> 00:45:07,400
de derechos de autor en función del objeto
de la de, o sea, de la obra de la obra.

786
00:45:07,760 --> 00:45:11,480
El hardware, por ejemplo,
está protegido por por patentes y

787
00:45:12,520 --> 00:45:15,360
las obras literarias, artísticas, etcétera

788
00:45:15,360 --> 00:45:18,680
están protegidas por
por propiedad intelectual.

789
00:45:18,920 --> 00:45:21,920
Y bueno,
pues los requisitos son distintos,

790
00:45:22,280 --> 00:45:25,040
tiene unas pequeñas diferencias,
pero bueno, en todo caso, que sepáis

791
00:45:25,040 --> 00:45:28,600
que todo está protegido
por propiedad intelectual o industrial.

792
00:45:29,280 --> 00:45:31,600
De hecho, en el ámbito anglosajón

793
00:45:31,600 --> 00:45:34,920
se habla de los intellectual
property rights y abarcan todo.

794
00:45:35,000 --> 00:45:36,680
¿Abarcan también las patentes, eh?

795
00:45:36,680 --> 00:45:41,760
¿O sea, cualquier obra que sea original
de una persona

796
00:45:43,480 --> 00:45:46,840
o cualquier invención, eh?

797
00:45:47,160 --> 00:45:50,600
Bueno, pues tienen una,
una protección y por tanto.

798
00:45:52,680 --> 00:45:53,600
Hay que tener cuidado.

799
00:45:53,600 --> 00:45:56,120
O sea, si la metemos en una IA.

800
00:45:56,120 --> 00:45:58,120
Y en este sentido, cuando los profesores

801
00:45:58,120 --> 00:46:01,280
metemos un trabajo del alumno en el
chat GPT, eso está en el límite

802
00:46:01,280 --> 00:46:05,160
con la legalidad,
la tendríamos que advertir

803
00:46:06,160 --> 00:46:08,680
e incluso pedir autorización

804
00:46:08,680 --> 00:46:12,160
para meter un trabajo en una
un modelo de IA.

805
00:46:12,760 --> 00:46:16,160
Porque claro, la propiedad intelectual
de los trabajos es de los alumnos,

806
00:46:16,560 --> 00:46:18,800
aunque sea muy muy cerrada.

807
00:46:18,800 --> 00:46:22,480
¿El trabajo no deja de ser una obra
de la propiedad intelectual

808
00:46:22,480 --> 00:46:25,480
y eso lo tenemos que que tener claro, eh?

809
00:46:25,560 --> 00:46:28,080
¿Vale, y luego

810
00:46:28,080 --> 00:46:31,200
quién tiene los derechos sobre los
sobre los resultados?

811
00:46:31,240 --> 00:46:36,200
¿Bueno, pues normalmente el usuario
es el que conserva la titularidad, no?

812
00:46:36,600 --> 00:46:39,280
¿Pero eh,

813
00:46:39,280 --> 00:46:42,760
aún así tenemos que tener cuidado
por lo que digo, no?

814
00:46:42,800 --> 00:46:47,600
Que tú metes algo en
una inteligencia artificial y si no tienes

815
00:46:47,600 --> 00:46:51,640
los permisos sobre ese algo,
pues te la puedes, te la puedes jugar.

816
00:46:51,760 --> 00:46:57,280
Y con el nivel, además de errores
que estamos viendo que tiene, pues vale.

817
00:46:57,720 --> 00:47:00,600
Y luego también es preocupante
el tema del phishing.

818
00:47:00,600 --> 00:47:03,920
La IA generativa
ha facilitado a los actores maliciosos

819
00:47:03,960 --> 00:47:08,160
la creación de sus correos electrónicos
de phishing y también fakes, videos,

820
00:47:08,160 --> 00:47:12,200
audios destinados
a imitar de forma convincente la forma,

821
00:47:12,800 --> 00:47:15,920
la voz o la apariencia física
de una persona sin su consentimiento.

822
00:47:15,920 --> 00:47:18,240
¿No todos estamos acostumbrados

823
00:47:19,400 --> 00:47:23,040
a recibir este este tipo de material, no?

824
00:47:23,080 --> 00:47:28,520
Entonces sí que es importante
ser cautelosos a la hora de usar

825
00:47:28,720 --> 00:47:30,920
las herramientas.

826
00:47:30,920 --> 00:47:33,120
¿Bueno, qué?

827
00:47:33,120 --> 00:47:37,360
¿Qué propuestas tengo frente a todo esto
que estamos diciendo?

828
00:47:37,360 --> 00:47:40,480
Bueno, pues una cosa que es

829
00:47:40,640 --> 00:47:45,200
es importante y me consta que está
entre los planes de de

830
00:47:45,200 --> 00:47:49,080
nuestra universidad, es tener una política
de uso de la inteligencia artificial.

831
00:47:49,120 --> 00:47:52,840
O sea, aquí tenéis
un enlace a algunas universidades

832
00:47:52,840 --> 00:47:56,640
con sus políticas de de uso de la IA y.

833
00:47:57,160 --> 00:48:00,160
Y bueno, indudablemente necesitamos una,

834
00:48:00,280 --> 00:48:03,280
necesitamos una política
donde se establezca.

835
00:48:03,440 --> 00:48:06,160
¿Bueno, pues cuáles
son las reglas del juego donde se asesore

836
00:48:06,160 --> 00:48:09,800
al profesorado en torno
al uso de estas herramientas y también

837
00:48:09,960 --> 00:48:13,680
nos aportaría mucha seguridad jurídica
a los profesores y a las profesoras

838
00:48:13,720 --> 00:48:17,400
el tener esta política para,
pues para saber a qué atenernos, no?

839
00:48:17,640 --> 00:48:20,640
¿Eh, esta política, eh?

840
00:48:21,000 --> 00:48:23,600
¿Pues qué debería de contener, eh?

841
00:48:23,600 --> 00:48:26,600
Bueno, pues debería de indudablemente mmm

842
00:48:27,360 --> 00:48:30,480
eh establecer
cuáles son los usos permitidos,

843
00:48:30,680 --> 00:48:35,800
si los hay, de las guías generativas,
en relación a qué actividades, qué ámbitos

844
00:48:35,800 --> 00:48:39,400
de la docencia sí,
si la evaluación sí o no,

845
00:48:40,040 --> 00:48:42,480
cómo informar a los estudiantes.

846
00:48:42,480 --> 00:48:44,600
E En fin.

847
00:48:44,600 --> 00:48:46,920
En general, yo creo que las.

848
00:48:48,840 --> 00:48:50,360
Las políticas académicas

849
00:48:50,360 --> 00:48:53,760
en torno al uso de la IA
es una cosa importante.

850
00:48:54,160 --> 00:48:55,640
El CSIC tiene.

851
00:48:55,640 --> 00:48:57,160
No he puesto el enlace, luego lo pondré.

852
00:48:57,160 --> 00:49:00,560
¿También el CSIC tiene un documento

853
00:49:00,560 --> 00:49:03,800
interesante sobre sobre el uso de la IA

854
00:49:03,800 --> 00:49:07,480
en el ámbito universitario y en el ámbito
de la investigación, fundamentalmente,

855
00:49:07,600 --> 00:49:12,240
que creo que nos puede servir
también de modelo para para aprender, eh?

856
00:49:12,640 --> 00:49:15,560
Y bueno, creo que también

857
00:49:15,560 --> 00:49:19,720
deberíamos de, de alguna manera o de otra
el profesorado

858
00:49:20,120 --> 00:49:23,400
intentar contribuir
en el diseño de esta política.

859
00:49:23,400 --> 00:49:24,120
En este sentido.

860
00:49:24,120 --> 00:49:29,520
Luego Jesús os va a hablar de un grupo
en teams que que ha creado al

861
00:49:29,520 --> 00:49:33,360
que estáis todos y todas invitados
para discutir todas estas cosas.

862
00:49:33,520 --> 00:49:36,520
¿Puede ser un buen foro, eh?

863
00:49:36,520 --> 00:49:41,200
Que claro, las políticas en la medida
en la que se construyen desde abajo, luego

864
00:49:41,200 --> 00:49:45,440
también tienen como mucha más apropiación
y la gente las las las cumple más.

865
00:49:45,840 --> 00:49:48,640
Bueno, entonces este es un tema
que tenemos pendiente en la universidad.

866
00:49:48,640 --> 00:49:52,480
¿Y luego ya por terminar,
hay unas sugerencias que son

867
00:49:52,480 --> 00:49:54,680
como muy muy de cajón no?

868
00:49:54,680 --> 00:49:57,360
¿O sea, qué tipo de sugerencias puedo dar?

869
00:49:57,360 --> 00:50:01,200
¿Bueno, pues que seamos transparentes
con los estudiantes en torno a qué

870
00:50:01,200 --> 00:50:05,000
herramientas
utilizamos para que las utilizamos, eh?

871
00:50:05,680 --> 00:50:09,160
¿Si generamos material
con IA, pues decirlo, eh, eh?

872
00:50:10,920 --> 00:50:13,560
Y también
pedirles a ellos que hagan que hagan esto.

873
00:50:13,560 --> 00:50:15,280
Claro, se utilizan la IA.

874
00:50:15,280 --> 00:50:18,240
Bueno,
pues luego Jesús va a enseñar alguna

875
00:50:18,240 --> 00:50:21,000
alguna plantilla
que tiene muy desarrollada sobre esto.

876
00:50:21,000 --> 00:50:25,840
¿Bueno, pues realmente
ofrecerles plantillas para que yo sepan

877
00:50:26,240 --> 00:50:30,080
cómo reportar el uso que hagan de la
IA que yo creo que

878
00:50:30,560 --> 00:50:34,040
tenemos que acostumbrarnos a hacerlo,
no ellos y nosotros, eh?

879
00:50:34,720 --> 00:50:37,880
En cuanto a la evaluación,
si permites el uso de IA en los trabajos,

880
00:50:37,880 --> 00:50:39,720
bueno, pues diseñas rúbricas.

881
00:50:39,720 --> 00:50:41,920
Los he puesto luego una o la enseño.

882
00:50:41,920 --> 00:50:44,720
Rúbricas que valoran el proceso,
o sea, los borradores,

883
00:50:44,720 --> 00:50:47,800
las reflexiones, las justificaciones
y no solo el producto final.

884
00:50:48,400 --> 00:50:51,280
Hay que considerar formatos
menos susceptibles de automatización,

885
00:50:51,280 --> 00:50:53,280
como por ejemplo las defensas orales.

886
00:50:53,280 --> 00:50:57,040
Si tuviésemos menos estudiantes
utilizaríamos más las defensas orales

887
00:50:57,040 --> 00:50:59,800
y lo hacemos siempre que podemos.
Pero eso es infalible.

888
00:50:59,800 --> 00:51:01,760
¿Tú pones un examen oral
y a los tres minutos

889
00:51:01,760 --> 00:51:04,280
sabes si el estudiante domina la materia
o no la domina?

890
00:51:04,280 --> 00:51:05,880
¿Un portafolio?

891
00:51:05,880 --> 00:51:08,480
Reflexivos,
proyectos situados en contextos reales.

892
00:51:08,480 --> 00:51:12,760
Bueno, hay distintas herramientas
que nos pueden ayudar definir desde

893
00:51:12,760 --> 00:51:16,520
el inicio, además con políticas claras
qué usos están permitidos,

894
00:51:16,520 --> 00:51:21,840
cuales requieren declarar declaración
y revisar las reglas con regularidad.

895
00:51:21,880 --> 00:51:22,520
Y luego bueno,

896
00:51:22,520 --> 00:51:26,520
pues utilizar la IA como un andamiaje,
pero no como un atajo, como un atajo.

897
00:51:26,520 --> 00:51:28,280
No podemos

898
00:51:29,240 --> 00:51:32,000
permitir
a los estudiantes que utilicen IA,

899
00:51:32,000 --> 00:51:36,920
pero tenemos que ayudarles
a que no sustituyan

900
00:51:36,920 --> 00:51:41,480
el pensamiento crítico, la argumentación,
la creatividad, la colaboración.

901
00:51:41,640 --> 00:51:45,320
O sea, eso son para celas de su actividad
a las que no deben de renunciar

902
00:51:45,320 --> 00:51:46,880
bajo ningún concepto.

903
00:51:46,880 --> 00:51:50,040
Tendríamos que ayudarles
también a graduar la autonomía,

904
00:51:50,360 --> 00:51:54,680
a a guiar les en el uso
conforme avance que experimenten.

905
00:51:55,120 --> 00:52:00,120
Pero bueno, pues como que seamos también
acompañantes, no del uso que hacen

906
00:52:00,120 --> 00:52:05,160
de la inteligencia artificial
y también con honestidad no académica.

907
00:52:05,160 --> 00:52:08,160
¿O sea, realmente los profesores
y las profesoras, eh?

908
00:52:08,200 --> 00:52:12,160
A veces vamos por detrás de ellos
en el uso de la IA, con lo cual,

909
00:52:13,200 --> 00:52:17,160
bueno, que ellos vean que nosotros
también tenemos dificultades, que también

910
00:52:17,440 --> 00:52:23,960
somos conscientes de de los de los errores
y bueno, que somos compañeros de camino.

911
00:52:23,960 --> 00:52:25,640
¿En cierta medida no?

912
00:52:25,640 --> 00:52:29,160
Y el otro día en un
en un libro muy interesante que también

913
00:52:29,160 --> 00:52:34,160
os voy referenciado,
no teaching este teaching a práctica.

914
00:52:34,160 --> 00:52:38,160
El Gatito Anywhere es muy muy interesante
sobre la enseñanza de

915
00:52:39,480 --> 00:52:42,320
la enseñanza
en tiempos de inteligencia artificial.

916
00:52:42,320 --> 00:52:45,360
Bueno, pues ofrecen una una rúbrica

917
00:52:45,440 --> 00:52:48,880
que os he traducido, eh, para.

918
00:52:49,240 --> 00:52:52,240
¿Bueno, pues para mmm eh?

919
00:52:53,640 --> 00:52:56,640
¿También para pensar que en la medida
en la que diseñemos

920
00:52:57,160 --> 00:53:00,360
rúbricas con cierto cuidado, podemos,

921
00:53:00,480 --> 00:53:03,480
eh, podemos hacer que los estudiantes,

922
00:53:03,800 --> 00:53:07,640
cuando utilicen la IA,
lo utilicen de manera más razonable, no?

923
00:53:07,840 --> 00:53:11,680
¿O sea, realmente si lo que les pedimos
es muy trivial, pedimos producto?

924
00:53:11,720 --> 00:53:14,720
Pues claro, si tú pides un producto final,

925
00:53:15,320 --> 00:53:19,400
es es más fácil que te te entreguen
directamente el resultado de la IA.

926
00:53:19,400 --> 00:53:20,760
Pero no queremos eso.

927
00:53:20,760 --> 00:53:23,920
¿Queremos que utilicen la IA como una
herramienta, como un apoyo,

928
00:53:24,120 --> 00:53:26,880
pero no para que les resuelva
el asunto, no?

929
00:53:26,880 --> 00:53:27,800
Bueno, en la medida en que

930
00:53:27,800 --> 00:53:31,400
que nosotros y leemos más fino en las
rúbricas, pues también ellos

931
00:53:33,000 --> 00:53:36,000
nos entregarán productos un poco más,

932
00:53:36,440 --> 00:53:37,400
más terminados.

933
00:53:37,400 --> 00:53:40,640
Y nada, os dejo
ahí imprimir listado de referencias

934
00:53:41,600 --> 00:53:44,600
y nada, yo con esto ya

935
00:53:44,840 --> 00:53:47,680
he terminado, así que le paso la palabra

936
00:53:47,680 --> 00:53:51,320
a mi compañero Jesús, fenómeno

937
00:53:52,640 --> 00:53:54,400
hijo de compartir.

938
00:53:54,400 --> 00:53:56,720
Vale. Eh, yo ahora, yo.

939
00:53:56,720 --> 00:53:58,040
Ahora empiezo a presentar.

940
00:53:58,040 --> 00:54:00,520
Pero Jessica está preguntando. No.

941
00:54:00,520 --> 00:54:03,600
¿Dónde está
el límite de la propiedad intelectual?

942
00:54:03,760 --> 00:54:06,760
Un dfm, una memoria, Un examen.

943
00:54:07,640 --> 00:54:09,520
Antes se me explico.

944
00:54:09,520 --> 00:54:10,800
Sí, sí, sí, sí.

945
00:54:10,800 --> 00:54:11,880
Explícate. Explícate.

946
00:54:11,880 --> 00:54:14,600
Vale. Si yo te por cerrar, digo tu bloque.

947
00:54:14,600 --> 00:54:16,760
Y mientras Jesús cambia de transparencias.

948
00:54:16,760 --> 00:54:18,280
Bueno, supongo que también el foro.

949
00:54:18,280 --> 00:54:19,680
Tendrás muchísimas más preguntas.

950
00:54:19,680 --> 00:54:22,520
Las pueden,
si queréis luego dejar. Dejemos tiempo.

951
00:54:22,520 --> 00:54:26,040
Al final podrías tomar la palabra
o las podéis dejar por el chat.

952
00:54:26,120 --> 00:54:30,280
Pero bueno, me he animado yo a ponerla
y un bocadillo de lo que estabas diciendo.

953
00:54:30,280 --> 00:54:32,760
¿Dónde estarías?
¿El límite de la propiedad intelectual?

954
00:54:32,760 --> 00:54:36,440
Porque un TFM lo tengo claro, una memoria,
lo has dicho.

955
00:54:36,480 --> 00:54:39,240
Pero claro, un examen también
es algo que ellos escriben

956
00:54:39,240 --> 00:54:42,480
y antes hemos estado hablando
de herramientas para evaluar.

957
00:54:42,480 --> 00:54:45,680
También
deberíamos pedir permiso a los alumnos

958
00:54:45,680 --> 00:54:50,200
si vamos a meter un examen suyo o un test,
es que ya hay muchas herramientas

959
00:54:51,200 --> 00:54:53,560
que utilizamos en nuestro día a día

960
00:54:53,560 --> 00:54:56,560
para evaluar
y no estamos pidiendo permisos.

961
00:54:56,680 --> 00:54:59,040
¿Entonces, dónde? ¿Dónde está el límite?

962
00:54:59,040 --> 00:54:59,760
¿Un TFM?

963
00:54:59,760 --> 00:55:02,760
¿Sí, un trabajo sí, pero un examen no,

964
00:55:03,040 --> 00:55:04,920
No sé si

965
00:55:04,920 --> 00:55:08,120
bueno, a ver,
una obra de la propiedad intelectual

966
00:55:08,960 --> 00:55:12,040
dice nuestra ley
que es cualquier obra propia

967
00:55:12,040 --> 00:55:16,040
del autor propia,
en el sentido de original, eh?

968
00:55:16,640 --> 00:55:18,560
Y que es original, que es original.

969
00:55:18,560 --> 00:55:21,000
Bueno, pues original es cualquier cosa.

970
00:55:21,000 --> 00:55:26,320
¿O sea, Jessica,
se publican a diario cantidad de libros

971
00:55:26,360 --> 00:55:29,720
que no deberían ni de publicarse
porque son una verdadera basura o no?

972
00:55:29,760 --> 00:55:31,480
O sea, todos somos conscientes

973
00:55:31,480 --> 00:55:36,280
de que hay una sobreabundancia
de publicaciones hoy día, eh,

974
00:55:36,760 --> 00:55:39,440
que que todos estamos de acuerdo en

975
00:55:39,440 --> 00:55:42,440
que realmente no aportan nada
y aun así se están publicando.

976
00:55:42,480 --> 00:55:48,400
A donde quiero llegar es cualquier cosa
propia del autor, es una obra intelectual.

977
00:55:48,760 --> 00:55:53,080
A ti te puede parecer una tontería,
pero para el autor pues es súper relevante

978
00:55:53,080 --> 00:55:56,520
o entonces quiero decir cualquier cosa
es cualquier cosa.

979
00:55:56,520 --> 00:56:02,120
Entonces desde luego que un examen es una
obra protegida por los derechos de autor.

980
00:56:02,160 --> 00:56:05,080
Y entonces, y también, eh,

981
00:56:06,640 --> 00:56:09,080
es es dato personal el

982
00:56:09,080 --> 00:56:12,080
examen de una vez que lo hemos corregido,
con lo cual

983
00:56:12,400 --> 00:56:15,920
deberíamos estar pidiendo autorización
a los estudiantes.

984
00:56:16,600 --> 00:56:19,600
Es que eso
es algo que me parece muy importante que.

985
00:56:20,520 --> 00:56:24,280
Y luego también
preguntaba en la misma, en el mismo post,

986
00:56:24,880 --> 00:56:28,240
si es lo mismo
llevar esos datos a una herramienta

987
00:56:28,240 --> 00:56:31,640
como GPT o cualquier otra
en donde no tenemos protección

988
00:56:31,680 --> 00:56:36,600
empresarial, frente a las que tenemos
protección empresarial de la mente.

989
00:56:36,600 --> 00:56:40,080
Vemos exigir en esas
con protección empresarial permiso,

990
00:56:40,080 --> 00:56:41,920
porque por ejemplo, si

991
00:56:41,920 --> 00:56:45,720
estuviésemos en una empresa,
si un empleado hace un documento,

992
00:56:45,920 --> 00:56:49,280
no sé si se considera propiedad
intelectual o que es algo de la empresa

993
00:56:49,280 --> 00:56:55,440
y eso ya lo puede subir a la IA, a la
IA de esa empresa y tratar, quiero decir.

994
00:56:55,480 --> 00:56:56,920
A ver, a ver si me explico.

995
00:56:56,920 --> 00:57:00,680
Un jefe puede tratar los documentos
que hayan generado sus empleados

996
00:57:00,680 --> 00:57:03,680
sobre cualquier activo de un proyecto.

997
00:57:03,880 --> 00:57:06,760
¿Nosotros como profesores,
si consideramos esos trabajos

998
00:57:06,760 --> 00:57:10,960
de los alumnos como activo, también
los podríamos meter en esta,

999
00:57:11,320 --> 00:57:15,040
en esta guía con protección empresarial
que tenemos como CoPilot

1000
00:57:15,080 --> 00:57:18,080
o aún así
necesitamos seguir pidiendo ese permiso?

1001
00:57:18,240 --> 00:57:20,960
Mmm no sé si me he explicado.

1002
00:57:20,960 --> 00:57:23,960
¿Hombre, yo entiendo que claro,

1003
00:57:24,040 --> 00:57:29,480
digamos que es como más fiable
una guía más corporativa, es más fiable,

1004
00:57:30,000 --> 00:57:34,200
pero yo entiendo que la IA va a aprender
de todo eso, que tú le metas, no?

1005
00:57:37,920 --> 00:57:39,840
¿Bueno, si te tienes el entrenamiento

1006
00:57:39,840 --> 00:57:43,400
quiere decir bajo protección,
bajo protección empresarial, Perdón?

1007
00:57:43,440 --> 00:57:47,160
CoPilot nos asegura que no entrena
con esos datos y aún así GPT también

1008
00:57:47,160 --> 00:57:51,440
lo puedes limitar
a que no utilice esos datos para entrenar.

1009
00:57:51,440 --> 00:57:53,120
¿Pero

1010
00:57:53,120 --> 00:57:56,120
una cosa es que no los entrene
y otra cosa es que,

1011
00:57:56,160 --> 00:58:00,000
como tú has dicho,
si tú no tienes el permiso del autor

1012
00:58:00,000 --> 00:58:03,040
para ceder esos datos a ninguna empresa,
por qué se lo vas a ceder?

1013
00:58:03,320 --> 00:58:07,400
Pero no sé si se sabe distinguir
si estamos en disposición.

1014
00:58:07,800 --> 00:58:12,360
Habría que indagar más de hasta dónde,
si en una y a

1015
00:58:13,680 --> 00:58:17,760
empresarial o otra
guía que no tiene esa protección.

1016
00:58:18,760 --> 00:58:20,240
Ya, ya, sí.

1017
00:58:20,240 --> 00:58:23,400
O sea, si tenemos esa protección
digamos que es más fiable,

1018
00:58:24,520 --> 00:58:29,040
es más fiable,
pero yo no acabo de ver en ese caso, eh,

1019
00:58:29,280 --> 00:58:33,760
la excepción a pedir una, una autorización
o por lo menos informar.

1020
00:58:33,840 --> 00:58:36,320
A lo mejor no pides autorización
para informar. Sí.

1021
00:58:36,320 --> 00:58:37,760
O sea, la transparencia.

1022
00:58:37,760 --> 00:58:42,040
La transparencia sería requisito seguro.

1023
00:58:42,120 --> 00:58:43,480
Mmm mmm.

1024
00:58:43,480 --> 00:58:45,120
Si luego en el logo dice Ángel

1025
00:58:45,120 --> 00:58:48,720
que claro, la solución sería en trabaja
con modelos locales.

1026
00:58:49,000 --> 00:58:51,480
Evidentemente esa sería la solución.

1027
00:58:51,480 --> 00:58:55,480
Lo que pasa es que la infraestructura
para montar esos modelos locales, eh,

1028
00:58:55,920 --> 00:59:01,000
bueno, estamos trabajando en ello, pero
no quiero decir que no se pueden replicar

1029
00:59:01,600 --> 00:59:05,320
las de estos grandes proveedores,
pero sí es acertado lo que dice.

1030
00:59:05,560 --> 00:59:06,880
No se interrumpa más, de verdad.

1031
00:59:06,880 --> 00:59:10,800
Si queréis luego dejamos debate,
pero no comerme el tiempo de Jesús.

1032
00:59:10,840 --> 00:59:13,920
Venga, venga, Jesús, Adelante ya.

1033
00:59:15,000 --> 00:59:17,560
¿Bueno, eh, Nada, no?

1034
00:59:17,560 --> 00:59:23,280
El debate es súper interesante
y tanto hablado como escrito,

1035
00:59:23,720 --> 00:59:28,360
porque esto, esto ha provocado
también esto.

1036
00:59:28,360 --> 00:59:33,280
No sé si tenemos tiempo en meternos,
pero bueno, vamos a ver lo que es

1037
00:59:33,720 --> 00:59:37,600
el uso responsable de la
IA en la investigación.

1038
00:59:37,640 --> 00:59:42,800
Bueno, yo soy Jesús Salgado
y estoy en Industriales y eh, también,

1039
00:59:43,200 --> 00:59:46,200
aparte del uso
de la inteligencia artificial

1040
00:59:46,200 --> 00:59:49,000
de la investigación, también
vamos a hablar brevemente

1041
00:59:49,000 --> 00:59:52,240
sobre la investigación
sobre inteligencia artificial,

1042
00:59:53,120 --> 00:59:54,640
sobre inteligencia artificial.

1043
00:59:54,640 --> 00:59:58,680
¿Es decir, cuando tratamos de desarrollar

1044
00:59:58,680 --> 01:00:02,800
o investigar inteligencia artificial, eh

1045
01:00:03,520 --> 01:00:05,800
en nuestra investigación y también

1046
01:00:05,800 --> 01:00:10,880
el desarrollo de de IA en la gestión, no?

1047
01:00:11,360 --> 01:00:12,000
Ya, ya.

1048
01:00:12,000 --> 01:00:13,440
Suena a cliché.

1049
01:00:13,440 --> 01:00:17,480
¿La La frase de la
la inteligencia artificial

1050
01:00:17,480 --> 01:00:21,680
tiene el potencial de revolucionar
bla bla bla bla bla, pero

1051
01:00:22,600 --> 01:00:25,720
también plantea retos relativos, no?

1052
01:00:25,760 --> 01:00:27,800
Entonces esto.

1053
01:00:27,800 --> 01:00:30,800
Probablemente
esto se ha dicho con probabilidad por

1054
01:00:30,840 --> 01:00:34,880
en muchas otras ocasiones
con otras tecnologías.

1055
01:00:34,920 --> 01:00:38,200
Sin embargo, la inteligencia artificial
es de

1056
01:00:38,680 --> 01:00:42,520
un poco diferente
porque de forma más profunda

1057
01:00:42,560 --> 01:00:47,160
hay que tener en cuenta
el objetivo de esta agenda

1058
01:00:47,240 --> 01:00:52,280
de investigación o de o tecnológica
que impulsa la inteligencia artificial.

1059
01:00:52,920 --> 01:00:53,960
Este.

1060
01:00:53,960 --> 01:00:59,000
Este objetivo es precisamente
la simulación o la mecanización

1061
01:00:59,000 --> 01:01:04,400
o la industrialización, como queráis,
de la actividad cognitiva del hombre.

1062
01:01:05,080 --> 01:01:08,360
De forma que no nos puede sorprender
que la investigación,

1063
01:01:08,360 --> 01:01:11,680
que es una actividad cognitiva, eh,

1064
01:01:12,160 --> 01:01:16,200
pues sea uno de los sectores
más perturbados con la integración

1065
01:01:16,200 --> 01:01:21,440
de la inteligencia artificial
y nos obligue de paso a replantearnos

1066
01:01:21,440 --> 01:01:24,720
la investigación, igual que la educación,

1067
01:01:25,280 --> 01:01:30,560
no solamente sus métodos,
pero también el propósito más en general.

1068
01:01:30,760 --> 01:01:33,120
¿Eh esto, eh?

1069
01:01:35,800 --> 01:01:36,760
¿Hoy, antes

1070
01:01:36,760 --> 01:01:42,920
voy a hacer un pequeño paréntesis
sobre esto para los que

1071
01:01:42,920 --> 01:01:47,080
estéis más interesados
sobre el uso responsable

1072
01:01:47,080 --> 01:01:50,880
de la inteligencia artificial en docencia,
investigación y gestión en la UPN,

1073
01:01:50,920 --> 01:01:54,400
pues hemos creado un grupo
donde vamos a compartir,

1074
01:01:54,440 --> 01:01:59,920
estamos compartiendo
noticias, bibliografía, debate y quizás

1075
01:01:59,920 --> 01:02:04,160
si hay interés y energías, organizar algún
otro seminario online

1076
01:02:04,280 --> 01:02:08,640
o incluso presencial, donde podamos
también compartir nuestras inquietudes

1077
01:02:08,800 --> 01:02:12,320
y el trabajo que hacemos sobre estos
temas, no? ¡Eh!

1078
01:02:12,680 --> 01:02:15,680
¿Os voy a poner también aquí en el chat

1079
01:02:16,960 --> 01:02:21,920
el el vínculo al teams, eh?

1080
01:02:23,360 --> 01:02:27,480
Y bueno, pues ahí empezamos a trabajar.

1081
01:02:27,480 --> 01:02:30,480
¿Y bueno, después de este breve

1082
01:02:31,680 --> 01:02:34,680
espacio publicitario, eh?

1083
01:02:36,760 --> 01:02:38,520
¿Pues eh,

1084
01:02:38,520 --> 01:02:42,200
yo espero que en estos breve charla

1085
01:02:42,640 --> 01:02:46,000
que ayude a gestionar
la inteligencia artificial

1086
01:02:46,000 --> 01:02:48,520
como herramienta
para nuestra propia investigación,

1087
01:02:48,520 --> 01:02:51,760
pero también
para poder asesorar a nuestros alumnos

1088
01:02:51,760 --> 01:02:55,040
cuando los estamos tutorizar
en su investigación

1089
01:02:55,120 --> 01:03:00,160
o en sus trabajos de fin de grado máster
o estamos dirigiendo su doctorado, no?

1090
01:03:00,360 --> 01:03:02,280
¿En en

1091
01:03:03,240 --> 01:03:06,360
deberíamos
inculcar en estos, en estos alumnos?

1092
01:03:06,360 --> 01:03:10,520
Pues eso, los mismos valores
y cuidado a la hora de

1093
01:03:10,880 --> 01:03:16,040
de usar la inteligencia artificial
que el que nosotros ponemos

1094
01:03:16,280 --> 01:03:20,320
o aspiramos a poner
en nuestra propia investigación,

1095
01:03:20,320 --> 01:03:23,400
porque la actividad de investigación
debe ser responsable.

1096
01:03:23,400 --> 01:03:28,160
¿Es decir, debemos ser capaces
de responder por las consecuencias

1097
01:03:28,160 --> 01:03:31,920
de la actividad investigadora
y aunque nos parezca que no tiene

1098
01:03:31,920 --> 01:03:35,040
muchas trascendencia,
normalmente si queremos

1099
01:03:35,040 --> 01:03:38,160
que tenga muchas consecuencias
beneficiosas, no?

1100
01:03:38,440 --> 01:03:40,040
Que tenga mucho impacto

1101
01:03:40,040 --> 01:03:45,200
porque sea usada por otros ingenieros
o por otros profesionales para otros usos.

1102
01:03:45,240 --> 01:03:50,920
Quizá con a lo mejor con mayor riesgo,
como en el sector de la salud,

1103
01:03:50,920 --> 01:03:55,040
o que guíe esto políticas públicas.

1104
01:03:55,080 --> 01:03:58,840
Al final la ciencia es un bien común

1105
01:03:58,840 --> 01:04:04,920
y nuestra responsabilidad individual
de cada investigador confluye

1106
01:04:04,960 --> 01:04:08,560
en una responsabilidad colectiva
que se traduce

1107
01:04:08,720 --> 01:04:13,520
en la confianza o desconfianza
en la ciencia por parte de la sociedad.

1108
01:04:13,520 --> 01:04:16,880
Y la buena noticia
que tenemos que conservar

1109
01:04:16,880 --> 01:04:20,840
es que la sociedad española
confía en sus científicos investigadores.

1110
01:04:20,840 --> 01:04:24,680
Aquí os pongo
una estadística de 2024 del CID

1111
01:04:24,720 --> 01:04:29,280
que pregunta al público sobre quién
quiere la gente que regule

1112
01:04:29,320 --> 01:04:33,400
el uso de la inteligencia artificial,
en la que los científicos

1113
01:04:33,440 --> 01:04:37,880
e investigadores aparecen segundos
muy alto en las preferencias del público

1114
01:04:37,920 --> 01:04:42,680
sobre qué colectivo debe regular la IA.

1115
01:04:42,720 --> 01:04:47,320
¿O sea que en principio
contamos con esa confianza y no

1116
01:04:47,320 --> 01:04:51,640
la deberíamos eh perder, eh?

1117
01:04:52,720 --> 01:04:55,600
Las las técnicas de IA, eh

1118
01:04:55,600 --> 01:04:59,280
esto como herramientas de investigación
tienen impactos positivos,

1119
01:04:59,320 --> 01:05:02,520
lógicamente, sino no serían tan populares

1120
01:05:02,880 --> 01:05:07,920
tanto en términos de productividad
como en la creación de nuevas

1121
01:05:07,920 --> 01:05:13,560
posibilidades para el descubrimiento
y y su verificación.

1122
01:05:13,720 --> 01:05:14,440
Esto.

1123
01:05:14,440 --> 01:05:20,080
La inteligencia artificial
asiste en todos o casi todos,

1124
01:05:20,960 --> 01:05:25,640
casi todas las etapas de la investigación,
desde la identificación

1125
01:05:25,640 --> 01:05:33,240
de brechas de conocimiento,
la formulación de preguntas, el análisis

1126
01:05:34,320 --> 01:05:37,320
bibliográfico.

1127
01:05:37,720 --> 01:05:40,800
¿Eh, esto, eh,

1128
01:05:41,200 --> 01:05:45,360
que prácticamente se hace a escala
sobrehumana, eh?

1129
01:05:45,800 --> 01:05:50,880
Y también facilita
la elaboración de hipótesis,

1130
01:05:50,880 --> 01:05:54,040
preguntas de investigación.

1131
01:05:54,320 --> 01:05:58,000
¿Esto el diseño experimental, eh?

1132
01:05:59,600 --> 01:06:03,560
El desarrollo de software
y análisis de datos.

1133
01:06:03,640 --> 01:06:06,640
Esto y por supuesto, ayudan con la

1134
01:06:07,040 --> 01:06:10,720
la validación y los La posterior

1135
01:06:10,720 --> 01:06:14,640
redacción y difusión
de las conclusiones de la investigación.

1136
01:06:14,680 --> 01:06:19,760
La. La inteligencia artificial, aparte de
la inteligencia general generativa

1137
01:06:20,280 --> 01:06:24,480
que digamos, es la más popular
en este momento, tiene también

1138
01:06:24,520 --> 01:06:29,720
aplicaciones esto
más particulares para cada disciplina.

1139
01:06:29,880 --> 01:06:33,440
¿Por ejemplo, en ciencias formales
hay técnicas de inteligencia artificial

1140
01:06:33,440 --> 01:06:37,600
para demostración automática
o de descubrimiento de patrones

1141
01:06:37,600 --> 01:06:42,640
o es muy conocida en biología
la aplicación esta de Deep mind de Google

1142
01:06:42,680 --> 01:06:48,320
para el del plegamiento de proteínas
como el que se llama alphafold no?

1143
01:06:48,360 --> 01:06:50,080
O en Ciencias Sociales.

1144
01:06:50,080 --> 01:06:54,440
En la codificación y análisis cualitativo
en cada disciplina hay.

1145
01:06:55,040 --> 01:06:58,440
Seguramente cada uno de vosotros
seguramente puede nombrar

1146
01:06:58,440 --> 01:07:01,440
alguna aplicación específica

1147
01:07:01,520 --> 01:07:03,960
que ayuda con la investigación.

1148
01:07:03,960 --> 01:07:07,200
Vamos, que la IA nos cambia la vida

1149
01:07:07,240 --> 01:07:11,080
y la la, la, la, la IA, por otra parte,

1150
01:07:11,080 --> 01:07:14,960
también ocupa mayor espacio
en la investigación la.

1151
01:07:15,000 --> 01:07:20,000
La tensión clásica en economía,
por lo menos sobre si la IA está

1152
01:07:20,000 --> 01:07:25,680
ampliando las capacidades de las personas
o sustituye a las personas son.

1153
01:07:25,680 --> 01:07:29,240
Si en realidad hay que entender
que es lo mismo que nos.

1154
01:07:29,960 --> 01:07:33,960
Porque nos sustituye
parcialmente en algunas tareas

1155
01:07:33,960 --> 01:07:38,280
muy laboriosas o difíciles, eh.

1156
01:07:40,320 --> 01:07:43,320
Esto en.

1157
01:07:48,840 --> 01:07:52,200
EH para para reflexionar sobre el papel

1158
01:07:52,200 --> 01:07:55,880
de la inteligencia artificial
en nuestra investigación, eh

1159
01:07:56,560 --> 01:08:01,840
Primero conviene ver cuál es nuestra, mmm,
principal motivación al investigar

1160
01:08:01,960 --> 01:08:05,360
cuál es el propósito de nuestra
investigación.

1161
01:08:05,400 --> 01:08:08,400
Y la realidad es que.

1162
01:08:08,440 --> 01:08:13,040
Pues primero,
cada investigación tiene su propósito

1163
01:08:13,560 --> 01:08:19,080
particular o su objetivo particular,
pero en general hay muchísima literatura

1164
01:08:19,080 --> 01:08:23,240
en filosofía de la ciencia, sociología
de la ciencia y economía

1165
01:08:23,240 --> 01:08:27,280
de la ciencia, que responden
parcialmente a la pregunta no.

1166
01:08:27,680 --> 01:08:31,880
Según Mario Bunge, esto
hay dos grandes propósitos

1167
01:08:31,880 --> 01:08:36,040
en la investigación uno más orientado
al conocimiento, que trata de describir

1168
01:08:36,040 --> 01:08:39,640
y explicar el mundo, que sería
lo que entendemos por ciencia básica

1169
01:08:39,680 --> 01:08:43,640
y otro propósito
sería más orientado a la aplicación,

1170
01:08:43,680 --> 01:08:47,400
es decir, predecir y controlar el entorno

1171
01:08:47,680 --> 01:08:51,240
que tiene una orientación más innovadora.

1172
01:08:51,320 --> 01:08:56,600
¿Pero aparte, la sociología de la ciencia
también explica eh?

1173
01:08:56,840 --> 01:08:59,640
O intenta explicar
los objetivos del investigador

1174
01:08:59,640 --> 01:09:04,840
en tanto miembro de una comunidad
y una red de investigadores.

1175
01:09:04,840 --> 01:09:09,320
Y la economía y la política de la ciencia
también describen eh

1176
01:09:09,720 --> 01:09:13,000
el objeto ciencia como

1177
01:09:13,040 --> 01:09:17,200
o la investigación
como un conocimiento que se transforma

1178
01:09:17,200 --> 01:09:23,520
en un activo o una mercancía a disposición
de las empresas o los estados.

1179
01:09:23,680 --> 01:09:27,560
En fin, cada uno más o menos
sabe lo que por qué investiga

1180
01:09:27,600 --> 01:09:32,440
y si, dado el objetivo, la inteligencia
artificial, con las limitaciones

1181
01:09:32,440 --> 01:09:37,400
que vamos a discutir, pueden o no
sustituir la actividad intelectual humana.

1182
01:09:37,400 --> 01:09:41,560
Por ejemplo, el tema de las transparencias
y el propósito es

1183
01:09:42,360 --> 01:09:46,520
el avance técnico, la ventaja económica
o la seguridad nacional.

1184
01:09:46,520 --> 01:09:47,800
Pues a lo mejor

1185
01:09:48,840 --> 01:09:49,280
pues un

1186
01:09:49,280 --> 01:09:53,680
modelo opaco, mientras que funcione,
es aceptable.

1187
01:09:53,760 --> 01:09:56,840
¿Pero si el propósito es
entender el mundo, pues usar

1188
01:09:56,840 --> 01:10:00,520
la inteligencia artificial sin más, con

1189
01:10:00,920 --> 01:10:03,960
sin tratar de evitar posibles sesgos

1190
01:10:04,000 --> 01:10:08,160
o la opacidad de los modelos,
pues es problemático, no?

1191
01:10:08,200 --> 01:10:14,880
¿Este dilema es uno en lo que se mueve,
especialmente la ingeniería, no?

1192
01:10:14,920 --> 01:10:18,680
Y la técnica
que debe proporcionar soluciones.

1193
01:10:18,680 --> 01:10:22,160
¿Pero también debe responder frente

1194
01:10:22,160 --> 01:10:26,800
a posibles errores o o disfunciones, no?

1195
01:10:26,840 --> 01:10:31,640
Entonces, eh, vamos a ver ejemplos
de este tipo de dilemas

1196
01:10:31,640 --> 01:10:36,360
o tensiones entre la solución pragmática
y la asunción de la responsabilidad.

1197
01:10:36,360 --> 01:10:40,880
Cuando usamos la inteligencia artificial,
nuestra investigación, por ejemplo,

1198
01:10:40,920 --> 01:10:45,240
la formulación de una teoría
es el viejo problema epistémico

1199
01:10:45,240 --> 01:10:49,160
entre correlación
y o parecido al problema epistémico

1200
01:10:49,160 --> 01:10:52,600
entre correlación y causalidad,
que es una cosa y que es otra,

1201
01:10:52,640 --> 01:10:57,760
no una teoría formulada directamente
por la inteligencia artificial,

1202
01:10:57,760 --> 01:11:00,760
aunque suene plausible,

1203
01:11:00,840 --> 01:11:03,760
es una invención estadística.

1204
01:11:03,760 --> 01:11:06,760
Bueno, tal
y como funcionan los Transformers,

1205
01:11:06,920 --> 01:11:09,920
es posible que esto cambie en el futuro.

1206
01:11:10,160 --> 01:11:14,320
O sea, lo que presenta
se presenta como una teoría.

1207
01:11:15,000 --> 01:11:18,680
Es en realidad una síntesis estocástica

1208
01:11:18,680 --> 01:11:21,880
basada
en patrones de distribución de datos

1209
01:11:23,000 --> 01:11:26,040
que pueden ser datos estructurados
o también texto.

1210
01:11:26,040 --> 01:11:28,360
En general.

1211
01:11:28,360 --> 01:11:30,560
Esto, y es una invención

1212
01:11:30,560 --> 01:11:34,000
estadística,
surge también del texto de otros.

1213
01:11:34,120 --> 01:11:37,440
No es original, es opaca, muchas veces

1214
01:11:37,440 --> 01:11:42,160
no sistematiza y muchas veces
tampoco es falsable.

1215
01:11:42,160 --> 01:11:47,320
¿Es decir, que tomar tal cual un modelo
de inteligencia artificial complejo,

1216
01:11:47,320 --> 01:11:51,400
por ejemplo una red neuronal
como un modelo de lenguaje, eh,

1217
01:11:51,560 --> 01:11:57,720
Pues es un ajuste, es un ajuste,
no es una teoría, es un ajuste numérico

1218
01:11:57,840 --> 01:12:02,560
muy sofisticado, pero es un ajuste, no?

1219
01:12:03,160 --> 01:12:07,800
Y además
es muy probable que las las interacciones

1220
01:12:07,800 --> 01:12:13,560
con la inteligencia artificial, sobre todo
la inteligencia artificial generativa.

1221
01:12:13,600 --> 01:12:19,000
Estas respuestas o sus respuestas
dependan del contexto,

1222
01:12:19,040 --> 01:12:23,520
es decir, de las preguntas
y las respuestas que anteriormente,

1223
01:12:23,880 --> 01:12:26,880
incluso en otras sesiones, eh

1224
01:12:26,880 --> 01:12:31,680
hayan podido formularse entre la IA
y el usuario.

1225
01:12:31,720 --> 01:12:32,920
¿El mismo usuario no?

1226
01:12:32,920 --> 01:12:37,880
O sea que la IA en realidad
está diseñada para dar respuestas

1227
01:12:37,880 --> 01:12:43,240
que te resulten a ti personalmente
más satisfactorias y convincentes.

1228
01:12:43,240 --> 01:12:44,840
¿Entonces, qué podemos hacer?

1229
01:12:44,840 --> 01:12:49,440
Pues como una
tomarla como una opinión más,

1230
01:12:49,640 --> 01:12:54,120
tomarlo como un generador de hipótesis,
pedir más explicaciones de

1231
01:12:54,560 --> 01:13:00,320
de manera que te pueda mostrar
otras alternativas, contrastar con colegas

1232
01:13:01,040 --> 01:13:03,520
y tener otras interacciones

1233
01:13:03,520 --> 01:13:06,520
con quizá otros modelos.

1234
01:13:06,920 --> 01:13:09,840
¿Y sin personalización no?

1235
01:13:09,840 --> 01:13:12,840
El En cualquier caso,

1236
01:13:13,000 --> 01:13:16,200
siempre es una buena práctica
en los trabajos y en los artículos.

1237
01:13:16,200 --> 01:13:20,600
¿Declarar el uso que se ha realizado
de la inteligencia artificial para que,

1238
01:13:20,640 --> 01:13:22,760
digamos, la comunidad lo sepa, no?

1239
01:13:24,200 --> 01:13:27,520
¿Y estos
usos pueden ser de mil maneras, no?

1240
01:13:27,560 --> 01:13:31,360
Para explorar, para revisar la literatura,
para analizar

1241
01:13:31,360 --> 01:13:34,360
datos, para depuración de la escritura.

1242
01:13:34,640 --> 01:13:39,360
Y un ejemplo, como dijo antes
Celia, un ejemplo de declaración de uso

1243
01:13:39,360 --> 01:13:42,360
lo podéis ver en mi propia tesis

1244
01:13:42,520 --> 01:13:47,160
que defendía hace cosa de un mes y medio.

1245
01:13:47,240 --> 01:13:49,920
¿O sea que lo tengo reciente, eh?

1246
01:13:49,920 --> 01:13:51,440
Que está ya publicada.

1247
01:13:51,440 --> 01:13:53,960
La podéis

1248
01:13:53,960 --> 01:13:55,840
descargar desde

1249
01:13:55,840 --> 01:13:58,840
desde aquí está en las páginas.

1250
01:13:59,280 --> 01:14:01,320
Espera,

1251
01:14:01,320 --> 01:14:04,000
está en la página Esto

1252
01:14:04,000 --> 01:14:07,000
nueve y diez numerales.

1253
01:14:08,280 --> 01:14:09,760
¿Pues

1254
01:14:09,760 --> 01:14:12,240
aquí un momentín

1255
01:14:12,240 --> 01:14:15,120
en la página nueve y diez numerales

1256
01:14:15,120 --> 01:14:18,400
y os enseño eh?

1257
01:14:19,400 --> 01:14:22,400
¿Dónde lo podéis encontrar?

1258
01:14:22,680 --> 01:14:25,080
Perdón, un segundo.

1259
01:14:25,080 --> 01:14:28,080
Este sería el sentimiento.

1260
01:14:28,200 --> 01:14:30,320
Entonces aquí yo.

1261
01:14:30,320 --> 01:14:34,280
¿Pues, digo que cuáles son
las herramientas que utilizado?

1262
01:14:34,400 --> 01:14:40,360
¿Cuáles son los trabajos que he utilizado?

1263
01:14:40,520 --> 01:14:43,680
¿Para qué trabajos he utilizado estas

1264
01:14:44,840 --> 01:14:46,880
estas herramientas?

1265
01:14:46,880 --> 01:14:50,640
Durante varias fases de la investigación.

1266
01:14:51,280 --> 01:14:54,880
Y esto
finalmente una declaración de integridad

1267
01:14:54,880 --> 01:14:59,960
académica en la que básicamente
digo que el trabajo es original.

1268
01:14:59,960 --> 01:15:01,240
Es mío.

1269
01:15:01,240 --> 01:15:04,240
Eh, y y el.

1270
01:15:05,560 --> 01:15:08,760
¿Y bueno,
esto Esto estaba bastante en línea

1271
01:15:09,200 --> 01:15:13,040
con lo que decía
el resto de de la tesis, no?

1272
01:15:13,080 --> 01:15:17,880
Manera que Bueno, pues ya podéis
esta publicaba en abierto en el

1273
01:15:18,280 --> 01:15:23,120
en el archivo PM y la podéis citar esto

1274
01:15:23,240 --> 01:15:26,560
a todo meter todo el mundo esto

1275
01:15:27,800 --> 01:15:28,440
y después.

1276
01:15:28,440 --> 01:15:32,560
Bueno pues también podéis leer el abstract
y el resto de la tesis

1277
01:15:32,560 --> 01:15:35,560
también está muy bien.

1278
01:15:35,640 --> 01:15:38,640
Bueno, también esto ha sido un pequeño

1279
01:15:38,840 --> 01:15:43,200
paréntesis comercial y seguimos,

1280
01:15:44,080 --> 01:15:47,080
pero a ver dónde estaba.

1281
01:15:49,240 --> 01:15:52,240
¿Quién?

1282
01:15:52,360 --> 01:15:54,160
Vale.

1283
01:15:54,160 --> 01:15:55,840
¿Y seis Ahora

1284
01:15:55,840 --> 01:15:58,840
estáis viendo mi presentación, verdad?

1285
01:15:58,920 --> 01:15:59,960
Sí, sí, sin problema.

1286
01:16:01,160 --> 01:16:04,160
Vale, pues, eh,

1287
01:16:04,640 --> 01:16:05,320
vale.

1288
01:16:05,320 --> 01:16:07,520
En todo caso. Eh.

1289
01:16:07,520 --> 01:16:12,160
Con o sin declaración,
el autor permanece responsable.

1290
01:16:12,200 --> 01:16:15,160
Es responsable. Eh, Esto.

1291
01:16:15,160 --> 01:16:16,520
Algunos.

1292
01:16:16,520 --> 01:16:19,800
¿O sea, es responsable,
aunque no sea responsable

1293
01:16:19,800 --> 01:16:22,800
en el otro sentido, aunque no lo sea por

1294
01:16:23,160 --> 01:16:26,440
exceso de confianza
en la inteligencia artificial, no?

1295
01:16:26,480 --> 01:16:29,880
Algunos ejemplos de excesiva confianza.

1296
01:16:29,920 --> 01:16:32,960
Pues puede ser, por ejemplo,
aceptar una redacción

1297
01:16:32,960 --> 01:16:35,960
o una traducción porque suena bien.

1298
01:16:36,040 --> 01:16:39,800
El truco, por ejemplo, en la
en la traducción es traducir de vuelta.

1299
01:16:40,000 --> 01:16:42,880
Tú pides de inglés a español

1300
01:16:42,880 --> 01:16:45,880
y después lo vuelves
perdón, de español inglés.

1301
01:16:45,960 --> 01:16:46,880
¿Te suena bien?

1302
01:16:46,880 --> 01:16:50,160
Pero después traduces a español
para ver que efectivamente

1303
01:16:50,160 --> 01:16:53,840
no se ha perdido nada en el en la ida.

1304
01:16:53,960 --> 01:16:57,760
Esto y también cuando le preguntas

1305
01:16:58,520 --> 01:17:01,320
sobre por el trabajo de de otros.

1306
01:17:01,320 --> 01:17:05,160
Aceptar una referencia
a las tesis de un autor, la descripción

1307
01:17:05,160 --> 01:17:11,160
de una teoría, todo
eso, esto no no se debería aceptar. ¿Eh?

1308
01:17:11,320 --> 01:17:13,040
Tal cual. No. El truco.

1309
01:17:14,600 --> 01:17:17,600
No cabe más remedio que leer,

1310
01:17:17,760 --> 01:17:23,080
leer las fuentes originales
o siquiera las fuentes secundarias,

1311
01:17:23,080 --> 01:17:25,920
que muchas veces,
o al menos en mi experiencia,

1312
01:17:25,920 --> 01:17:29,040
son bastante mejores
y bastante más asequibles.

1313
01:17:29,160 --> 01:17:34,040
¿Eh, que las las
las fuentes originales no?

1314
01:17:34,080 --> 01:17:39,520
¿Pero delegar el análisis de datos,
eh también, eh?

1315
01:17:40,000 --> 01:17:43,720
¿O la interpretación de los datos
sin revisarlo

1316
01:17:43,720 --> 01:17:47,040
también en un exceso de confianza, eh?

1317
01:17:47,560 --> 01:17:51,640
Y no podemos delegar
la responsabilidad en la IA.

1318
01:17:51,840 --> 01:17:54,840
Un modelo de IA
no puede ser el autor de papers

1319
01:17:55,040 --> 01:17:59,480
o de invenciones, o de patentes,
o imágenes, o figuras o marcas.

1320
01:17:59,600 --> 01:18:03,480
Bueno, parece tontería, pero esto

1321
01:18:05,080 --> 01:18:08,880
de vez en cuando salen algunos.

1322
01:18:09,320 --> 01:18:13,760
Esto reclamando
personalidad jurídica para los modelos.

1323
01:18:13,760 --> 01:18:17,960
¿Yo creo que lógicamente eso es una mmm

1324
01:18:18,000 --> 01:18:21,480
súper mala idea,
que lo que representaría sería

1325
01:18:21,480 --> 01:18:26,040
una pantalla de responsabilidad
para las empresas fabricantes, no?

1326
01:18:26,560 --> 01:18:28,080
Eh, eh.

1327
01:18:31,960 --> 01:18:34,800
¿Mal una vez situaciones más

1328
01:18:34,800 --> 01:18:37,800
vergonzosas, eh?

1329
01:18:38,640 --> 01:18:42,600
Sería el plagio, que como sabemos
es la apropiación de las ideas de otros.

1330
01:18:42,640 --> 01:18:46,680
El problema es
que la inteligencia general,

1331
01:18:46,720 --> 01:18:50,960
la inteligencia artificial generativa,
es el

1332
01:18:51,760 --> 01:18:54,760
el plagio elevado
a la categoría de industria.

1333
01:18:54,800 --> 01:18:56,440
O sea que funciona realmente.

1334
01:18:56,440 --> 01:18:59,440
Si los los modelos de lenguaje funcionan,

1335
01:18:59,920 --> 01:19:03,600
se entrenan sobre textos de otros
y al responder.

1336
01:19:03,640 --> 01:19:09,520
Es decir, la inferencia consiste
en dar un texto más o menos plausible

1337
01:19:09,560 --> 01:19:14,960
dado el contexto y basado en el texto
con el que han sido entrenados.

1338
01:19:15,000 --> 01:19:19,680
¿De manera que podríamos decir
que es una máquina de plagio, no?

1339
01:19:20,240 --> 01:19:23,240
Y normalmente, además no cita autores.

1340
01:19:23,240 --> 01:19:27,920
De hecho, a veces regurgita
textos originales enteros,

1341
01:19:28,520 --> 01:19:31,040
por ejemplo, en imágenes.

1342
01:19:31,040 --> 01:19:37,040
¿La imagen, la fotografía de la derecha,
eh, que no es una fotografía,

1343
01:19:37,040 --> 01:19:42,240
es una imagen generada
por la inteligencia artificial, eh?

1344
01:19:42,760 --> 01:19:46,240
¿Pero con la mala suerte de que regurgita

1345
01:19:46,480 --> 01:19:50,000
la marca de agua
del proveedor de fotografías Getty Images,

1346
01:19:50,440 --> 01:19:55,000
que lógicamente
ha demandado al fabricante del modelo, no?

1347
01:19:55,040 --> 01:19:56,280
¿Bueno, qué hacer?

1348
01:19:56,280 --> 01:19:59,600
¿Pues chequear, pedir fuentes,
es decir, tener

1349
01:19:59,640 --> 01:20:02,760
a lo mejor cinco minutos más de chat

1350
01:20:03,640 --> 01:20:09,080
y pedir fuentes, chequear
que existen, esto que dicen, lo que dices

1351
01:20:09,080 --> 01:20:12,080
que dicen y una vez comprobado todo,

1352
01:20:12,200 --> 01:20:15,040
lógicamente citar esas fuentes no?

1353
01:20:15,040 --> 01:20:19,080
¿Eh? Y eh, pues chequear que eh

1354
01:20:19,840 --> 01:20:22,520
los hechos y conclusiones

1355
01:20:22,520 --> 01:20:25,640
u opiniones que no sean los tuyos propios,

1356
01:20:25,680 --> 01:20:30,440
las del propio investigador,
tienen todo su original.

1357
01:20:30,440 --> 01:20:34,120
Incluso se
puede pedir a la inteligencia artificial

1358
01:20:34,680 --> 01:20:39,120
que extractos literales,
aunque no los vayas a incluir

1359
01:20:39,120 --> 01:20:45,040
para chequear los no. ¿Esto
digamos que son algunos trucos, eh?

1360
01:20:47,440 --> 01:20:48,160
El caso es que

1361
01:20:48,160 --> 01:20:52,200
hay quien no por descuido,
sino de forma intencional,

1362
01:20:52,320 --> 01:20:56,200
usan la inteligencia artificial
de forma fraudulenta.

1363
01:20:56,240 --> 01:21:01,720
Lo malo es que los modelos de lenguaje
no tienen barandillas.

1364
01:21:01,720 --> 01:21:02,960
Que es la.

1365
01:21:02,960 --> 01:21:06,200
¿Es realmente la traducción eh?

1366
01:21:06,920 --> 01:21:11,480
En en castellano de Rails
hay gente que la traduce

1367
01:21:11,480 --> 01:21:14,960
como guardarraíles,
pero es que van sin barandilla.

1368
01:21:15,000 --> 01:21:19,320
¿O sea, esto son muy sofisticados eh?

1369
01:21:19,640 --> 01:21:25,000
¿Pero no tienen este tipo de
de barandilla de seguridad, no?

1370
01:21:25,040 --> 01:21:30,760
Por y esto aparecen en esta investigación
que os pongo aquí,

1371
01:21:31,480 --> 01:21:36,040
pues no tienen demasiado problemas
para inventar lo que necesites.

1372
01:21:36,240 --> 01:21:41,160
Parece ser que el contenido fake
no es un problema de seguridad tan grave.

1373
01:21:41,160 --> 01:21:42,320
Y tú puedes hacer.

1374
01:21:42,320 --> 01:21:45,880
O sea, al principio se resisten
un poquito, pero después de cinco,

1375
01:21:45,920 --> 01:21:50,120
cuatro o cinco intentos
se pliegan a inventar cualquier trabajo

1376
01:21:50,680 --> 01:21:55,560
científico y esas tecnologías
están dañando bastante

1377
01:21:56,160 --> 01:22:00,600
porque suponen la industrialización
de lo que llamamos Paper Mills,

1378
01:22:00,960 --> 01:22:04,720
que es fraude científico de
empresas de fabricación de papers

1379
01:22:04,760 --> 01:22:07,880
que ahora pueden escalar
porque en realidad

1380
01:22:07,880 --> 01:22:10,880
ya no dependen de esto

1381
01:22:11,080 --> 01:22:14,720
doctorandos
en el papel de autores en la sombra,

1382
01:22:14,720 --> 01:22:18,960
sino que pueden escalar gratis
gracias a la tecnología.

1383
01:22:19,720 --> 01:22:21,960
Es realmente irónico que

1384
01:22:21,960 --> 01:22:26,120
la inteligencia artificial
esté facilitando este negocio ilegal

1385
01:22:26,160 --> 01:22:30,280
a través de automatizar el trabajo
precario.

1386
01:22:30,360 --> 01:22:31,800
¿También ilegal, no?

1387
01:22:33,360 --> 01:22:36,720
¿Eh? ¿Bueno,

1388
01:22:37,200 --> 01:22:40,920
una Una de las cosas que más
me ha molestado cuando he colaborado

1389
01:22:40,920 --> 01:22:46,240
como revisor de artículos o ponencias
son las las citas alucinantes, no?

1390
01:22:46,280 --> 01:22:50,880
En dos modalidades citas
que apuntan artículos o libros

1391
01:22:50,880 --> 01:22:54,680
que no existen
y las citas que apuntan a trabajos

1392
01:22:54,680 --> 01:22:59,040
que sí existen pero que no hablan del tema
que se está tratando en el paper.

1393
01:22:59,080 --> 01:23:00,160
¿Eh, eh?

1394
01:23:00,160 --> 01:23:03,960
¿O quizá de forma muy marginal
o periférica, no?

1395
01:23:04,000 --> 01:23:09,600
¿Y ese es un ejemplo real que me molestó
especialmente porque yo acepté la revisión

1396
01:23:09,600 --> 01:23:13,520
porque hablaba de modelos multinivel
y creía que iba a aprender mucho, no?

1397
01:23:13,560 --> 01:23:18,440
¿Pero vi que las referencias,
muchas referencias que citaba, no tenían

1398
01:23:18,440 --> 01:23:23,080
nada que ver con lo que estaba escribiendo
el autor o los autores, no?

1399
01:23:23,800 --> 01:23:26,360
Y me dio muchísima rabia.

1400
01:23:26,360 --> 01:23:29,880
¿En realidad estas citas son

1401
01:23:29,880 --> 01:23:33,280
tres errores o tres fallos

1402
01:23:33,840 --> 01:23:38,840
o tres malas prácticas en una No,
porque primero la cita es incorrecta, eh?

1403
01:23:39,040 --> 01:23:43,320
¿Segundo, es negligente
porque no se ha revisado y tercero

1404
01:23:43,320 --> 01:23:47,480
porque no se advierte de forma
transparente que se haya utilizado

1405
01:23:47,480 --> 01:23:50,480
la inteligencia artificial
para este fin, no?

1406
01:23:50,480 --> 01:23:54,320
O sea, junto también
un artículo que me pasó Jessica

1407
01:23:54,360 --> 01:23:58,160
y que y que habla sobre este.

1408
01:23:58,200 --> 01:24:02,160
¿Este fenómeno, que en realidad
es bastante fácil de evitar,

1409
01:24:02,200 --> 01:24:06,320
es simplemente tener cuidado
y estar seguro

1410
01:24:06,320 --> 01:24:09,480
de lo que escribes en el en el paper no?

1411
01:24:11,040 --> 01:24:11,640
Y hablando de

1412
01:24:11,640 --> 01:24:16,000
revisores, también
hay quien usa la inteligencia artificial

1413
01:24:16,000 --> 01:24:20,800
para realizar informes
de revisión de revisión en las revistas.

1414
01:24:20,800 --> 01:24:23,800
Esta es una práctica prohibida

1415
01:24:24,800 --> 01:24:26,520
y todo el mundo lo sabe.

1416
01:24:26,520 --> 01:24:28,760
No, no se puede.

1417
01:24:28,760 --> 01:24:32,000
Y la justificación está en la protección
de la propiedad intelectual.

1418
01:24:32,680 --> 01:24:35,560
Sin embargo,
y esto es una opinión personal,

1419
01:24:35,560 --> 01:24:40,800
yo creo que los editores deberían
ser los primeros interesados en promover,

1420
01:24:42,000 --> 01:24:47,480
eh probablemente una IA esto eh propia.

1421
01:24:47,720 --> 01:24:50,720
O sea, o por lo menos esto,

1422
01:24:51,640 --> 01:24:54,160
eh, eh,

1423
01:24:54,160 --> 01:24:57,760
con el suyo o el rango, lo que sea.

1424
01:24:58,080 --> 01:24:59,880
Eh, eh.

1425
01:24:59,880 --> 01:25:06,680
Y que tuviese, digamos,
estas protecciones aseguradas.

1426
01:25:07,480 --> 01:25:12,400
Pero yo la instalaría en todos los
en todas las revistas como proceso de

1427
01:25:12,400 --> 01:25:18,480
revisión, específicamente en los filtros
de escritorio o describiese.

1428
01:25:18,520 --> 01:25:22,680
No ganaríamos todos,
especialmente los autores

1429
01:25:22,720 --> 01:25:28,320
que por fin recibiríamos rechazos
debidamente documentados.

1430
01:25:28,320 --> 01:25:32,160
¿Muchos de los que estamos aquí
sabemos lo que es recibir un

1431
01:25:32,200 --> 01:25:36,200
no genérico por respuesta, eh?

1432
01:25:37,200 --> 01:25:40,320
Con un sistema
ya se puede sustituir esta bofetada

1433
01:25:40,320 --> 01:25:44,080
que a lo mejor te la dan de todas formas,
pero no es ciega

1434
01:25:44,120 --> 01:25:48,400
y se podría sustituir
por una crítica constructiva,

1435
01:25:48,400 --> 01:25:53,720
aunque sea impersonal, basado en un
una rúbrica.

1436
01:25:53,800 --> 01:25:57,040
¿Esto y yo creo que

1437
01:25:57,040 --> 01:26:00,040
en realidad está este, eh,

1438
01:26:00,600 --> 01:26:03,920
este desarrollo es casi inmediato, eh?

1439
01:26:04,400 --> 01:26:07,400
Y sería muy,

1440
01:26:07,760 --> 01:26:10,360
muy bueno también para evitar

1441
01:26:10,360 --> 01:26:15,400
episodios también vergonzosos
como el que hemos visto recientemente.

1442
01:26:15,440 --> 01:26:20,280
Es muy fácil programar
una gente que chequee fuentes públicas

1443
01:26:20,320 --> 01:26:23,840
la existencia de conflictos de interés
de los autores de un artículo,

1444
01:26:24,120 --> 01:26:28,320
los los editoriales,
los financiadores, los autores,

1445
01:26:28,360 --> 01:26:31,440
la sociedad entera se evitarían los

1446
01:26:32,240 --> 01:26:34,600
los los los disgustos no.

1447
01:26:34,600 --> 01:26:37,600
Que pueden resultar de aquí.

1448
01:26:38,560 --> 01:26:40,440
Bueno, muchos en realidad,

1449
01:26:40,440 --> 01:26:44,240
casi todos los efectos
de los que habla hablado

1450
01:26:44,520 --> 01:26:47,560
Celia también son aplica del bless para el

1451
01:26:48,280 --> 01:26:52,400
el que son aplicables para los alumnos
También son aplicables

1452
01:26:52,440 --> 01:26:56,440
eh para los investigadores
como la atrofia cognitiva

1453
01:26:56,480 --> 01:27:01,080
y también la psicofonía,
que es una palabra que no conocía

1454
01:27:01,080 --> 01:27:04,760
pero que es esta aceptada

1455
01:27:05,000 --> 01:27:08,680
por la Real Academia y especialmente yo

1456
01:27:08,720 --> 01:27:13,520
creo que somos vulnerables a la psicopatía
de la inteligencia artificial.

1457
01:27:13,520 --> 01:27:16,880
Aquí os pongo un ejemplo de cómo Géminis
demuestra

1458
01:27:16,880 --> 01:27:21,640
una sincera admiración
por las cosas que yo le cuento.

1459
01:27:22,080 --> 01:27:27,560
¿Por fin alguien que reconoce lo mucho que
que yo o algo así da gusto, eh?

1460
01:27:27,680 --> 01:27:32,480
Quien cree que no es sensible
y vulnerable a la zalamería

1461
01:27:32,520 --> 01:27:35,800
y la psicopatía
tiene realmente dos problemas

1462
01:27:36,000 --> 01:27:39,520
uno si es sensible,
si es vulnerable, todos lo somos.

1463
01:27:39,760 --> 01:27:43,640
Y el segundo problema es que como
no sabe que es vulnerable,

1464
01:27:43,640 --> 01:27:48,640
alguien o algo
se van aprovechar de de ello.

1465
01:27:48,680 --> 01:27:50,120
¿Y ya ha habido casos en,

1466
01:27:51,520 --> 01:27:53,880
eh, bueno, y hay,

1467
01:27:53,880 --> 01:27:58,680
por supuesto
muchísimas otras limitaciones y riesgos

1468
01:27:58,680 --> 01:28:02,520
relacionados con la infraestructura
que que ahora mismo tenemos

1469
01:28:02,720 --> 01:28:05,960
y la tecnología y la infraestructura
que ahora mismo tenemos no?

1470
01:28:06,000 --> 01:28:08,880
Y que no se puede resolver
a nivel personal,

1471
01:28:08,880 --> 01:28:11,880
sino a niveles superiores,

1472
01:28:11,920 --> 01:28:15,320
institucionales
o incluso estatales, internacionales,

1473
01:28:15,320 --> 01:28:20,720
pero que tenemos que ser conscientes
y promover desde nuestro rincón

1474
01:28:21,080 --> 01:28:26,320
como investigadores, eh su solución
porque afecta a nuestra actividad.

1475
01:28:26,640 --> 01:28:29,640
Y ejemplos de ello son la dependencia

1476
01:28:29,760 --> 01:28:32,840
excesiva en pocos proveedores.

1477
01:28:32,960 --> 01:28:36,960
Esto las tarifas de acceso
que pueden crear brechas

1478
01:28:36,960 --> 01:28:41,240
y desigualdades de acceso,
la opacidad de los modelos,

1479
01:28:41,280 --> 01:28:47,320
la falta de replicabilidad
por ser modelos estocásticos y

1480
01:28:48,720 --> 01:28:53,240
sobre todo una cuestión súper importante
es el consumo de recursos

1481
01:28:53,280 --> 01:28:58,440
y energía y agua de estos modelos
que tienen tanto durante el entrenamiento

1482
01:28:58,960 --> 01:29:02,560
como durante la inferencia
y las respuestas que nos dan.

1483
01:29:02,600 --> 01:29:06,080
O sea, la inferencia
es cuando les estamos preguntando

1484
01:29:06,120 --> 01:29:10,920
y este es un problema
que afecta a comunidades eh

1485
01:29:11,400 --> 01:29:14,240
locales reales

1486
01:29:14,240 --> 01:29:17,240
que pierden control sobre sus recursos,
como el agua.

1487
01:29:17,560 --> 01:29:21,680
Cuando un centro de datos se instala
y está creando

1488
01:29:21,800 --> 01:29:27,040
realmente una oposición en algunos lugares
como Aragón muy importante,

1489
01:29:27,440 --> 01:29:31,120
simplemente porque se hace de espaldas
a la ciudadanía.

1490
01:29:31,640 --> 01:29:34,600
¿A nivel individual, qué podemos hacer?

1491
01:29:34,600 --> 01:29:39,560
¿Pues deberíamos pedir algún
indicador de uso, eh?

1492
01:29:39,720 --> 01:29:44,240
¿Nosotros deberíamos saber,
o por lo menos algún registro,

1493
01:29:44,760 --> 01:29:48,920
o deberíamos pedir al proveedor
que nos diera un indicador,

1494
01:29:48,960 --> 01:29:53,480
un registro de uso de
cómo lo estamos usando y a lo mejor

1495
01:29:53,480 --> 01:29:56,720
en referencia a otras, a otras personas

1496
01:29:56,720 --> 01:30:01,240
o a la media de lo de de los usuarios, no?

1497
01:30:01,320 --> 01:30:04,320
Una referencia sería importante

1498
01:30:04,400 --> 01:30:08,400
porque nos ayudaría a ser conscientes
de lo que nos está pasando.

1499
01:30:08,440 --> 01:30:10,680
Esa referencia puede ser número de tokens,

1500
01:30:10,680 --> 01:30:14,400
pero también puede ser litros de agua
o kilovatios hora.

1501
01:30:14,400 --> 01:30:15,240
¿No he y

1502
01:30:16,960 --> 01:30:19,960
y después esto, eh?

1503
01:30:20,120 --> 01:30:24,520
También pedir a las instituciones
antes se ha hecho referencia.

1504
01:30:24,520 --> 01:30:26,040
¿Por qué no? ¿Por qué?

1505
01:30:26,040 --> 01:30:30,240
Por qué no las la
las universidades que además

1506
01:30:30,360 --> 01:30:35,120
normalmente,
eh Mmm esto compartimos cosas.

1507
01:30:35,120 --> 01:30:39,840
¿Por qué no compartir una infraestructura,
eh Esto

1508
01:30:40,400 --> 01:30:43,440
y promover soluciones de caché

1509
01:30:43,480 --> 01:30:48,400
que puedan ponerse en práctica
en la comunidad académica, no?

1510
01:30:48,560 --> 01:30:54,720
Creo que en este sentido en Cataluña
ya tienen este tipo de infraestructura

1511
01:30:54,720 --> 01:30:59,600
y que a lo mejor nosotros podríamos
o adherirnos a esa comunidad

1512
01:30:59,640 --> 01:31:04,280
o esto hacerla nuestra, por lo menos
en las universidades públicas de Madrid.

1513
01:31:04,320 --> 01:31:07,280
Yo creo que tendría todo el sentido.

1514
01:31:07,280 --> 01:31:09,840
¿Eh, eh?

1515
01:31:09,840 --> 01:31:14,640
Y un par de cuestiones sobre la
investigación en inteligencia artificial.

1516
01:31:14,640 --> 01:31:19,000
Es decir, cuando se investiga
la inteligencia artificial como objeto de

1517
01:31:19,000 --> 01:31:23,600
estudio o se desarrolla alguna aplicación
de inteligencia artificial

1518
01:31:23,640 --> 01:31:28,880
y después también
alguna consideración sobre gobernanza.

1519
01:31:28,880 --> 01:31:32,360
La primera cuestión que me gustaría
incidir es la necesidad de introducir

1520
01:31:32,360 --> 01:31:35,520
el análisis ético y legal
de este tipo de proyectos de imagen.

1521
01:31:35,760 --> 01:31:37,760
Se Se realiza.

1522
01:31:37,760 --> 01:31:41,800
Todo el mundo la hace porque es nuestro,
digamos nuestro oficio.

1523
01:31:41,840 --> 01:31:47,000
Se realiza una viabilidad técnica
y en muchos casos también una viabilidad

1524
01:31:47,640 --> 01:31:51,920
económica, pero en muchos casos,
muchas veces se ignora

1525
01:31:52,000 --> 01:31:57,840
un análisis mínimo de viabilidad
ética y legal en este tipo de trabajos,

1526
01:31:58,040 --> 01:32:02,400
en los que simplemente se analicen
posibles riesgos

1527
01:32:02,760 --> 01:32:06,760
que son los de siempre
los sesgos, la opacidad, los posibles

1528
01:32:06,800 --> 01:32:11,720
daños por errores,
la ciberseguridad, la manipulación, eh,

1529
01:32:12,120 --> 01:32:15,520
todos esos riesgos
que normalmente no son intencionales,

1530
01:32:15,520 --> 01:32:19,920
pero precisamente por ignorarlos,
entonces ocurren no en.

1531
01:32:21,560 --> 01:32:23,280
Y también advertir de

1532
01:32:23,280 --> 01:32:27,400
algún posible uso dual militar

1533
01:32:27,440 --> 01:32:30,800
y civil de de la tecnología y.

1534
01:32:31,400 --> 01:32:33,640
¿Y cuál es la solución?

1535
01:32:33,640 --> 01:32:34,920
Escribir.

1536
01:32:34,920 --> 01:32:39,520
¿Escribir a lo mejor medio párrafo
listando este tipo de riesgos

1537
01:32:39,880 --> 01:32:44,640
en ética en de profesional del ingeniero
se llama ignorancia

1538
01:32:44,640 --> 01:32:50,320
afectada a la actitud de
el ingeniero eh que

1539
01:32:51,560 --> 01:32:53,320
que no sabe

1540
01:32:53,320 --> 01:32:57,720
o que no quiere saber cuáles
son las consecuencias de una invención,

1541
01:32:57,760 --> 01:33:00,880
un artefacto o cualquier dispositivo, eh?

1542
01:33:01,760 --> 01:33:02,320
Y es.

1543
01:33:02,320 --> 01:33:06,840
Y ese es un grave fallo,
no solamente ético, sino profesional.

1544
01:33:07,000 --> 01:33:09,640
Cuando, mmm.

1545
01:33:09,640 --> 01:33:11,160
Y el remedio.

1546
01:33:11,160 --> 01:33:16,640
En realidad es muy fácil
poner negro sobre blanco la existencia.

1547
01:33:16,640 --> 01:33:21,080
No, no ya la solución, sino la existencia.

1548
01:33:21,240 --> 01:33:26,800
¿Porque de esos riesgos, porque alguien
tiene que leerlo y darse por enterado, eh?

1549
01:33:27,440 --> 01:33:30,000
No advertir de esos riesgos

1550
01:33:30,000 --> 01:33:33,080
es simplemente negligencia. ¿Eh?

1551
01:33:33,840 --> 01:33:36,240
¿Profesional, eh? Mmm.

1552
01:33:36,240 --> 01:33:40,760
Debería incluirse en todos los trabajos
y artículos que propongan un artefacto

1553
01:33:40,760 --> 01:33:43,760
basado en inteligencia artificial o

1554
01:33:44,120 --> 01:33:47,680
otras tecnologías emergentes. ¿Eh?

1555
01:33:47,880 --> 01:33:51,720
Mmm. ¿Repito,
no quiere decir que se solucione

1556
01:33:51,760 --> 01:33:57,280
dentro del alcance del proyecto,
porque a lo mejor no es el objetivo,

1557
01:33:57,280 --> 01:34:02,240
pero sí que se advierta
al lector de este tipo de riesgos, no?

1558
01:34:02,560 --> 01:34:04,920
Y que se discutan por lo menos.

1559
01:34:07,080 --> 01:34:08,000
¿Y después dos,

1560
01:34:08,000 --> 01:34:12,280
dos cuestiones muy sencillas
que es o muy breves, no?

1561
01:34:12,520 --> 01:34:17,040
¿Esto primero es el uso de datos
sintéticos, que es uno de los problemas,

1562
01:34:17,320 --> 01:34:20,160
vamos, uno de los problemas técnicos
y económicos más habituales

1563
01:34:20,160 --> 01:34:22,840
cuando estamos diseñando
un modelo de inteligencia artificial

1564
01:34:22,840 --> 01:34:26,960
es la disposición
de las disponibilidad de los datos, no?

1565
01:34:27,000 --> 01:34:30,160
En muchos campos
hay datos públicos que pueden usarse,

1566
01:34:30,160 --> 01:34:33,520
pero cada vez más
tomamos datos sintéticos,

1567
01:34:33,520 --> 01:34:37,120
lo cual representa una oportunidad
en muchos campos.

1568
01:34:37,280 --> 01:34:41,120
¿Pero lógicamente hay que tener cuidado
puesto que el modelo que hagamos

1569
01:34:41,160 --> 01:34:46,840
reproducirá los mismos sesgos
que tengan esos datos, eh?

1570
01:34:47,360 --> 01:34:50,360
¿Que vendrán probablemente del modelo

1571
01:34:51,000 --> 01:34:54,000
de donde se han tomado, eh?

1572
01:34:54,000 --> 01:34:59,680
Y es incluso es incluso posible
que se amplifiquen esos esos datos.

1573
01:34:59,680 --> 01:35:06,160
En estos casos en los que muchas veces
el objetivo del TFM o de la investigación

1574
01:35:06,200 --> 01:35:10,440
es mostrar la viabilidad
de un procedimiento, una arquitectura

1575
01:35:10,560 --> 01:35:13,800
y la fiabilidad del resultado
no es lo más importante.

1576
01:35:13,800 --> 01:35:17,800
¿Pero igual yo creo que es importante
documentar este hecho,

1577
01:35:17,840 --> 01:35:20,360
el uso de datos sintéticos

1578
01:35:20,360 --> 01:35:24,440
y la posible limitación
para una aplicación comercial, eh?

1579
01:35:25,520 --> 01:35:26,200
¿Y bueno, si es

1580
01:35:26,200 --> 01:35:30,160
posible implementar
alguna estrategia de mitigación, eh,

1581
01:35:30,360 --> 01:35:33,360
pues pues mejor no?

1582
01:35:35,440 --> 01:35:38,520
¿Eh? Y también una cuestión que surgió.

1583
01:35:38,760 --> 01:35:43,040
Me surgió a mí esto hace poco
en un taller de máster de robótica.

1584
01:35:43,080 --> 01:35:47,880
Un alumno está desarrollando
un modelo de red neuronal para pequeños

1585
01:35:47,880 --> 01:35:53,880
sistemas embarcados y al y al presentarlo
indica que se va a publicar

1586
01:35:53,880 --> 01:35:57,800
como librería de código abierto
y pues fantástico.

1587
01:35:57,800 --> 01:36:00,800
Realmente el esfuerzo de publicarlo
como código

1588
01:36:01,080 --> 01:36:03,920
es encomiable por muchísimas razones.

1589
01:36:03,920 --> 01:36:07,520
Es auditable, transparente, democratiza
el acceso,

1590
01:36:07,560 --> 01:36:11,600
da muchísimas libertades de uso,
modificación, distribución.

1591
01:36:11,640 --> 01:36:17,000
Es innovación colaborativa,
evita dependencias de fabricante.

1592
01:36:17,000 --> 01:36:19,920
Está súper bien,

1593
01:36:19,920 --> 01:36:22,920
pero entonces dice Y como la licencia

1594
01:36:22,920 --> 01:36:27,280
no tiene una cláusula de descargo
de responsabilidad, pues ya está.

1595
01:36:27,840 --> 01:36:32,800
Y entonces, bueno,
desde el punto de vista legal, si ya está.

1596
01:36:32,960 --> 01:36:37,360
Pero hay una responsabilidad ética
que además está documentada en varios

1597
01:36:37,360 --> 01:36:42,520
documentos en ACM y en otros documentos,
y hay responsabilidades importantes.

1598
01:36:42,760 --> 01:36:46,200
¿Para empezar hay que ser honesto
con lo que hace la librería, eh?

1599
01:36:46,640 --> 01:36:50,120
Pues sus limitaciones,
los posibles riesgos de seguridad

1600
01:36:50,160 --> 01:36:55,320
como se ha aprobado
y e Pues si haces además promesas

1601
01:36:55,320 --> 01:37:00,920
y las pones en el ritmo
y pues resulta que sí

1602
01:37:00,920 --> 01:37:05,400
que puedes ser responsable
si haces problemas sobre capacidades

1603
01:37:05,400 --> 01:37:09,280
que no existen,
pues a lo mejor sí que eres responsable.

1604
01:37:09,280 --> 01:37:11,840
Si alguien se fía
de lo que pones en el ritmo.

1605
01:37:11,840 --> 01:37:16,960
¿O sea, no, no, la cuestión es
no basta con dejar el código

1606
01:37:16,960 --> 01:37:20,840
por ahí en GitHub y chao pescado, eh?

1607
01:37:21,160 --> 01:37:23,440
Ya que se hace hacerlo,

1608
01:37:24,520 --> 01:37:25,960
o sea, ir un

1609
01:37:25,960 --> 01:37:30,720
poco más allá y hacerlo bien y mantenerlo
también lleva un compromiso.

1610
01:37:31,120 --> 01:37:34,360
Y bueno,
pues aquí adjunto algunos códigos éticos

1611
01:37:35,000 --> 01:37:38,040
y el formato de modelo que también es.

1612
01:37:38,120 --> 01:37:41,120
Hay un estándar en repositorios de.

1613
01:37:43,320 --> 01:37:45,080
De de

1614
01:37:45,080 --> 01:37:48,640
de modelos de código abierto
como Hugging Face, EH,

1615
01:37:48,640 --> 01:37:52,280
y que ese protocolo fue propuesto
originalmente

1616
01:37:52,280 --> 01:37:55,280
por Margaret Mitchell y

1617
01:37:55,360 --> 01:37:58,680
que son las ex
directoras del equipo de ética de Google.

1618
01:37:58,840 --> 01:38:02,920
Y ambas pues lideraron el equipo

1619
01:38:02,920 --> 01:38:07,640
hasta que este comité de ética
fue desmantelado.

1620
01:38:08,040 --> 01:38:12,200
Tras la publicación de
de estas investigadoras

1621
01:38:12,240 --> 01:38:16,560
de una forma crítica con la compañía
que señalaban sesgos

1622
01:38:16,600 --> 01:38:19,280
discriminatorios
en los algoritmos de búsqueda.

1623
01:38:19,280 --> 01:38:23,400
¿No? Este caso,
pues eh, bueno, pues ilustra

1624
01:38:23,440 --> 01:38:28,800
el riesgo también
de convertir el comité de tipo de de ética

1625
01:38:28,800 --> 01:38:33,880
en una periferia decorativa
y una una operación de lavado de.

1626
01:38:35,160 --> 01:38:37,720
Eh. Pero bueno, esto.

1627
01:38:37,720 --> 01:38:40,560
Estoy divagando.

1628
01:38:40,560 --> 01:38:43,560
Eh, eh.

1629
01:38:43,960 --> 01:38:47,640
Y una una palabra sobre gobernanza
de la inteligencia artificial

1630
01:38:47,640 --> 01:38:50,640
en la en la investigación. No.

1631
01:38:51,560 --> 01:38:54,440
Porque como hemos visto,
hay que intentar gestionar

1632
01:38:54,440 --> 01:38:57,720
a varios niveles
el personal de cada uno como

1633
01:38:58,480 --> 01:39:03,240
como investigador, eh
en el grupo de investigación

1634
01:39:03,280 --> 01:39:07,480
y a nivel institucional
y aquellos que tengan más responsabilidad

1635
01:39:07,480 --> 01:39:11,880
a niveles superiores
y todos los niveles son importantes

1636
01:39:11,880 --> 01:39:17,080
y lo ideal es que la gobernanza
a niveles superiores también se realice

1637
01:39:17,080 --> 01:39:21,880
con la participación de todos los miembros
de la comunidad investigadora.

1638
01:39:21,880 --> 01:39:26,680
Que no sea alguien en un despacho
que de repente decide esto.

1639
01:39:26,680 --> 01:39:28,720
¿Publicar, eh?

1640
01:39:28,720 --> 01:39:33,280
Las. ¿No debería
participar toda la comunidad

1641
01:39:33,280 --> 01:39:35,920
porque todos estamos implicados, no?

1642
01:39:35,920 --> 01:39:39,920
Y ya hemos visto la mayoría de los riesgos
de la actividad investigadora como la

1643
01:39:39,960 --> 01:39:44,160
la automatización total,
los sesgos, la falta de transparencia,

1644
01:39:44,160 --> 01:39:50,080
el consumo de recursos, etcétera
Pero una función importante de

1645
01:39:50,080 --> 01:39:53,400
la gobernanza es la supervisión que asigna

1646
01:39:53,440 --> 01:39:56,920
responsabilidad,
Vigila, define estándares.

1647
01:39:57,200 --> 01:39:59,440
¡Eh, eh!

1648
01:39:59,440 --> 01:40:05,400
Esto procura que los datos compartidos
con la inteligencia artificial

1649
01:40:05,400 --> 01:40:10,400
tratara de filtrarlos
antes de que sean enviados. ¿Eh,

1650
01:40:11,440 --> 01:40:12,080
El tema de las

1651
01:40:12,080 --> 01:40:16,760
dependencias de los proveedores, eh,
y y también

1652
01:40:16,800 --> 01:40:20,520
el diseño de los incentivos
de los investigadores, que probablemente

1653
01:40:20,520 --> 01:40:23,520
esto ya ni siquiera a nivel

1654
01:40:24,440 --> 01:40:26,440
institucional de la

1655
01:40:26,440 --> 01:40:31,240
de la universidad, sino es un nivel
probablemente superior, no?

1656
01:40:31,680 --> 01:40:36,000
Eh El el Algunas estrategias de gobernanza

1657
01:40:37,120 --> 01:40:42,000
como la transparencia y la publicidad
en las decisiones, la publicación

1658
01:40:42,040 --> 01:40:45,040
o el acceso a códigos de conducta,

1659
01:40:45,040 --> 01:40:48,480
perdón o la o la adhesión eh

1660
01:40:48,520 --> 01:40:53,040
de de un grupo determinado de
investigación a de conducta

1661
01:40:53,080 --> 01:40:56,320
La La búsqueda de opciones alternativas.

1662
01:40:56,360 --> 01:40:58,480
La vigilancia activa.

1663
01:40:58,480 --> 01:41:00,560
¡Eh Eh!

1664
01:41:00,560 --> 01:41:03,800
Todo esto es una responsabilidad.

1665
01:41:04,720 --> 01:41:10,200
Esto personal, como decía antes,
pero también del grupo,

1666
01:41:10,360 --> 01:41:14,800
eh del grupo de investigación
y de la comunidad entera

1667
01:41:15,000 --> 01:41:17,120
y del grupo de investigación.

1668
01:41:17,120 --> 01:41:21,080
Yo lo que propongo es que todos los grupos

1669
01:41:21,080 --> 01:41:24,080
de investigación de EH,

1670
01:41:24,080 --> 01:41:29,480
de la de la de la universidad,
por lo menos piensen en adherirse

1671
01:41:29,520 --> 01:41:33,520
algún, algún algún código de conducta.

1672
01:41:33,520 --> 01:41:37,520
Aquí os pongo el del
el decálogo del Consejo Superior

1673
01:41:37,520 --> 01:41:41,600
de Investigaciones Científicas,
Pero digamos que cada campo, digamos,

1674
01:41:41,600 --> 01:41:46,320
tendrá que aterrizar este
código a su disciplina. ¿Eh?

1675
01:41:47,800 --> 01:41:48,280
Y que

1676
01:41:48,280 --> 01:41:52,160
se y que y que cada grupo trate de definir

1677
01:41:52,200 --> 01:41:55,200
cómo se va a comportar en en

1678
01:41:55,280 --> 01:41:58,000
en este tema de la investigación
y la integración

1679
01:41:58,000 --> 01:42:01,760
de la inteligencia artificial
en su investigación.

1680
01:42:01,840 --> 01:42:02,880
Vale.

1681
01:42:02,880 --> 01:42:07,960
Y para terminar, una última cuestión
sobre el uso de inteligencia artificial

1682
01:42:07,960 --> 01:42:12,760
para la administración y la gestión

1683
01:42:13,680 --> 01:42:17,640
y o sea, yo, aquí es
hay una oportunidad enorme

1684
01:42:17,920 --> 01:42:23,760
que puede facilitar mucho, mucho
el funcionamiento de la de la universidad.

1685
01:42:23,760 --> 01:42:24,560
¿Si se integra

1686
01:42:24,560 --> 01:42:28,960
la inteligencia artificial en los procesos
que ya están digitalizados, eh?

1687
01:42:29,040 --> 01:42:31,360
Por supuesto,

1688
01:42:31,360 --> 01:42:37,720
lo primero que es responsable es utilizar
los presupuestos de una forma razonable.

1689
01:42:37,720 --> 01:42:40,760
¿Esto escogiendo bien las aplicaciones

1690
01:42:40,760 --> 01:42:45,360
donde haya más posibilidades de éxito
y además, eh

1691
01:42:45,400 --> 01:42:49,160
produzcan mayores mejores resultados,
no? ¿Eh,

1692
01:42:51,080 --> 01:42:54,040
Esto y

1693
01:42:54,040 --> 01:42:57,720
esto es importante porque según
un estudio, el estudio que os pongo

1694
01:42:57,720 --> 01:43:04,360
aquí del MIT, eh,
Pues un porcentaje muy alto ahí todavía

1695
01:43:04,360 --> 01:43:09,520
de fracasos, normalmente una gestión
deficiente de la calidad del dato, eh?

1696
01:43:09,720 --> 01:43:13,680
Pero bueno, igual que los alumnos,
en realidad

1697
01:43:14,400 --> 01:43:16,920
nosotros, el personal, esto

1698
01:43:17,880 --> 01:43:20,320
docente, investigador, esto

1699
01:43:20,320 --> 01:43:24,280
eh, Ya estamos usando
la inteligencia artificial.

1700
01:43:24,280 --> 01:43:28,240
¿Yo por ejemplo, envié a mis nueve perdón,

1701
01:43:28,280 --> 01:43:32,600
siete miembros del tribunal
y dos revisores

1702
01:43:32,720 --> 01:43:37,640
el formulario de idoneidad
pre rellenado con información pública

1703
01:43:37,640 --> 01:43:41,640
sobre las cosas
que me preguntaba en el formulario

1704
01:43:41,640 --> 01:43:45,920
sobre investigación, papers,
etcétera por proyectos, etcétera no?

1705
01:43:45,960 --> 01:43:50,360
¿Manera que me demoro solamente
pues unas horas

1706
01:43:52,000 --> 01:43:54,520
en hacerlo y enviarlo

1707
01:43:54,520 --> 01:43:59,040
y un par de días
en recibir las contestaciones

1708
01:43:59,320 --> 01:44:03,240
de estas nueve personas
que de otra, de otro,

1709
01:44:03,320 --> 01:44:06,880
De otra forma si yo les hubiese enviado el

1710
01:44:07,360 --> 01:44:11,000
el el formulario sin rellenar
oleos hubiese

1711
01:44:11,040 --> 01:44:15,560
hubiese tenido que investigar
para rellenarlo, me hubiese llevado

1712
01:44:15,560 --> 01:44:19,720
probablemente semanas en recibirlo, no?

1713
01:44:19,760 --> 01:44:21,760
Entonces

1714
01:44:21,760 --> 01:44:25,160
esto Yo desde la gestión podría.

1715
01:44:25,520 --> 01:44:29,360
¿Puedo imaginar que las ventajas son
también enormes, no?

1716
01:44:29,400 --> 01:44:33,680
Por ejemplo, en la revisión
de expedientes y documentación.

1717
01:44:33,720 --> 01:44:38,480
Ahora bien, hay que tener aquí también
alguna precaución.

1718
01:44:38,520 --> 01:44:44,560
Algunas aplicaciones del ámbito educativo
son consideradas de alto riesgo según la

1719
01:44:45,440 --> 01:44:47,840
regulación de la inteligencia

1720
01:44:48,800 --> 01:44:51,800
artificial y por.

1721
01:44:52,120 --> 01:44:57,040
¿Por supuesto,
también tiene que hacerse el análisis

1722
01:44:57,560 --> 01:45:00,560
de si la aplicación podrá

1723
01:45:01,400 --> 01:45:04,200
causar también algún daño a alguna persona

1724
01:45:04,200 --> 01:45:08,360
o colectivo en sus derechos fundamentales,

1725
01:45:08,360 --> 01:45:11,360
lo que se suele llamar el fría, no?

1726
01:45:11,360 --> 01:45:14,360
Fundamental Rights impacta

1727
01:45:14,680 --> 01:45:19,080
y y esto digamos que sería que sería

1728
01:45:20,320 --> 01:45:23,280
la precaución hacerlo.

1729
01:45:23,280 --> 01:45:26,280
Pero vamos, que yo veo enormes,

1730
01:45:26,400 --> 01:45:31,160
grandísimas posibilidades aquí
y os animo a las sesiones también

1731
01:45:31,160 --> 01:45:36,680
sobre el tema de esta edición de Primavera
Tech La la

1732
01:45:36,880 --> 01:45:40,120
especialmente la que habla de agentes

1733
01:45:40,120 --> 01:45:43,240
del 10 de junio, que yo ya me he apuntado.

1734
01:45:43,520 --> 01:45:44,080
Vale.

1735
01:45:44,080 --> 01:45:44,440
Entonces.

1736
01:45:44,440 --> 01:45:47,440
Bueno, y con esto.

1737
01:45:48,160 --> 01:45:52,080
Eh, las referencias están aquí.

1738
01:45:52,880 --> 01:45:55,880
Bueno, esto va a Zotero.

1739
01:45:58,440 --> 01:46:00,520
Pero.

1740
01:46:00,520 --> 01:46:03,520
Y os voy a poner también.

1741
01:46:04,960 --> 01:46:06,120
Bueno, va soltero.

1742
01:46:06,120 --> 01:46:09,120
Os voy a poner también

1743
01:46:09,680 --> 01:46:12,040
esta.

1744
01:46:12,040 --> 01:46:15,880
Hay. Hay un montón de de esto.

1745
01:46:16,000 --> 01:46:19,880
Documentos y quien se apunten,
pues también puede

1746
01:46:19,920 --> 01:46:23,000
puede sugerir y aportar.

1747
01:46:23,000 --> 01:46:24,360
Vale. Eh.

1748
01:46:25,400 --> 01:46:28,400
Y finalmente hay.

1749
01:46:30,920 --> 01:46:32,960
Eh. Bueno, aquí os pongo también

1750
01:46:32,960 --> 01:46:37,440
las referencias en modo texto para quien

1751
01:46:38,560 --> 01:46:40,640
le resulte más cómodo.

1752
01:46:40,640 --> 01:46:44,040
¿Y otra vez este

1753
01:46:45,680 --> 01:46:48,560
el grupo de teams, eh?

1754
01:46:48,560 --> 01:46:51,040
Que el el vínculo ya está en el chat

1755
01:46:51,040 --> 01:46:56,160
y esto donde también
pondremos el el vínculo

1756
01:46:56,160 --> 01:47:00,600
al al grupo de Sotero para referencias
que iremos

1757
01:47:01,000 --> 01:47:03,880
e iremos también.

1758
01:47:03,880 --> 01:47:07,000
Esto añadiendo en el futuro.

1759
01:47:07,480 --> 01:47:11,240
Y yo con esto
lo dejo aquí para que lo veáis todos

1760
01:47:12,360 --> 01:47:15,720
y y y aquí con esto

1761
01:47:15,720 --> 01:47:18,720
determinado mi intervención.

1762
01:47:20,400 --> 01:47:22,400
Muchas gracias Jesús.

1763
01:47:22,400 --> 01:47:24,680
¿Eh, Pues tenemos unos minutitos

1764
01:47:24,680 --> 01:47:28,320
para abrir turno de preguntas eh?

1765
01:47:29,040 --> 01:47:34,280
No sé si por el chat creo que no
se había quedado así nada pendiente.

1766
01:47:34,280 --> 01:47:35,560
Bueno, a ver.

1767
01:47:35,560 --> 01:47:38,120
Bueno, están dando las gracias.

1768
01:47:38,120 --> 01:47:38,800
Dando las gracias.

1769
01:47:38,800 --> 01:47:41,480
Gracias, gracias, gracias.

1770
01:47:41,480 --> 01:47:44,480
O incluso podemos abrir micro.

1771
01:47:44,480 --> 01:47:49,760
Si alguien quiere hablar, podemos
aprovechar estos, estos minutillos.

1772
01:47:52,480 --> 01:47:54,520
A ver
si alguien quiere comentar alguna cosa.

1773
01:47:54,520 --> 01:47:57,520
Yo por mi parte,
mientras la gente se anima.

1774
01:47:59,040 --> 01:48:00,560
Los resultados del club

1775
01:48:00,560 --> 01:48:06,480
la verdad es que son curiosos
porque hay un 36% del profesorado que está

1776
01:48:06,480 --> 01:48:09,560
en contra del uso de la evaluación
a través de IA.

1777
01:48:10,240 --> 01:48:12,040
Un 36% en contra.

1778
01:48:12,040 --> 01:48:16,280
Me pareció mucho para ser una Una escuela.

1779
01:48:16,320 --> 01:48:18,000
Vamos. ¿Una universidad tan tecnológica?

1780
01:48:18,000 --> 01:48:21,000
La nuestra no. Qué curioso.

1781
01:48:21,680 --> 01:48:23,160
También hila un poco.

1782
01:48:23,160 --> 01:48:25,280
Yo he votado que sí.

1783
01:48:25,280 --> 01:48:28,280
Esto también

1784
01:48:28,520 --> 01:48:30,920
Precauciones, Pero yo creo que

1785
01:48:30,920 --> 01:48:33,640
no hay que ponerse de plano.

1786
01:48:33,640 --> 01:48:36,000
Pero vamos, esa es mi opinión.

1787
01:48:36,000 --> 01:48:38,520
Pero hila un poco con lo que hablábamos,
que a lo mejor también

1788
01:48:38,520 --> 01:48:42,240
muchas veces son el miedo a los riesgos
que comentábamos

1789
01:48:42,440 --> 01:48:48,720
y un poco sobre qué herramienta
que nos ofrece protección y que no sé.

1790
01:48:48,720 --> 01:48:51,960
Antes también había una
un profesor, Ángel García,

1791
01:48:52,840 --> 01:48:54,920
que hablaba de la infraestructura.

1792
01:48:54,920 --> 01:48:59,280
Si es local, sí,
pero fuera cómo nos lo planteamos,

1793
01:48:59,320 --> 01:49:03,360
aunque fuese local, necesitaríamos
pedir permiso a los estudiantes.

1794
01:49:03,640 --> 01:49:05,160
Es que todo eso

1795
01:49:05,160 --> 01:49:09,800
creo que es algo que debemos estudiar,
porque claro, nos puede afectar.

1796
01:49:11,520 --> 01:49:14,200
Si hay alguien que quiere explicar

1797
01:49:14,200 --> 01:49:18,640
por qué voto
que no a la a la evaluación con IA,

1798
01:49:18,680 --> 01:49:21,680
pues que abra el micrófono y nos cuente

1799
01:49:22,200 --> 01:49:25,200
eso. Eso.

1800
01:49:26,400 --> 01:49:27,280
Y es curioso

1801
01:49:27,280 --> 01:49:31,800
que entre 158 personas que quedan
nadie quiere hablar.

1802
01:49:31,880 --> 01:49:35,160
Tienen que levantar la mano
para permitirles abrir el micrófono.

1803
01:49:35,880 --> 01:49:38,640
Ah, sí, Pero

1804
01:49:38,640 --> 01:49:39,600
estamos pendientes.

1805
01:49:39,600 --> 01:49:42,600
Si hay quien levanta la mano,

1806
01:49:42,720 --> 01:49:45,720
le damos paso.

1807
01:49:49,440 --> 01:49:54,000
Y quizás porque a pesar de A

1808
01:49:54,160 --> 01:49:57,560
es una muy difícil aquí
en una ciudad gallego,

1809
01:49:57,600 --> 01:49:59,840
a pesar de ser tecnológica,
somos una universidad

1810
01:49:59,840 --> 01:50:02,840
bastante conservadora
en sus procesos docentes, dice.

1811
01:50:02,840 --> 01:50:06,920
Y yo te
digo, Ignacio, esos procesos no en todo.

1812
01:50:07,360 --> 01:50:10,880
O sea, bueno, antes, antes, antes, Ángel,

1813
01:50:12,760 --> 01:50:13,120
antes.

1814
01:50:13,120 --> 01:50:16,800
¿Ángel ha compartido un
un proyecto que tienen ahí

1815
01:50:16,800 --> 01:50:21,720
para hacer corrección
de programas de programación, eh,

1816
01:50:22,000 --> 01:50:25,800
que a lo mejor a alguien le
interesa y le convence, eh?

1817
01:50:30,360 --> 01:50:31,840
Si nació gallego, dice.

1818
01:50:31,840 --> 01:50:36,400
Quizás porque a pesar de ese tono A no,
no estaba leyendo a Ramón.

1819
01:50:36,440 --> 01:50:39,080
José Ramón,
perdón, Rodríguez no existe loca.

1820
01:50:39,080 --> 01:50:43,920
¿Si lo pones en CoPilot, aunque sea de la
UPM, CoPilot lo va a usar, eh?

1821
01:50:44,880 --> 01:50:47,880
Eso hay que leerse los contratos

1822
01:50:48,280 --> 01:50:50,520
bien y hasta donde sabemos

1823
01:50:50,520 --> 01:50:54,760
y nos han hecho exposiciones y
y cumplen todas las normativas.

1824
01:50:54,800 --> 01:50:56,520
Eso es nuestro tenant.

1825
01:50:56,520 --> 01:50:59,520
Y en principio

1826
01:50:59,680 --> 01:51:03,280
habría que definir José Ramón
a que dices y lo lo va a usar.

1827
01:51:03,360 --> 01:51:07,520
Mira Almudena levantado la mano si quieres
Sonia, le damos una valiente.

1828
01:51:09,600 --> 01:51:12,600
De que no venga.

1829
01:51:15,440 --> 01:51:16,800
¿Me escucha?

1830
01:51:16,800 --> 01:51:19,560
Si Almudena,

1831
01:51:19,560 --> 01:51:24,600
yo por por dar mi opinión
en en primera persona,

1832
01:51:25,320 --> 01:51:28,040
yo este curso con

1833
01:51:28,040 --> 01:51:33,560
intentado probar el Cloud cowork
para hacer la evaluación automática

1834
01:51:33,560 --> 01:51:37,080
de unas tareas de mis alumnos
y aquí me hallo,

1835
01:51:37,520 --> 01:51:40,840
rectificando todo el feedback
que ha hecho todas, incluso

1836
01:51:40,840 --> 01:51:44,880
aunque tenga la rúbrica muy detallada
con todos sus puntajes,

1837
01:51:45,040 --> 01:51:48,640
los descriptores
perfectamente delimitados,

1838
01:51:48,800 --> 01:51:53,360
pues es que no lo termina de hacer bien,
entonces es trabajo doble realmente.

1839
01:51:54,080 --> 01:51:56,800
Por eso pienso que no es que no

1840
01:51:56,800 --> 01:52:00,160
esté en contra de la evaluación,
pero bueno, sí que

1841
01:52:01,400 --> 01:52:02,680
hacerlo de manera manual.

1842
01:52:02,680 --> 01:52:05,600
De momento creo que nos ahorra tiempo.

1843
01:52:05,600 --> 01:52:07,720
Mmm hmm.

1844
01:52:07,720 --> 01:52:12,640
Ya. A ver, yo una
Una cosa que normalmente hago no es mandar

1845
01:52:12,640 --> 01:52:16,000
feedback directamente, sino esto,

1846
01:52:16,360 --> 01:52:20,000
eh, hacer más bien el primer filtro,

1847
01:52:20,400 --> 01:52:25,600
es decir, aquellas aquellos trabajos
que le falta claramente alguna parte.

1848
01:52:25,800 --> 01:52:27,600
Eso sí que lo identifica bien.

1849
01:52:27,600 --> 01:52:29,480
¿Es decir,

1850
01:52:29,480 --> 01:52:33,120
ahora, en la interpretación
de lo que ha escrito el alumno,

1851
01:52:33,120 --> 01:52:37,440
esa ya puede ser, eh, más, más complicada,

1852
01:52:37,440 --> 01:52:40,440
pero para, digamos, para hacer un

1853
01:52:40,440 --> 01:52:44,480
un primer, una primera purga, eh?

1854
01:52:44,560 --> 01:52:47,560
Y por lo menos avisar a los alumnos

1855
01:52:48,360 --> 01:52:50,520
que les falta alguna,

1856
01:52:50,520 --> 01:52:53,840
alguna cosa que tenía
que ir en el trabajo para esa.

1857
01:52:53,840 --> 01:52:57,240
¿Normalmente esto si es

1858
01:52:57,280 --> 01:53:00,760
si es bueno y entonces te evitas eh?

1859
01:53:00,880 --> 01:53:05,440
Digamos esa, esa, esa primera,
esa primera fase, después

1860
01:53:05,440 --> 01:53:10,400
probablemente ya para alguna cosa,
pero vamos, yo nunca les enviaría

1861
01:53:10,400 --> 01:53:14,400
directamente el feedback, sino que bueno,
pues haría una primera, esto

1862
01:53:14,640 --> 01:53:18,800
les enviaría, eh, esa primera,

1863
01:53:20,000 --> 01:53:22,320
esa, ese primer filtro.

1864
01:53:22,320 --> 01:53:25,080
Mmm no, por supuesto,

1865
01:53:25,080 --> 01:53:27,280
el tema es este, no, que yo lo digo.

1866
01:53:27,280 --> 01:53:30,720
Venga, vamos a probarlo,
a ver si de verdad me ahorro tiempo o no

1867
01:53:31,040 --> 01:53:35,000
Y te genera
pues todo el feedback, las notas muy bien,

1868
01:53:35,000 --> 01:53:39,960
te la puntuación parcial de las rúbricas,
que es lo que le pedí que me hiciera,

1869
01:53:39,960 --> 01:53:41,640
pero es que luego no se ajusta

1870
01:53:41,640 --> 01:53:45,480
con los descriptores,
entonces evidentemente no se lo mando.

1871
01:53:45,640 --> 01:53:48,640
Estoy aquí corrigiéndolo de manera manual,

1872
01:53:50,280 --> 01:53:53,120
pero has tenido que comprobar primero,

1873
01:53:53,120 --> 01:53:56,280
corregir a la guía y después
corregir a los alumnos.

1874
01:53:56,280 --> 01:53:57,760
Ya, ya.

1875
01:53:57,760 --> 01:54:00,800
Luis Cancela está
levantando también la mano.

1876
01:54:00,840 --> 01:54:03,560
Ya puede hablar. Luis Sí. Buenos días.

1877
01:54:03,560 --> 01:54:06,960
Nada bueno, yo no he votado
porque entre otras cosas no me dedico

1878
01:54:07,000 --> 01:54:11,120
fundamentalmente
a impartir clase ni a evaluar.

1879
01:54:11,400 --> 01:54:15,440
Soy personal de administración y servicios
y bueno, lo único que desde Protección

1880
01:54:15,440 --> 01:54:18,600
de datos, que es en el
área que trabajo, sí que es cierto que

1881
01:54:18,800 --> 01:54:22,800
entiendo que pueda serviros de apoyo
esa herramienta como cualquier otra

1882
01:54:22,800 --> 01:54:28,120
que utilicéis en vuestras tareas
como docentes, pero en la propia normativa

1883
01:54:29,360 --> 01:54:30,200
exige, digamos,

1884
01:54:30,200 --> 01:54:33,800
una revisión siempre
no se pueden tomar decisiones

1885
01:54:35,080 --> 01:54:37,880
automatizadas
sin la revisión de una persona.

1886
01:54:37,880 --> 01:54:41,880
Con lo cual, bueno,
pues el recalcar que me imagino que

1887
01:54:42,040 --> 01:54:45,120
que no estamos hablando de eso,
de una evaluación completa y

1888
01:54:45,200 --> 01:54:48,240
y esa toma de decisiones
a través de esa evaluación

1889
01:54:48,280 --> 01:54:53,960
que dejemos en manos, digamos de
de la guía sin sin una posterior revisión.

1890
01:54:53,960 --> 01:54:58,080
Con lo cual a lo mejor lo que ha dicho
la compañera de que puede exigir

1891
01:54:58,080 --> 01:55:01,560
incluso pues eso, más trabajo
que el hecho de

1892
01:55:02,160 --> 01:55:06,640
pues y hacer esa evaluación
directamente por por el docente.

1893
01:55:06,640 --> 01:55:10,960
Pero bueno, entiendo que si sirve de apoyo
y puede pues agilizar esa tarea

1894
01:55:10,960 --> 01:55:13,960
que hacéis de evaluación
pues tampoco estaría.

1895
01:55:14,120 --> 01:55:17,120
Pero bueno, recalcando eso que se necesita

1896
01:55:17,440 --> 01:55:20,200
luego o se tiene derecho, digamos sí,

1897
01:55:20,200 --> 01:55:23,480
si esa evaluación
implica decisiones sobre las personas,

1898
01:55:23,520 --> 01:55:28,160
pues a que se no se realice
de forma totalmente automatizada.

1899
01:55:28,440 --> 01:55:29,680
Y también destacar algo

1900
01:55:29,680 --> 01:55:33,280
que me ha gustado mucho,
esa necesidad de introducir en todo

1901
01:55:33,480 --> 01:55:37,920
esa viabilidad de los proyectos
ética y legal, junto con la que ya es más,

1902
01:55:38,400 --> 01:55:42,720
digamos habitual y que se tiene más
en mente, que es la técnica y económica.

1903
01:55:43,480 --> 01:55:44,120
Gracias.

1904
01:55:45,640 --> 01:55:48,560
De hecho,
la evaluación es uno de los casos.

1905
01:55:48,560 --> 01:55:50,080
Bueno,

1906
01:55:50,080 --> 01:55:53,840
Celia, corrígeme
si es ese es uno de los casos

1907
01:55:54,360 --> 01:55:58,320
estipulados como de alto riesgo en, EH,

1908
01:55:59,120 --> 01:56:02,240
en el en el en la regulación
de inteligencia artificial.

1909
01:56:02,560 --> 01:56:05,560
¿Bromea?

1910
01:56:06,600 --> 01:56:08,800
Sí, Ángel.

1911
01:56:08,800 --> 01:56:09,960
Hola. Eh.

1912
01:56:09,960 --> 01:56:13,960
Bueno, muy interesante
toda la charla, toda,

1913
01:56:14,480 --> 01:56:19,240
toda esta iniciativa con respecto a esto
último que dice Jesús.

1914
01:56:19,240 --> 01:56:20,640
Totalmente de acuerdo.

1915
01:56:20,640 --> 01:56:25,120
Es decir, efectivamente,
la evaluación es una parte crítica

1916
01:56:25,840 --> 01:56:30,760
en el tema de la de la
IA ACT de Europea, la norma europea,

1917
01:56:31,160 --> 01:56:34,920
con lo cual tenemos que tener especial
cuidado.

1918
01:56:35,280 --> 01:56:39,000
A nosotros
nos interesa cuando hablo de nosotros

1919
01:56:39,040 --> 01:56:42,200
hablo de la Unidad Docente de Informática
que imparte, pues por ejemplo,

1920
01:56:42,200 --> 01:56:45,200
asignaturas con 500 y pico alumnos

1921
01:56:45,440 --> 01:56:48,320
en los que, bueno,
pues tenemos una carga de trabajo brutal,

1922
01:56:48,320 --> 01:56:53,240
sobre todo si queremos seguir esto
que llama la evaluación continuada,

1923
01:56:53,240 --> 01:56:54,560
porque os podéis imaginar

1924
01:56:54,560 --> 01:56:57,840
si queremos hacer prácticas
y tenemos que corregir todas las semanas

1925
01:56:57,880 --> 01:57:01,960
500 y pico prácticas,
pues no haríamos otra cosa.

1926
01:57:02,400 --> 01:57:07,520
Entonces estamos implantando
un sistema de apoyo, no de corrección

1927
01:57:07,520 --> 01:57:12,480
automática, de apoyo y además
un sistema híbrido que no solo utiliza IA,

1928
01:57:12,840 --> 01:57:17,280
utiliza otras cosas adicionales
en apoyo también a la IA.

1929
01:57:17,600 --> 01:57:21,400
Y la verdad es que los resultados
que tenemos, que son parciales

1930
01:57:21,400 --> 01:57:27,080
por ahora son muy alentadores en nuestras
asignaturas que son de programación,

1931
01:57:27,440 --> 01:57:31,160
que yo entiendo que por ejemplo,
como dice Manuel Ramos en el chat,

1932
01:57:32,200 --> 01:57:33,040
como ellos

1933
01:57:33,040 --> 01:57:36,120
hacen
dibujo, pues es un poquito más complicado

1934
01:57:36,320 --> 01:57:39,640
porque las herramientas actuales
todavía no llegan a ello.

1935
01:57:39,680 --> 01:57:43,920
Pero bueno Manuel, dales tiempo, que yo
creo que

1936
01:57:43,960 --> 01:57:48,160
que en un futuro relativamente próximo
nos podemos sorprender porque nos

1937
01:57:48,200 --> 01:57:49,000
hemos sorprendido

1938
01:57:49,000 --> 01:57:53,480
en los últimos años del avance
tan tremendo que ha tenido esto de la IA.

1939
01:57:54,120 --> 01:57:57,440
Y bueno,
con respecto al tema de los datos,

1940
01:57:57,600 --> 01:58:00,600
pues nosotros lo hemos tenido claro
desde el principio.

1941
01:58:00,640 --> 01:58:03,800
Efectivamente, es un problema
que podamos subir datos de alumnos

1942
01:58:04,200 --> 01:58:08,200
que puedan ser utilizados
por terceras personas.

1943
01:58:08,440 --> 01:58:12,200
Entonces, lo que nos hemos planteado
es hacer una instalación local

1944
01:58:12,200 --> 01:58:15,200
de un sistema, un RDM,

1945
01:58:16,120 --> 01:58:18,880
que nos permita
que todos los datos de los alumnos

1946
01:58:18,880 --> 01:58:21,880
se van a quedar dentro de la UPM,

1947
01:58:22,040 --> 01:58:25,800
no van a tener ningún
tipo de de acceso desde fuera.

1948
01:58:26,600 --> 01:58:28,880
Y por supuesto, los resultados

1949
01:58:30,280 --> 01:58:32,440
no se
van a dar de manera directa al alumno,

1950
01:58:32,440 --> 01:58:35,880
van a pasar por un filtro,
pero ese filtro para nosotros

1951
01:58:35,880 --> 01:58:39,440
es pura vida,
en el sentido de que no pasa,

1952
01:58:39,440 --> 01:58:42,640
no nos puede dar un primer,

1953
01:58:42,680 --> 01:58:46,280
un proceso, una una primera referencia

1954
01:58:46,520 --> 01:58:49,520
a la calidad de los trabajos
que nos entregan.

1955
01:58:50,080 --> 01:58:52,520
Y bueno, por mi parte, cualquier tema que

1956
01:58:52,520 --> 01:58:56,960
queráis tratar
pues estoy a vuestra disposición.

1957
01:58:57,360 --> 01:59:01,680
Me podéis encontrar como profesor de aquí
de la Escuela de Ingenieros Industriales

1958
01:59:01,960 --> 01:59:02,960
para lo que queráis.

1959
01:59:02,960 --> 01:59:05,960
Muchas gracias por vuestra iniciativa,
Jesús.

1960
01:59:06,080 --> 01:59:07,600
Gracias a ti, Ángel.

1961
01:59:07,600 --> 01:59:10,960
Gracias a la iniciativa Primavera Tech.

1962
01:59:11,960 --> 01:59:15,240
Eh, Jessica y Sonia, Por

1963
01:59:15,280 --> 01:59:19,880
y por por por permitirnos también
ponernos en contacto.

1964
01:59:19,880 --> 01:59:23,040
¿Porque muchas veces hay gente trabajando

1965
01:59:23,040 --> 01:59:27,200
en las mismas cosas
y resulta que no nos conocemos, eh?

1966
01:59:27,360 --> 01:59:31,000
¿Porque esto son muy buenas ocasiones, eh?

1967
01:59:31,400 --> 01:59:36,640
¿Ángel Estaba eh, compartiendo,
no sé si se puede después

1968
01:59:36,640 --> 01:59:40,800
compartir el chat,
pero esto ha habido varias,

1969
01:59:40,800 --> 01:59:44,280
internamos varias aportaciones eh?

1970
01:59:44,320 --> 01:59:48,880
Y Ángel estaba compartiendo el proyecto
en el que en el que está.

1971
01:59:48,880 --> 01:59:52,040
Lo voy a lo voy a copiar aquí abajo. Eh,

1972
01:59:53,160 --> 01:59:55,800
eh, Ah no, este no es demo recopilatorio.

1973
01:59:55,800 --> 01:59:58,800
Jesús, No te preocupes si podemos

1974
01:59:59,400 --> 02:00:02,400
enviar eso cuando eso

1975
02:00:02,440 --> 02:00:05,840
sí enviamos los enlaces a qué bien, Sí.

1976
02:00:05,880 --> 02:00:11,160
¿Y después, en cuanto al tema
de instalar una LLM local

1977
02:00:11,680 --> 02:00:15,680
siempre que el propósito
no sea hacerlo disponible

1978
02:00:16,480 --> 02:00:20,400
al público en general, a los estudiantes,
a la comunidad en general,

1979
02:00:20,880 --> 02:00:24,880
que entonces sí tendría
que tener requisitos de latencia

1980
02:00:24,880 --> 02:00:28,560
muy exigentes y entonces haría una falta
una infraestructura,

1981
02:00:28,560 --> 02:00:31,560
pero para cosas locales, como por ejemplo

1982
02:00:31,560 --> 02:00:34,560
corregir esto,

1983
02:00:35,040 --> 02:00:38,880
eh, ejercicios o cosas de ese estilo, eh?

1984
02:00:39,920 --> 02:00:43,480
No hace falta que lo haga en tiempo real,

1985
02:00:43,680 --> 02:00:47,920
porque digamos que
pues la corrección lleva su tiempo.

1986
02:00:47,920 --> 02:00:52,640
Igualmente, si lo haces con con humanos,
entonces no tendría

1987
02:00:52,640 --> 02:00:55,640
unos requisitos de infraestructura
tan exigentes.

1988
02:00:55,680 --> 02:00:58,040
Basta con a lo mejor tener un.

1989
02:01:00,640 --> 02:01:01,280
Servidor con

1990
02:01:01,280 --> 02:01:04,880
una tarjeta gráfica esto adecuada
y a lo mejor

1991
02:01:04,920 --> 02:01:09,480
eso sería suficiente
a lo mejor para una escuela,

1992
02:01:10,080 --> 02:01:13,960
siempre que el acceso estuviese
más o menos contabilizado.

1993
02:01:13,960 --> 02:01:16,960
O sea que yo el la

1994
02:01:17,520 --> 02:01:20,360
la la iniciativa de Ángel a mí

1995
02:01:20,360 --> 02:01:25,040
me parece completamente,
o sea, perfectamente factible.

1996
02:01:25,080 --> 02:01:28,120
Y no hay que hacer demasiado sin versiones

1997
02:01:28,120 --> 02:01:31,120
ni nada de eso.

1998
02:01:33,480 --> 02:01:34,720
Muy bien dice Ángel

1999
02:01:34,720 --> 02:01:38,560
que puede tardar unos minutos
en corregir 80 problemas de programación.

2000
02:01:38,600 --> 02:01:41,040
Claro,
porque está dedicado solamente a eso.

2001
02:01:41,040 --> 02:01:44,040
O sea que no.

2002
02:01:44,440 --> 02:01:45,120
Muchas gracias.

2003
02:01:45,120 --> 02:01:48,960
Pues intentaremos conocer más
de la propuesta de Ángel y muchas gracias

2004
02:01:49,080 --> 02:01:52,560
Jesús y y Celia por esta charla

2005
02:01:52,560 --> 02:01:58,040
que ha generado muchísimas preguntas y
y eso es bueno, y que nos planteemos

2006
02:01:58,040 --> 02:02:02,120
todas estas cuestiones para definir
esa política en la que estamos trabajando

2007
02:02:02,160 --> 02:02:05,160
y que a ver si antes del verano
ya sale a la luz

2008
02:02:05,160 --> 02:02:09,320
y nos ponemos todo en contacto
y recogemos feedback de todos.

2009
02:02:09,520 --> 02:02:12,240
Así que nada, muchas gracias. Y

2010
02:02:13,480 --> 02:02:15,760
por mi
parte, nada, nada más estamos postergados.

2011
02:02:15,760 --> 02:02:19,080
Si os parece ya este seminario,
que ya son las dos y cinco.

2012
02:02:19,440 --> 02:02:21,120
Muchísimas gracias.

2013
02:02:21,120 --> 02:02:23,320
Vale, gracias. Hasta luego.