WEBVTT 00:05.320 --> 00:08.240 Muy buenas, soy Titanio Verde y estás 00:25.350 --> 00:28.550 escuchando Panda Disk System cultura en peligro de extinción. 00:30.350 --> 00:34.220 Hoy lo siento mucho pero vengo a quejarme otra vez del negocio de la IA. 00:36.060 --> 00:41.520 Ni de los precios de los componentes, ni del daño al medio ambiente, ni cosas así. 00:42.540 --> 00:47.180 Ni siquiera de cómo están destruyendo libros de segunda mano 00:47.640 --> 00:53.520 para escanearlos rápidamente con tal de tener más datos con los que alimentar a sus modelos. 00:54.420 --> 01:00.340 Sobre eso he hablado a mucha gente, tocaría aquí también, pero es que no tengo más que cubrir realmente. 01:01.520 --> 01:06.060 En lo que me quiero centrar es en el concepto de responsabilidad. 01:12.630 --> 01:18.930 No en el sentido que he mencionado en episodios anteriores del responsable de preservación. 01:19.410 --> 01:24.750 Quién se encarga de que unos datos, unos archivos, las fotos de esta familia, 01:25.090 --> 01:34.570 estos documentos, estos informes financieros, etc. sigan vivos, sigan accesibles, sigan íntegros. 01:36.430 --> 01:40.510 Sino el responsable que hay detrás de un software. 01:41.690 --> 01:54.530 La persona que garantiza o tiene que dar la cara cuando produce problemas, produce accidentes, produce resultados erróneos. 01:56.540 --> 02:01.800 No solo eso, sino cuando sucede una de esas situaciones debe darle remedio. 02:02.980 --> 02:08.060 Garantizar en la medida de lo posible de que ese error no vuelva a suceder. 02:10.370 --> 02:11.710 Vamos a ir por escala. 02:13.790 --> 02:21.160 En el menor orden puede ser cualquier software pequeño o cualquier proyecto de cualquier tamaño 02:21.760 --> 02:30.980 llevado por un solo programador, uno autónomo que él se lo guisa, él se lo come, trabaja por su cuenta, 02:32.200 --> 02:34.920 vende proyectos y los gestiona él solito. 02:36.200 --> 02:41.760 Ahí está claro clarísimo que el responsable de todo es ese programador. 02:43.100 --> 02:51.500 Él se tiene que encargar de que funcione, de que cumpla los requisitos que le pide el cliente o los que se ha impuesto él mismo 02:52.930 --> 02:54.890 y que los resultados sean correctos. 02:55.690 --> 03:01.510 Y siempre que falla alguna cosa, este mismo programador tiene que encargarse de arreglarlo. 03:04.280 --> 03:11.600 En el siguiente nivel lo lleva pues una empresa consultora, un pequeño negocio de varias personas. 03:13.080 --> 03:17.120 Béase cuatro personas, diez, cincuenta, no importa. 03:17.960 --> 03:24.240 El caso es que ahí la responsabilidad ya no es solamente del programador, sino que se reparte. 03:25.340 --> 03:30.260 El funcionamiento normal de una consultora de software o incluso de cualquier cárnica, 03:31.200 --> 03:35.240 como la llamamos nosotros, las que venden código por horas, 03:37.870 --> 03:45.710 como mínimo hay un comercial que da la cara y que es el que trata con el cliente, redacta los requisitos, 03:46.870 --> 03:51.670 se pone de acuerdo en cuánto está dispuesto a pagar, qué tamaño quiere, qué escala, etc. 03:52.450 --> 03:56.230 Luego todo eso se lo pasa al programador y que se apañe para llevarlo a cabo. 03:57.670 --> 04:05.810 Ahí normalmente es el comercial quien luego recibe las quejas por qué algo no funciona o por qué, 04:06.510 --> 04:12.930 incluso, de hecho es bastante normal, el cliente lo pidió de una manera y realmente no lo quería así. 04:14.030 --> 04:15.410 Y venga, hay que cambiarlo. 04:16.370 --> 04:21.570 Y eso recae también en el programador, pero quién pone la cara es el comercial. 04:22.990 --> 04:28.380 Normalmente. A mí anda que no me ha tocado veces llamar a los clientes directamente, 04:29.860 --> 04:33.160 especialmente después de explicarles cosas por correo, 04:33.500 --> 04:37.580 para luego explicarles exactamente lo mismo palabra por palabra por teléfono. 04:40.260 --> 04:47.320 Luego ya pasamos a grandes compañías, bien grandes consultoras que venden proyectos grandes, 04:48.300 --> 04:55.100 bien productos internos dentro de compañías, o sea que los desarrollan exclusivamente para sí mismos. 04:56.770 --> 05:00.670 Ahí la responsabilidad se puede diluir muchísimo. 05:01.510 --> 05:10.920 Puede haber, aparte del programador o los programadores, dos programadores, cuatro, diez, veinte o más. 05:12.910 --> 05:15.470 Bueno, de hecho pueden haber diferentes programadores. 05:15.950 --> 05:21.210 Los puede haber de backend, o sea de servidor. Los puede haber de frontend, de la interfaz. 05:22.110 --> 05:30.400 Puede haber testers o quality assurance que se, que garanticen que lo que se ha escrito, 05:30.400 --> 05:35.410 lo que se ha programado cumple con lo exigido y que funciona bien y que no rompe nada más. 05:36.700 --> 05:43.340 Puede haber DevOps que se encarguen de montar los sistemas de los servidores y de distribuirlos. 05:43.340 --> 05:48.980 Y si hace falta varios servidores, pues también que se levanten según haga falta. 05:50.290 --> 05:56.690 Luego el jefe de proyecto, el jefe de equipo, el arquitecto o diseñador de sistemas. 05:58.750 --> 06:04.730 Muchos cargos, además de quien trata los negocios directamente con la empresa cliente. 06:07.480 --> 06:14.440 Ahí claro, cuando hay algún problema es difícil señalar a un culpable, a un responsable. 06:15.890 --> 06:24.610 Es culpa de que Operaciones no ha puesto el sistema que se le había pedido o no ha instalado lo que se le había exigido. 06:25.490 --> 06:31.610 Es culpa del programador que ha roto cualquier línea de código mientras programaba otra. 06:32.550 --> 06:37.690 Es culpa del arquitecto por haber elegido una librería que en realidad no sirve para esto. 06:38.980 --> 06:45.550 O que Quality Assurance no lo haya probado debidamente. O puede ser muchas cosas a la vez. 06:46.990 --> 06:54.770 Yo sin ir más lejos tuve un accidente bastante preocupante en mi trabajo de desarrollador de software. 06:56.650 --> 07:04.390 Que el origen era un fallo bastante tonto, de hecho, que se podía haber evitado con que yo u otros varios compañeros 07:04.850 --> 07:16.270 nos hubiéramos fijado en lo que se estaba lanzando a producción y que se lanzó muy deprisa y bueno, provocó pérdidas. 07:17.440 --> 07:25.860 Pequeñas, no ha sido el típico error de novato de borrar toda la base de datos de producción, pero ha sido algo parecido. 07:26.860 --> 07:34.610 Y claro, a ver, quien ha escrito ese código fui yo, pero la responsabilidad no ha sido totalmente mía. 07:35.070 --> 07:39.850 Y de hecho, a mí no me dejaban arreglarlo porque eso estaba fuera de mi alcance. 07:40.230 --> 07:47.210 Eso estaba en terreno de operaciones, del líder de proyecto y de varias otras personas. 07:47.910 --> 07:55.310 Yo como mucho di los detalles del problema, señalé dónde estaba exactamente y los demás hacía su trabajo, como buenamente podían. 07:57.250 --> 08:02.860 Si yo hubiera sido un programador autónomo, quien ha cometido ese fallo, quien tiene que responder a ese fallo 08:02.860 --> 08:09.010 y además tiene que reparar los datos perdidos, tendría que ser yo directamente. 08:09.010 --> 08:21.260 Y no solo hablamos de cualquier bug de código, cualquier botón que esté descolocado en la interfaz. 08:22.100 --> 08:25.280 Estamos hablando también de datos erróneos en informes. 08:26.620 --> 08:33.260 Estamos hablando de usuarios que acceden a funciones que no deberían tener acceso. 08:33.260 --> 08:34.240 Muchas cosas así. 08:35.830 --> 08:37.090 Muchas cosas así. 08:38.510 --> 08:47.250 Durante muchos años se ha esperado que el software sea determinista y cumpla las funciones que se le exigen, 08:47.790 --> 08:52.930 que reciba una entrada y devuelva una salida normalmente predecible. 08:55.040 --> 09:04.740 Y con esto lo que buscan las empresas por lo general es solucionar problemas o ahorrárselos. 09:05.600 --> 09:10.820 Normalmente es porque tienen algo que les dificulta el trabajo o la organización 09:11.320 --> 09:19.760 o que necesitan tener información accesible de manera directa o que necesitan informes. 09:20.460 --> 09:25.900 Al final todo acaba en informes, porque ya sabemos que a los directores les gustan mucho los informes. 09:26.620 --> 09:29.060 Y ya si tienen gráficas, ¡vamos! 09:31.740 --> 09:35.220 Y admito que es la parte que más odio, programar informes. 09:35.680 --> 09:39.280 Porque es muy delicado y es donde hay más responsabilidad. 09:40.520 --> 09:42.500 Dentro de mi ramo, entiéndase. 09:43.670 --> 09:44.310 Pero eso. 09:45.840 --> 09:51.960 Siempre se esperaba, como más o menos explicaba en mi episodio sobre versiones de software, 09:52.460 --> 09:57.600 o sea de cómo cuando el software se vendía en físico eran versiones cerradas y probadas, 09:57.840 --> 10:00.480 y que se supone que no iban a tener fallos, 10:02.120 --> 10:05.100 se espera una garantía, se espera un resultado. 10:07.130 --> 10:12.990 Se espera que cumpla una función y que te ayude en el trabajo, no que te dificulte. 10:15.780 --> 10:22.530 Aunque ya sabemos que en bastantes casos no es así, que el resultado no es tan bueno como se desea. 10:23.770 --> 10:29.610 A veces es por falta de tiempo, por falta de conocimiento, por requisitos poco definidos, 10:30.010 --> 10:33.850 porque no se ha contemplado casos específicos, muchas cosas. 10:35.540 --> 10:42.980 No hablemos ya de videojuegos, especialmente desde que hay 3D, físicas, mundos abiertos, 10:43.720 --> 10:49.780 muchos componentes a la vez que interactúan entre ellos y puedan producirse fallos entre ellos. 10:50.620 --> 10:53.040 Es imposible controlar todo eso. 10:55.410 --> 11:00.610 El problema que tienen las grandes compañías, como acabo de comentar, 11:00.710 --> 11:04.970 es que la responsabilidad se diluye fácilmente. 11:06.100 --> 11:11.840 Para mí, como programador, en ese caso, pues genial, no toda la culpa recae sobre mí. 11:13.490 --> 11:18.510 Pero cuando es la propia empresa la que causa problemas, la que causa infracciones, 11:19.110 --> 11:31.330 la que causa robos o manipulaciones, lo que hace Anthropy, OpenAI, Google, Meta, todos los días, 11:31.950 --> 11:40.940 pues todo eso se diluye, porque no tienes a una sola persona a la que señalar ni una ni dos ni tal. 11:41.160 --> 11:49.480 Puede ser el departamento de marketing, el departamento de diseño, el departamento de contabilidad. 11:50.810 --> 11:57.230 Normalmente responde el jefe de cada departamento, pero ese jefe puede cambiar de la noche a la mañana. 11:59.270 --> 12:04.730 Y el jefe no te va a decir cómo ha funcionado exactamente ese departamento. 12:05.390 --> 12:08.890 Y además puede haber actuado por orden de otro departamento, 12:09.450 --> 12:15.110 que además puede ser un departamento de otra oficina, ubicada en otro país. 12:16.430 --> 12:20.110 Puede ser que se movieran por las leyes de otro país incluso. 12:22.400 --> 12:27.860 Y son cosas como esta con las que se escudan a la hora de recibir sanciones. 12:29.250 --> 12:32.610 Las multas las tiene que pagar el culpable de un problema. 12:33.390 --> 12:37.410 Tú cometes un accidente de tráfico, tú tienes que pagar la multa. 12:38.910 --> 12:48.590 Meta roba datos personales, pues, bueno, puede ser el departamento de contabilidad o puede ser, no sé, algún encargado habrá. 12:50.250 --> 12:58.130 Lo que se consigue con eso, o lo que se trata de conseguir, es que no se llegue a culpar a nadie. 12:58.730 --> 13:00.250 No se llegue a sancionar a nadie. 13:01.790 --> 13:06.970 Da igual quién haya dado la orden, el ticket de la multa se pierde por el camino. 13:09.220 --> 13:16.340 Es lo mismo que sucede en España cuando tratas de pedir ayudas al gobierno o a algún ayuntamiento 13:16.960 --> 13:22.660 que te mandan a una oficina, luego a otra, luego a otra. 13:23.460 --> 13:28.620 Necesitas cuatro formularios de esto, dos certificados del otro. 13:30.530 --> 13:40.330 El objetivo de esa burocracia para datos que en su mayoría ya tienen de antemano es que la gente se canse, 13:40.850 --> 13:46.950 se abrume ante ese monstruo burocrático como pasaba en aquella película de Asterix. 13:49.430 --> 13:55.630 Que se rinda y así pues el gobierno no tiene que pagar nada, no tiene que entregar ayudas. 13:57.530 --> 14:04.350 Las grandes empresas son expertas en deshumanizar las culpas, en escurrir el bulto. 14:06.320 --> 14:12.340 Y para eso, ¿qué mejor herramienta que la inteligencia artificial generativa? 14:14.640 --> 14:23.700 Un amalgama de tokens entrelazados de mil maneras, basados en material de entrenamiento sacado de millones de sitios 14:23.720 --> 14:30.320 que producen resultados en absoluto deterministas, por no decir aleatorios. 14:31.360 --> 14:35.480 Fingiendo inteligencia y fingiendo que sabe de lo que habla. 14:36.750 --> 14:42.930 Es lo contrario a la filosofía del software corporativo en general. 14:43.850 --> 14:51.910 Y sin embargo, bastantes empresas manejan con eso datos importantes, datos de vital importancia. 14:53.980 --> 15:00.400 Y luego el resultado pues... no ofrece ninguna garantía. 15:02.240 --> 15:09.120 Como mucho ofrece algo de garantías, algo de utilidad al generar código de software, precisamente. 15:10.440 --> 15:16.180 Pero igualmente lo tenemos que andar vigilando de mil maneras. No nos vaya a colar una añapa. 15:18.490 --> 15:25.470 Desde poco después de salir, se han empeñado en tratarla como un ente, como un dios incluso, 15:26.090 --> 15:30.870 como algo con voluntad propia que toma decisiones por su cuenta. 15:33.460 --> 15:40.300 ¿Y por qué les interesa tanto que humanicemos a los modelos de IA generativa? 15:41.080 --> 15:48.460 Pues precisamente para que sea esa IA la que lleve a cabo las acciones que la empresa le interesa llevar a cabo, 15:49.420 --> 15:51.820 pero sin que sea culpa de la empresa. 15:54.110 --> 15:56.030 Esto ya se ha utilizado. 15:57.890 --> 15:59.470 Para atención al cliente. 16:00.210 --> 16:05.470 Ya te habrás encontrado con varios servicios de atención al cliente de empresas de todo tipo, 16:05.870 --> 16:11.410 que es un maldito chatbot al cual le preguntas cosas y se inventa las respuestas 16:11.750 --> 16:17.770 o directamente no te lleva ninguna parte, o te dice no tenemos solución, ¿quieres alguna otra cosa? 16:19.220 --> 16:25.600 Con un humano puedes negociar, puedes pedirle cosas, incluso puedes llorarle para que te haga caso, 16:26.480 --> 16:28.200 pero un chatbot no puedes. 16:29.970 --> 16:35.470 Te llevará por el camino de la amargura, te rendirás y dejarás de pedirle nada a esa empresa. 16:36.680 --> 16:37.780 Y eso es lo que quieren. 16:39.630 --> 16:44.770 Luego están los seguros de salud que gestionan las pólizas con chatbots también. 16:45.390 --> 16:51.170 Que les cuentas tu caso y ellos deciden si te tiene que llegar el dinero de la póliza o no. 16:52.270 --> 16:58.090 Y ya os podéis imaginar cuál va a ser la mejor respuesta para la compañía de seguros. 16:58.670 --> 17:03.970 No les interesa pagar a ningún cliente, lo que les interesa es que los clientes paguen. 17:05.450 --> 17:10.790 Si se mueren de cáncer, pues a ellos se las sopla, lo que les interesa es recibir dinero. 17:12.010 --> 17:16.910 Y si tienen accionistas, pues que estos estén contentos de ver cuánto crecimiento hay. 17:18.840 --> 17:22.780 Y si un ejército quiere mandar misiles para bombardear a otro país, 17:23.540 --> 17:30.660 pues qué mejor que cederle el control a un chatbot, que él decida si hay que disparar o no. 17:32.860 --> 17:39.180 Muere gente. ¿Y qué más da? No he sido yo, ha sido la máquina. 17:39.880 --> 17:42.220 La máquina ha tomado esa decisión. 17:44.990 --> 17:50.850 Es más o menos lo mismo que cuando se luchaban guerras, el nombre de un dios o de un ideal. 17:51.750 --> 17:56.990 Es lo mismo, es básicamente descargar la culpa en otro ente. 17:57.190 --> 18:00.690 Porque admiten que lo que están haciendo es inhumano. 18:01.930 --> 18:07.490 Pero claro, si señalas a alguien que ha hecho algo inhumano, pues se le puede denunciar. 18:08.430 --> 18:14.310 A un ente, a un software, a un ordenador, pues no, no le puedes multar. 18:16.290 --> 18:21.130 Esto de echarle la culpa a los ordenadores es algo que llevamos haciendo desde hace mucho tiempo. 18:23.050 --> 18:27.770 ¿Cuántas veces no has podido comprar algo en una tienda o les ha costado, 18:28.510 --> 18:33.710 o no te han podido atender a cualquier solicitud porque el sistema está caído, 18:34.790 --> 18:43.320 el ordenador no funciona, o han perdido algún pedido tuyo porque ha habido un error en el ordenador, 18:45.480 --> 18:48.580 que en algunos casos será simplemente error del propio usuario. 18:50.080 --> 18:55.080 El ordenador como chivo expiatorio ha sido excelente y lo va a seguir siendo, 18:55.080 --> 18:59.400 y eso es en gran parte el negocio de Anthropic y compañía. 19:01.730 --> 19:07.710 Ahora van y dicen que vamos a reducir la marcha de nuestros avances, 19:08.190 --> 19:15.150 porque es que nuestros modelos son peligrosos para la humanidad y no tenemos todo el control, 19:15.210 --> 19:25.050 o sea, se nos va de las manos, vamos a parar un poco porque nos importa la humanidad. 19:26.170 --> 19:31.410 Y a ver si no nos siguen pagando los inversores mientras, por favor, que nos estamos quedando sin dinero. 19:33.750 --> 19:37.230 Se están quedando sin dinero, se están quedando sin datos nuevos, 19:37.510 --> 19:41.090 se están quedando sin ordenadores con los que procesarlo todo, 19:42.250 --> 19:49.030 los centros de datos que quieren construir no dan abasto o no se llegan a construir o no tienen energía, 19:49.470 --> 19:53.990 o los pueblos, sobre todo en Estados Unidos, no los quieren ni de lejos 19:54.210 --> 19:56.570 porque les roban el agua y la electricidad. 19:58.940 --> 20:05.240 Y de por sí el software de los modelos no puede avanzar. 20:06.120 --> 20:12.020 No consiguen que avance o al menos no ha tenido ningún avance sustancial en tres años. 20:12.580 --> 20:17.420 Lo que han podido es darle más potencia, darle pensamiento, 20:17.620 --> 20:21.580 que es básicamente procesar lo mismo varias veces seguidas, 20:22.220 --> 20:24.540 tratándose de explicárselo a sí mismo, 20:26.010 --> 20:30.890 tener a varios agentes funcionando para que cada uno se reparta el contexto, 20:31.530 --> 20:36.850 ya que el límite de contexto para cada conversación sigue siendo ridículamente corto 20:38.310 --> 20:43.750 Y bueno, sí, sí, sí hemos conseguido una cosa, que es producir mejores vídeos, 20:45.340 --> 20:51.290 mejores vídeos de basura, sí, pero al menos ya no son tan ridículos como hace dos años. 20:52.600 --> 20:57.440 Algo es algo, aunque sea a costa de megavatios y megavatios de potencia. 20:59.470 --> 21:05.150 A las compañías de IA generativa les conviene todo esto, 21:05.730 --> 21:13.050 les conviene tener un ente todopoderoso que sea el culpable de todos los crímenes que ellos mismos han cometido. 21:14.550 --> 21:20.110 Todas sus infracciones de propiedad intelectual, todo su comercio de datos personales, 21:20.490 --> 21:26.290 sus influencias políticas, básicamente tienen a Don Trompas en su mano. 21:28.740 --> 21:34.900 Todos sus fraudes, destrucción de medio ambiente, acaparamiento de recursos, agua y electricidad. 21:36.520 --> 21:41.060 Pero la culpable es la máquina. La máquina necesita más. 21:41.720 --> 21:47.290 La máquina tiene que seguir evolucionando, porque la humanidad lo necesita. 21:48.150 --> 21:52.350 Y si tú te niegas a usar la máquina, te vas a quedar atrás. 21:53.790 --> 22:01.210 De hecho, mira, te digo mejor, si no estás al día con los modelos y no lo utilizas en tu trabajo, 22:01.610 --> 22:07.950 la culpa de que no avance más es tuya, porque no nos estás proporcionando más datos para entrenarla, 22:08.210 --> 22:11.390 para que te entienda mejor, para que te conozca mejor. 22:12.930 --> 22:21.130 Y cuando toda la burbuja estalle, pues se va a llevar a un montón de gente por delante, 22:23.230 --> 22:26.570 van a dejar el mercado del hardware hecho añicos, 22:29.110 --> 22:33.470 seguiremos necesitando un tiempo para que se estabilice todo y podamos volver a comprar 22:33.910 --> 22:39.050 ordenadores y al menos discos duros para guardar nuestras copias de seguridad 22:40.690 --> 22:42.690 y no darán una maldita disculpa. 22:43.070 --> 22:48.910 Se irán de rositas, ellos lo han intentado, por el bien del capitalismo, de Estados Unidos, 22:49.190 --> 22:55.070 de la tecnología, de lo que quieras, y no pasaran ni un solo día en la cárcel, 22:56.930 --> 23:00.070 porque la culpa de todo la ha tenido la máquina. 23:00.730 --> 23:04.010 Aquí no hay un solo responsable humano. 23:06.760 --> 23:10.900 Y creo que nada más. Ya he echado bastante bilis. 23:11.900 --> 23:17.960 El siguiente episodio sí tratará sobre preservación y de hecho será bastante técnico, 23:19.670 --> 23:25.510 pero sigo metiéndome con este tema, me sigue preocupando porque, entre otras cosas, 23:25.510 --> 23:31.510 nos quita poder, nos quita posibilidades para que nuestros datos sean nuestros 23:32.350 --> 23:38.150 y que podamos protegerlos por nuestra cuenta y no tener que depender de la nube para todo. 23:40.130 --> 23:40.690 Hasta pronto.