058 ¿Quién se responsabiliza de los bugs? ¿Y de la IA?

Cuando el software que has comprado falla o te devuelve malos resultados, tienes a alguien a quien echarle la culpa y esperas que lo arregle. Sea una herramienta para tu empresa, sea un videojuego AAA recién lanzado. Ese suele ser el trato por el que pagas.

Pero con ChatGPT, Gemini, Claude, Copilot, etc. la cosa cambia. Nadie espera resultados fiables, nadie se responsabiliza de que funcione, y nadie se responsabiliza de todo el daño que está causando. Y eso le encanta a las grandes empresas.

Como programador y ex-técnico de sistemas, vengo a darte una lección sobre responsabilidad detrás del software. O más bien a desahogarme.

Capítulos

• 00:00 Introducción
• 01:12 Responsabilidad en la industria del software
• 08:39 Los programas normalmente son deterministas
• 10:55 En las grandes compañías, la responsabilidad se diluye
• 15:17 La máquina es un dios
• 18:15 El ordenador como chivo expiatorio
• 20:58 A las compañías de I.A. les conviene
• 23:05 Cierre

Mis otros episodios quejándome de la I.A. generativa:

https://titanioverde.com/pandadisksystem/Episodio_013_-_Las_empresas_prefieren_gastar_dinero_en_I.A._que_en_Preservaci%C3%B3n

https://titanioverde.com/pandadisksystem/Episodio_025_-_La_I.A._no_puede_ser_neutral

“Cuando la cosa estalle, espero disculpas.”, Tante en Pivot to AI https://www.youtube.com/watch?v=beUZ2scYWUA

Sintonías

https://opengameart.org/content/realm-of-torment

https://opengameart.org/content/project-marion-03

Carátula

https://x.com/BillWhitehead8/status/2100449983837216876