Entrevista a Sam Altman: CEO de OpenAI sobre GPT-4, ChatGPT y el futuro de la IA | Lex Fridman Podcast [EN]

0:00 - Introducción
4:36 - GPT-4
16:02 - Sesgo político
23:03 - Seguridad de la IA
43:43 - Tamaño de la red neuronal
47:36 - AGI
1:09:05 - Miedo
1:11:14 - Competencia
1:13:33 - De sin fines de lucro a ganancias limitadas
1:16:54 - Poder
1:22:06 - Elon Musk
1:30:32 - Presión política
1:48:46 - Verdad y desinformación
2:01:09 - Microsoft
2:05:09 - Colapso del banco SVB
2:10:00 - Antropomorfismo
2:14:03 - Aplicaciones futuras
2:17:54 - Consejos para jóvenes
2:20:33 - Sentido de la vida

[#1 JungSpinoza]

La entradilla ha quedado un poco raruna, pero creo que es la forma mas util para que cada uno elija en lo que este interesado.

[#22 Pacman]

#1 lo último es 42

[#4 --368612--]

#1 Póngame un cuarto de AGI, dos lonchas de Elon Musk y 100 gramos de antropomorfismo.

[#5 JungSpinoza]

#4 Si consigues meter una pizca de Ayuso tienes la receta perfecta para llegar a portada

[#93 par]

#4 La parte de Elon es bastante interesante. El tipo es capaz de reconocer sus blancos y sus negros (a pesar de aparentemente estar en posiciones opuestas).

[#51 unomasdelmonton]

#1 de este mi punto de vista, está perfecto.
Muchas gracias por molestarte en ponerlo así.

[#2 banyan]

Este tio puede no gustar pero hay que ponerle oido por todo lo que nos viene ya.

[#3 JungSpinoza]

#2 >> Este tio puede no gustar

Te refieres a Sam Altman o a Lex Fridman? ^{o a los dos}

[#13 pingON]

#3 Lex Fridman me parece flipante la cantidad y calidad de gente a la que ha entrevistado, estés o no de acuerdo con el entrevistado, son muy largas pero siempre interesantes y preguntas bien documentadas

[#6 banyan]

#3 a Sam, obvio.

[#8 cdya]

#2 Porque no va a gustar? Se expresa con mucha humildad para todo lo que esta consiguiendo, es todo una punta de flecha de una nueva forma de mirar el mundo que nos rodea.

[#61 AntonPirulero]

#8 porque han traicionado los principios de apertura y compromiso con el software libre con los que partieron, vendiéndose a Microsoft. El que se llamen "OpenAI" es un ejemplo significativo del "dime de qué presumes y te diré de qué careces".

[#69 cdya]

#61 Han pillado pasta y publicidad y las dos cosas hacen fata, por ahora GPT4 no se ha traicionado, aunque cobre los 20 € por trabajar con él, y ha sacado su API y ahora el tema de los plugin que va a ser la hostia, relación directa con el internet actual, ya veremos cómo sigue que no termina todo esto, pero necesitábamos o yo al menos oxígeno, después de todo la historia de las redes sociales que no me servían para nada.

[#10 banyan]

#8 tiene fluidas relaciones con los de la mafiapaypal.

[#80 Boleteria]

#2 A mi no me cae muy bien.
En otras entrevistas que he visto detecto bastante aire de diva y de profeta en él, y me resulta algo pedante cuando habla.

Por supuesto es el hombre del momento, porque es la compañía y la tecnología del momento y es muy interesante e importante saber que tienen entre manos y en mente. Pero me haría mucho más ilusión escuchar al CTO antes que al CEO, la verdad.

[#94 hazuko]

#2 Pues debe ser mi animadversión por OpenAI y he de decir que nunca había oído hablar a este tío, pero llevo 20 minutos y ya sé que no lo aguanto... esa manera de forzar la voz para hacerla más grave es exagerada y me está poniendo muy difícil seguir la conversación

Su respuesta a "¿de donde has cogido los datos para entrenar?" ha sido un pasapalabra en toda regla... miserable.

[#7 rojo_separatista]

El podcast de Lex Fridman es siempre muy interesante, lleva a gente muy top, sobretodo relacionada con el mundo de la IA, pero también de otras disciplinas científicas.

[#37 Wajahpantat]

#7 y cómo lo entiendes si está en inglés?

[#40 rojo_separatista]

#37, tal vez activar los subtítulos automáticos te ayude un poco.

[#9 cdya]

La IA es algo con lo que algunos ya estamos conviviendo y para otros que aún no lo saben tendrán que convivir en poco tiempo. La velocidad con la que se está superando a sí misma claro que abruma, las posibilidades asi como transformaciones que creara en nuestra vida cotidiana, algunas son predecibles y otras por supuesto no. Ya iremos viendo y parece que muy rapido.

[#11 rojo_separatista]

#9, lo más paradógico de todo esto es que quienes más sufrirán las consecuencias de su impacto, son los que más se niegan a ver sus posibilidades. Los ilustradores que insistan en que el proceso creativo humano es insustituible a la hora de crear buenas obras o los programadores que se empeñen en pensar que un generador de código basado en IA no sirve para nada, serán mucho menos productivos y tristemente para ellos quedarán expulsados antes del mercado laboral.

[#12 cdya]

#11 Un poco de humor.  

[#73 eltxoa]

#12 Apple sólo tiene que hacerse con una IA open source que funcione decentemente. Llamarla iAI. empaquetarla en algo blanco y tras una potente campaña de publicidad presentarse al mundo como los inventores de la IA.

[#63 --602521--]

#12 Apple no está interesada en la IA como la estamos viendo ahora porque no se cobra un pastizal por usarlo

[#65 cdya]

#63 No creo que sean tan tontos porque eso les llevaria al cierre, les ha pillado a contrapie eso seguro y que de como remonten lo que ya llevan perdido se juega su futuro.

[#70 --602521--]

#65 si da dinero lo implementarán , fíjate lo mal que les va con su maps

[#79 Boleteria]

#65 No creo que la IA de los otros saque unas manitas y se ponga a fabricar iPhones y Macs de gratis para hundir a Apple.

El negocio de Apple se juega en otro terreno.

Y que me aspen por estar defendiendo a Apple ahora mismo.

[#81 --602521--]

#79 Apple se meterá en eso si le encuentra el ángulo para sacarle más dinero a sus fans

[#82 cdya]

#79 Todas las sectas necesitan milagros de vez en cuando, o saca un milagro o se hunde.

[#74 Windows95]

#11 Cuando los desarrolladores (los de verdad, no los picateclas de Accenture) nos quedemos sin trabajo, antes se han quedado sin trabajo hasta los médicos. Llegará ese día, estoy totalmente seguro, pero aún queda.

[#76 rojo_separatista]

#74, es curioso porque estos días me he dado cuenta que los desarrolladores de software son de todo menos programadores. Sociólogos, psicólogos, comerciales, arquitectos del software o antropólogos... Cualquier cosa antes pero ninguno dice que una parte fundamental de su trabajo sea la de programar nada. No digo que no sea cierto pero me parece curioso. Y hablo desde la ignorancia más absoluta, porque a pesar de que soy ingeniero informático, no he trabajado de desarrollador nunca en mi vida, así que los que habláis con conocimiento de causa sois vosotros.

[#89 daphoene]

#76 Te hago c&p de otro comentario mío en el que explicaba esto, desde mi punto de vista:
www.meneame.net/story/estos-son-empleos-inteligencia-artificial-elimin

( No quiero decir que usar una AI no ayude a un programador, hablamos de sustituir programadores por IA )

No puedo poner la mano en el fuego por lo que pasará o no en el futuro, porque no tengo una bola de cristal, pero creo que no va a ser así. La confusión puede generarse entre lo primero que piensas…   

[#91 rojo_separatista]

#89, entiendo lo que dices de que la parte más importante del trabajo de un developer no es programar, pero no comparto la parte en la que das por sentado que las IAs que han aparecido no puedan tener una comprensión general del problema al mismo nivel o más que un desarrollador, compararlos con los tests unitarios no tiene demasiado sentido. GPT-4 no sabe solamente programar, sabe mucho, de todo.

[#96 daphoene]

#91 Entiendo lo que dices, y no deja de ser impresionante. Lo que quería decir es que un programador comprende la idiosincrasia y las relaciones de todo su software con todas sus conexiones, y la relación de cada parte con las demás, y la relación de todo ello con la realidad a la que atiende. No hablamos de un problema "concreto", sino de un sistema al completo.

Digamos que una IA te puede ayudar ( o hacer entero ) un módulo para conectarte a una API relativamente sencilla y…   

[#97 rojo_separatista]

#96, es que si te fijas en mi comentario inicial, no digo que vayan a desaparecer los desarrolladores. Lo que digo es que van a desaparecer los desarrolladores que se empeñen en no utilizar estas herramientas y que insisten en que no sirven para nada, que los hay. Básicamente porque serán 10 veces más lentos que los demás.

[#48 ostiayajoder]

#41 Como le dije a #11, pero tu diferente:

NEGACION - Ira - Negociacion - Depresion - Aceptacion

Cada uno lleva el duelo a su ritmo.

[#36 rojo_separatista]

#14, en las clases siempre hay los espavilados que pillan las cosas la primera vez que las explica el profe y a los que les cuesta más separar el grano de la paja y no se enteran de nada hasta que el tren de la realidad les pasa por encima. En el mundo real pasa lo mismo.

[#88 daphoene]

#36 espavilados espabilados

dle.rae.es/espabilado

[#90 rojo_separatista]

#88, problemas de ser catalán escribiendo en castellano.

www.diccionari.cat/GDLC/espavilat

[#95 daphoene]

#90 ¡ Gracias por el apunte !

Es muy chungo el bilingüismo catalán / castellano para algunas palabras.

[#47 ostiayajoder]

#11 LOL

El resto tambien.

Lo que haces es una fase del duelo: Negacion - Ira - NEGOCIACION - Depresion - Aceptacion

[#62 rojo_separatista]

#47, quién yo? Qué estoy negando si estoy diciendo que los que no sean capaces de ver la relevancia de esta tecnología quedarán fuera del tablero?

[#66 ostiayajoder]

#62 Negociando, estas negociando que solo se quedaran fuera los que no sean capaces de ver la relevancia....

[#68 rojo_separatista]

#66, yo estoy en esta etapa desde hace una década. Teníamos tiempo de sobra y lo seguimos teniendo para repensar muchas cosas.

[#15 amimeconvirtioengrillo]

#11 o los medicos, los abogados, los nutricionistas, cualquier trabajo creativo, los administrativos… miles de personas en muchos campos distintos van a quedar obsoletos. Habrá nuevos trabajos suficientes para la cantidad de gente que será expulsada?

[#23 llorencs]

#15 No lo creo que haya trabajos suficientes.

No puedo predecir la proporción pero estoy seguro que se destruirá más trabajo que el que se creará.

[#32 rojo_separatista]

#23, es una buena oportunidad para repensar el sistema económico en el que vivimos.

[#64 cdya]

#32 Es una buena opcion para las IAs que repiensen el sistema de nuestra sociedad.

[#67 rojo_separatista]

#64, esto debemos hacerlo las personas. Las conclusiones de la IA dependerán de cómo se han entrenado y condicionado y de qué tratemos de priorizar a la hora de construir un nuevo modelo. Las IA's no tienen voluntad, ni preferencias, nosotros sí y nos toca decidir.

[#83 username]

#32 o exterminar a unas cuantos centenas de millones de personas.

Que conociendo como funciona el capitalismo, es lo que pasará

[#85 rojo_separatista]

#83, hay demasiado gente que se sentía cómoda siendo una esclava. Esto va a cambiar sí o sí, por eso me parece muy interesante el escenario que se abre.

[#41 capitan__nemo]

#23 ¿y las calculadoras cuantos trabajos destruyeron?
¿y los ordenadores?
Me ha dado por pensar en la película "figuras ocultas" sobre las mujeres que hacían los cálculos en la nasa.

[#45 llorencs]

#41 No es exactamente lo mismo. Ya que realmente ayudan. Pero las inteligencias artificiales reemplazan poco a poco procesos creativos.

Y una vez que estén combinadas con robotica aún más y la robótica sea mejor, aún más trabajos reemplazados habrá.

[#20 Sigo_intentandolo]

#15 Todos sabemos que no los habrá... Pero reconocerlo es muy duro y analizar sus consecuencias implica repensar ciertas cosas de nuestro modelo económico.

[#30 arenque]

#15 No habrá nuevos trabajos suficientes,. La IA podría utilizarse en trabajos creativos como soporte, o en otros trabajos (como en medicina) mantener a los humanos como supervisores de las decisiones que tome la IA o para seguimiento de los pacientes, pero las empresas solo buscan la manera de aumentar el margen de beneficios, y si ya pagan un servicio de IA, para qué mantener también a X empleados que tendrán menos carga de trabajo.
Supongo que en algún momento alguien recuperará la idea de cobrar impuestos por el uso de "robots", o habrá que pensar en la RBU. ¿Quién va a consumir si nadie tiene un empleo con sueldo digno?

[#56 Molari]

#30 el impuesto a los robots se llama impuestos al capital. Para ello tenemos que acabar con los paraísos fiscales y armonizar la fiscalidad a nivel global

[#24 turuleto]

#15 Creo que estás exagerando.
Desde luego "cualquier trabajo creativo" no va a quedar obsoleto.
Tampoco abogados, nutricionistas, administrativos. Ahora tendrán una herramiente más para ser más eficientes.

Los periodistas escribirán más artículos absurdos clickbait. Como ver en un periódico deportivo: lista de las mejores películas musicales de los años 90.
Y similares.

Pienso que afectará a la parte "basura" de los trabajos.

[#52 ostiayajoder]

#24 No quedaran obsoletos, si para ricos:

En cuanto esto sea fiable los abogados igual no (pq es unt ema del estado y burocracia) pero nutricionistas, medicos... Habra IAs superbaratas para pobres y 4 medicos para ricos. Nutricionistas idem. Administrativos igual...

Si la parte 'basura' de los trabajos es el 80-90% tienes razon.

[#60 Gazpachop]

#15 Es que quizá no es necesario pensar en si habrá tanto trabajo para la gente "expulsada". Si los avances tecnológicos trabajan ¿por nosotros, por qué no beneficiarnos de ello y dejar de trabajar, o trabajar menos para vivir la misma vida?

[#27 arenque]

#11 El problema de muchos artistas con la IA es que actualmente ésta no realiza procesos creativos, plagia a partir de una base de datos que contiene las obras de dichos artistas, incluidas sin su permiso. Y por otro lado tienes a muchas compañías que quieren utilizar la IA para generar productos de consumo (cine, música, juegos) como churros a partir del trabajo de otros, lo que saturará más estos mercados y eclipsará a los artistas que experimenten cosas nuevas.

[#31 rojo_separatista]

#27, me puedes explicar de dónde sacas que plagia nada? Estos modelos no memorizan las imágenes de entrenamiento sino que aprenden los patrones que hay en ellas.

[#35 arenque]

#31 Soy desarrollador y trabajo en ciencia de datos. Como dices, las IAs memorizan y aplican patrones. Es decir, que pueden replicar los patrones de un artista. Llamarlo plagio o de otra manera es una cuestión semántica.
No estoy en contra de las IAs, solo intento explicar el punto de vista de los artistas y el debate ético en torno a ellas.

[#38 rojo_separatista]

#35, es lo mismo que hace un humano cuando aprende a dibujar. Pero más allá de eso es absurdo plantear ninguna clase de regulación contra las obras creadas por IA con el argumento del plagio, porque es imposible saber a ciencia cierta si una imágen se ha creado con IA o es una creación original. Lo único que se lograría es que se esconda como se han creado.

[#29 Barbol_Pelao]

#27 En el mundo artístico comercial ninguna de esas herramientas IA aprueba (por ahora, ni se le espera a corto plazo por mucho Midjourney 5 que esté salido del horno) los ciclos de correcciones de los clientes (que los hay, y cada vez más). Que no es sacar una imagen bonita y supercurrada desconectada de los requisitos del cliente, todo tiene que tener un sentido y adaptarse bien al proyecto. Potencia sin control no sirve de nada, y se sigue necesitando la intervención humana para el retoque final.
Por ahora, claro. En el futuro todos calvos.

[#34 arenque]

#29 Estoy completamente de acuerdo en que la desaparición de trabajos será a medio/largo plazo, pero con el boom de la IA ya se empieza a ver gente intentando rascar monedas.
Ayer por ejemplo leí en un hilo de reddit sobre un hombre que trabajaba como junior en una empresa de juegos de moviles transformando modelos 3D en sprites 2D. La empresa le sustituyó ñpor midjourney y le puso a él a controlar la IA y revisar los resultados, con lo que se quejaba de no poder seguir aprendiendo sobre…   

[#49 Barbol_Pelao]

#34 Ese trabajador por ahora aun tendrá que supervisar (me pregunto si habrá cambios en su sueldo).
En lo del modelado 3D (y en creación de texturas) es casi un paso lógico... y curioso porque la IA podría hacer que la gente deje de formarse en ciertos campos especializados al ser la IA mucho más productiva.
Pero lo del 3D prácticamente será un bombazo en el campo de la animación, el cine (ya hay algoritmos que con una sola foto del paisaje te hacen un travelling en vídeo -aun burdo, pero con…   

[#86 username]

#34 ese programador no se ha dado cuenta que ya lo de aprender modelado para trabajos laborales ya no va a ser necesario nunca jamás.

Pero bueno, si tanto le gusta puede dedicarse a ello los fines de semana

[#46 rojo_separatista]

#29, ya se han empezado a utilizar IA's de este tipo para crear productos comerciales, quedarse en si algo lo hace mejor o peor es tener una visión muy cortoplacista ya que no pararán de mejorar. Es lo que digo, quienes dicen que no sirven para nada, son los que paradógicamente lo tendrán más jodido para competir con sus compañeros de gremio, tal como aquel campesino que decía que el tractor era inútil porque no podía llegar a todos los rinconcitos.

[#57 Barbol_Pelao]

#46 Por ejemplo Levi's, reemplazando a modelos reales por modelos generados artificialmente. Su excusa es la inclusión de más diversidad étnica, pero paradójicamente terminan excluyendo a esas etnias que pretenden defender.
El tiempo juzgará. Si hay algo claro es que el Futuro es impredecible. Ahora mismo estamos en plena burbuja y hype, con lo cual las posibilidades parecen infinitas. Y parece lógico que multiplicará la productividad a niveles estratosféricos (tan lógico que todos lo damos por…   

[#84 username]

#27 todo está mínimamente basado en el trabajo de alguna persona anteriormente.

Es uno de los principios de software libre

[#50 hablador_pasivo]

#11 los ilustradores y traductores serán sustituidos, probablemente.

Los programadores, como siempre que se ha aumentado su productividad (que ha ocurrido muchísimas veces ya) serán más demandados.

[#58 rojo_separatista]

#50, si aumenta la demanda de desarrollos más que la productividad sí. No tengo una bola de cristal para saber lo que pasará, lo que sí se, es que los desarrolladores que no utilicen IA no podrán seguir trabajando.

[#92 hablador_pasivo]

#58 más que discutible

[#16 gelatti]

Yo, mientras no entreguen el control del armamento nucelar a una IA, que pueda decidir hacer ataques preventivos, por qué que hagan lo que les salga de las IAs.

[#39 capitan__nemo]

#16 Ya lo hacen. Solo que no lo conectan directamente a la ia. El general de turno le preguntará a la ia "¿qué tengo que hacer para ganar la guerra con armas nucleares?".Si no le satisface la respuesta le preguntará "¿que tengo que hacer para ganarla con menos muertos?.

[#17 traviesvs_maximvs]

#16 en cuanto un país muy pacífico desarrolle la democracia vamos a tener problemas con sus ARMAS NUCELARES.

[#18 O9Aspce]

Una ia fascista, clasista y misogina, que nada tiene de open y controlada por Elon y Microsoft. Que puede salir mal?

[#25 turuleto]

#18 En MNM, hasta la IA es fascista.

[#26 O9Aspce]

#25 si ha estas alturas no te has dado cuenta del sesgo fascista y el fin ultimo de chatgpt, tengo malas noticias para ti

[#53 hablador_pasivo]

#26 si hasta una IA te parece fascista, tengo malas noticias para ti.

[#71 muon]

#53 Joer, si chatGPT3 y 4 estan mas wokeadas que la redaccion del huffington post

[#42 BermejoBar]

#26 Desarrolla

[#75 Windows95]

#26 A ver si sacan una IA que corrija texto y nos proteja los ojos de las faltas de ortografía

[#77 turuleto]

#26 No me dado cuenta del chatgpt fascista, cuenta más, no te lo guardes.

[#72 oliver7]

#18 Misógina? Prueba a preguntarle que haga un chiste de mujeres. Después pregúntale por uno de hombres...

[#19 iñakiss]

A saber si es un caballo de Troya todo esto para meternos (aun más) en la alienación en la que siempre hemos estado. Me parece muy iluso pensar que es todo tan abierto, especialmente una herramienta ilimitada como puede ser lo que progrese de esta.

[#28 Barbol_Pelao]

#19 Pienso parecido.
Mi idea es que si las superpotencias establecen sanciones internacionales y movilizan ejércitos a la mínima que sus suministros esenciales como energía o minerales se ven amenazados (Irak), o se trata del avispero geopolítico (revoluciones árabes, Ucrania) o boicotean competidores extranjeros con argumentos de Seguridad y espionaje (Huawei)... que aquí no estén diciendo ni pío (a pesar de la revolución que la IA traerá) apunta a que no ven que la Inteligencia Articicial…   

[#54 ostiayajoder]

#28 Yo lo veo claro y, como tu, espero equivocarme...

Pero cuantos paises hay en el tercer mundo ya? que mas le da a USA que haya una UE en el tercer mundo o no cuando muchas partes de su pais ya lo son y se la pela?

[#59 Barbol_Pelao]

#54 Totalmente. Un ejemplo es San Francisco.

[#33 --103293--]

preguntando a un puto informatico el sentido de la vida....

[#43 dilsexico]

#33 Y quien segun tu, tiene el derecho exclusivo a dar su opinion sobre el sentido de la vida?

[#78 --103293--]

#43 un informatico no

[#87 borre]

Me gusta la forma en la que piensa Sam Altman.