Hace 1 año | Por JungSpinoza a youtube.com
Publicado hace 1 año por JungSpinoza a youtube.com

0:00 - Introducción
4:36 - GPT-4
16:02 - Sesgo político
23:03 - Seguridad de la IA
43:43 - Tamaño de la red neuronal
47:36 - AGI
1:09:05 - Miedo
1:11:14 - Competencia
1:13:33 - De sin fines de lucro a ganancias limitadas
1:16:54 - Poder
1:22:06 - Elon Musk
1:30:32 - Presión política
1:48:46 - Verdad y desinformación
2:01:09 - Microsoft
2:05:09 - Colapso del banco SVB
2:10:00 - Antropomorfismo
2:14:03 - Aplicaciones futuras
2:17:54 - Consejos para jóvenes
2:20:33 - Sentido de la vida

D

#1 Póngame un cuarto de AGI, dos lonchas de Elon Musk y 100 gramos de antropomorfismo.

JungSpinoza

#4 Si consigues meter una pizca de Ayuso tienes la receta perfecta para llegar a portada

par

#4 La parte de Elon es bastante interesante. El tipo es capaz de reconocer sus blancos y sus negros (a pesar de aparentemente estar en posiciones opuestas).

Pacman

#1 lo último es 42

u

#1 de este mi punto de vista, está perfecto.
Muchas gracias por molestarte en ponerlo así.

banyan

Este tio puede no gustar pero hay que ponerle oido por todo lo que nos viene ya.

JungSpinoza

#2 >> Este tio puede no gustar

Te refieres a Sam Altman o a Lex Fridman? o a los dos

banyan

#3 a Sam, obvio. 🍃

pingON

#3 Lex Fridman me parece flipante la cantidad y calidad de gente a la que ha entrevistado, estés o no de acuerdo con el entrevistado, son muy largas pero siempre interesantes y preguntas bien documentadas

cdya

#2 Porque no va a gustar? Se expresa con mucha humildad para todo lo que esta consiguiendo, es todo una punta de flecha de una nueva forma de mirar el mundo que nos rodea.

banyan

#8 tiene fluidas relaciones con los de la mafiapaypal.

AntonPirulero

#8 porque han traicionado los principios de apertura y compromiso con el software libre con los que partieron, vendiéndose a Microsoft. El que se llamen "OpenAI" es un ejemplo significativo del "dime de qué presumes y te diré de qué careces".

cdya

#61 Han pillado pasta y publicidad y las dos cosas hacen fata, por ahora GPT4 no se ha traicionado, aunque cobre los 20 € por trabajar con él, y ha sacado su API y ahora el tema de los plugin que va a ser la hostia, relación directa con el internet actual, ya veremos cómo sigue que no termina todo esto, pero necesitábamos o yo al menos oxígeno, después de todo la historia de las redes sociales que no me servían para nada.

Boleteria

#2 A mi no me cae muy bien.
En otras entrevistas que he visto detecto bastante aire de diva y de profeta en él, y me resulta algo pedante cuando habla.

Por supuesto es el hombre del momento, porque es la compañía y la tecnología del momento y es muy interesante e importante saber que tienen entre manos y en mente. Pero me haría mucho más ilusión escuchar al CTO antes que al CEO, la verdad.

h

#2 Pues debe ser mi animadversión por OpenAI y he de decir que nunca había oído hablar a este tío, pero llevo 20 minutos y ya sé que no lo aguanto... esa manera de forzar la voz para hacerla más grave es exagerada y me está poniendo muy difícil seguir la conversación

Su respuesta a "¿de donde has cogido los datos para entrenar?" ha sido un pasapalabra en toda regla... miserable.

rojo_separatista

El podcast de Lex Fridman es siempre muy interesante, lleva a gente muy top, sobretodo relacionada con el mundo de la IA, pero también de otras disciplinas científicas.

Wajahpantat

#7 y cómo lo entiendes si está en inglés?

rojo_separatista

#37, tal vez activar los subtítulos automáticos te ayude un poco.

rojo_separatista

#9, lo más paradógico de todo esto es que quienes más sufrirán las consecuencias de su impacto, son los que más se niegan a ver sus posibilidades. Los ilustradores que insistan en que el proceso creativo humano es insustituible a la hora de crear buenas obras o los programadores que se empeñen en pensar que un generador de código basado en IA no sirve para nada, serán mucho menos productivos y tristemente para ellos quedarán expulsados antes del mercado laboral.

cdya

#11 Un poco de humor.

D

#12 Apple no está interesada en la IA como la estamos viendo ahora porque no se cobra un pastizal por usarlo

cdya

#63 No creo que sean tan tontos porque eso les llevaria al cierre, les ha pillado a contrapie eso seguro y que de como remonten lo que ya llevan perdido se juega su futuro.

D

#65 si da dinero lo implementarán , fíjate lo mal que les va con su maps

Boleteria

#65 No creo que la IA de los otros saque unas manitas y se ponga a fabricar iPhones y Macs de gratis para hundir a Apple.

El negocio de Apple se juega en otro terreno.

Y que me aspen por estar defendiendo a Apple ahora mismo. lol

D

#79 Apple se meterá en eso si le encuentra el ángulo para sacarle más dinero a sus fans

cdya

#79 Todas las sectas necesitan milagros de vez en cuando, o saca un milagro o se hunde.

eltxoa

#12 Apple sólo tiene que hacerse con una IA open source que funcione decentemente. Llamarla iAI. empaquetarla en algo blanco y tras una potente campaña de publicidad presentarse al mundo como los inventores de la IA.

D

#11 deja de beber whisky barato

rojo_separatista

#14, en las clases siempre hay los espavilados que pillan las cosas la primera vez que las explica el profe y a los que les cuesta más separar el grano de la paja y no se enteran de nada hasta que el tren de la realidad les pasa por encima. En el mundo real pasa lo mismo.

D

#36 en el mundo real también hay alcohólicos.

daphoene

#36 espavilados espabilados

https://dle.rae.es/espabilado

rojo_separatista

#88, problemas de ser catalán escribiendo en castellano.

https://www.diccionari.cat/GDLC/espavilat

daphoene

#90 ¡ Gracias por el apunte !

Es muy chungo el bilingüismo catalán / castellano para algunas palabras.

#11 o los medicos, los abogados, los nutricionistas, cualquier trabajo creativo, los administrativos… miles de personas en muchos campos distintos van a quedar obsoletos. Habrá nuevos trabajos suficientes para la cantidad de gente que será expulsada?

cdya

#32 Es una buena opcion para las IAs que repiensen el sistema de nuestra sociedad.

rojo_separatista

#64, esto debemos hacerlo las personas. Las conclusiones de la IA dependerán de cómo se han entrenado y condicionado y de qué tratemos de priorizar a la hora de construir un nuevo modelo. Las IA's no tienen voluntad, ni preferencias, nosotros sí y nos toca decidir.

u

#32 o exterminar a unas cuantos centenas de millones de personas.

Que conociendo como funciona el capitalismo, es lo que pasará

rojo_separatista

#83, hay demasiado gente que se sentía cómoda siendo una esclava. Esto va a cambiar sí o sí, por eso me parece muy interesante el escenario que se abre.

capitan__nemo

#23 ¿y las calculadoras cuantos trabajos destruyeron?
¿y los ordenadores?
Me ha dado por pensar en la película "figuras ocultas" sobre las mujeres que hacían los cálculos en la nasa.

llorencs

#41 No es exactamente lo mismo. Ya que realmente ayudan. Pero las inteligencias artificiales reemplazan poco a poco procesos creativos.

Y una vez que estén combinadas con robotica aún más y la robótica sea mejor, aún más trabajos reemplazados habrá.

ostiayajoder

#41 Como le dije a #11, pero tu diferente:

NEGACION - Ira - Negociacion - Depresion - Aceptacion

Cada uno lleva el duelo a su ritmo.

t

#15 Creo que estás exagerando.
Desde luego "cualquier trabajo creativo" no va a quedar obsoleto.
Tampoco abogados, nutricionistas, administrativos. Ahora tendrán una herramiente más para ser más eficientes.

Los periodistas escribirán más artículos absurdos clickbait. Como ver en un periódico deportivo: lista de las mejores películas musicales de los años 90.
Y similares.

Pienso que afectará a la parte "basura" de los trabajos.

ostiayajoder

#24 No quedaran obsoletos, si para ricos:

En cuanto esto sea fiable los abogados igual no (pq es unt ema del estado y burocracia) pero nutricionistas, medicos... Habra IAs superbaratas para pobres y 4 medicos para ricos. Nutricionistas idem. Administrativos igual...

Si la parte 'basura' de los trabajos es el 80-90% tienes razon.

D

#15 por cada parado se le asigna un QR asociado a la máquina o el software que lo sustituye, será su avatar, y parte de los beneficios del aumento de productividad irán a pagarle su sueldo.. si es las utopías es lo que tienen

Gazpachop

#15 Es que quizá no es necesario pensar en si habrá tanto trabajo para la gente "expulsada". Si los avances tecnológicos trabajan ¿por nosotros, por qué no beneficiarnos de ello y dejar de trabajar, o trabajar menos para vivir la misma vida?

a

#11 El problema de muchos artistas con la IA es que actualmente ésta no realiza procesos creativos, plagia a partir de una base de datos que contiene las obras de dichos artistas, incluidas sin su permiso. Y por otro lado tienes a muchas compañías que quieren utilizar la IA para generar productos de consumo (cine, música, juegos) como churros a partir del trabajo de otros, lo que saturará más estos mercados y eclipsará a los artistas que experimenten cosas nuevas.

Barbol_Pelao

#27 En el mundo artístico comercial ninguna de esas herramientas IA aprueba (por ahora, ni se le espera a corto plazo por mucho Midjourney 5 que esté salido del horno) los ciclos de correcciones de los clientes (que los hay, y cada vez más). Que no es sacar una imagen bonita y supercurrada desconectada de los requisitos del cliente, todo tiene que tener un sentido y adaptarse bien al proyecto. Potencia sin control no sirve de nada, y se sigue necesitando la intervención humana para el retoque final.
Por ahora, claro. En el futuro todos calvos.

a

#29 Estoy completamente de acuerdo en que la desaparición de trabajos será a medio/largo plazo, pero con el boom de la IA ya se empieza a ver gente intentando rascar monedas.
Ayer por ejemplo leí en un hilo de reddit sobre un hombre que trabajaba como junior en una empresa de juegos de moviles transformando modelos 3D en sprites 2D. La empresa le sustituyó ñpor midjourney y le puso a él a controlar la IA y revisar los resultados, con lo que se quejaba de no poder seguir aprendiendo sobre modelado 3d-2d.

También he visto este fin de semana el anuncio en Twitter de una nueva empresa que había desarrollado una IA que generaba modelos 3D a partir de descripciones. El entrenamiento lo habían realizado a partir de modelos de sketchfab con licencia CC, sin consentimiento de Sketchfab o de los dueños de los modelos.

Barbol_Pelao

#34 Ese trabajador por ahora aun tendrá que supervisar (me pregunto si habrá cambios en su sueldo).
En lo del modelado 3D (y en creación de texturas) es casi un paso lógico... y curioso porque la IA podría hacer que la gente deje de formarse en ciertos campos especializados al ser la IA mucho más productiva.
Pero lo del 3D prácticamente será un bombazo en el campo de la animación, el cine (ya hay algoritmos que con una sola foto del paisaje te hacen un travelling en vídeo -aun burdo, pero con avance rápido-), los videojuegos o la realidad aumentada. Incluso para el metaverso, una tecnología 3D por IA madura, sería un game-changer para empresas como Meta porque acortaría los desarrollos dramáticamente.

Todo esto plantea la duda de si ese reemplazo acarreará menos formación académica en los trabajadores (desde luego anticipa un cambio estructural en la Educación a largo plazo).

u

#34 ese programador no se ha dado cuenta que ya lo de aprender modelado para trabajos laborales ya no va a ser necesario nunca jamás.

Pero bueno, si tanto le gusta puede dedicarse a ello los fines de semana

rojo_separatista

#29, ya se han empezado a utilizar IA's de este tipo para crear productos comerciales, quedarse en si algo lo hace mejor o peor es tener una visión muy cortoplacista ya que no pararán de mejorar. Es lo que digo, quienes dicen que no sirven para nada, son los que paradógicamente lo tendrán más jodido para competir con sus compañeros de gremio, tal como aquel campesino que decía que el tractor era inútil porque no podía llegar a todos los rinconcitos.

Barbol_Pelao

#46 Por ejemplo Levi's, reemplazando a modelos reales por modelos generados artificialmente. Su excusa es la inclusión de más diversidad étnica, pero paradójicamente terminan excluyendo a esas etnias que pretenden defender.
El tiempo juzgará. Si hay algo claro es que el Futuro es impredecible. Ahora mismo estamos en plena burbuja y hype, con lo cual las posibilidades parecen infinitas. Y parece lógico que multiplicará la productividad a niveles estratosféricos (tan lógico que todos lo damos por hecho). Pero hay externalidades de las que no se hablan (el peligro geopolítico de un deepfake inadecuado en un ambiente pre-bélico, guerra por recursos minerales, crisis en los fondos de capital riesgo que riegan a estas compañías, imposibilidad de verificar informaciones, bolsas de desempleo que ríete de las manifestaciones de Francia, etc.) que podrían afectar no tanto al desarrollo, pero sí a la aceptación de la tecnología.
La ingeniería genética tiene unas perspectivas de desarrollo casi infinitas también, y de momento sigue prohibida la clonación de seres humanos, o la agricultura transgénica tiene fuertes restricciones.

rojo_separatista

#27, me puedes explicar de dónde sacas que plagia nada? Estos modelos no memorizan las imágenes de entrenamiento sino que aprenden los patrones que hay en ellas.

a

#31 Soy desarrollador y trabajo en ciencia de datos. Como dices, las IAs memorizan y aplican patrones. Es decir, que pueden replicar los patrones de un artista. Llamarlo plagio o de otra manera es una cuestión semántica.
No estoy en contra de las IAs, solo intento explicar el punto de vista de los artistas y el debate ético en torno a ellas.

rojo_separatista

#35, es lo mismo que hace un humano cuando aprende a dibujar. Pero más allá de eso es absurdo plantear ninguna clase de regulación contra las obras creadas por IA con el argumento del plagio, porque es imposible saber a ciencia cierta si una imágen se ha creado con IA o es una creación original. Lo único que se lograría es que se esconda como se han creado.

u

#27 todo está mínimamente basado en el trabajo de alguna persona anteriormente.

Es uno de los principios de software libre

ostiayajoder

#11 LOL

El resto tambien.

Lo que haces es una fase del duelo: Negacion - Ira - NEGOCIACION - Depresion - Aceptacion

rojo_separatista

#47, quién yo? Qué estoy negando si estoy diciendo que los que no sean capaces de ver la relevancia de esta tecnología quedarán fuera del tablero?

ostiayajoder

#62 Negociando, estas negociando que solo se quedaran fuera los que no sean capaces de ver la relevancia....

rojo_separatista

#66, yo estoy en esta etapa desde hace una década. Teníamos tiempo de sobra y lo seguimos teniendo para repensar muchas cosas.

h

#11 los ilustradores y traductores serán sustituidos, probablemente.

Los programadores, como siempre que se ha aumentado su productividad (que ha ocurrido muchísimas veces ya) serán más demandados.

rojo_separatista

#50, si aumenta la demanda de desarrollos más que la productividad sí. No tengo una bola de cristal para saber lo que pasará, lo que sí se, es que los desarrolladores que no utilicen IA no podrán seguir trabajando.

h

#58 más que discutible

Windows95

#11 Cuando los desarrolladores (los de verdad, no los picateclas de Accenture) nos quedemos sin trabajo, antes se han quedado sin trabajo hasta los médicos. Llegará ese día, estoy totalmente seguro, pero aún queda.

rojo_separatista

#74, es curioso porque estos días me he dado cuenta que los desarrolladores de software son de todo menos programadores. Sociólogos, psicólogos, comerciales, arquitectos del software o antropólogos... Cualquier cosa antes pero ninguno dice que una parte fundamental de su trabajo sea la de programar nada. No digo que no sea cierto pero me parece curioso. Y hablo desde la ignorancia más absoluta, porque a pesar de que soy ingeniero informático, no he trabajado de desarrollador nunca en mi vida, así que los que habláis con conocimiento de causa sois vosotros.

daphoene

#76 Te hago c&p de otro comentario mío en el que explicaba esto, desde mi punto de vista:
estos-son-empleos-inteligencia-artificial-eliminara-primero/c014#c-14

Hace 1 año | Por Sinopeus1 a elconfidencial.com


( No quiero decir que usar una AI no ayude a un programador, hablamos de sustituir programadores por IA )

No puedo poner la mano en el fuego por lo que pasará o no en el futuro, porque no tengo una bola de cristal, pero creo que no va a ser así. La confusión puede generarse entre lo primero que piensas ( que un programador sólo "escribe código" ) y la realidad, que es mucho más compleja. Para que una IA pudiera realmente sobrepasar a un humano programando, tendría que comprender la realidad que intenta moldear al menos con la misma profundidad que un programador, y ninguna IA está pensada para eso.

Como segundo punto crucial, alguien debería darle unas instrucciones lo suficientemente completas y lo suficientemente precisas para que generase ese sistema completo, integrado de forma correcta con el resto de su entorno, aunque esas instrucciones tuvieran que darse en 20.000 iteraciones, y para ese camino sigue siendo más barato y eficiente el tiempo, la experiencia y la comprensión de un programador.

Nadie que no sea un programador o personal altamente especializado podrá darle esas instrucciones, y el tiempo necesario para darle las instrucciones correctas, y evaluar el resultado, posiblemente sea parecido a trabajar con un equipo, aunque una IA pueda ayudar a reducir ese tiempo global.

En este sentido, las IAs pecan del mismo problema que tienen los tests unitarios en software, que el software real no es una suma de pequeños módulos unitarios e independientes fácilmente auditables, sino una enredadera de cadenas de flujo y lógica altamente interdependiente, porque el software intenta solucionar problemas reales, y la naturaleza de la realidad es esa, por más que nos empeñemos.

Cuando por ejemplo se necesita añadir un tipo de descuento de distinta naturaleza o tipología que no estaba contemplada, esto afecta a toda la cadena por completo, no a una pequeña unidad modular, y algún día la IA será capaz de asumirlo como un humano, pero estamos muy lejos de eso por mucho que avance la IA, ya que también tendríamos que avanzar nosotros a la misma velocidad, y no es así, al menos hasta que una IA sea indistinguible de un ser humano en lo que respecta al trabajo de programador.

rojo_separatista

#89, entiendo lo que dices de que la parte más importante del trabajo de un developer no es programar, pero no comparto la parte en la que das por sentado que las IAs que han aparecido no puedan tener una comprensión general del problema al mismo nivel o más que un desarrollador, compararlos con los tests unitarios no tiene demasiado sentido. GPT-4 no sabe solamente programar, sabe mucho, de todo.

daphoene

#91 Entiendo lo que dices, y no deja de ser impresionante. Lo que quería decir es que un programador comprende la idiosincrasia y las relaciones de todo su software con todas sus conexiones, y la relación de cada parte con las demás, y la relación de todo ello con la realidad a la que atiende. No hablamos de un problema "concreto", sino de un sistema al completo.

Digamos que una IA te puede ayudar ( o hacer entero ) un módulo para conectarte a una API relativamente sencilla y documentada, para usos muy puntuales, pero no te va a programar un Facebook, con todo lo que lleva por dentro ( que es mucho más de lo que se ve por fuera ).

Y en cualquiera de los casos, todavía necesita mucha supervisión para todo.

Igualmente muchos programadores pecan de no llegar al punto que comento, igual que la IA, pero sigue habiendo infinidad de implicaciones en la comprensión humana que aún veo muy difícil replicar por una IA del tipo GPT-4.

Con ello, obviamente, no quiero decir que no sirvan para nada, ni que no puedan acelerar el trabajo de muchos programadores. Que ahorra mucho trabajo es algo en lo que estamos de acuerdo, y en que hay que aprender a aprovechar esta tecnología para no quedarse atrás, también, sólo discuto el punto en el que una IA te pueda hacer un sistema entero.

En la vida real, el 90% de los requisitos de un proyecto o bien se dan por sobreentendidos ( mal hecho siempre ) o bien se espera que el programador / analista de sistemas resuelva los miles de huecos que quedan por definir por sí mismo, y esto es un dolor para toda la comunidad de desarrollo, pero para una IA es una losa, un precipicio insalvable.

rojo_separatista

#96, es que si te fijas en mi comentario inicial, no digo que vayan a desaparecer los desarrolladores. Lo que digo es que van a desaparecer los desarrolladores que se empeñen en no utilizar estas herramientas y que insisten en que no sirven para nada, que los hay. Básicamente porque serán 10 veces más lentos que los demás.

gelatti

Yo, mientras no entreguen el control del armamento nucelar a una IA, que pueda decidir hacer ataques preventivos, por qué que hagan lo que les salga de las IAs.

traviesvs_maximvs

#16 en cuanto un país muy pacífico desarrolle la democracia vamos a tener problemas con sus ARMAS NUCELARES.

capitan__nemo

#16 Ya lo hacen. Solo que no lo conectan directamente a la ia. El general de turno le preguntará a la ia "¿qué tengo que hacer para ganar la guerra con armas nucleares?".Si no le satisface la respuesta le preguntará "¿que tengo que hacer para ganarla con menos muertos?.

D

#18 controlada por Elon?

t

#18 En MNM, hasta la IA es fascista.

O

#25 si ha estas alturas no te has dado cuenta del sesgo fascista y el fin ultimo de chatgpt, tengo malas noticias para ti

BermejoBar

#26 Desarrolla

h

#26 si hasta una IA te parece fascista, tengo malas noticias para ti.

m

#53 Joer, si chatGPT3 y 4 estan mas wokeadas que la redaccion del huffington post

Windows95

#26 A ver si sacan una IA que corrija texto y nos proteja los ojos de las faltas de ortografía

t

#26 No me dado cuenta del chatgpt fascista, cuenta más, no te lo guardes.

oliver7

#18 Misógina? Prueba a preguntarle que haga un chiste de mujeres. Después pregúntale por uno de hombres...

ostiayajoder

#28 Yo lo veo claro y, como tu, espero equivocarme...

Pero cuantos paises hay en el tercer mundo ya? que mas le da a USA que haya una UE en el tercer mundo o no cuando muchas partes de su pais ya lo son y se la pela?

Barbol_Pelao

#54 Totalmente. Un ejemplo es San Francisco.

D

preguntando a un puto informatico el sentido de la vida....

dilsexico

#33 Y quien segun tu, tiene el derecho exclusivo a dar su opinion sobre el sentido de la vida?

D

#43 un informatico no

borre

Me gusta la forma en la que piensa Sam Altman.