Portada
mis comunidades
otras secciones
![Descubrimiento revolucionario en IA detrás del despido de Sam Altman en OpenAI [EN]](https://cdn.mnmstatic.net/cache/3b/31/media_thumb_2x-link-3879371.jpeg?1700727246)
#16:
#6 Pero es un mecanismo que hay que programar.
#12
Míralo de esta forma: imagina que haces un programa que crea laberintos. Pero lo ejecutas con suficiente memoria para generar un laberinto del tamaño de un planeta entero. Para una persona no le alcanzaría la vida para resolverlo, e incluso si por alguna capacidad saliera, no sería porque lo comprende del todo sino porque tuvo suerte.
Las instrucciones para crear un laberinto son sencillas, pero el laberinto en sí no. Lo mismo pasa con la IA: Lo que programaron son una serie de reglas relativamente sencillas y fáciles de entender. Lo maravilloso es que esas reglas repetidas miles de millones de veces generan un resultado tan complejo que nadie podría comprender.
De hecho, el analizar lo que la IA hace para procesar los datos ha ayudado a comprender mejor como funciona el cerebro humano. Se ha descubierto que surgen neuronas especializadas en determinadas partes de la información, como que la red aprende conceptos básicos.
Tienes que ver la IA como si fuera una planilla de cálculos llena de fórmulas todas iguales pero con varios números que se pueden cambiar. Al principio el resultado las fórmulas no es el que quieres, pero sería imposible que una persona ajustara los valores a mano. Entonces otro programa que no es muy complicado, los va modificando automáticamente para que poco a poco se vaya pareciendo más y más a lo que quieres obtener. Después de miles de intentos el resultado es suficientemente bueno.
Tu después te pones a mirar las fórmulas y tienen valores que ninguna persona habría podido deducir. De hecho, no tienes ni idea de por qué con esos números el resultado funciona y con otros no. Los cálculos no son complejos pero se calculan valores que no sabes por qué están ahí. Bueno, sí, están ahí porque así funciona y punto. Y nadie los puso ahí: fue un proceso automatizado. Si después alguien te preguntara si tu hiciste esa planilla, para ser sincero tendrías que decir que no, que tu hiciste un programa sencillo que después de mucho trabajo hizo la planilla. Nunca habrías podido hacerla tu mismo. Indirectamente es el creador? pues sí... tanto como el que creó los chips de tu ordenador. Pero él tampoco podría adjudicarse el mérito por la planilla...
#12
Míralo de esta forma: imagina que haces un programa que crea laberintos. Pero lo ejecutas con suficiente memoria para generar un laberinto del tamaño de un planeta entero. Para una persona no le alcanzaría la vida para resolverlo, e incluso si por alguna capacidad saliera, no sería porque lo comprende del todo sino porque tuvo suerte.
Las instrucciones para crear un laberinto son sencillas, pero el laberinto en sí no. Lo mismo pasa con la IA: Lo que programaron son una serie de reglas relativamente sencillas y fáciles de entender. Lo maravilloso es que esas reglas repetidas miles de millones de veces generan un resultado tan complejo que nadie podría comprender.
De hecho, el analizar lo que la IA hace para procesar los datos ha ayudado a comprender mejor como funciona el cerebro humano. Se ha descubierto que surgen neuronas especializadas en determinadas partes de la información, como que la red aprende conceptos básicos.
Tienes que ver la IA como si fuera una planilla de cálculos llena de fórmulas todas iguales pero con varios números que se pueden cambiar. Al principio el resultado las fórmulas no es el que quieres, pero sería imposible que una persona ajustara los valores a mano. Entonces otro programa que no es muy complicado, los va modificando automáticamente para que poco a poco se vaya pareciendo más y más a lo que quieres obtener. Después de miles de intentos el resultado es suficientemente bueno.
Tu después te pones a mirar las fórmulas y tienen valores que ninguna persona habría podido deducir. De hecho, no tienes ni idea de por qué con esos números el resultado funciona y con otros no. Los cálculos no son complejos pero se calculan valores que no sabes por qué están ahí. Bueno, sí, están ahí porque así funciona y punto. Y nadie los puso ahí: fue un proceso automatizado. Si después alguien te preguntara si tu hiciste esa planilla, para ser sincero tendrías que decir que no, que tu hiciste un programa sencillo que después de mucho trabajo hizo la planilla. Nunca habrías podido hacerla tu mismo. Indirectamente es el creador? pues sí... tanto como el que creó los chips de tu ordenador. Pero él tampoco podría adjudicarse el mérito por la planilla...
#44:
#22 Básicamente:
-Altman oculta cosas a la junta directiva y la junta se entera.
-La junta se mosquea por la ocultación de la información.
-La junta echa a Altman de CEO.
-El presidente de la junta, amigo y socio fundador, renuncia como medida de protesta por el despido.
-Microsoft, que posee el 49% de la empresa y ve vital el tema de la IA en windows 12, bing y otros servicios como copilot, apoya a Altman y lo contrata directamente.
-MS deja abierta la puerta a contratar a la totalidad de los empleados de la empresa y el 90% firman una carta diciendo que se van, en una especie de OPA encubierta a la totalidad de la compañía.
-La junta se acojona porque MS se lo va a llevar todo, readmiten a Altman y dimite parte del grupo de la junta que lo echó.
Lo que ocultó Altman no se sabe. Si es un tema económico, de visión de proyecto, de plazos o, como se especula ahora, de tecnología. Pero está claro que había desavenencias éticas y económicas en cómo explotar comercialmente la empresa con Microsoft de por medio.
Yo no estoy muy convencido de que Altman sea la víctima en todo esto, estando los de Redmond de por medio, que ya sabemos cómo se las gastan. Y desde luego nunca se puede ocultar información relevante de forma intencionada a tu Junta. Es motivo justo de despido.
-Altman oculta cosas a la junta directiva y la junta se entera.
-La junta se mosquea por la ocultación de la información.
-La junta echa a Altman de CEO.
-El presidente de la junta, amigo y socio fundador, renuncia como medida de protesta por el despido.
-Microsoft, que posee el 49% de la empresa y ve vital el tema de la IA en windows 12, bing y otros servicios como copilot, apoya a Altman y lo contrata directamente.
-MS deja abierta la puerta a contratar a la totalidad de los empleados de la empresa y el 90% firman una carta diciendo que se van, en una especie de OPA encubierta a la totalidad de la compañía.
-La junta se acojona porque MS se lo va a llevar todo, readmiten a Altman y dimite parte del grupo de la junta que lo echó.
Lo que ocultó Altman no se sabe. Si es un tema económico, de visión de proyecto, de plazos o, como se especula ahora, de tecnología. Pero está claro que había desavenencias éticas y económicas en cómo explotar comercialmente la empresa con Microsoft de por medio.
Yo no estoy muy convencido de que Altman sea la víctima en todo esto, estando los de Redmond de por medio, que ya sabemos cómo se las gastan. Y desde luego nunca se puede ocultar información relevante de forma intencionada a tu Junta. Es motivo justo de despido.
#3:
#2 Sería discutible... Recuerda que en IA lo que se crea es una especie de "lienzo en blanco" y es la propia máquina la que se enseña a sí misma a hacer las cosas. Nosotros solo proporcionamos el mecanismo de aprendizaje pero en realidad no comprendemos cómo funciona por dentro.
O sea, sabemos bien lo que lo compone, pero es como con el cerebro humano: conocemos las neuronas pero sus interacciones son demasiado complejas. Lo mismo con la IA: conocemos las funciones matemáticas con las que funciona, pero el conjunto es demasiado complicado para entenderlo.
O sea, sabemos bien lo que lo compone, pero es como con el cerebro humano: conocemos las neuronas pero sus interacciones son demasiado complejas. Lo mismo con la IA: conocemos las funciones matemáticas con las que funciona, pero el conjunto es demasiado complicado para entenderlo.
#19:
#9 Un ejemplo sencillo de que no es tan raro son, por ejemplo, las lentes: se han usado desde hace mucho sin tener conocimiento de los principios que subyacen, la gente sólo sabía, por experimentación, que funcionaban, y ya.
De hecho, diría que, hasta no hace mucho, era la forma habitual de hacer: usar lo que conoces por experimentación, sin necesidad de saber los principios que subyacen. El fuego, sin ir más lejos.
cc #4
De hecho, diría que, hasta no hace mucho, era la forma habitual de hacer: usar lo que conoces por experimentación, sin necesidad de saber los principios que subyacen. El fuego, sin ir más lejos.
cc #4
#83:
#57 No hace falta la conciencia para superar la inteligencia humana en el desempeño de cualquier tarea cognitiva.
No sabemos qué es necesario para superar la inteligencia humana en el desempeño de cualquier tarea cognitiva, por lo que afirmar que no podemos afirmar que no haga falta consciencia o que la consciencia no surja en paralelo a ello.
Es más, el concepto de "tarea cognitiva" no tiene una definición suficientemente precisa. Por ejemplo para obtener agua dulce del océano el ser humano ha hecho varias tareas cognitivas que se han concretado en una desaladora, ese mismo objetivo lo consigue el Sol evaporando agua que genera lluvias y éstas fluyen por un río. No creo que nadie vaya a afirmar que el Sol supera al ser humano en esa "tarea cognitiva".
Ese es un caso extremo pero entre ambos casos hay un montón de ejemplos que van creando una región gris en la que no está nada claro si lo que ocurre es o no es una "tarea cognitiva". Muchos defenderán que conducir un coche ya no es una tarea cognitiva dado que han visto a coches que lo hacen y por lo tanto si lo hace una máquina no es una tarea cognitiva. Aunque si esa pregunta se hiciera hace un siglo posiblemente nadie dudaría del requisito de llevar a cabo una tarea cognitiva para conducir un coche.
No sabemos qué es necesario para superar la inteligencia humana en el desempeño de cualquier tarea cognitiva, por lo que afirmar que no podemos afirmar que no haga falta consciencia o que la consciencia no surja en paralelo a ello.
Es más, el concepto de "tarea cognitiva" no tiene una definición suficientemente precisa. Por ejemplo para obtener agua dulce del océano el ser humano ha hecho varias tareas cognitivas que se han concretado en una desaladora, ese mismo objetivo lo consigue el Sol evaporando agua que genera lluvias y éstas fluyen por un río. No creo que nadie vaya a afirmar que el Sol supera al ser humano en esa "tarea cognitiva".
Ese es un caso extremo pero entre ambos casos hay un montón de ejemplos que van creando una región gris en la que no está nada claro si lo que ocurre es o no es una "tarea cognitiva". Muchos defenderán que conducir un coche ya no es una tarea cognitiva dado que han visto a coches que lo hacen y por lo tanto si lo hace una máquina no es una tarea cognitiva. Aunque si esa pregunta se hiciera hace un siglo posiblemente nadie dudaría del requisito de llevar a cabo una tarea cognitiva para conducir un coche.
#2:
¿Descubrimiento o invento? A los periodistas les cuesta entender la diferencia.
#54:
#34 ¿a qué te refieres con que se ha desinflado bastante? La capacidad de razonamiento, síntesis, comprensión lectora, creatividad de GPT-4 fueron un salto increíble con respecto a GPT-3.5. Ahora es capaz de comprender imágenes como input, lo que amplifica sus capacidades aún más. Personalmente la uso todos los días en mi trabajo (soy informático) y en mi vida privada (apenas busco ya en Google).
Para mí ha sido un cambio bastante disruptivo y para nada veo un desinflamiento/estancamiento.
Para mí ha sido un cambio bastante disruptivo y para nada veo un desinflamiento/estancamiento.
#69:
#34 Chat GPT no puede ser autoconsciente entre otras cosas porque solo responde a un prompt, entre prompts no está viva ni razona, que yo sepa.
No obstante no me parece que Chat-GPT sea algo solo medianamente aceptable, a mí hace no tantos años me dicen que para la fecha actual iba a existir algo así y no me lo creo, y se ha desinflado muy entre comillas, que sigue teniendo más de 100 millones de usuarios diarios. No sé si habrás tenido la oportunidad de usar Chat-GPT plus, que va con GPT-4-turbo, DALL-E, visión de imágenes, o la posibilidad de subirle un documento de hasta 300 páginas y que trabaje con esos datos, es una pasada y ha mejorado muchísimo con respecto al chat-gpt de enero, yo lo uso a diario para mil cosas ¿Que no es autoconsciente? Obviamente no, pero me da la sensación de que, igual que mucha gente se pasa atribuyéndole capacidades, mucha gente trata de minusvalorarlo, y yo creo que es el software más increíble que ha surgido en los últimos años, y además es que no deja de evolucionar a un ritmo bastante acelerado.
No obstante no me parece que Chat-GPT sea algo solo medianamente aceptable, a mí hace no tantos años me dicen que para la fecha actual iba a existir algo así y no me lo creo, y se ha desinflado muy entre comillas, que sigue teniendo más de 100 millones de usuarios diarios. No sé si habrás tenido la oportunidad de usar Chat-GPT plus, que va con GPT-4-turbo, DALL-E, visión de imágenes, o la posibilidad de subirle un documento de hasta 300 páginas y que trabaje con esos datos, es una pasada y ha mejorado muchísimo con respecto al chat-gpt de enero, yo lo uso a diario para mil cosas ¿Que no es autoconsciente? Obviamente no, pero me da la sensación de que, igual que mucha gente se pasa atribuyéndole capacidades, mucha gente trata de minusvalorarlo, y yo creo que es el software más increíble que ha surgido en los últimos años, y además es que no deja de evolucionar a un ritmo bastante acelerado.
#48:
#40 Con todos los respetos, creo que no acabas de comprender como funciona una IA, pero tu mismo la estas explicando. No sabemos como las conexiones neuronales convierten unos pensamientos en otros, pero sabemos que esta basado en un mecanismo de neuronas con diferentes pequeñas funciones cada una que, sumadas, hacen algo llamado "pensamiento" o "inteligencia"
La IA es exactamente eso. miles de pequeños mini programitas (neuronas) que se "autoprograman" en base a unas entradas para obtener una salida. Nadie sabe como interaccionan entre ellas, pero consiguen un resultado similar a lo que haria un humano,
No tienen nada que ver con una molecula de ADN. ¿Porque dices eso?
La IA es exactamente eso. miles de pequeños mini programitas (neuronas) que se "autoprograman" en base a unas entradas para obtener una salida. Nadie sabe como interaccionan entre ellas, pero consiguen un resultado similar a lo que haria un humano,
No tienen nada que ver con una molecula de ADN. ¿Porque dices eso?
#17:
#10 Exacto, los efectos del Penicillium se conocen desde hace al menos 5000 años. Lo que hizo Fleming fue descubrir y aislar la molécula en 1928, aunque la producción a gran escala no se inició hasta 1941.
Los antiguos métodos de administración eran atroces, como untar una hoja de cuchillo con el moho e introducirla en la herida, o en el caso de parturientas, comer pan mohoso como único remedio a las fiebres puerperales.
Los antiguos métodos de administración eran atroces, como untar una hoja de cuchillo con el moho e introducirla en la herida, o en el caso de parturientas, comer pan mohoso como único remedio a las fiebres puerperales.
#38:
#29 La IA se reprograma. Si fuera un autómata sería un sistema experto, un conjunto de reglas que se aplican y ya, como el Mycin (o algo así, uno de los primeros sistemas expertos que salieron para medicina, era muy listo pero no aprendía). Las IAs aprenden, si no, no son IAs (y nos venden muchas cosas como IAs que en realidad no lo son, pero eso es otra historia).
#33:
#29 no, no es como el cerebro humano.
Se parece muchísimo. Tanto que ha servido para comprender mejor el cerebro.
El cerebro humano no lo es (pues se autoreprograma).
Las IAs también. Nosotros sólo comprendemos las neuronas de la IA. Le proporcionamos la base pero la IA se hace a sí misma en el proceso que se llama entrenamiento.
Se parece muchísimo. Tanto que ha servido para comprender mejor el cerebro.
El cerebro humano no lo es (pues se autoreprograma).
Las IAs también. Nosotros sólo comprendemos las neuronas de la IA. Le proporcionamos la base pero la IA se hace a sí misma en el proceso que se llama entrenamiento.
#7:
#6 Depende (sí, aquí el gallego). El descubrimiento de la penicilina ¿fue tal o un invento? Porque fue algo no esperado, y puede que te hayas preparado y diseñado un algoritmo para hacer X y resulta que hace otras cosas que no esperabas. Eso para mí es más un descubrimiento que un invento en sí.
Comentarios
#6 Pero es un mecanismo que hay que programar.
#12
Míralo de esta forma: imagina que haces un programa que crea laberintos. Pero lo ejecutas con suficiente memoria para generar un laberinto del tamaño de un planeta entero. Para una persona no le alcanzaría la vida para resolverlo, e incluso si por alguna capacidad saliera, no sería porque lo comprende del todo sino porque tuvo suerte.
Las instrucciones para crear un laberinto son sencillas, pero el laberinto en sí no. Lo mismo pasa con la IA: Lo que programaron son una serie de reglas relativamente sencillas y fáciles de entender. Lo maravilloso es que esas reglas repetidas miles de millones de veces generan un resultado tan complejo que nadie podría comprender.
De hecho, el analizar lo que la IA hace para procesar los datos ha ayudado a comprender mejor como funciona el cerebro humano. Se ha descubierto que surgen neuronas especializadas en determinadas partes de la información, como que la red aprende conceptos básicos.
Tienes que ver la IA como si fuera una planilla de cálculos llena de fórmulas todas iguales pero con varios números que se pueden cambiar. Al principio el resultado las fórmulas no es el que quieres, pero sería imposible que una persona ajustara los valores a mano. Entonces otro programa que no es muy complicado, los va modificando automáticamente para que poco a poco se vaya pareciendo más y más a lo que quieres obtener. Después de miles de intentos el resultado es suficientemente bueno.
Tu después te pones a mirar las fórmulas y tienen valores que ninguna persona habría podido deducir. De hecho, no tienes ni idea de por qué con esos números el resultado funciona y con otros no. Los cálculos no son complejos pero se calculan valores que no sabes por qué están ahí. Bueno, sí, están ahí porque así funciona y punto. Y nadie los puso ahí: fue un proceso automatizado. Si después alguien te preguntara si tu hiciste esa planilla, para ser sincero tendrías que decir que no, que tu hiciste un programa sencillo que después de mucho trabajo hizo la planilla. Nunca habrías podido hacerla tu mismo. Indirectamente es el creador? pues sí... tanto como el que creó los chips de tu ordenador. Pero él tampoco podría adjudicarse el mérito por la planilla...
#16 en el caso de chatGPT por ejemplo se tardó dos años de prueba y error hasta conseguir algo medianamente aceptable y tras el furor inicial la cosa se ha desinflado bastante. Que no digo que no tenga mérito, eh? Pero de ahí a estar a un paso de IA autoconscientes como muchos aseguran…
#34 Eso parece el chiste de "¿Cuantos funcionarios hacen falta para cambiar una bombilla?"
Pues aquí lo mismo ¿Cuántas neuronas hacen falta para que una inteligencia sea autoconsciente? Tomando como ejemplo el mundo animal y que solo 3 de ellos (aparte de los humanos) han pasado la prueba del espejo yo diría que hacen falta... un huevo de neuronas.
#39 no es tanto el numero (las ballenas y elefantes tienen más), si no la proporción tamaño del cuerpo, número de conexiones, etc. Y algo más parece que hay, porque los cuervos o los pulpos han resultado ser la hostia de inteligentes.
#43 Es que seria mas preciso decir, cuantas neuronas dedicadas a problemas generales. Esos bichos tienen mas neuronas simplemente porque tienen un cuerpo mayor, con lo que se necesitan mas neuronas para gestionar ese cuerpo, pero las neuronas dedicadas a problemas generales son pocas porque en su ambiente no necesitan mas. A los bichos pequeños les pasa parecido, parecen la ostia de inteligentes porque aunque tengan menos neuronas, tienen muchas mas en proporción para problemas generales.
#49 exacto, perfectamente resumido
#43 Con los pulpos se está exagerando un poco.
#34 Se ha desinflado como se desinflan todas las innovaciones tecnológicas. La gente siempre piensa que es más de lo que es, hasta que de pronto nos damos cuenta y han cambiado los procesos de manera que ni imaginábamos. No sé si serán autoconscientes, no tengo muy claro qué significa ser autoconsciente de hecho, pero son una revolución importantísima y en 10 años pensaremos eso de "antes, ¿cómo hacíamos esto?"
#41 son una revolución impresionante, eso no lo pongo en duda, pero como va a ser autoconsciente un árbol de posibilidades basado en reglas que se autoreplican? Es un simple algoritmo, no nos vengamos arriba. No me quiero ni imaginar la que se va a liar cuando salga el primer humanoide que imite más o menos bien cuatro cosas de los humanos.
#46 Si es que ese debate me parece muy filosófico ¿qué es la consciencia? ¿son los animales autoconscientes? ¿cómo lo sabemos? Y, de manera análoga a tu pregunta, ¿cómo va a ser autoconsciente una planta química que funciona en base a transmisiones de productos químicos e impulsos eléctricos?
#53 De hecho hasta cierto punto #46 Casi, definió la consciencia en la definición de IA.
#53 no se sabe lo que es la consciencia, pero si se sabe que el cerebro no es una maquina de Turing (un automata). Las IA sí lo son.
#46 Cómo va a ser autoconsciente una amalgama de células que se conectan entre sí y que reenvían pequeñas corrientes eléctricas?
#34 ¿a qué te refieres con que se ha desinflado bastante? La capacidad de razonamiento, síntesis, comprensión lectora, creatividad de GPT-4 fueron un salto increíble con respecto a GPT-3.5. Ahora es capaz de comprender imágenes como input, lo que amplifica sus capacidades aún más. Personalmente la uso todos los días en mi trabajo (soy informático) y en mi vida privada (apenas busco ya en Google).
Para mí ha sido un cambio bastante disruptivo y para nada veo un desinflamiento/estancamiento.
#54 Desde el completo desconocimiento, ¿cómo lo usas en tu vida privada? ¿Qué es lo que te aporta que no pueda hacer Google? Todo esto de chatGPT e IAs en general lo veo desde la barrera porque no tengo ni idea de cómo funciona ni cómo sacarle partido a nivel básico.
#54 en mi trabajo (soy informático) también ha supuesto un cambio bastante importante, pero se ha desinflado a nivel del publico general (esto lo ha dicho la propia openIA) y no ha tenido el impacto que se esperaba (se hablaba de que iba a sustituir Google y, aunque sea tu caso, no ha sido el de la inmensa mayoría).
#34, las AGI no son entidades auto-conscientes, si no entendemos esto, mal vamos. No hace falta la conciencia para superar la inteligencia humana en el desempeño de cualquier tarea cognitiva.
#57 No hace falta la conciencia para superar la inteligencia humana en el desempeño de cualquier tarea cognitiva.
No sabemos qué es necesario para superar la inteligencia humana en el desempeño de cualquier tarea cognitiva, por lo que afirmar que no podemos afirmar que no haga falta consciencia o que la consciencia no surja en paralelo a ello.
Es más, el concepto de "tarea cognitiva" no tiene una definición suficientemente precisa. Por ejemplo para obtener agua dulce del océano el ser humano ha hecho varias tareas cognitivas que se han concretado en una desaladora, ese mismo objetivo lo consigue el Sol evaporando agua que genera lluvias y éstas fluyen por un río. No creo que nadie vaya a afirmar que el Sol supera al ser humano en esa "tarea cognitiva".
Ese es un caso extremo pero entre ambos casos hay un montón de ejemplos que van creando una región gris en la que no está nada claro si lo que ocurre es o no es una "tarea cognitiva". Muchos defenderán que conducir un coche ya no es una tarea cognitiva dado que han visto a coches que lo hacen y por lo tanto si lo hace una máquina no es una tarea cognitiva. Aunque si esa pregunta se hiciera hace un siglo posiblemente nadie dudaría del requisito de llevar a cabo una tarea cognitiva para conducir un coche.
#83 Fe de erratas: por lo que no podemos afirmar que no haga falta consciencia o que la consciencia no surja en paralelo a ello.
#83, yo el debate sobre la conciencia trato de eludirlo porque añade más ruido que otra cosa y da alas a los que dicen que la IA es un bluf, además creo que no aporta demasiado, primero, porque no entendemos bien qué mecanismo la produce y segundo porque no tenemos ninguna forma empírica de evaluar que existe más allá de nuestra propia experiencia subjetiva. Hay académicos como Geoffrey Hinton, al cual le tengo una enorme admiración que afirman que es probable que a medida que escalen las redes neuronales, desarrollen una conciencia parecida a la de los seres humanos, pero yo no lo termino de ver, la verdad.
A modo de ejemplo piensa en una red neuronal super-sencilla con dos neuronas de entrada y una de salida que haya aprendido a sumar. Convendremos que a pesar de que ll haga muy bien, no ha desarrollado ninguna clase de conciencia. Ahora escalemos el problema a una red mucho más grande, pero pequeña al lado de chatGPT, como una ResNet50 capaz de clasificar imágenes de perros y gatos. Crees que ha desarrollado un grado de conciencia para ello? Yo creo que no hace falta ya que mediante puras operaciones matemáticas es suficiente para poder extraer las caracteristicas que definen a cada imagen. Podemos subir de complejidad del problema todo lo que quieras, porque al cualquier problema podrá ser resuelto con un número suficiente de operaciones matemáticas en las cuales no es necesario implicar la conciencia. Y si no es así, dónde está la frontera y por qué? Por qué es necesaria la autoconciencia para poder escribir correctamente? Yo no lo veo de ninguna manera, aunque resulte contra-intuitivo pensar que cualquier problema intelectual pueda ser reducido a una combinación de operaciones matemáticas sencillas si se escala lo suficiente, pienso que es así.
#94 yo el debate sobre la conciencia trato de eludirlo
Este comentario tuyo al que respondo no es un buen ejemplo de ello
A modo de ejemplo piensa en una red neuronal super-sencilla con dos neuronas de entrada y una de salida que haya aprendido a sumar.
Ahora piensa en un rotífero1 que tiene entre 6 y 11 neuronas cerebrales2 (foto adjunta al final). Que son capaces de alimentarse, sobrevivir y perpetuarse.
Convendremos que a pesar de que ll haga muy bien, no ha desarrollado ninguna clase de conciencia.
Ahora escalemos el problema a una red mucho más grande, un cerebro humano.
Podemos subir de complejidad del problema todo lo que quieras, porque al cualquier problema podrá ser resuelto con un número suficiente de operaciones matemáticas en las cuales no es necesario implicar la conciencia.
Esa hipótesis también te permitiría concluir que el ser humano podría resolver cualquier problema sin tener consciencia. Pero sería solo eso, una hipótesis. La realidad es que sí afirmamos que el ser humano tiene consciencia, una consciencia que no sabemos cómo surge y por lo tanto no podemos afirmar que no va a surgir, o que no ha surgido ya, en una red neuronal de una IA.
1 https://es.wikipedia.org/wiki/Rotifera
2 https://link.springer.com/chapter/10.1007/978-94-011-4782-8_20
#96, hablé de la conciencia respondiendo un comentario de otro usuario, no empezando una discusión sobre el tema.
Y precisamente el ejemplo que tú pones ilustra bastante bien la diferencia entre una red neuronal artificial y una natural. Dado que no estamos dentro del gusano o de la red neuronal artificial no sabemos qué experiencia subjetiva tiene cada una de estas entidades, pero intuyo que ya a este nivel, el gusano tiene una experiencia subjetiva de lo que sería una red artificial tan pequeña. Repito, hablo desde la intuición, porque igual que tú, no hay forma objetiva de medir la conciencia y tampoco sabemos exactamente cómo se origina. Lo que si sabemos es que se puede resolver problemas sin necesidad de ser consciente de ello.
#98 Lo que si sabemos es que se puede resolver problemas sin necesidad de ser consciente de ello.
Eso no lo sabemos, a menos que te refieras a que el Sol resuelve el problema del agua dulce con la evaporación.
#100, es un buen ejemplo de cómo se está resolviendo un problema sin consciencia. La única diferencia es que a los modelos de IA les podemos definir qué problemas queremos que resuelvan. Eso es lo que las convierte en una herramienta.
#94 El tema es que de la complejidad emerge la consciencia.
Ahí va un cuestinario sobre criaturas que tienen cerebro, unas son conscientes, otras no, dónde poner el límite, no lo sé, pero claramente la complejidad del cerebro hace que emerja de consciencia.
Una medusa es consciente?
Un saltamontes es consciente?
Un pez es consciente?
Un ratón es consciente?
Un perro es consciente?
Un chimpancé es consciente?
#83 Relacionando conceptos chatgpt supera a muuuchos humanos ya
#57 la verdad es que #63 te lo explica súper bien (está siendo un placer leer comentarios tan bien razonados), pero quería añadir algo: a lo que gana una maquina a cualquier ser humano es a hacer cálculos muy rápidos Y YA. Eso es lo único que hacer cualquier ordenador jamás construido y cualquier tarea que le veas hacer se reduce a eso. Como bien explica #63 los seres humanos cada vez hemos ido averiguando nuevas tareas que se pueden hacer sólo a base de cálculos (como conducir un coche) y que han pasado a poder hacer las máquinas, pero eso no significa que la definición de “computable” haya cambiado: los ordenadores siguen siendo igual ahora que hace 60 años. Un cerebro humano no es computable, pero hay tareas mucho más sencillas que tampoco lo son y que, por lo tanto, nunca podrán hacer las maquinas
#34 Chat GPT no puede ser autoconsciente entre otras cosas porque solo responde a un prompt, entre prompts no está viva ni razona, que yo sepa.
No obstante no me parece que Chat-GPT sea algo solo medianamente aceptable, a mí hace no tantos años me dicen que para la fecha actual iba a existir algo así y no me lo creo, y se ha desinflado muy entre comillas, que sigue teniendo más de 100 millones de usuarios diarios. No sé si habrás tenido la oportunidad de usar Chat-GPT plus, que va con GPT-4-turbo, DALL-E, visión de imágenes, o la posibilidad de subirle un documento de hasta 300 páginas y que trabaje con esos datos, es una pasada y ha mejorado muchísimo con respecto al chat-gpt de enero, yo lo uso a diario para mil cosas ¿Que no es autoconsciente? Obviamente no, pero me da la sensación de que, igual que mucha gente se pasa atribuyéndole capacidades, mucha gente trata de minusvalorarlo, y yo creo que es el software más increíble que ha surgido en los últimos años, y además es que no deja de evolucionar a un ritmo bastante acelerado.
#69 pues mira, tienes toda la razón y te voto positivo porque me lo has hecho ver. No he tenido la posibilidad de usar la versión PRO (estamos barajando la posibilidad de pedir a la empresa que lo compre durante un tiempo porque la versión gratuita ha cambiado mi forma de currar por completo), y es verdad que hace nada algo así era impensable y por supuesto que es el software más avanzado e increíble que se haya programado jamás, pero ya. No es ni por asomo autoconsciente y que haya tanta gente que me lo discuta me hace darme cuenta del problema que va a suponer la aparición de robots humanoides. Es un placer leer comentarios tan bien razonados como el tuyo por aquí de vez en cuando
#69 Chat GPT no puede ser autoconsciente entre otras cosas porque solo responde a un prompt
Esa es una de las limitaciones que lo impiden, pero hay más.
Por otra parte habría que definir eso de la consciencia.
#16 Muy bien explicado.
Y es por eso que, mientras esto siga así, nadie (salvo los ignorantes o mentirosos) puede llamar a la metodología "Inteligencia General Artificial (AGI)".
#16, #6, creo que teneis un poco de razón los dos. Seguramente inventaron algo, por ejemplo una nueva arquitectura o una nueva forma de entrenar estas redes y luego descubrieron que era más potente de lo que pensaban.
#16 Lo que describes me recuerda mucho al concepto darwiniano de evolución.
#79 Lo que describes me recuerda mucho al concepto darwiniano de evolución.
Por supuesto. Es algo similar. Mediante purebas sucesivas se va aproximando al resultado que se busca.
Por eso lo complicado de entrenar una inteligencia artificial son los datos de entrenamiento. Por ejemplo si quieres que una IA entienda lo que se ve en una foto, necesitas millones de fotos con una descripción escrita. Si quieres que entienda lenguaje hablado, necesitas millones de grabaciones con su transcripción a texto. Como entrada le das el sonido. Esos datos, que son simplemente números, pasan por una serie de cálculos matemáticos. Al final esos cálculos dan otros números que traducimos a letras. Si las letras no son las que corresponden a la palabra hablada del sonido, se hace el cálculo a la inversa reajustando los valores hasta llegar al inicio y se repite. Eso se hace para miles de ejemplos.
#16 el cerebro humano, que es maravilloso, tiene límites, pero la IA no, ese es el "problema"
#16 ¿Por qué Q* de OpenAI supone un riesgo para la humanidad?
Que una inteligencia artificial pueda resolver problemas matemáticos puede no sonar demasiado impactante, pero en realidad es un avance importantísimo, ya que los expertos de este sector consideran las matemáticas como la frontera en el desarrollo de la IA generativa.
¿Por qué? Actualmente, la IA generativa es buena en escritura y traducción de idiomas al predecir estadísticamente la siguiente palabra, sin embargo, la manera de responder a la misma pregunta puede variar ampliamente. Esto no sucede con las matemáticas, donde solo hay una respuesta correcta.
Por lo tanto, la supuesta inteligencia artificial que han alcanzado en OpenAI tiene mayores capacidades de razonamiento que lo que habíamos conocido hasta ahora en este terreno, asemejándose a la inteligencia humana.
De esta forma, esta AGI es mucho más que una calculadora: a diferencia de esta máquina, que puede resolver un número limitado de operaciones, la tecnología de la que aquí hablamos puede generalizar, aprender y comprender. Como un humano.
Es aquí donde entran los miedos de los más conservadores, ya que uno de los riesgos que más se ha debatido sobre el desarrollo de una AGI es que se convierta en una máquina ‘demasiado’ inteligente, es decir, que pueda ‘pensar’ de forma autónoma. Eso deja la puerta abierta a que esta IA pueda decidir que la destrucción de la humanidad es de su interés.
¿Descubrimiento o invento? A los periodistas les cuesta entender la diferencia.
#2 Sería discutible... Recuerda que en IA lo que se crea es una especie de "lienzo en blanco" y es la propia máquina la que se enseña a sí misma a hacer las cosas. Nosotros solo proporcionamos el mecanismo de aprendizaje pero en realidad no comprendemos cómo funciona por dentro.
O sea, sabemos bien lo que lo compone, pero es como con el cerebro humano: conocemos las neuronas pero sus interacciones son demasiado complejas. Lo mismo con la IA: conocemos las funciones matemáticas con las que funciona, pero el conjunto es demasiado complicado para entenderlo.
#3 entonces podemos decir que se ha creado algo que el humano no entiende?
#4 Por supuesto. Y no es tan raro.
#9 ok. Entonces podemos decir que sabemos que herramientas usa para aprender, pero no como lo hace, es decir que en algún momento aprenda a usar una herramienta que no se la ha proporcionado.
Perdona por las preguntas pero es algo que me llama mucho la atención y nadie suele responder mis preguntas más allá de ambigüedades
#12 yo lo entiendo como los ordenadores que juegan al ajedrez, tú les das las normas y se ponen a pensar millones de jugadas hasta que dan con la buena. El resultado es el que queremos, pero no te pongas a investigar los millones de intentos que ha realizado para obtenerla.
#65 pero no queda constancia del proceso me refiero, creemos que aprenden a fuerza de ensayo y berros pero con una capacidad superior a la nuestra. Pero no queda reflejado cuáles son los errores. Quizás se pueda indagar por ahi
#12 Todas las partes fundamentales del proceso de aprendizaje y razonamiento son conocidas y entendibles. Cada una de las partes individuales fundamentales.
Ahora bien, cuando se combinan estas reglas minúsculas miles de millones de veces, empiezan a surgir flujos de información e inferencia que no eran obvios a priori.
De ahí que la IA resulte a veces sorprendente, porque nadie se espera (o esperaba) que de componentes y reglas tan simples se pueda formar algo con comportamientos y capacidades tan complejas de una forma casi automática. Casi automática, porque cuando se entrena una IA, y le pedimos algo, sólo le proporcionamos una "nota" o "evaluación" o "puntuación". La IA se reconfigura internamente (siguiendo unas reglas fundamentales conocidas, pero llevadas a un nivel de convolución inmenso) que hace que obtenga más puntuación, y más, y más, hasta que siempre obtiene una alta puntuación.
Cómo han cambiado esos valores internos para llegar a ese punto? Las reglas fundamentales son sencillas de explicar, pero no se puede explicar de forma sencilla la evolución iterativa de miles de millones de valores de una manera por así decirlo "macroscopica" de forma obvia.
Otra forma de decirlo es que puedes observar esos valores internos evolucionar desde el principio, o ver su estado final, y ser incapaz de ver un "algoritmo" claramente definido. Símplemente, funciona.
#86 entonces podemos decir que la IA llege un momento que se autoentrene, a partir de sus resultados y se autoconfigure y vaya mejorando o no es posible. Me refiero puede pasar de x cálculos simple a xy cálculos complejos
#95 Una red neuronal se puede autoentrenar. Por ejemplo, así se consiguió que ganara al GO.
Pero lo que no puede hacer son cálculos. Para eso hace falta otra cosa.
Escribir algoritmos para que calculen cosas está más que resuelto. Hay apps para moviles que te resuelven cualquier problema de mates a nivel de bachillerato y te dan los pasos a seguir.
#95 Soy un profano, pero me atrevería a decir que eso es básicamente lo que hace, e incluso se ponen a competir varios procesos de aprendizaje entre sí que se retroalimentan. El problema es la capacidad de cómputo. Como es finita, tenemos que ver cómo le sacamos más provecho a lo que tenemos. Como si tuvieras un 486 y consiguieras resultados mejorables, luego tuvieras un ordenador actual con una GPU, y consiguieras cosas decentes, y ahora te tocase ver cómo mejoras lo que tienes para poder sacar más del ordenador actual.
#9 Un ejemplo sencillo de que no es tan raro son, por ejemplo, las lentes: se han usado desde hace mucho sin tener conocimiento de los principios que subyacen, la gente sólo sabía, por experimentación, que funcionaban, y ya.
De hecho, diría que, hasta no hace mucho, era la forma habitual de hacer: usar lo que conoces por experimentación, sin necesidad de saber los principios que subyacen. El fuego, sin ir más lejos.
cc #4
#19 si si eso estoy de acuerdo, es como la anestesia se sabe que funciona pero no se sabe que proceso fisiológico desarrolla para estar en ese estado, pero el tema de la IA creía que había algo más que lo hiciera funcionar.
#21 Como el viento o la lluvia, que no se sabe de donde vienen pero los utilizamos.
#24 Hay video
#24 si yo creo que es lo mismo... No sé sabe de donde viene la lluvia o al viento...
#63 Mira el video
#4 Las redes de neuronas artificiales, aunque sepamos como funcionan, son una "caja negra" en el sentido de que no sabemos exactamente qué operaciones están realizando con los datos (técnicamente, cómo dividen el espacio N-dimensional que determinan los parámetros de entrada). Las entrenamos diciéndoles qué respuesta es correcta y cuál incorrecta y les damos un método para que se adapten y aprendan. Pero el resultado de este entrenamiento no podemos analizarlo a simple vista.
Que en realidad es lo mismo que sucede en las redes de neuronas naturales, tampoco podemos ver un cerebro humano y saber lo que pasa más que a grandes rasgos, por mucho que analizáramos los neurotransmisores.
#47 uf, cuantas respuestas y cuantas preguntas me surgen a todos vosotros.
Entonces es como si tu le enseñas a hacer una operación, le enseñas a "razonar" y luego que se busque la vida.
Pero por ejemplo, hay cosas que hace la IA que no entendemos porque lo hace, pero hay algún motivo que podríamos llegar a desentrañar no. No tanto como ha llegado hasta el, que deberíamos, sino el porqué funciona de esa manera.
No existe ninguna manera de intentar averiguar porqué hacen según qué cosas, aunque sea a una escala específica. Es decir, sabemos porque el cuerpo tiene ciertas reacciones, se activa X o Y, pero con la IA de momento estos es posible o no?
#66 Bueno, tampoco podemos con el cerebro. Podemos tener una idea de qué hacen determinadas señales químicas, y la investigación en Redes de Neuronas Artificiales nos ha facilitado comprender muchísimo que hacen las redes de neuronas reales que hay en nuestro cerebro.
Resulta que al transformar su actividad en un modelo matemático e imitarlas, hemos visto que podemos resolver problemas de un modo que no podríamos con algoritmos normales. Y de hecho todos estos avances espectaculares actuales como ChatGPT o Midjourney/StableDiffusion/Walle, vienen por esta técnica de las Redes de Neuronas Artificiales.
En el modelo estandar ("perceptrón multicapa", que es más sencillo que lo actual y tiene algunas décadas), tienes M neuronas de entrada, otras N en una capa intermedia, y finalmente O de salida. Hay interconexiones entre todas las neuronas de la primera capa y las de la segunda, y entre las de esta y la de salida. Y el "peso" de estas conexiones se van ajustando a medida que se entrena a la red de neuronas.
Para hacerte a la idea, podemos entrenar a una red de neuronas de estas para que reconozca las letras del abecedario, cosa que sería horrenda de programar en un algoritmo "lineal" clásico; al entrenar a la red de neuronas sabemos cómo funciona el método por el que lo hacemos, pero cuando conseguimos que las reconozca no sabemos exáctamente qué está mirando para distinguirlas porque es demasiado complejo; lo que hacemos es ajustar la cantidad de neuronas en cada capa, quizá el método de entrenamiento o las funciones de activación, para facilitar que obtenga una solución mejor y en menos tiempo. Y si tenemos un montón de tipos de letra distintos, alimentamos a la red con ellos. Con esto, además, será capaz de entender tipos de letra que aún no haya visto, igual que lo haríamos nosotros.
https://es.wikipedia.org/wiki/Perceptr%C3%B3n_multicapa
#66 Los intentos de usar redes neuronales para explicar como funciona otra red neuronal generan informes demasiado complejos.
#47 No existen las neuronas artificiales, al menos que yo sepa.
#3 Pero es un mecanismo que hay que programar. No te lo encuentras debajo de una piedra, no es una ley natural. Mientras no lo implemente alguien, no existe.
CC #5
#6 Depende (sí, aquí el gallego). El descubrimiento de la penicilina ¿fue tal o un invento? Porque fue algo no esperado, y puede que te hayas preparado y diseñado un algoritmo para hacer X y resulta que hace otras cosas que no esperabas. Eso para mí es más un descubrimiento que un invento en sí.
#7 La penicilina existía antes de que Fleming se diese cuenta de que tenía efecto antibiótico. Por tanto, fué un descubrimiento. En todo caso, se puede "inventar" un sistema para producirla a gran escala.
#10 Exacto, los efectos del Penicillium se conocen desde hace al menos 5000 años. Lo que hizo Fleming fue descubrir y aislar la molécula en 1928, aunque la producción a gran escala no se inició hasta 1941.
Los antiguos métodos de administración eran atroces, como untar una hoja de cuchillo con el moho e introducirla en la herida, o en el caso de parturientas, comer pan mohoso como único remedio a las fiebres puerperales.
#3 no, no es como el cerebro humano. Tal y como dice #6, en este caso hay que programarlo y la IA no se puede salir de esa programación, pues sigue siendo un autómata. El cerebro humano no lo es (pues se autoreprograma).
#29 no, no es como el cerebro humano.
Se parece muchísimo. Tanto que ha servido para comprender mejor el cerebro.
El cerebro humano no lo es (pues se autoreprograma).
Las IAs también. Nosotros sólo comprendemos las neuronas de la IA. Le proporcionamos la base pero la IA se hace a sí misma en el proceso que se llama entrenamiento.
#33 como se va a parecer muchísimo, hombre? Creo que no sabemos hasta qué punto desconocemos el cerebro humano. No se sabe ni como se enruta las señales neuronales entre los trilllones de caminos que hay en el cerebro. No es que no sepamos como surgen los pensamientos o el amor, es que no sabemos como esas señales se convierten en imágenes en la zona de procesamiento de imágenes del cerebro. Quiero decir, usa matrices? Ni idea. Ni siquiera las llamadas “redes neuronales “ se parecen un pimiento al cerebro, imagínate una IA que es un árbol de posibilidades. Para que te hagas una idea, una IA imita a una molécula de ADN. Así de lejos del cerebro está.
#40 Con todos los respetos, creo que no acabas de comprender como funciona una IA, pero tu mismo la estas explicando. No sabemos como las conexiones neuronales convierten unos pensamientos en otros, pero sabemos que esta basado en un mecanismo de neuronas con diferentes pequeñas funciones cada una que, sumadas, hacen algo llamado "pensamiento" o "inteligencia"
La IA es exactamente eso. miles de pequeños mini programitas (neuronas) que se "autoprograman" en base a unas entradas para obtener una salida. Nadie sabe como interaccionan entre ellas, pero consiguen un resultado similar a lo que haria un humano,
No tienen nada que ver con una molecula de ADN. ¿Porque dices eso?
#48 con todos los respetos, soy informático y por eso estoy aquí, porque hay muchos malentendidos que yo sí conozco. No, las IA no se reprograman, su código no cambia, añaden variables a su árbol de posibilidades. Hace años la gente flipaba con el Aquinator y se basa en el mismo principio que chatGPT, no se ha inventado nada nuevo: se ha invertido mucho más tiempo y las maquinas son lo suficientemente potentes para que sea mejor.
pero consiguen un resultado similar a lo que haria un humano,
Poco has usado tú chatGPT, hijo.
#29 La IA se reprograma. Si fuera un autómata sería un sistema experto, un conjunto de reglas que se aplican y ya, como el Mycin (o algo así, uno de los primeros sistemas expertos que salieron para medicina, era muy listo pero no aprendía). Las IAs aprenden, si no, no son IAs (y nos venden muchas cosas como IAs que en realidad no lo son, pero eso es otra historia).
#38 claro que son automatatas, las IAs siguen siendo maquinas de Turing. Si se hubiera conseguido programar añgo que hubiera dejado de ser un autómata hubiera sido el invento del siglo. Las IAs “aprenden”, pero no se reprograman. Cuando un humano aprende, se reprograma.
#45, spoiler, el deep learning ya es el invento del siglo.
#72 sí, pero no al nivel que sería poder programar algo que no fuera un automata.
#38, técnicamente no está tan claro, porque la definición de lo que es IA se ha ido moviendo. Los algoritmos que aprenden en realidad son algoritmos de machine learning, un subcampo dentro de la IA. Pero en los años 90 y principios de los 2000 los sistemas expertos basados en reglas se consideraban IAs por derecho propio. El caso es que el machine learning ha barrido del mapa todo lo demás en pocos años porque su desempeño está a años luz.
#6 El tema más bien, es que las consecuencias de una IA, no se programan en si mismas... digamos que lo que se programa, es "metodología de aprendizaje" y en buena parte, dicha metodología, es autoaprendida por la propia IA.
Realmente, en mi mente cuñada, tiene bastante analogía con la "vida". Es como si en biología, resulta que provocando interacciones y reacciones químicas entre aminoácidos y proteinas... al final dicho cóctel, elevado a la enésima potencia, genera un organismo vivo autosuficiente y replicable. A priori, piènsalo, cuesta muchísimo entender realmente las consecuencias desde una cosa a la otra, y realmente, lo que se ha sentado es que dicha metodología tiene resultados... pero la verdadera cátedra del "cómo funciona y porqué" tiene bastante parte de imprevisible.
Por tanto... no es tan así, que alguien "programe" la IA, aunque obviamente, hay que programar los elementos básicos, que al procesarlos de modo masivo, conllevan al comportamiento de la IA.
#6 Supongo que será algo así como patrones de aprendizaje. Como dices, no le dejas todo y le dices "ale, aprende"
#3 Como reza el dicho: "si nuestro cerebro fuera tan sencillo que pudiéramos comprenderlo, no tendríamos la inteligencia suficiente para entneder qué hacemos en Menéame"
#20 JAJAJAJAJA el giro final me ha molado, pero tomándolo en serio, el cerebro se está estudiando a sí mismo. Da qué pensar.
#3 eso que dices es aplicable al deep learning.
Hay muchos algoritmos de machine learning que sabemos perfectamente como funcionan. De hecho, la mayoría de las matemáticas de la IA son bastante claras e intuitivas
#26 Hay muchos algoritmos de machine learning que sabemos perfectamente como funcionan
Por supuesto. Pero es como decir que comprendemos el cerebro porque sabemos como funcionan las neuronas.
lo que pasa es que no tenemos mucha idea de cómo se monta el sistema a partir del entrenamiento por ser muy complejo
Ese es el punto. Que podemos estar orgullosos de haber creado un sistema que aprende por sí mismo. Pero no más que eso. La inteligencia es mucho más que un conjunto de neuronas, y eso no lo hemos hecho nosotros. Sólo proporcionamos la herramienta para que se haga sola y esperamos a ver el resultado.
#32, no es exactamente lo que te quería decir #26. Una recta de regresión puede ser un algoritmo de machine learning y entendemos perfectamente lo que es, no solo como se entrena sino qué criterios pondera para realizar sus predicciones. Con el deep learning se nos escapa.
#74 eso es. Es que me he explicado fatal!
Gracias por la aclaración
#32 pero solo pasa con las redes neuronales.
Lo demás se entiende más o menos
#3 No, no es tan complicado. Se basa en algoritmos programados por humanos, que saben lo que hacen exactamente.
Hay mucha gente que se piensa que la IA es algo mágico y que de verdad hay una inteligencia detrás. No la hay, no dejan de ser cálculos matemáticos y ordenamiento de datos.
#3 como no se va a entender si está programado por humanos...
#55, es que no está programado por humanos. Los ingenieros diseñan la arquitectura, el algoritmo de aprendizaje y la forma en cómo se va a entrenar, pero el modelo aprende "sólo". Dada la descomunal cantidad de parámetros involucrados es imposible saber qué clase de razonamiento utiliza para llegar a la solución deseada, lo que sí podemos evaluar es quan buenas son las soluciones que da.
#55 Continuando lo que dice #77. las IAs no están programadas por humanos. Están construídas por humanos, y les son dados un puñado de mecanismos para autoconfigurarse, y miles de millones de entradas (el equivalente a nuestros sentidos, nervios, etc).
Esos mecanismos básicamente son un objetivo que cumplir lo mejor posible (que en términos evolutivos sería algo en lo que tiene que ser lo más apto posible), y un mecanismo de evolución para reconfigurarse e intentar aumentar cuán apta es en hacer ese algo.
Entonces, a base de evolucionar y evolucionar durante miles o millones de iteraciones y reconfiguraciones intentando maximizar esa aptitud, la IA aprende por sí sola.
No hay un programa o algoritmos, en el sentido clásico del término. Símplemente valores de entrada, las mismas operaciones combinadas miles de millones de veces puestas de alguna manera por la IA misma, y una salida que cumple las expectativas de lo que sea que fuera el objetivo que la IA debía cumplir.
#90 no se si me convence el argumento, al final es aplicar un modelo estadístico complejo, ya que los parámetros de entrada no son infinitos y los datos de los que parte tampoco, (data lake? ) algún tipo de testing se habrá hecho, o depuración. Creo que necesitaré otra IA para analizar la respuesta. Gracias por la explicación. Me voy a tener que poner a investigar esto un poquito.
#3 Es un invento. Descubrirlo. Cómo mucho. Sería después del invento.
#97 Es un invento.
Digamos que hemos inventado un mecanismo que crea inteligencia automáticamente sin nuestra intervención directa.
#3 el cerebro humano: conocemos las neuronas
Nadie tiene ni la más mínima idea de qué hace una neurona, mucho menos el cómo.
#2 Conste que te he votado positivo, pero no sería la primera vez que se argumenta que, el algoritmo en cuestión, ya estaba ahí antes de que el programador de turno "lo descubriera".
#2 Una serendipia es un descubrimiento que puede llegar a ser bueno o valioso de manera accidental o casual, al momento de estar buscando una cosa diferente a la sucedida.[1] De igual forma puede referirse a la habilidad de un sujeto para reconocer que ha hecho un descubrimiento importante aunque no tenga relación con lo que busca.
https://es.m.wikipedia.org/wiki/Serendipia
No digo que sea el caso, solo que me encanta la palabra.
#8 Yo la prefiero como chiripa.
#13
#13 osti! Nunca me había parado a pensar en el parecido de ambas palabras, lo que me hace preguntarme si no es casualidad, seguramente una viene de la otra
#8 ya te entiendo, a la plancha con salsita de ajo y aceite... mmmmmm
😛
#2 los teoremas, metodos y aplicaciones generales de las matematicas se suelen considerar descubrimientos.
#2 No son excluyentes.
#2 Un invento es casi siempre un descubrimiento.
#2 si la inteligencia no es sólo propia de los seres vivos sería un descubrimiento, sino invento
¿Hype para intentar reparar la fama rota de OpenAI?
#11 La fama rota?
Pero si están todavía en la cresta.
#68 Que el consejo de administración no sepa lo que hace no es estar en la cresta.
Para que quede constancia yo nunca he tratado mal ni siquiera a un tostador. A veces le di un par de golpes a un mando antes de darme cuenta que no tenía pilas. Queda dicho.
Arnold calienta que sales...
Sam Altman parece que tiene principios
Me recuerda esto al episodio final de Silicon Valley
La rumorología esta abierta. Al final va a quedar como una publicidad gratuita todo el tema de Sam Altman.
Hasta la puta polla de las IAs, en serio que cansancio.
Lastima que el hilo no dará para más pero se ha aportado un montón de explicaciones mascaditas que me han ayudado a entender un poco mejor el tema de las IA aparte de unos datos extra que no sabía sobre la penicilina.... En vuestra opinión cual podría ser ese "descubrimiento" ¿Este es el tipo que se pasea con una mochila que dice que es para desactivar la IA? ¿Todo este jaleo podría ser por la mochilita de marras?..... Ay que sinvivir... gracias
#31 Según el artículo, tiene que ver con un avance importante en la capacidad de comprensión y resolución de lógica matemática para la IA, lo cuál es uno de sus mayores puntos débiles en la actualidad. Difícil de decir hasta qué punto es algo revolucionario o solo un pequeño paso más hacia la inteligencia artificial general.
#62 ha solucionado problemas matemáticos de nivel de primaria sin proporcionarle ninguna herramienta matemática, es decir, el bicho ha razonado y creado sus propias herramientas matemáticas para dar con la solución.
Es un grandisimo paso, por ahora solo es a nivel de primaria, pero espera a que llegue a la mayoría de edad y veras..
Se fué porque había creado un monstruo y no queria acabar como el doctor Frankenstein.
#1 No se fue, lo echaron...
#1 la junta de accionistas lo echo porque "no confiaban en el"
Creo que ahora hay nueva junta de accionistas.
#52 sera la consejo de administración ("board or directors"), la junta de accionistas no puede cambiar a no ser que cambie la composición accionarial de la empresa, que no creo que lo haya hecho en tan poco tiempo. Pero los accionistas, sobre todo los mayoritarios, si pueden cambiar la composición del consejo o el consejo mismo cambiarse a si mismo.
https://es.wikipedia.org/wiki/Consejo_de_administración
https://es.wikipedia.org/wiki/Junta_general_de_accionistas
#64 puede ser, la verdad es que no recuerdo el término usado en el artículo, aunque llego a portada ayer o anteayer
#70 vamos no se como será la estructura de OpenAI, pero normalmente es algo así … la junta de accionistas se reune una vez al año … y luelen decidir bien poco… más que nada si apruevan la gentión del consejo o no y si no, cambiarlo.
#1 Al revés, lo echaron para frenar el avance en IA porque les entró miedo.
Lo han rescatado porque tienen más miedo a que la empresa quiebre sin sus trabajadores.
#61 Y bien echado estaba.
Alguien que antepone hacer negocio a la seguridad humana es un gran peligro. Y Altman siempre ha sido el máximo exponente en OpenAI de esa avaricia irresponsable.
El consejo de administración no lo traga por ese motivo, y LOS HECHOS LES DAN LA RAZÓN.
Al tipo sólo le salva su éxito mediático y el poder de la pasta de Microsoft, que por supuesto también aspira únicamente a hacer negocio sin importar los riesgos.
El futuro pinta mal mientras Altman y Microsoft estén al timón de esto.
#61 "lo echaron para frenar el avance en IA porque les entró miedo"
Lo de que les "entro miedo" quedara muy bonito en la pelicula.... pero la realidad suele ser mas decepcionante y aburrida.
#1 O el jovencito Frankainstain
#85 Fronkensteen
#85 FrankainstAI
Vale ya me voy
Descubrimiento revolucionario y te echan a la calle? No sé Rick, algo no me cuadra
#23 La patada viene por las discusiones sobre como usar ese descubrimiento. Etica y dineros
#23 Por ocultarselo. Es su deber mantener a la junta directiva informada.
¿Alguien sabe de algún podcast o video que resuma un poco fielmente u objetivamente lo que ha ocurrido con este tío?
Gracias
#22 En YouTube " dot csv" lo intentaba recientemente
#22 Básicamente:
-Altman oculta cosas a la junta directiva y la junta se entera.
-La junta se mosquea por la ocultación de la información.
-La junta echa a Altman de CEO.
-El presidente de la junta, amigo y socio fundador, renuncia como medida de protesta por el despido.
-Microsoft, que posee el 49% de la empresa y ve vital el tema de la IA en windows 12, bing y otros servicios como copilot, apoya a Altman y lo contrata directamente.
-MS deja abierta la puerta a contratar a la totalidad de los empleados de la empresa y el 90% firman una carta diciendo que se van, en una especie de OPA encubierta a la totalidad de la compañía.
-La junta se acojona porque MS se lo va a llevar todo, readmiten a Altman y dimite parte del grupo de la junta que lo echó.
Lo que ocultó Altman no se sabe. Si es un tema económico, de visión de proyecto, de plazos o, como se especula ahora, de tecnología. Pero está claro que había desavenencias éticas y económicas en cómo explotar comercialmente la empresa con Microsoft de por medio.
Yo no estoy muy convencido de que Altman sea la víctima en todo esto, estando los de Redmond de por medio, que ya sabemos cómo se las gastan. Y desde luego nunca se puede ocultar información relevante de forma intencionada a tu Junta. Es motivo justo de despido.
#44 yo creo que los de Netflix necesitan sauce para una nueva serie basada en hechos reales.
Bromas aparte, gracias por el resumen
#59 bueno, ya han hecho peli del zakerberg, o como se escriba, y dos de Jobs. Como esto de la IA acabe en revolución, no dudo que Altman pueda tener peli.
#22 https://cuonda.com/monos-estocasticos/sam-altman-y-openai-de-todas-las-teorias-de-que-ha-pasado-escogemos-las-correctas
#22 https://cuonda.com/monos-estocasticos/sam-altman-y-openai-de-todas-las-teorias-de-que-ha-pasado-escogemos-las-correctas