Tecnología, Internet y juegos
142 meneos
1775 clics
Una empresa puso a una de las mejores IA a dirigir un negocio para que ganara dinero. Lo arruinó en un mes

Una empresa puso a una de las mejores IA a dirigir un negocio para que ganara dinero. Lo arruinó en un mes

Anthropic es una de las compañías líderes en desarrollo e innovación de modelos de lenguaje de inteligencia artificial. Y quisieron probar algo realista en el contexto en el que el CEO de la compañía no deja de hablar de sustitución de trabajadores por agentes: que Claude Sonnet 3.7 se encargara de gestionar una pequeña tienda de forma autónoma.

| etiquetas: ia , direccion empresa , ruina
53 89 1 K 258
73 comentarios
53 89 1 K 258
Comentarios destacados:              
Dr.Who #2 Dr.Who *
pues en Madrid las quieren poner a dirigir el sistema educativo...

No digo nah y lo digo todo. {0x1f64a}
7 K 86
allenharpell #16 allenharpell
#2 Hombre, estamos hablando de cambiar una IA por una persona, para sustituir a algunos políticos te vale con una piedra y es bastante más barato.
6 K 65
#20 Setis
#16 Y mejora los resultados con la piedra.
2 K 29
#35 Sigo_intentandolo
#16 un dado con "si" "no" "esperar a mañana"... y lo haría mejor que muchos políticos por el simple hecho de que no habría maldad en las decisiones....
2 K 27
reithor #39 reithor
#16 no digas piedra cuando puedes decir bolso.
2 K 30
#19 Moteplass
#2 pero en ese caso es sustituir con una IA lo que ahora es un mono con una ballesta, no creo que se pueda empeorar, aunque solo diese la hora.
1 K 22
#54 fernando_sierra
#2 Lo que demuestra que esa gente sabe lo que se hace, buscando el método más eficaz para arruinarla.
1 K 24
#8 Tensk
Un saludo a los que opinan que las IA razonan
7 K 63
ccguy #41 ccguy
#8 llámalo X pero si a partir de unos datos de entrada y unos conocimientos previos son capaces de decidir que hacer, como continuar, aprender de errores y éxitos... Eso se parece mucho a razonar.
0 K 20
#45 Tensk
#41 No lo es. Todo ese procedimiento se resume en hacer operaciones matemáticas muy rápido.

El propio proceso de entrenamiento tiene que estar bien hecho para no caer en posibles errores posteriormente ¿por qué? porque no razonan, sólo comparan la nueva entrada con lo almacenado y asocian lo más probable. Eso no es razonar, es ser una calculadora como la Casio o Texas Instruments del instituto pero "on steroids". Para razonar tienes que ser capaz de hacer operaciones matemáticas, y…   » ver todo el comentario
0 K 10
ccguy #47 ccguy
#45 lo de operaciones matemáticas es como decir que nosotros hacemos operaciones eléctricas con nuestras neuronas.
0 K 20
#48 Tensk
#47 Cuando seas capaz de modelizar fielmente lo que hacen las neuronas, cómo relacionan memoria con "operaciones" y te lo "presentan en mente", avísame para seguir jugando.
0 K 10
ccguy #51 ccguy
#48 luego ¿es una cuestión de fidelidad del modelo?
0 K 20
#56 Tensk
#51 Eres tú quien ha comparado lo que se hace con el silicio y lo que pasa dentro de un cerebro, no yo.

Desde luego, si no hace lo que hace el cerebro va a ser difícil que esté razonando. Pero si ADEMÁS "sólo" es cuestión de hacer operaciones matemáticas muy rápido para dar por respuesta lo "más probable" no lo "más cierto", no está razonando.

Esta misma semana estaba en una reunión de trabajo en la que participaba uno de los jefazos de sistemas. Cuando la cosa…   » ver todo el comentario
0 K 10
ccguy #65 ccguy
#56 vale. Ya me dirás la diferencia con un cerebro y tu definición de razonar.
1 K 34
rojo_separatista #62 rojo_separatista
#45, a los que creéis en el alma os cuesta entender que nuestro proceso de razonamiento también se basa en operaciones matemáticas.
1 K 25
#64 Tensk
#62 Cosita número uno, a mí te me diriges en singular que yo sólo hablo por mí.

Cosita número dos, en ningún momento he dicho que crea en el alma y si algo de lo que he dicho te ha parecido que lo decía y, más aún, como si creer en ello "dominase" mi perspectiva, te lo resumo fácil: te equivocas. Desconozco si existe el alma o cualquier otra entidad análoga, ergo mi razonamiento no va por ahí.

Cosita número tres: nuestro modo de funcionar puedes modelizarlo todo lo sencillo que…   » ver todo el comentario
0 K 10
rojo_separatista #67 rojo_separatista
#64, yo también lo veía complicado, hace unos años, no por creer en algo más allá de lo material, sino porque creía que tendríamos que escalar mucho más en capacidad de cómputo. Pero la realidad me ha callado la boca. Los progresos que ha demostrado la IA no quedan más que rendirme y reconocer que vamos a muy buen ritmo para poder superar todas las capacidades de la mente humana en muy pocos años. En eso se basa el pensamiento científico, en aceptar la realidad cuando está se demuestra en experimentos y evaluaciones.
0 K 11
Feindesland #70 Feindesland
#64 Me apunto a tu tercer punto, si me permites:

Se trata, como dices, de un problema de complejidad. El cerebro humano no se ha modelizado aún, y no se ha alcabnzado ese grado de complejidad. Pero sólo es cuestión de eso. Las IA no pueden llevar a cabo de manera fiable más que unas pocas tareas. Esas tareas irán aumentando, y quizás no se llegue nunca a alcanzar la modelizaciñón completa de un cerebro humano, pero ciertamente se incrementará el bnúmero de tareas que resuelvan de manera fiable.

Incrementalmente.

eso creo.
0 K 14
earthboy #42 earthboy
#8 Y otro a las personas que ¿razonando? decidieron que usar así una IA era una buena idea.
0 K 10
#46 Tensk
#42 Esos no me han intentado convencer de un imposible.
0 K 10
rojo_separatista #57 rojo_separatista
#8, una empresa dirigida por un humano quiebra.

Acto seguido algún genio de Internet: un saludo a los que opinan que los humanos razonan. :-D
0 K 11
#59 Tensk
#57 No estoy seguro de si lo que acabas de decir se corresponde exactamente con alguna falacia argumental ya conocida o simplemente es una variante.

Pero falacia al fin y al cabo.
0 K 10
rojo_separatista #63 rojo_separatista *
#59, se llama reducción al absurdo y consiste en demostrar que un razonamiento no tiene sentido a partir de un ejemplo que lo lleva al absurdo.

A no ser que uses dos varas de medir, concluir que las IAs no razonan porque una titular dice que una empresa ha quebrado por culpa de una IA, te lleva inmediatamente a concluir que los humanos tampoco razonan.
0 K 11
#66 Tensk
#63 Sé lo que es la reducción al absurdo, pero en tu caso lo que has dicho es simplemente una absurdez en tamaño reducido. Partiendo de la premisa no puedes llevar razonamiento hacia la conclusión.

Y lo sabes. Porque en caso contrario, si no lo sabes, tu absurdez es aún mayor.

Y lo sabes.
0 K 10
#4 superjavisoft
Bueno, lo suyo serian 100 negocios y comprar con la media, un caso no hace estadistica.
Lo que no quita, que puedan estar todavia verdes para ese tema.
5 K 62
redscare #23 redscare
#4 Era una puta máquina de vending. Que estadistica ni que pollas?
1 K 0
#37 superjavisoft
#23 Me he confundido, pensaba respondias por otro comentario y te he clavado un negativo porque tu me lo has clavado a mi.
En cuanto a tu pregunta original, pues la cosa seria poner 100 maquinas de vending en difdrentes empresas con IAs, y compararlas con la media del resto de maquinas de vending, a ver cual les va mejor.
0 K 10
ElToniKroos #1 ElToniKroos
Hoy. Y dentro de un par de años?
7 K 53
#10 hatagon
#1 Igual. No existe ningún progreso en LLMs digno de mención desde que a OpenAI le funciono el oinvento de forma inesperada.
4 K 27
inventandonos #22 inventandonos
#10 Hola, aunque tu comentario me da esperanzas, no termino de creermelo. Si puedes argumentar y/o compartir links sería fantástico. Desde mi ignorancia.
2 K 31
mecha #33 mecha
#10 en España un tercio de las empresas no acaban su primer año, y otro tercio cierra antes del quinto año. Que una empresa cierre por estar dirigida por una IA no quiere que no pueda haber otras 2 que duren algo más. Eso sí, estamos muy lejos de que duren indefinidamente sin supervisión humana.
0 K 8
#50 hatagon
#33 No es eso, son las alucinaciones.
0 K 7
borre #43 borre
#10 ¿Hablamos de texto, de vídeo, de voces? ¿De forma generalizada?
0 K 10
#49 hatagon
#43 Ningún progreso en comprensión ni razonamiento.
1 K 17
Feindesland #69 Feindesland
#49 Las que juegan al ajedrez tampoco, pero nos ganan.

No se trata de pensamiento mágico, sino de resultados finales.
0 K 14
rojo_separatista #58 rojo_separatista
#10, hay que ser un rato cuñado para decir esto.
0 K 11
#11 Pixmac
#1 Es posible que en un par de años vaya bien pero hacer una IA mejor y mantenerla aumenta los costes. Seguramente no sea tan rentable como pudieran esperar las empresas.
1 K 27
troll_hdlgp #73 troll_hdlgp
#11 Incluso a las actuales cuesta mucho sacarles la rentabilidad, las actuales son todas en la nube porque el hardware para tener una en local es prohibitivo, y eso sin contar los recursos necesarios para entrenarla (sobre todo en tiempo), y las que son en la nube son demasiado genéricas.
0 K 10
#18 Setis
#1 Arruinado en un mes. En un par de años la deuda hará quebrar también a los proveedores.
0 K 7
Falk #53 Falk
#1 las empresas de IA están quemando dinero a espuertas.

Cuando se acabe y el cliente final tenga que abonar el total de la factura veremos sines rentable.
0 K 6
#55 prqt
#53 ya hay modelos que corren en local y van relativamente bien (como chatgpt de hace año y medio, por decir algo). Poder usarlas no será el problema, hay otros más difíciles.
0 K 7
Falk #61 Falk
#55 la IA en local son bastante limitadas en cuanto al número de tokens. Las interesantes son las que mueven los centros de datos.
0 K 6
Jointhouse_Blues #7 Jointhouse_Blues
Y así será como, sin pegar un solo tiro, paso a paso, y con mucha paciencia, la IA subyugará a la humanidad. El modelo Skynet está obsoleto incluso antes de nacer.
3 K 46
#15 DonaldBlake
#7 Pues, mira, veo a Skynet y veo a Trump, Milei, Putin, Netanyahu, etc, y me cuesta menos entender los motivos de la máquina.
2 K 38
Jointhouse_Blues #17 Jointhouse_Blues *
#15 Cierto, yo no reprocharía a la máquina decidiera tomar ese camino. Pero aquí entran en juego factores como la eficiencia, la relación gasto/benéfico, y esas cosas que siempre hay que tener en cuenta antes de iniciar una empresa.
1 K 20
#3 Grahml
Que Varsavsky @martinvars lo tenga en cuenta.
2 K 39
Virusaco #13 Virusaco
La 'tienda' no era más que una pequeña máquina expendedora

La quiebra del negocio, ¿eh? Vaya #clickbait.

Salu3
2 K 33
redscare #24 redscare
#13 No deja de ser un caso muy realista. Tienes tu stock, tus proveedores, tu gama de productos... Como experimento me parece muy bueno.
0 K 10
Virusaco #60 Virusaco
#24 El problema no es el experimento, es el titular. A mi me enturbiar el artículo.

Salu3
0 K 10
maxmalkav #27 maxmalkav
No se si habéis leído el artículo pero el punto de no retorno fue .. hacer caso a la “demanda” de sus clientes (no sé cómo interactuaban con la máquina) y hacer un pedido de .. cubos de wolframio, que no son baratos precisamente. La ruina llegó cuando estaba claro que no iba a poder venderlos.

No se las capacidades de la IA y los LLM en este contexto, pero tampoco me extrañaría que esta experiencia estuviese diseñada un poco regular.
2 K 32
slayernina #71 slayernina
#27 Vamos, que lo de que el cliente siempre tiene la razón revienta empresas :troll:
0 K 10
Priorat #21 Priorat
No me creo la conclusión de que falta poco. Entre otras cosas porque las sugerencias de mejora ya eran obvias antes del experimiento. Que hacer un entrenamiento específico para vencer a una IA que debe vender, la verdad, no creo que sea un aprendizaje de este experimiento.

Los tipos de errores que ha dado me parece que van a ser difíciles de solucionar, especialmente por las alucinaciones. Las alucinaciones se pueden reducir, pero ello implica menor creatividad y flexibilidad.
2 K 30
tommyx #28 tommyx
#21 igual en ese caso, que era gestionar un negocia, no sería necesario tanta creatividad y si afinar más la parte econòmica.
0 K 9
sillycon #31 sillycon
No se vosotros, en mi curro hemos pasado un procedimiento para la adquisición de servicios con IA donde prohibimos usar directamente el resultado de una IA para la toma de decisiones sin la aprobación previa de un experto.
1 K 25
#5 endy *
Lógico, intentar meter con calzador LLMs para todo es lo que les gustaría a los inversores pero un sistema que tiene alucinaciones no es adecuado para muchísimas cosas.
1 K 23
Cantro #6 Cantro
#5 tienen alucinaciones, como el inquilino de la Casa Blanca
4 K 71
ContinuumST #32 ContinuumST
"Sin embargo, Claudius no mostró ambición para aprovechar oportunidades para lucrarse, incluso cuando se lo ponían en bandeja, llegó a vender a pérdidas, o alucinó creando una cuenta de un sistema de pagos que no existía, de forma que los empleados no podían pagarle de primeras."

Jajajajaja, humanos, jajajajaja.
1 K 21
#44 meneandotela
Les enseñaron a la IA hacer caja B? Porque si no, es normal que no siguiera en pié.
1 K 17
#34 bizcobollo
¿Echó a los dos que trabajaban en la empresa y contrató a 10 managers, asesores, COO, CFO,....?
1 K 17
txusmah #36 txusmah
Pidió tubos de tungsteno??????

Eso ya lo predijeron en futurama!!!!
1 K 17
#38 LaColetadeDusko
La IA es un globo inflado como las criptoestafas
1 K 16
#14 Sacapuntas
El negocio se basa en la confianza mutua en la transacción. Si mientes y se detecta, se acabó la fiesta.;)
0 K 10
slayernina #72 slayernina
Como esa IA estuviera entrenada por el empresaurio medio, no me extraña que reventara
0 K 10
Magog #12 Magog *
No era el momento
Aún no estaba preparada

Etc.....

Que no digo que no, pero, a medio largo plazo, la IA no está preparada para todo, por mas que muchos vendan que si
0 K 10
Feindesland #68 Feindesland
#12 No hace falta que esté preparada para todo. La palabra TODO es que la que corrompe tu argumento, en mi opinión.

Basta con que esté preparada para una serie creciente de tareas, hasta que encuentre su techo.
0 K 14
tommyx #26 tommyx
Es que ahora está el hype de las AI y algunos se creen que les va a salvar la vida

El experimento me parece muy bueno para ir mejorando los modelos e ir avanzado.
0 K 9
taranganas #40 taranganas
Me encantaría que funcionara y ver a ceo`s y semejante calaña en el paro
0 K 9
#30 Eukherio *
Habría que ver cómo se ejecutó realmente el experimento. Si por su propia cuenta gestionó todo durante un mes es bastante impresionante. Si cada dos por tres iba uno a preguntarle ya la cosa cae en picado. Tampoco entiendo lo de los cubos de tungsteno, la verdad.
0 K 8
#9 hatagon
Me da la impresión de que por mucho que lo pulan, esto no va a ser suficiente. Los fallos que hay son MUY de base.
0 K 7
#29 jmav
"La 'tienda' no era más que una pequeña máquina expendedora situada en la sede de la empresa."

Es un experimento. Banca rota.- supongo que nadie compraba los productos. No se puede hacer milagros con productos malos.
0 K 6

menéame