Tecnología, Internet y juegos
114 meneos
1366 clics
Una empresa puso a una de las mejores IA a dirigir un negocio para que ganara dinero. Lo arruinó en un mes

Una empresa puso a una de las mejores IA a dirigir un negocio para que ganara dinero. Lo arruinó en un mes

Anthropic es una de las compañías líderes en desarrollo e innovación de modelos de lenguaje de inteligencia artificial. Y quisieron probar algo realista en el contexto en el que el CEO de la compañía no deja de hablar de sustitución de trabajadores por agentes: que Claude Sonnet 3.7 se encargara de gestionar una pequeña tienda de forma autónoma.

| etiquetas: ia , direccion empresa , ruina
45 69 1 K 258
59 comentarios
45 69 1 K 258
Comentarios destacados:            
Dr.Who #2 Dr.Who *
pues en Madrid las quieren poner a dirigir el sistema educativo...

No digo nah y lo digo todo. {0x1f64a}
4 K 65
allenharpell #16 allenharpell
#2 Hombre, estamos hablando de cambiar una IA por una persona, para sustituir a algunos políticos te vale con una piedra y es bastante más barato.
3 K 41
#20 Setis
#16 Y mejora los resultados con la piedra.
2 K 29
#35 Sigo_intentandolo
#16 un dado con "si" "no" "esperar a mañana"... y lo haría mejor que muchos políticos por el simple hecho de que no habría maldad en las decisiones....
1 K 17
reithor #39 reithor
#16 no digas piedra cuando puedes decir bolso.
1 K 20
#19 Moteplass
#2 pero en ese caso es sustituir con una IA lo que ahora es un mono con una ballesta, no creo que se pueda empeorar, aunque solo diese la hora.
1 K 22
#54 fernando_sierra
#2 Lo que demuestra que esa gente sabe lo que se hace, buscando el método más eficaz para arruinarla.
0 K 7
#4 superjavisoft
Bueno, lo suyo serian 100 negocios y comprar con la media, un caso no hace estadistica.
Lo que no quita, que puedan estar todavia verdes para ese tema.
5 K 62
redscare #23 redscare
#4 Era una puta máquina de vending. Que estadistica ni que pollas?
1 K 0
#37 superjavisoft
#23 Me he confundido, pensaba respondias por otro comentario y te he clavado un negativo porque tu me lo has clavado a mi.
En cuanto a tu pregunta original, pues la cosa seria poner 100 maquinas de vending en difdrentes empresas con IAs, y compararlas con la media del resto de maquinas de vending, a ver cual les va mejor.
0 K 10
#8 Tensk
Un saludo a los que opinan que las IA razonan
6 K 60
ccguy #41 ccguy
#8 llámalo X pero si a partir de unos datos de entrada y unos conocimientos previos son capaces de decidir que hacer, como continuar, aprender de errores y éxitos... Eso se parece mucho a razonar.
0 K 20
#45 Tensk
#41 No lo es. Todo ese procedimiento se resume en hacer operaciones matemáticas muy rápido.

El propio proceso de entrenamiento tiene que estar bien hecho para no caer en posibles errores posteriormente ¿por qué? porque no razonan, sólo comparan la nueva entrada con lo almacenado y asocian lo más probable. Eso no es razonar, es ser una calculadora como la Casio o Texas Instruments del instituto pero "on steroids". Para razonar tienes que ser capaz de hacer operaciones matemáticas, y…   » ver todo el comentario
0 K 10
ccguy #47 ccguy
#45 lo de operaciones matemáticas es como decir que nosotros hacemos operaciones eléctricas con nuestras neuronas.
0 K 20
#48 Tensk
#47 Cuando seas capaz de modelizar fielmente lo que hacen las neuronas, cómo relacionan memoria con "operaciones" y te lo "presentan en mente", avísame para seguir jugando.
0 K 10
ccguy #51 ccguy
#48 luego ¿es una cuestión de fidelidad del modelo?
0 K 20
#56 Tensk
#51 Eres tú quien ha comparado lo que se hace con el silicio y lo que pasa dentro de un cerebro, no yo.

Desde luego, si no hace lo que hace el cerebro va a ser difícil que esté razonando. Pero si ADEMÁS "sólo" es cuestión de hacer operaciones matemáticas muy rápido para dar por respuesta lo "más probable" no lo "más cierto", no está razonando.

Esta misma semana estaba en una reunión de trabajo en la que participaba uno de los jefazos de sistemas. Cuando la cosa…   » ver todo el comentario
0 K 10
earthboy #42 earthboy
#8 Y otro a las personas que ¿razonando? decidieron que usar así una IA era una buena idea.
0 K 10
#46 Tensk
#42 Esos no me han intentado convencer de un imposible.
0 K 10
rojo_separatista #57 rojo_separatista
#8, una empresa dirigida por un humano quiebra.

Acto seguido algún genio de Internet: un saludo a los que opinan que los humanos razonan. :-D
0 K 11
#59 Tensk
#57 No estoy seguro de si lo que acabas de decir se corresponde exactamente con alguna falacia argumental ya conocida o simplemente es una variante.

Pero falacia al fin y al cabo.
0 K 10
Jointhouse_Blues #7 Jointhouse_Blues
Y así será como, sin pegar un solo tiro, paso a paso, y con mucha paciencia, la IA subyugará a la humanidad. El modelo Skynet está obsoleto incluso antes de nacer.
3 K 46
#15 DonaldBlake
#7 Pues, mira, veo a Skynet y veo a Trump, Milei, Putin, Netanyahu, etc, y me cuesta menos entender los motivos de la máquina.
2 K 38
Jointhouse_Blues #17 Jointhouse_Blues *
#15 Cierto, yo no reprocharía a la máquina decidiera tomar ese camino. Pero aquí entran en juego factores como la eficiencia, la relación gasto/benéfico, y esas cosas que siempre hay que tener en cuenta antes de iniciar una empresa.
1 K 20
ElToniKroos #1 ElToniKroos
Hoy. Y dentro de un par de años?
6 K 43
#10 hatagon
#1 Igual. No existe ningún progreso en LLMs digno de mención desde que a OpenAI le funciono el oinvento de forma inesperada.
3 K 16
inventandonos #22 inventandonos
#10 Hola, aunque tu comentario me da esperanzas, no termino de creermelo. Si puedes argumentar y/o compartir links sería fantástico. Desde mi ignorancia.
1 K 20
mecha #33 mecha
#10 en España un tercio de las empresas no acaban su primer año, y otro tercio cierra antes del quinto año. Que una empresa cierre por estar dirigida por una IA no quiere que no pueda haber otras 2 que duren algo más. Eso sí, estamos muy lejos de que duren indefinidamente sin supervisión humana.
0 K 8
#50 hatagon
#33 No es eso, son las alucinaciones.
0 K 7
borre #43 borre
#10 ¿Hablamos de texto, de vídeo, de voces? ¿De forma generalizada?
0 K 10
#49 hatagon
#43 Ningún progreso en comprensión ni razonamiento.
0 K 7
rojo_separatista #58 rojo_separatista
#10, hay que ser un rato cuñado para decir esto.
0 K 11
#11 Pixmac
#1 Es posible que en un par de años vaya bien pero hacer una IA mejor y mantenerla aumenta los costes. Seguramente no sea tan rentable como pudieran esperar las empresas.
1 K 27
#18 Setis
#1 Arruinado en un mes. En un par de años la deuda hará quebrar también a los proveedores.
0 K 7
Falk #53 Falk
#1 las empresas de IA están quemando dinero a espuertas.

Cuando se acabe y el cliente final tenga que abonar el total de la factura veremos sines rentable.
0 K 6
#55 prqt
#53 ya hay modelos que corren en local y van relativamente bien (como chatgpt de hace año y medio, por decir algo). Poder usarlas no será el problema, hay otros más difíciles.
0 K 7
#3 Grahml
Que Varsavsky @martinvars lo tenga en cuenta.
2 K 39
Virusaco #13 Virusaco
La 'tienda' no era más que una pequeña máquina expendedora

La quiebra del negocio, ¿eh? Vaya #clickbait.

Salu3
2 K 33
redscare #24 redscare
#13 No deja de ser un caso muy realista. Tienes tu stock, tus proveedores, tu gama de productos... Como experimento me parece muy bueno.
0 K 10
maxmalkav #27 maxmalkav
No se si habéis leído el artículo pero el punto de no retorno fue .. hacer caso a la “demanda” de sus clientes (no sé cómo interactuaban con la máquina) y hacer un pedido de .. cubos de wolframio, que no son baratos precisamente. La ruina llegó cuando estaba claro que no iba a poder venderlos.

No se las capacidades de la IA y los LLM en este contexto, pero tampoco me extrañaría que esta experiencia estuviese diseñada un poco regular.
2 K 32
Priorat #21 Priorat
No me creo la conclusión de que falta poco. Entre otras cosas porque las sugerencias de mejora ya eran obvias antes del experimiento. Que hacer un entrenamiento específico para vencer a una IA que debe vender, la verdad, no creo que sea un aprendizaje de este experimiento.

Los tipos de errores que ha dado me parece que van a ser difíciles de solucionar, especialmente por las alucinaciones. Las alucinaciones se pueden reducir, pero ello implica menor creatividad y flexibilidad.
2 K 30
tommyx #28 tommyx
#21 igual en ese caso, que era gestionar un negocia, no sería necesario tanta creatividad y si afinar más la parte econòmica.
0 K 9
sillycon #31 sillycon
No se vosotros, en mi curro hemos pasado un procedimiento para la adquisición de servicios con IA donde prohibimos usar directamente el resultado de una IA para la toma de decisiones sin la aprobación previa de un experto.
1 K 25
#5 endy *
Lógico, intentar meter con calzador LLMs para todo es lo que les gustaría a los inversores pero un sistema que tiene alucinaciones no es adecuado para muchísimas cosas.
1 K 23
Cantro #6 Cantro
#5 tienen alucinaciones, como el inquilino de la Casa Blanca
4 K 71
ContinuumST #32 ContinuumST
"Sin embargo, Claudius no mostró ambición para aprovechar oportunidades para lucrarse, incluso cuando se lo ponían en bandeja, llegó a vender a pérdidas, o alucinó creando una cuenta de un sistema de pagos que no existía, de forma que los empleados no podían pagarle de primeras."

Jajajajaja, humanos, jajajajaja.
0 K 11
Magog #12 Magog *
No era el momento
Aún no estaba preparada

Etc.....

Que no digo que no, pero, a medio largo plazo, la IA no está preparada para todo, por mas que muchos vendan que si
0 K 10
#14 Sacapuntas
El negocio se basa en la confianza mutua en la transacción. Si mientes y se detecta, se acabó la fiesta.;)
0 K 10
tommyx #26 tommyx
Es que ahora está el hype de las AI y algunos se creen que les va a salvar la vida

El experimento me parece muy bueno para ir mejorando los modelos e ir avanzado.
0 K 9
taranganas #40 taranganas
Me encantaría que funcionara y ver a ceo`s y semejante calaña en el paro
0 K 9
#30 Eukherio *
Habría que ver cómo se ejecutó realmente el experimento. Si por su propia cuenta gestionó todo durante un mes es bastante impresionante. Si cada dos por tres iba uno a preguntarle ya la cosa cae en picado. Tampoco entiendo lo de los cubos de tungsteno, la verdad.
0 K 8
#44 meneandotela
Les enseñaron a la IA hacer caja B? Porque si no, es normal que no siguiera en pié.
0 K 7
txusmah #36 txusmah
Pidió tubos de tungsteno??????

Eso ya lo predijeron en futurama!!!!
0 K 7
#34 bizcobollo
¿Echó a los dos que trabajaban en la empresa y contrató a 10 managers, asesores, COO, CFO,....?
0 K 7
#9 hatagon
Me da la impresión de que por mucho que lo pulan, esto no va a ser suficiente. Los fallos que hay son MUY de base.
0 K 7
#38 LaColetadeDusko
La IA es un globo inflado como las criptoestafas
0 K 6
#29 jmav
"La 'tienda' no era más que una pequeña máquina expendedora situada en la sede de la empresa."

Es un experimento. Banca rota.- supongo que nadie compraba los productos. No se puede hacer milagros con productos malos.
0 K 6

menéame