Menéame: comentarios [3794600]

#47 El genio se escapa: Stanford copia la IA ChatGPT por menos de 600 dólares [ENG]

--602521-- — Wed, 29 Mar 2023 19:40:06 +0000

ya no esta disponible

» autor: --602521--

#46 El genio se escapa: Stanford copia la IA ChatGPT por menos de 600 dólares [ENG]

navi2000 — Fri, 24 Mar 2023 15:03:35 +0000

#13 Recuerdo el día que una señora delante de mi en un PC Box sacó orgullosa un disquette de 3'5" de su bolso y le dijo al encargado "¿me puedes grabar Internet aquí?". Las risas de todos todavía resuenan en mi cabeza.

» autor: navi2000

#45 El genio se escapa: Stanford copia la IA ChatGPT por menos de 600 dólares [ENG]

rojo_separatista — Fri, 24 Mar 2023 14:31:00 +0000

#44, de hecho no me cabe duda de que ChatGPT tiene mejor de capacidad de comprensión lectora que la media de personas.

» autor: rojo_separatista

#44 El genio se escapa: Stanford copia la IA ChatGPT por menos de 600 dólares [ENG]

hazuko — Fri, 24 Mar 2023 13:35:36 +0000

#43 Sí, seguro que me he liado demasiado... tiene que ser eso. Habrá que metérselo a ChatGPT a ver si nos lo aclara

» autor: hazuko

#43 El genio se escapa: Stanford copia la IA ChatGPT por menos de 600 dólares [ENG]

rojo_separatista — Fri, 24 Mar 2023 13:16:41 +0000

#42, creo que te estás liando demasiado. Yo no he entrado en nada de esto de lo que comentas. Lo que digo es que vender en el titular que con 600€ se puede replicar lo que hacen modelos que cuestan miles de millones de euros es cuñadismo de manual. A partir de ahí, podemos discutir lo que quieras, de hecho no digo que modelos más pequeños no sean interesantes para empresas o investigadores en algunos caso, pero no amenazan la posición de OpenAI y Microsoft por ahora.

» autor: rojo_separatista

#42 El genio se escapa: Stanford copia la IA ChatGPT por menos de 600 dólares [ENG]

hazuko — Fri, 24 Mar 2023 12:51:51 +0000

#41 Te refieres al artículo (es la primera palabra de tu comentario), el cual me parece bastante acertado y completo. El titular es clickbait, en eso estamos de acuerdo, lo escribe un periodista. Sin embargo, aquello de Sparks of Artificial General Intelligence lo escribe OpenAI... que es un clickbait ordenes de magnitud mayor... no te quedes en el titular, la noticia es importante y la explican bastante bien en una lectura de 5 minutos (en #16 tienes el enlace a la fuente)... seguro que si has digerido las más de 150 páginas del otro día, esto es pan comido.

No apuesto nada, creo que ya dije alguna vez que yo no soy economista (no vengo a estas noticias a hablar de economía) y tampoco sé que va a pasar en el futuro (y tú tampoco)... ahora bien (y esto sí es cuñadismo, porque no puede ser otra cosa), si con algo que sale gratis o casi gratis puedo cubrir el 90% de los casos de uso... pues empresas como OpenAI tendrán que enfocarse en nichos de mercado bastante específicos (lo contrario sería como intentar robarle cuota de mercado a Linux, por ejemplo se me ocurre).

» autor: hazuko

#41 El genio se escapa: Stanford copia la IA ChatGPT por menos de 600 dólares [ENG]

rojo_separatista — Fri, 24 Mar 2023 12:27:24 +0000

#39, aver, que no digo que los que han hecho sean cuñaos, digo que el periodista que ha redactado el titular, lo es un poco.

Si es tal y como explica el titular, este modelo se terminará utilizando muchísimo más que los modelos de OpenAI en muy poco tiempo. ¿Te apuestas algo a que no termina siendo así?

» autor: rojo_separatista

#40 El genio se escapa: Stanford copia la IA ChatGPT por menos de 600 dólares [ENG]

rojo_separatista — Fri, 24 Mar 2023 12:24:38 +0000

#38, pero cambiar el valor de los parámetros del modelo no afecta a su desempeño en cuanto a coste computacional para hacer inferencia.

» autor: rojo_separatista

#39 El genio se escapa: Stanford copia la IA ChatGPT por menos de 600 dólares [ENG]

hazuko — Fri, 24 Mar 2023 12:24:25 +0000

#5 A ver hombre, que son Stanford, no son precisamente cuñaos... respetiño por dios. No dicen que supere a GPT4, pero leyendo los resultados y su coste (que es lo que se hace posible cuando abres tu modelo) puedes hacerte una idea de como nos estamos acercando a la fase de rendimientos decrecientes con el approach actual.

» autor: hazuko

#38 El genio se escapa: Stanford copia la IA ChatGPT por menos de 600 dólares [ENG]

DenisseJoel — Fri, 24 Mar 2023 12:23:47 +0000

#28 El RLHF no cambia el tamaño del modelo ni añade (que sepamos) parámetros, pero creo que sí que modifica los que ya hay, especialmente los de alto nivel (últimas capas), aunque es posible que afecte también a capas de bajo nivel.
De hecho, la tendencia lógica es que las medidas de seguridad extiendan su influencia por todo el modelo.

» autor: DenisseJoel

#37 El genio se escapa: Stanford copia la IA ChatGPT por menos de 600 dólares [ENG]

hazuko — Fri, 24 Mar 2023 12:06:11 +0000

#26 Ni los periodistas ni muchos por aquí...

...hala, ya me quedao a gusto

» autor: hazuko

#36 El genio se escapa: Stanford copia la IA ChatGPT por menos de 600 dólares [ENG]

lectorcritico — Fri, 24 Mar 2023 11:50:00 +0000

#5 #7 Yo tenia entendido que los transformers son muy eficaces, pero tienen un consumo de recursos brutal. SEguramente sera interesante intentar hacer lo mismo con una alternativa a trasnformes.

#12 Tambien una vez hecho es mas facil hacerlo otra vez. Es como la patentes de farmacos. Una vez se descubre un farmaco que funciona, aunque tengas que descubrir como funciona te ahorras investigar todos los callejones sin salida y puedes saber como se hace parte del proceso.

#24 No se hacen programas antiSPAM. Va ser necesario porque se va poder crear texto que cuele.
Tambien seria interesante evaluar la calidad de los textos( mensajes, correos, comentarios) o su interes o hacerte un extracto quitando la paja que meten en paginas de clickbait.

» autor: lectorcritico

#35 El genio se escapa: Stanford copia la IA ChatGPT por menos de 600 dólares [ENG]

rcorp — Fri, 24 Mar 2023 11:39:26 +0000

#31 si tu dispones de una IA con una capacidad mejor que la de cualquier gestor, empresario, ingeniero, físico, emprendedor, artista, etc del mundo, y ésta IA tenga conexión a Internet (con lo que podrá contratar, hacer negocios, dar órdenes, cerrar tratos, crear campañas de márqueting, llegar a acuerdos, estudiar el mercado, hacer reuniones, etc)...

Tú le pedirás que te lleve la contabilidad de tu cuenta del banco, o le pedirás que gane todo el dinero del que sea capaz para tí?

Es para saberlo

Por favor, dime que sólo le pediras que te escriba el CV con fuentes molonas

» autor: rcorp

#34 El genio se escapa: Stanford copia la IA ChatGPT por menos de 600 dólares [ENG]

reithor — Fri, 24 Mar 2023 10:29:31 +0000

Bueno, parece que la velocidad de reproducción de las IAs se asemejan a las dinámicas poblacionales propias de los fans de sectas como Opus Dei o neocatecumenalismo.

» autor: reithor

#33 El genio se escapa: Stanford copia la IA ChatGPT por menos de 600 dólares [ENG]

snowdenknows — Fri, 24 Mar 2023 10:28:39 +0000

"we definitely need more regulation on ai
— Sam Altman (@sama)" traducido, quiero mi monopolio

» autor: snowdenknows

#32 El genio se escapa: Stanford copia la IA ChatGPT por menos de 600 dólares [ENG]

Patrañator — Fri, 24 Mar 2023 10:17:24 +0000

#10 quitas el autocontrol y se come con patatas a todos los diputados del Congreso, sería interesante soltar esa vaquilla en un Pleno

» autor: Patrañator

#31 El genio se escapa: Stanford copia la IA ChatGPT por menos de 600 dólares [ENG]

--670242-- — Fri, 24 Mar 2023 10:03:50 +0000

#30 quiero de lo que tomas

» autor: --670242--

#30 El genio se escapa: Stanford copia la IA ChatGPT por menos de 600 dólares [ENG]

rcorp — Fri, 24 Mar 2023 10:01:36 +0000

#2 se viene el fin del capitalismo

Cuando todos tengamos poder infinito, cuando todos podamos poner a trabajar a una IA para que gane una fortuna para nosotros, sólo quedarán IAs en el mundo de los negocios luchando por hacerse con el mayor imperio industrial, creando negocios y estrategias comerciales para maximizar el beneficio.

Imagináos millones de IA haciendo esto (para sus respectivos usuarios). El dinero dejará de tener sentido.

» autor: rcorp

#29 El genio se escapa: Stanford copia la IA ChatGPT por menos de 600 dólares [ENG]

ACEC — Fri, 24 Mar 2023 09:24:34 +0000

En un triste i3 sin GPU funciona. A la primera pregunta ha tardado unos 15 minutos en responderme, pero lo ha hecho y de manera correcta.

» autor: ACEC

#28 El genio se escapa: Stanford copia la IA ChatGPT por menos de 600 dólares [ENG]

rojo_separatista — Fri, 24 Mar 2023 09:12:41 +0000

#11, en realidad lo que dice #9 no es verdad. Aunque no han trascendido todos los detalles sobre la arquitectura de GPT-3.5 y GPT-4. El proceso de RLHF, solo fine-tunea la arquitectura original sin añadir-le más parámetros. El grueso del entrenamiento se produce antes y en la parte de inferencia no afecta en lo más mínimo ya que no cambia el tamaño del modelo.

» autor: rojo_separatista

#27 El genio se escapa: Stanford copia la IA ChatGPT por menos de 600 dólares [ENG]

MisturaFina — Fri, 24 Mar 2023 08:59:23 +0000

Inteligencia para todos!!!
El codigo libre y su filosofia son el nuevo mundo. Comunismo digital!!!

» autor: MisturaFina

#26 El genio se escapa: Stanford copia la IA ChatGPT por menos de 600 dólares [ENG]

ninefingers — Fri, 24 Mar 2023 08:58:14 +0000

Porque ChatGPT no ha inventado la pólvora, pero eso es algo que los periodistas no entienden.

» autor: ninefingers

#25 El genio se escapa: Stanford copia la IA ChatGPT por menos de 600 dólares [ENG]

--516070-- — Fri, 24 Mar 2023 08:58:09 +0000

#24 Sí, tienes toda la razón. Miré los comentarios leyendo solo el inicio de la noticia, mal hecho.

» autor: --516070--

#24 El genio se escapa: Stanford copia la IA ChatGPT por menos de 600 dólares [ENG]

pendrag — Fri, 24 Mar 2023 08:44:47 +0000

#22 Sobre la infraestructura concreta no dan detalles, cierto. Pero mencionan que les llevó 3 horas de uso de 8 NVIDIA A100 con 80GB de memoria. Buscando rápido un proveedor encuentro este: www.leadergpu.com/#chose-best que te da 8 A100 (aunque de 40G) por 421€ al día. La estimación de costes de 100$ por 3 horas no es muy descabellada. Como investigador, llevo años siguiendo los trabajos del grupo de procesamiento de lenguaje natural de Stanford nlp.stanford.edu/ y puedo asegurar que son muy exhaustivos (además de ser unos cracks).

» autor: pendrag

#23 El genio se escapa: Stanford copia la IA ChatGPT por menos de 600 dólares [ENG]

--516070-- — Fri, 24 Mar 2023 08:24:48 +0000

#6 ¿Para qué? Los datos, que es lo importante, los han sacado de chatgpt.

» autor: --516070--

#22 El genio se escapa: Stanford copia la IA ChatGPT por menos de 600 dólares [ENG]

--516070-- — Fri, 24 Mar 2023 08:20:07 +0000

#16 En AWS alquilar un espacio que pueda entrenar modelos más simples que un botijo cuesta casi dos mil euros al mes.

Solo en transferencia de datos, de la nube a tu servidor, superas los cien euros.

Hay gato encerrado.

» autor: --516070--

#21 El genio se escapa: Stanford copia la IA ChatGPT por menos de 600 dólares [ENG]

rojo_separatista — Fri, 24 Mar 2023 08:19:19 +0000

#20, aún así sigues teniendo el problema de hacer inferencia una vez ejecutados. Si hay miles de usuarios conectados, no lo veo viable en tiempo real por muchos nodos distribuidos que haya. No digo que en el futuro el hardware doméstico o la compresión de estos modelos no mejore lo suficiente para que esto ocurra, pero todavía no estamos en este escenario.

» autor: rojo_separatista

#20 El genio se escapa: Stanford copia la IA ChatGPT por menos de 600 dólares [ENG]

RamonMercader — Fri, 24 Mar 2023 07:48:53 +0000

#5 si, pero una red distribuida de voluntarios cediendo su gpu puede competir contra las grandes, el open source/modelos comunitarios va a ser un actor inportsnte en esta batalla

» autor: RamonMercader

#19 El genio se escapa: Stanford copia la IA ChatGPT por menos de 600 dólares [ENG]

User93439 — Fri, 24 Mar 2023 07:30:27 +0000

Si todo el hierro que se está utilizando actualmente para minar mierdas de criptodivisas se utilizara para entrenar modelos...

» autor: User93439

#18 El genio se escapa: Stanford copia la IA ChatGPT por menos de 600 dólares [ENG]

ktzar — Fri, 24 Mar 2023 07:27:42 +0000

Funciona en mi Mac perfectamente. Rápido y arranca en segundos... Es increíble. No es chatgpt, pero el modelo 7b traduce al catalán, al chino, escribe código (más o menos)...

» autor: ktzar

#17 El genio se escapa: Stanford copia la IA ChatGPT por menos de 600 dólares [ENG]

ContinuumST — Fri, 24 Mar 2023 07:19:33 +0000

#13 Si ya está eso... mira: geeksupply.co/wp-content/uploads/2018/03/internet-it-crowd.jpg

(IT Crowd)

» autor: ContinuumST

#16 El genio se escapa: Stanford copia la IA ChatGPT por menos de 600 dólares [ENG]

pendrag — Fri, 24 Mar 2023 06:33:28 +0000

Tengo la sensación de que la mayoría no ha leído los detalles de este experimento que es realmente novedoso y destacable. No hace falta ser Standford para reproducirlo. Como bien indican aquí crfm.stanford.edu/2023/03/13/alpaca.html, usan una infraestructura en la nube para entrenar con un coste de apenas 100$ (no tienes que comprarte un clúster con decenas de GPU). El otro coste es el de usar la API de ChatGPT para generar datos de entrenamiento a partir de 175 ejemplos escritos por humanos.
Han liberado todo el código y los datos, así que "cualquiera" puede repetir este experimento.
Es muy relevante, aunque ellos mismos admiten que la comparación no ha sido exhaustiva. Pero esto abre la puerta a la creación de modelos propios que pueden tener un rendimiento similar en tareas concretas.

» autor: pendrag

#15 El genio se escapa: Stanford copia la IA ChatGPT por menos de 600 dólares [ENG]

lameth — Fri, 24 Mar 2023 04:04:34 +0000

#7 Dudo que sea eso.

» autor: lameth

#14 El genio se escapa: Stanford copia la IA ChatGPT por menos de 600 dólares [ENG]

zeioth — Fri, 24 Mar 2023 03:22:52 +0000

Y ademas si recuerdo correctamente, una IA alpaca la puedes correr en local en tu PC. Lo que habilita muchas aplicaciones que con chatGPT serían imposibles.

Ejemplo, distribuir software Open Source de edición de imagen, que le puedas dar ordenes en lenguaje natural.

» autor: zeioth

#13 El genio se escapa: Stanford copia la IA ChatGPT por menos de 600 dólares [ENG]

ccguy — Fri, 24 Mar 2023 02:47:06 +0000

Y yo en un rato hago un programa que se baje y archive todo el internés.

Os lo pongo en github y ya no tenéis que tener ADSL

» autor: ccguy

#12 El genio se escapa: Stanford copia la IA ChatGPT por menos de 600 dólares [ENG]

Polarin — Fri, 24 Mar 2023 02:34:57 +0000

A ver... recordemos una serie de temas muy tontos... como que la universidades americanas tienen muchisimas mas infraestructuras que las espaniolas. Stanford, Carnegie-Mellon, el MIT o incluso Rutgers, tienen una infraestructura parecida a la necesaria para este asunto, y tienen a la gente que se esta sacando doctorados ahora mismo intentando comerse a ChapGPT.

» autor: Polarin

#11 El genio se escapa: Stanford copia la IA ChatGPT por menos de 600 dólares [ENG]

kaoD — Fri, 24 Mar 2023 01:19:19 +0000

#9 [citation needed]

¿Podrías describir RLHF y por qué la hace menos eficiente?

Si lo piensas intuitivamente no tiene sentido: hay más entradas que producen la misma salida (la controlada) y por tanto es más eficiente no menos.

» autor: kaoD

#10 El genio se escapa: Stanford copia la IA ChatGPT por menos de 600 dólares [ENG]

varios — Fri, 24 Mar 2023 00:49:54 +0000

#7 quitas el autocontrol y se convierte en Skynet.

» autor: varios

#9 El genio se escapa: Stanford copia la IA ChatGPT por menos de 600 dólares [ENG]

DenisseJoel — Fri, 24 Mar 2023 00:43:03 +0000

#8 Pues no decir palabrotas, no responder a peticiones de hacer chistes que puedan ser ofensivos, no dar instrucciones para fabricar objetos peligrosos, etc. Todo ese entrenamiento en autocontrol reduce la eficacia del modelo.

» autor: DenisseJoel

#8 El genio se escapa: Stanford copia la IA ChatGPT por menos de 600 dólares [ENG]

MDman — Fri, 24 Mar 2023 00:36:02 +0000

#7 Perdona. ¿Qué significa en autocontrol?

» autor: MDman

#7 El genio se escapa: Stanford copia la IA ChatGPT por menos de 600 dólares [ENG]

DenisseJoel — Fri, 24 Mar 2023 00:32:58 +0000

#5 Lo que pasa es que los chatbots como ChatGPT o GPT-4 desperdician mucha energía en el autocontrol. Si quitas eso, es posible que sí se pueda competir con ellos con menos parámetros.

» autor: DenisseJoel

#6 El genio se escapa: Stanford copia la IA ChatGPT por menos de 600 dólares [ENG]

hokkien — Fri, 24 Mar 2023 00:30:25 +0000

#1 ojalá eso tenga licencia GPL

» autor: hokkien

#5 El genio se escapa: Stanford copia la IA ChatGPT por menos de 600 dólares [ENG]

rojo_separatista — Fri, 24 Mar 2023 00:23:31 +0000

Artículo cuñao del día, del estilo "esto te lo hago yo en dos tardes y por 600€".

Quien conozca un poquito como están diseñados estos modelos sabe que la infraestructura para entrenarlos y hacer inferencia es enorme.

Por supuesto que hay modelos más pequeños que funcionan razonablemente bien si los comparamos con las LSTM de hace 5 años, pero ni se le acercan a ChatGPT o GPT-4.

» autor: rojo_separatista

#4 El genio se escapa: Stanford copia la IA ChatGPT por menos de 600 dólares [ENG]

--749664-- — Fri, 24 Mar 2023 00:13:26 +0000

#3 Más bien por gastona. Y nada de boxes, la han quitado y punto. Pero están saliendo otras como churros.

» autor: --749664--

#3 El genio se escapa: Stanford copia la IA ChatGPT por menos de 600 dólares [ENG]

elculebrilla — Thu, 23 Mar 2023 21:33:37 +0000

Pues la noticia llega tarde porque antes de ayer la retiraron por inventona. Regreso a boxes.

» autor: elculebrilla

#2 El genio se escapa: Stanford copia la IA ChatGPT por menos de 600 dólares [ENG]

neme — Thu, 23 Mar 2023 21:21:14 +0000

Que gran futuro, IAs a precio de becario.

» autor: neme

#1 El genio se escapa: Stanford copia la IA ChatGPT por menos de 600 dólares [ENG]

awezoom — Thu, 23 Mar 2023 20:52:05 +0000

Pues que se lo vendan a Microsoft por 9.000 millones de dolares. MS ahorraría un 1000 milloncitos y se evita despedir a unos cuantos ingenieros de esos que tanto le sobran ahora...

» autor: awezoom