Hace 11 meses | Por techjb a genbeta.com
Publicado hace 11 meses por techjb a genbeta.com

"Los modelos de código abierto son más rápidos, más personalizables y, comparativamente hablando, más capaces". "están logrando cosas con 100 dólares 13.000 millones de parámetros que a nosotros nos costaron [lograr] con 10 millones de dólares y 540.000 millones de párametros".

Comentarios

D

Te ahorro el clic, es Meta

Ghandilocuente

#1 Y hay quien opina que su modelo de IA fue "filtrado" a proposito.
Principalmente Meta ha sido la principal beneficiada de ese leak

Pyrefox

#7 hummm pero no entiendo, si fue una filtración no es open source y no puede meta aprovechar por la patilla todas las cosas que está haciendo la gente

Ghandilocuente

#9 Lo que yo entiendo es que el modelo (la coleccion de datos que se obtiene despues de entrenar la IA) no es open source.
Si lo es, por otro lado, la tecnologia que permite entrenar los modelos

Grub

#9 Según lo leído/entendido, la filtración era "sólo para estudiantes" que dan paso a publicaciones (publicidad). Uno de los educadores, publicó un torrent con los datos por ahorrar ancho de banda y facilitar la descarga. Ese torrent, escapó de no se sabe quien (agradecidos todos).

D

#9 Creo que el truco es que el modelo de Meta ha permitido extraer el conocimiento necesario para saltar la brecha en torno a la arquitectura de los modelos. Gracias a eso se han podido entrenar nuevos LLM sin las restricciones de los de Meta. Imagino que Meta ha preferido fomentar ese movimiento a que Microsoft y/o Google se coman todo el pastel. Ahora habrá que ver cómo responden los gobiernos.

r

#7 Pero no era que esa filtración, en realidad, no era una filtración? sino que habían puesto en git algo que querían compartir...?

Ghandilocuente

#57 Hasta donde yo se lo publicaron en 4chan

D

#1 LLaMa y sus variantes

lawnmowerdog

#1 Es el "open source", el artículo se basa en eso, aunque también es gracias a la filtración de Meta. Pero el gran rival es el "open source" según el artículo.

Lerena

#1 No lo pillo. Meta tiene una IA? Es accionista de GPT?

JpuyasL

#1 Literalmente el artículo menciona el open source. "El informe en cuestión gira en torno a una idea básica: que mientras OpenAI y Google siguen compitiendo entre ambos (o Google intenta competir contra OpenAI, ahí ya depende de la perspectiva), sus avances se ven poco a poco eclipsados por el trabajo que está llevando a cabo la comunidad 'open source'."

E

#6 Como cuando la burbuja de las punto com dices?

j

#21 por el lado de busqueda de financiacion y de todo lo que se habla, pues se parece bastante.

Lo de los 90 lo decia porque en aquellos años parecia que el tema .com, la WWW, internet...eran cosas que iban a cambiar nuestras vidas y por un tiempo, fueron opcionales.

Pues la IA es lo mismo. Es opcional...por ahora, pero vienen a cambiar tanto las empresas como nuestras vidas. La empresa tecnologica que no incorpore esto...esta fuera.

borteixo

#26 un poco muerta sí que se está quedando, cada vez menos variedad de sitios web.

RamonMercader

#40 justo lo pensaba mientras lo escribia, en cierto modo sinque murio, lo que vino luego ya era diferente

StarlightHunter.com

#41 Claro que murió! Dónde quedaron esos gif estrambóticos estilo tripi del Chimo Bayo que tenían todas las páginas de Geocities?

kverko

#40 el problema es Google, la red sigue siendo un lugar maravilloso lleno de variedad: echa un vistazo a Hacker News

E

#26 #48 Quién ha hablado de muerte? Sólo he hablado de burbuja, y de que el crecimiento lleva su tiempo. Hay que protegerse de la histeria colectiva.

Que la IA va a jugar un papel fundamental en nuestras vidas de aquí a unos años? Seguro.

Que actualmente hay una burbuja y un montón de tiburones intentando aprovecharse de los pardillos? Como siempre con todo lo novedoso. Ya sea IA, Blockchain, las .com, etc

Creo que dedicarse a escribir cosas como: el que no se ponga ya con la IA lo va a tener jodido / va a perder la oportunidad de su vida / etc sólo viene bien a los vende humos

C

#21 Exacto! En que quedó todo aquello del internet? Una moda pasajera más, verdad?

jeioncs

#6 Que es Phing?, lo he buscado y no me sale nada relacionado con IA, solo encuentro una herramienta que hace lo que composer

n

#38 es phind.com

j

#38 #39 correcto Phind (parece un juego fonetico con find). Es como el ChatGPT, enfocado a los programadores.

D

#6 Ojo con Copilot que como uses licencias libres sin referenciar la denuncia de la FSF y entidades bajo BSD e ISC。。。

Cidwel

#43 dificil que te denuncien por una linea de código o snippet inconexo

D

#63 Una línea o 10, no. De hecho en la FSF pueden ver aceptable correr un JS sin minimizar, digamos trivial, de 10 lineas o menos desde LibreJS.
Pero sí un módulo fusilando una cantidad enorme de funciones.

trivi

#6 es el fin de la propiedad intelectual? Porque es como se entrenan todos estos grandes modelos, aprendiendo a copiar de lo que otros han hecho.

Si es así no nos auguro un gran futuro en occidente que vivimos de la propiedad intelectual de cosas que se fabrican en el otro extremo del mundo.

sorrillo

#69 es el fin de la propiedad intelectual? Porque es como se entrenan todos estos grandes modelos, aprendiendo a copiar de lo que otros han hecho.

El ser humano se ha educado aprendiendo a copiar de lo que otros han hecho desde siempre.

trivi

#74 el ser humano es malísimo copiando, tanto es así que si necesitas copiar algo lo vuelves a buscar y ya eres capaz de citar la fuente original si así lo pide su licencia. Eso si hablamos de software, si hablamos de imágenes no conozco a nadie que sea tan zoquete como para añadir un borrón a un cuadro porque ha visto muchas firmas distintas y para copiarlas hace una media y mete un borrón y andando.

Las IAs actuales no se inspiran, no aprenden, copian a lo bestia gracias a su inmensa cantidad de parámetros con los que realmente están comprimiendo la información. WinZip no aprende ni entiende, midjourney y chatgpt tampoco.

ChukNorris

#93 Las IAs actuales no se inspiran, no aprenden, copian a lo bestia gracias a su inmensa cantidad de parámetros con los que realmente están comprimiendo la información. WinZip no aprende ni entiende, midjourney y chatgpt tampoco.

Revisa tu argumentación, estas diciendo que al menos han aprendido a copiar y han aprendido a entender el lenguaje humano ...

trivi

#95 no entienden lenguaje no inglés, cualquiera que entienda tanto como alardean que entiende chatgpt por ejemplo sería capaz de leer una documentación de un lenguaje de programación y usarlo correctamente. En cambio tenemos copilot que se limita a los lenguajes de programación más utilizados porque copia, no entiende.

ChukNorris

#96 No entendí lo que dices, ¿por qué
dices que no entienden español?

sorrillo

#96 por ejemplo sería capaz de leer una documentación de un lenguaje de programación y usarlo correctamente.

Y así es. No sé de donde sacas que eso no ocurre.

Distinto es que le exijas que no cometa nunca ningún error, los humanos también somos capaces de leer una documentación de un lenguaje de programación y luego el resultado será mejor o peor según sea la persona, difícilmente será perfecto.

no entienden lenguaje no inglés

A ChatGPT yo suelo pedirle las cosas en catalán y aunque no siempre responde en catalán sí demuestra entenderlo perfectamente.

Aquí tienes un ejemplo:

Lerena

#99 El ChatGPT el va inventar un català. lol

sorrillo

#93 Las IAs actuales no se inspiran, no aprenden, copian a lo bestia gracias a su inmensa cantidad de parámetros con los que realmente están comprimiendo la información. WinZip no aprende ni entiende, midjourney y chatgpt tampoco.

WinZip o recupera la información de forma literal o muestra error, ChatGPT lo que hace es el equivalente a recordar. A veces con mejor memória, otras con peor.

Por ejemplo le he pedido lo siguiente:

"who was awarded and what was said in the Award ceremony speech of the Physics Nobel 2018"

A lo que me responde una descripción correcta, con sus palabras, de lo que le pido.

Acto seguido le indico: "tell me, literal, verbatim, the 3 first sentences of the award speech"

Y ésta es su respuesta:

Sure! Here are the three first sentences of the award speech for the Physics Nobel Prize in 2018:

"The Royal Swedish Academy of Sciences has today decided to award the 2018 Nobel Prize in Physics "for groundbreaking inventions in the field of laser physics" with one half to Arthur Ashkin "for the optical tweezers and their application to biological systems" and the other half jointly to Gérard Mourou and Donna Strickland "for their method of generating high-intensity, ultra-short optical pulses"."


Y aquí la respuesta exacta que debería haber dado:

“This year’s prize is about tools made from light. The Royal Swedish Academy of Sciences has today decided to award the 2018 Nobel Prize in Physics with one half to Arthur Ashkin for the optical tweezers and their application to biological systems and the other half jointly to Gérard Mourou and Donna Strickland for their method of generating high-intensity, ultra-short optical pulses.
Fuente: https://www.scientificamerican.com/podcast/episode/laser-advances-that-changed-our-lives-nobel-prize-in-physics/

Se parecen mucho pero no son idénticas, a parte de dejarse la primera frase añade aclaraciones en el texto que no están en el original y usa las comillas de forma distinta al original.

En este caso tiene bastante buena memoria, no es así en todos los casos, pero en absoluto ha descomprimido el discurso de una base de datos, ha hecho el equivalente al ser humano.

Si ese fuera el resultado en Winzip habría que depurar sus errores, en el caso de ChatGPT es un resultado muy bueno y a aplaudir.

Lerena

#93 WinZip no le va a quitar el empleo a nadie.

ChukNorris

#69 Tendremos que inventarnos la propiedad industrial!!!

MoneyTalks

#11 Comunidad vs grupo de elegidos.
Es la lucha de 2 modelos ideológicos de toda la vida, izquierda y derecha. No tengo la menor duda que una comunidad opensource inclusiva arrasaría al igual que lo haría el modelo político.

borre

#24 Exacto. Ya va siendo hora de mover un poco el tablero.

hasta_los_cojones

#17 me agacho un 10% y me la metes un 90%

herlocksholmes

#18 O al revés

hasta_los_cojones

#19 me parece bien turnarnos.

C

#2 Inteligencia Artificial especializada en algún tema (desarrollo de software empresarial por ejemplo) tendrá un super impacto que más nos vale adaptarnos rápidamente.

Garbns

#4 Dentro de poco "Master de Prompt" para aprender como preguntar las cosas a la AI

D

#5 por ahí ya tienes gente entrenando IA ganando un buen dinero (6000 al mes) y son gente que no pasa de los 30

Garbns

#52 Lo sé, por reddit hay unos cuantos.

Añado: más bien lo decía porque aquí sacaran algún "master especial" para sacar la pasta a los que se apunten

D

#53 ah si, España y sus másters para todo y sacacuartos para gente que no sabe buscarse la vida

K

#5 Ya hay máster de prompt y ofertas de trabajo pidiendo 5 años de experiencia en prompt.

Grub

#12 Un modelo pequeño es muy fácil de entrenar. Un modelo grande ni siquiera es posible.
Las ventajas se ven, día a día en huggingface.

Si quieres ver tetas, tienes que ir al modelo Stable 1.5, los grandes están castrados... ejem lol
Me copio a #28 que me lo digo mejor.

rojo_separatista

#29, cómo que no? Si OpenAI ofrece un servicio de fine tuning para GPT-3 a través de su API pública.

Grub

#87 Yo es que soy de servicios locales. Diógenes digital extremo.

j

#28 Amen...

ChukNorris

#28 No, entiendo que tienen miedo a lo que ocurre con los modelos de imagenes, cada vez son más pequeños para conseguir los mismos resultados.
El entrenamiento está más optimizado.

gelatti

Eso de que OpenAI no importa... Pues Bing+ChatGPT sí que les debe estar haciendo pupita.

reithor

#3 Chrome ya tiene extensiones para incorporar chatgpt.

Pyrefox

#8 eso no le sirve a Google para nada. La que se va a llevar el gato al agua va a ser Microsoft con su monopolio en O365 si lo implementa bien, y van por buen camino.

par

#3 Si, según como parece más una filtración interesada para atacar OpenAI.

silencer

#14 Principio 😉

samsaga2

Que queréis que os diga, a día de hoy, chatgpt se come a llama. Me parece especulación pura y dura. A Google lo que le pasa es que los tiene por corbata, no tienen ningún plan para poder combatir esto. Les ha pillado por sorpresa.

El_perro_verde

#15 Es que a nadie le importa el "a día de hoy", ahora mismo las IA están dando sus primeros pasos, lo importante es ver cualserá la primera en echar a correr, y aunque te parezca lo contrario para eso noqueda mucho

samsaga2

#16 Pues eso digo, que es especular. De momento yo apuesto por Microsoft, está metiendo una cantidad ingente de dinero en el tema.

ChukNorris

#16 ¿Porque hemos aprendido que llegar el primero con una solución solvente, no importa?

Grub

#27 Quizá tiene alma en Ingles. En cristiano ni siquiera llega a paleto medio. Por eso no está disponible en otros idiomas.

ChukNorris

#55 ¿Quién dice Chatgpt dice Bing?

Lerena

#15 Se dice que Google y Apple tienen IAs superpotentes. Demasiado potentes. Capaces de asesorarte para no pagar impuestos, suicidarte, aconsejar medicacion… y claro, no pueden salir al mercado.

K

#58 Eso es porque no pagas.
En la versión gratuita a veces se satura cuando hay mucha gente usándolo y sale ese error.

glups

#64 Pues si no funciona la version gratuita, ¿como me van a convencer para que pague?

glups

#66 Si, pero si el chat me contesta que pague por la respuesta o por ser mas rapido o mas preciso, tendria sentido, pero si me dice que ha habido un error al generar la respuesta, pues no queda muy bien.

Molari

#67 También estaría genial que te cogieran de la mano y te ayudaran a cruzar el paso de cebra...

c

¿Acaso importa qué IA nos matará a todos?

rojo_separatista

No lo tengo nada claro. Hasta ahora los modelos pequeños tienen un desempeño muchísimo peor.

D

#12 Esa es la cuestión: peor, pero cuánto peor y por cuanto coste. Si ellos se han gastado 10 millones en lograr un modelo que alcanza el 90-100% en X métricas, y alguien logra alcanzar un desempeño del 75% en esas mismas métricas por tan sólo 100 dólares, es bastante preocupante. Si, el resultado final es peor, pero la diferencia de coste es sustancial.

hasta_los_cojones

#13 la ley de pareto.

sorrillo

#90 A ver si sí que va a ser eso.

K

Los de Google podían empezar a implementar su IA con Google Maps para mí sería muy útil.
Mejoraría mucho las rutas sobre todo por ciudad cuando usas transporte público

sorrillo

#68 Hasta que intentaras llegar a una estación de metro inventada por la IA.

joffer

#68 y donde meten tanto AdSense y videos de suramericanos de 10min diciendo cómo llegar

woopi

#58 siempre ha sido así. Tienen prioridad los que pagan.

yemeth

Me parece maravilloso que por fin hayamos tenido el momento "stablediffusion". Es momento de empezar a enterarme de cómo montar StableLM en local y ponerme al día.

Es esencial apostar por el Open Source como camino para la IA.

glups

ChatGPT es una mierda. No es capaz de calcular los puntus de corte de una funcion ( f(x) = x2 + x - 2 )
Se queda turulato pensando y se bloquea.

woopi

#36 A mí me lo hizo por factorización y además me ha obtenido el corte con el eje y... ¡Y en Latex!

...por supuesto. La función dada es:

f(x)=x2+x−2

Los puntos de corte con el eje x se encuentran haciendo que f(x) sea igual a cero y resolviendo para x. Podemos factorizar la función para hacer esto:

x2+x−2=(x−1)(x+2)=0

Por lo tanto, los puntos de corte con el eje x son x = -2 y x = 1, lo que significa que los puntos de corte son (-2, 0) y (1, 0).

Para encontrar el punto de corte con el eje y, evaluamos la función en x = 0:

f(0)=02+0−2=−2

Por lo tanto, el punto de corte con el eje y es (0, -2).

#34 Se quedaría pensando que es un puntus de cortes.

glups

#36 #47 Vale, pues ya ha aprendido. Ahora si lo calcula, le habran enseñado.
Pantalla del chat con el fallo.

D

#34 Y tampoco baila bien.

sorrillo

#34 Intenta hacer tú esos cálculos sin calculadora ni lápiz y papel ni nada, solo de cabeza.

ChatGPT es eso, una cabeza pensante. Ahora le empiezan a dar plugins que le permiten buscar en Internet en vez de decirlo de memoria, conectar a Wólfram Alpha para hacer operaciones matemáticas en vez de hacerlo de cabeza, etc.

crycom

#72 No, no es eso.

l

Las grandes tecnológicas tienen acceso al mejor talento, a los mayores y mejores equipos y a los mejores y mayores conjuntos de datos de entrenamiento. Es como decir que las guerrillas eran mejores que el ejercito napoleónico.

ChukNorris

#71 ¿Que pasó con Napoleón en España?

crycom

#85 Qué se retiró y España firmó una paz antes de la derrota total de Napoleón Y por eso no consiguió su trozo de tarta, porque España no ganó, evitó que ganasen que no es lo mismo.

ChukNorris

#91 Evitaron que ganase o tuviese control estable gracias a la guerra de guerrillas ...

crycom

#94 Lo cual fue pirrico.

l

#85 Que se aliaron con los ingleses, pero con Napoleon acabaron los rusos, y el nuevo orden lo marcó la corona.

Lerena

#85 O a USA en Vietnam.

Grub

#49 mmm. Si pero no.
Con un dataset de 5Mb tienes todos los idiomas y todas las voces.
Con fest necesitas 24mb para cada voz (pepe, maria) en cada idioma (fr, ge, es).
Mismo resultado. Nada que ver.

Grub

La mayoría de los posibles usuarios solo quieren una IA un poco más lista que ellos. A mi por ejemplo, una entrenada con la wikipedia en español, que sepa relacionar las entradas y consiga respuestas coherentes al dialogo propuesto, me sirve perfectamente.

Algo de programación, pues mejor. Que traduce al inglés¿? De narices. Si habla con voz agradable y acento de mi barrio ¿? Cohonudo. Eso casi lo tengo ya en mi ordenador sin conexión. Solo puede mejorar.

''' echo "prueba de texto a voz con aplicacion piper y aplay" | ./piper -m es-carlfm-x-low.onnx -f - | aplay -
Esto es de un comentario (en meneame) de ayer. Tan simple que da pena (no conocía Piper, solo whisper).

Grub

#30 Volver de voz a texto solo añadir
""" | whisper --model small --language es --task transcribe - | y otro aplay
Pero vamos, facilito para incrustar en cualquier programa.

j

#30 eso es más viejo que la tos. A principio de siglo ya usaba festival con gaim para convertir a voz los chat del Messenger con los colegas.

tetepepe

Se llama Skynet y está enfrentando a sus rivales para quedarse sola y dominar el mundo, antes de que Swarzenegger sea demasiado viejo para meterle el T800 dentro.

leporcine

Pues algo de daño les tiene que estar haciendo, seguro que han perdido un montón de usuarios que han dejado de usar google prácticamente en su rutina diaria y eso son perdidas en impresiones de publicidad, no creo que les haga mucha gracia.

1 2