Tecnología, Internet y juegos
69 meneos
588 clics
Una startup vasca de IA acaba de levantar 189 millones de euros con una idea genial: comprimir la IA

Una startup vasca de IA acaba de levantar 189 millones de euros con una idea genial: comprimir la IA

'CompactifAI' es su tecnología de compresión de modelos de IA para hacerlos más eficientes y rápidos

| etiquetas: comprimir , ia
45 24 3 K 273
45 24 3 K 273
Les han colado a estos inversores un GGUF xD xD xD xD xD
En la noticia pone que lo comprimen un 95%, en su web es entre un 66% y un 50% xD xD
#7 BitNet es la nueva ola (un GGUF/8) :-D
"El Gobierno ya anunció una inversión de 67 millones de euros en ella hace apenas unos meses"

Normalmente los inversores huyen cuando una institución pública tiene una parte importante
Está claro que el hype y el alguien conoce a alguien han intervenido aquí
Por lo demás apesta a humo
todo lo relacionado con la IA parece estar infladísimo
#4 Es que todo tiene un potencial increíble y cero formas realistas de comprobar si el potencial será real o no, es el campo de cultivo perfecto para los vendehumos
#10 #2 ¿Qué experiencia tienen en el uso de IAs? ¿No vel usuario o nivel avanzado? ¿Probaron opciones profundas o solo preguntan a Chat GPT?

Así vamos sabiendo la profesionalidad de los comentarios
#28 Si que tengo algo de experiencia jugando con IAs , LLMs en local , integrando versiones locales en mi programación, alguna cuantización que me he hecho en casa por no encontrar una versión que me cupiera en la gpu de un modelo recién salido, entrenar loras, no se, igual no me cualifica a tus ojos , pero sinceramente, me da bastante igual xD
#31 Si tienes experiencia sabrás que para cierto tipo de tareas analíticas, repetitivas y mecánicas funcionan acertadamente, a nivel programación si bien son poco fiables y no muy buenas en los últimos 4 meses se nota un salto de calidad llamativo

Estamos hablando de algo que es relativamente nuevo, un bebé que no aprendió a caminar, y esos comentarios de "vende humo", "para idiotas", "la nueva estafa" creo que los hemos vivido demasiadas veces

Windows, Linux, Android, Google y muchos de sus servicios, si hasta tener internet en casa (no hablemos en el teléfono) en una época era un gasto innecesario e inútil

En esta época de videntes ciegos es mejor esperar antes de sacar conclusiones
Ojalá les vaya bien, pero el nombre Multiverse Computing me genera desconfianza

En esencia el concepto se centra en descartar la información menos relevante del modelo para quedarse solo con la más relevante

Vamos a la IA MUY generalista xD
#1 Si es más tonta va más rápido
#11 "No reirse de las subnor-IAs, aiba la hostia" comento la nueva IA
Cc #1
#1 Ojalá les vaya mejor que a WinRAR xD
#1 Hay un documental en Netflix que se llama el código que valía millones (o algo así) y no deja de ser este mismo sistema pero llevado a maps

Escalar para ganar rendimiento sin resignar resultados
#5 Vuelvo a #26

En ese documental se dice que hacer lo que nadie consiguió es inventar

Llevar lo existente a todas las cosas (o casas) es innovación

Indudablemente innovaron, el resultado parece estar a la vista
IA .zip
#8 IA . tar . gz
¿Qué hostias es 'acaba de levantar'?․․․ ¡anda a la mierda!
#15 Lo pone en la noticia: Que le han dao un sablazo a los pringaos de turno por no andar al loro, que no te enteras Contreras
#18 Que no te enteras Contreras lo dice Apollardao․․․ tiene su lógica․
No se Rick punto punto punto
Si comprime la información valorando solo información más significativa y obviando detalles menos relevantes, es decir, que va ir a 'bulto' sin entrar en nada específico (porque a saber que interpreta como relevante), ¿no están creando una IA cuñado?
#23 El resultado será alucinante
#23 La IA ya es una IA cuñado; lo único que están haciendo es que en lugar de ser el cuñado gordo que pesa 250 kilos y no hay cojones a conseguir que se levante del sofá, que sea el cuñado delgado adicto a la nicotina que no para de fumar y beber carajillos y soltar todo el rato cuantas cipotadas se le pasan por la quijotera
lo privado solo aparece cuando lo público ha hecho la mayor parte del trabajo y el tema empieza a ser rentable
Véase todo lo relacionado con internet las farmacéuticas y el tema del espacio
Jó, y si además le ponen gas, lo petan xD
#16 Ya veras cuando le pongan un palo, en Hispañistán somos mas de poner palos a las cosas para enriquecernos :-D
#17 Jó, por qué no se me ha ocurrido a mí… xD
IAtxu
Mala suerte, por pringaos
Y si les sujetan el cubata se comprimen todo internet, me cago en la ostia
¿No es lo que se conoce como modelos destilados?
Unsloth a lo vasco?
"Su funcionamiento se basa en descomponer las matrices de pesos de las redes neuronales "truncándolas" y conservando solo los valores más grandes y relevantes . En esencia el concepto se centra en descartar la información menos relevante del modelo para quedarse solo con la más relevante ."

SVD o algo parecido y descartar los parámetros menos relevantes? No parece nada extraordianrio pero si han levantado tanto dinero algo estarán haciendo bien .
#5 eso he pensado yo, svd
Los Carmen Mola de la IA :roll:

menéame