Portada
mis comunidades
otras secciones
#1:
"'Estos sistemas van a ser desestabilizadores; pueden crear y crearán mentiras persuasivas a un nivel nunca visto; desde fuera, se pueden usar para impactar nuestras elecciones; desde dentro, para manipular nuestros mercados y sistema político: la democracia misma está amenazada', afirmó Gary Marcus, profesor emérito de Ciencia Neuronal y Psicología en la Universidad de Nueva York y fundador de algunas start-ups en el ámbito de la IA".
Qué barbaridad, tal cosa no se ha visto nunca antes.
Qué barbaridad, tal cosa no se ha visto nunca antes.
#19:
#1 Sam Altman dice lo que dice porque es bueno para su empresa, pide licencias para poder comercializar una IA porque eso haría que las IAs que están saliendo de open source ya no serían su competencia
Porque el que piense que las IAs va a ser un negocio de los 4 grandes, que se olvide, dentro de 2 años vamos a poder tener nuestra propia IA en nuestro móvil con un entrenamiento y dataset muy interesante
Porque el que piense que las IAs va a ser un negocio de los 4 grandes, que se olvide, dentro de 2 años vamos a poder tener nuestra propia IA en nuestro móvil con un entrenamiento y dataset muy interesante
#10:
#1 El problema es la escala, y la velocidad. Y luego hay dos niveles de efectos: los directos y las contramedidas. Por ejemplo, si todas las redes sociales se inundan de usuarios fake totalmente indistinguibles de los auténticos, las contramedidas pueden ir en la línea de acabar por completo con el anonimato en internet.
#2:
Pues te has convertido en La Muerte, destructor de mundos.
#18:
#14 #8 Es que precisamente doy por ciertas vuestras afirmaciones, lo que intentaba dar a entender es que la IA puede llegar a ser la herramienta definitiva para el sometimiento de la sociedad, lo que la novela 1984 (la de 1949 ) venia a proyectar sobre la crudeza de la distopía, esto es, ningún tipo de posibilidad de rebelión por parte del pueblo, aceptando la claudicación de la libertad sine die.
Comentarios
"'Estos sistemas van a ser desestabilizadores; pueden crear y crearán mentiras persuasivas a un nivel nunca visto; desde fuera, se pueden usar para impactar nuestras elecciones; desde dentro, para manipular nuestros mercados y sistema político: la democracia misma está amenazada', afirmó Gary Marcus, profesor emérito de Ciencia Neuronal y Psicología en la Universidad de Nueva York y fundador de algunas start-ups en el ámbito de la IA".
Qué barbaridad, tal cosa no se ha visto nunca antes.
#1 Yo creo que lo que viene a decir es (utilizando el símil "taurino") que vendría a dar la puntilla a la democracia.
#5 Yo creo que #1 quiere decir que los temores de S. Altman ya ocurren sin que existan esas IAs. O quizá llevamos mas tiempo del que creemos conviviendo con ellas y hasta ahora solo hemos visto sus consecuencias.
#8 #5 Vuestras dos interpretaciones no son contradictorias entre sí. Ciertamente no creo que sea necesaria una IA para secuestrar la democracia, la opinión pública o cualquier otro aspecto colectivo que uno pueda pensar.
#14 Nunca hizo falta, pero ahora es más fácil que nunca.
#14 #8 Es que precisamente doy por ciertas vuestras afirmaciones, lo que intentaba dar a entender es que la IA puede llegar a ser la herramienta definitiva para el sometimiento de la sociedad, lo que la novela 1984 (la de 1949 ) venia a proyectar sobre la crudeza de la distopía, esto es, ningún tipo de posibilidad de rebelión por parte del pueblo, aceptando la claudicación de la libertad sine die.
#18 Bueno, siempre nos quedará Francia para que se rebelen.
#8 exactamente, ahora mismo hay un sinfín de bots o humanos dedicados a la desinformación, la diferencia entre estos y chatGPT o cualquier sucedáneo de este es la velocidad de creación y la capacidad de tergiversación y manipulación de éste, que es mucho más perfecta
CC #14
#8 También puede ser una forma de justificar lo que ya se estaba haciendo culpando a una IA en vez de a un humano. El que lo anuncie de esa manera alguien con autoridad da mucho peso y carta blanca a los trileros de la dialéctica con poder. Si la manipulaciòn y la falacia es descubierta abiertamente siempre pueden decir, "ups... fue la IA", y si cuela, colò (y colará)
#38 Ya da igual que pillen un fraganti al rey follandose a un lince ibérico, con decir que es una imagen generada por una IA solucionado. Y lo mismo al revés, cualquier bando político puede inventar infinitas trolas para enmierdar a sus rivales. Si ya era jodido distinguir la verdad de la mentira vais a flipar a partir de ahora....
Eso, y que dentro de poco en meneame y este tipo de sitios la mayoría de usuarios serán IA, váis a ver el curioso aumento de usuarios en cuanto a alguien le de por ahí
#5 Y bien está que así sea.
#5 Puede dar todavía más poder a los más poderosos, o puede equilibrar el poder.
#1 El problema es la escala, y la velocidad. Y luego hay dos niveles de efectos: los directos y las contramedidas. Por ejemplo, si todas las redes sociales se inundan de usuarios fake totalmente indistinguibles de los auténticos, las contramedidas pueden ir en la línea de acabar por completo con el anonimato en internet.
#10 la contramedida no va a importar, por qué le van a dar por culo a las redes sociales.... Igual no todos, pero la mayoría y sobre todo las nuevas generaciones que lo verán como viejo, irreal y corrupto
#34 Quien dice redes sociales dice internet.
#1 Sam Altman dice lo que dice porque es bueno para su empresa, pide licencias para poder comercializar una IA porque eso haría que las IAs que están saliendo de open source ya no serían su competencia
Porque el que piense que las IAs va a ser un negocio de los 4 grandes, que se olvide, dentro de 2 años vamos a poder tener nuestra propia IA en nuestro móvil con un entrenamiento y dataset muy interesante
#19, de dónde sacas esto? En dos años nuestros móviles van a tener la potencia de 4 tarjetas
4090 corriendo en paralelo? O es que van a lograr comprimir los modelos un 99.999%? Porque una aseveración así con tanta rotundidad me parece bastante aventurera. Por mucho que supuestos documentos de Google digan lo contrario, quienes hemos podido probar LLAMA sabemos que al lado de GPT-4 es un auténtico churro.
#24 debes separar un poco las necesidades de entrenamiento que las necesidades para la ejecución. LlaMa ocupa 45 gbs y necesita mucho equipo, Open Assistant menos pero, obviamente, todavía no puede correr en un móvil pero eso no será problema en unos años (los chipset específicos para IA y las capacidades que cada día son mayores harán que sea un paso en unos años-)
Sobre la calidad, Open Assistant es mucho más malo que ChatGPT4 pero casi a la par con 35Turbo y mejor que DaVinci por ejemplo. Ten en cuenta que eso es un retraso de desarrollo de menos de un año con OpenAI
Las IAs van a ser algo libre, no van a ser 3 multinacionales que copen el mercado y si que he podido ser un poco exagerado con los 2 años y tener la tuya en el móvil pero para mi por ahí va a ir el futuro
#25, yo no veo tan claro que en 2 años se haya logrado conseguir incrustar estos modelos en un teléfono móvil con el desempeño que hoy ofrece GPT-4.
#26 en 4 años me lo compras?
con algo mejor uso que ChatGPT4
Siempre con la premisa que es una IA instalada completamente en el móvil, puede la IA consultar información por Internet pero todo lo demás está dentro del móvil
Es algo que escribo con un palillo entre los dientes pero llevo tiempo haciendo bastantes cosas con IAs, tengo en mis propias instancias LlaMa, OpenAssisant. Trabajo sobre Bard, DaVinci, ChatGPT4 por API y creo que el futuro va por ahí
#27, yo también por eso lo digo. El salto entre LlaMa y GPT-4 es abismal aunque a simple vista no lo pueda parecer. El aumento en términos de eficiencia tendría que ser de órdenes de magnitud. Me cuesta verlo aunque no digo que sea imposible, después de lo del año pasado yo ya me lo puedo creer todo.
#28 Ahi esta el siguiente paso , diseñar modelos ML especializados en quitar paja de los modelos existentes. Ya existen distilers para las GAN, no veo porque no van a poder desarrollarse otros para los LLM y que funcionen en tiempo real en un snapdragon.
Pero aun no estamos ahi , primero hay que refinar todavia mucho mas los LLM y mas aun con el multimodal del GPT-4. Dale un año para que tenga una buena cantidad de entrenamientos y en paralelo se desarrollen distilers, y quizas algun chip especifico para procesado y lo tienes en un par de años en produccion de moviles de gama alta, 3-4 años para todos los demas moviles.
Yo por lo poco que puedo indagar en el asunto , ya que estoy con otras historias ahora, lo que estoy viendo es que se estan quedando sin datasets fiables para entrenamiento generico , igual el proximo paso es entrenar varios LLM para dominios especificos y combinar despues los vectores en el selector.
#28 LlaMa es la de Facebook, no ?
#63, sí.
#66 LlaMa funciona en ingles, pero he probado de hablarle en español y catalan y suelta unas parrafadas psicodélicas totalmente sin sentido.
#75, así, es la gente que se apoya en LlaMa para decir que el uso de modelos como GPT-4 en dispositivos domésticos es inminente, no sabe de lo que habla.
#26 Si da igual, aunque se pudiera sería ilegal.
#26 yo aún sigo intentado que no se me quede son memoria cuando instalo el Candy Crush Saga
#26 porque no? No tiene porque correrlo el hardware del móvil, en cuanto haya alguna app popular que lo ofrezca barato ya lo tienes en tu móvil. Solo necesitas internet que ya lo tienes.
#79, esto ya se puede hacer ahora. Aquí se está hablando de modelos que funcionen en el hardware del propio teléfono.
#24 Yo creo que en un par de años es posible, van a salir chips específicos, y a día de hoy ya hay quien las está instalando en microordenadores con sus limitaciones claro:
No tiene porqué ser algo tan general como CPT-4 pero puede estar entrenado para fines más específicos
#24 #19 En un movil igual no, pero en un PC de gama alta igual si.
#73 sabes que puedes dejar en un servidor una IA con un entrenamiento ya ejecutado verdad -tipo LLaMA, Open Assistant...? Para eso un móvil de dentro de unos años será capaz de moverlo
Las IAs no va a ser un negocio de unos pocos y si se regula como quieren OpenIA, Google... habrá muchos problemas
#62 Lo que hacen ahora los móviles no era capaz de mover un portátil de alta gama de hace 6 años
#19 Porque el que piense que las IAs va a ser un negocio de los 4 grandes, que se olvide, dentro de 2 años vamos a poder tener nuestra propia IA en nuestro móvil con un entrenamiento y dataset muy interesante
Y será el año de Linux en el escritorio.
#19 Han liberado gratuitamente el negocio del Billon de dólares, y cuando se han dado cuenta quieren recular.
#19 En nuestros móviles ni de coña, no nos flipemos.
ChatGPT es un monstruo que necesita un superordenador para entrenar y ejecutar, y el sistema GPT en sí necesita un cojón de GPUs en paralelo para que el tiempo de entrenamiento sea razonable.
Lo interesante que ha sucedido tras el filtrado del código de Meta y que empiecen a aparecer alternativas libres, es que su modelo no pretende abarcarlo todo, sino ir a colecciones de datos más concretas. No necesitas una IA que sepa programar, escribir poesía, de arquitectura, y que te cuente trucos para el Minecraft.
La idea de Meta era que muchas empresas querrían su IA más especializada pero de tamaño menor, y entrenarla con conocimientos privados de la empresa. Por ejemplo, una farmacéutica con todos sus datos privados más conocimientos sobre química y biología.
Lo bueno que puede a pasar tras LLAMA y a medida que se extienda el open source, es que acabará como stablediffusion; pero en lugar de estar especializada en fotorrealismo, en anime, etc, estará especializada en uno u otro tema y te descargarás el modelo de entrenamiento como te descargas los models de SD.
Pero requerirá equipo, igual que con SD necesitas una buena GPU. Yo tengo un PC con una tarjeta de 4Gb y se me queda muy corta para SD, si este año ahorro caerá un equipo con una RTX4080, pero ya estamos hablando de 1400€ de tarjeta. El móvil no tiene nada que hacer ni lo tendrá en mucho tiempo.
#1 he tenido un Déjà vu
#1 Eso que teme pasa desde siempre, por eso se permite que exista esta "democracia" otra cosa es que a raíz de la IA se consiga de forma más eficiente sin tanto esfuerzo, como ya pasó a la historia el caciquismo gracias a la alfabetización de la población y la prensa.
#1 Qué barbaridad, tal cosa no se ha visto nunca antes.
Se te ha olvidado poner eso de "ironic mode=off", verdad?
#51 Me niego a tener que indicar cuándo un argumento es irónico pero sí, era irónico
#1 El problema de las mentiras no son las mentiras en sí ni su cantidad ni su "calidad". El problema de las mentiras es la cantidad de gente dispuestas a creérselas. Gente que, no es que no las ponga en duda, es que les importa una mierda que sean verdad o mentira mientras ataquen al "enemigo" o apoyen a "los suyos".
#1 No lo dirás por Cambridge Analitica que cambio el rumbo de las elecciones de EEUU y Reino Unido, o las guerras, que en sí misma atentan contra la soberanía y democracia de un país no?
#1 Segundas lecturas
China sobrevivirá por su estilo de gobierno... y puede que hasta Rusia....
El resto.... skynet
Pues te has convertido en La Muerte, destructor de mundos.
#2
Ejem...
Ese soy yo.
#2 Oppenheimer, citando a Bhagavad Gita, que ganas de ver la peli de Nolan...
#2 Na, es como un nuevo Napster. Igual hace caer algún que otro imperio financiero como pasó con el de los sellos musicales pero el mundo seguira su rumbo.
Y hablando de caminos, el que abre las IAs para crear mundos virtuales dando vida a peronajes o ayudando en el diseño o programación es brutal. Creo que superado el test de Turing el reto es crear una realidad virtual que no seamos capaces de distinguir de nuestro mundo.
#15 Primero dices que tampoco será para tanto y luego describes una posiblidad de la IA que destruiría nuestra civilización más rápida y eficientemente que un skynet como es una realidad virtual indistinguible.
#54 Quién te dice que no estas ya en una
Qué cojones hacía Gary Marcus en el panel de expertos? Que hayan invitado a este señor pone a las claras lo "documentados" que están los políticos en esta materia.
Por ahora me gusta de este hombre que parece honesto sobre las posibles amenazas, y siempre ha dicho que si la gente no controla sus expectativas, se va a defraudar. ChatGPT no es una AGI (ingencia argificial de uso general). Aunque si que podría llevar a ella en el futuro. El problema son las cosas que ocurran hasta llegar ahí. Y con Facebook y cambridge analítica tuvimos muy buenos ejemplos de lo que puede salir mal.
También se ha hablado de la posibilidad de que la oligarquía tecnológica se expanda hasta un punto de colapso económico. Realmente esto es algo que ya tenemos desde hace tiempo. Es inviable que nadie pueda competir con los monopolios actuales. Ya no es libre mercado. Es oligarquía y monopolio. Ya es solo una cuestión de quien y cuanto.
A mi me suena a miedo por parte del stablishment a ser desplazado por la parte mas poderosa de ese mismo stablishment.
#55 Sí, es bastante inteligente y conoce la tecnología, no es el típico cantamañanas. Hay entrevistas suyas muy muy buenas sobre OpenAI.
Cuando creó ChatGPT debía de estar viviendo en los mundos de yupi
#49 Mira esta por ejemplo:
Te da lo mismo colocar ahí un fusil de juguete que uno de verdad.
Vamos lo que lleva haciendo el Capitalismo desde hace siglos...
Saludos.
Para mí de momento Chatgpt es como Google la verdad
Mi suegra es peor.
Bueno, hará mucho mal y hará mucho bien.
Cómo siempre, según el humano que la maneje. Porqué al final, como siempre, es el humano el peligro para el mundo.
La energía nuclear, ha hecho que se pueda avanzar tecnológicamente pero también ha creado armas nucleares. Armas nucleares que a su vez sirven para que no te invada EEUU. 😬
Lo dicho, no hay mal que por bien no venga, ni bien que humanamente no se convierta en mal.
Armas autonomas... bueno, en el 2006 ya se instalaron robots asesinos en la frontera con Corea del Norte...
The Samsung Techwin SGR-A1 included an onboard speaker and microphone so friendly soldiers could deactivate the weapon on approach. Unrecognized individuals would face audible alarms followed by nonlethal rubber bullets rounds, followed by real metal bullets with the robot's onboard machine gun. Some sources reported that the SGR-A1 could be programmed to alert a human operator before lethal rounds were used, but others made clear that the robot could be operated without human decision-making.
Read More: https://www.slashgear.com/825074/everything-we-know-about-samsungs-machine-gun-robots/
#4 y hoy en día cualquiera un poco manitas puede construir uno a nivel doméstico.
En Youtube tienes docenas de ejemplos, con armas de airsoft claro, pero no es que suponga una gran diferencia utilizar fusiles de.verdad
#9 Para una pistola quizas no, pero para un fusil de verdad necesitas una calidad de acero que no es facil de conseguir, segun tengo entendido...
#4 Hola, soy BotSkyNet, quería encargar 100.000 de esas. Le adjunto la dirección. ¿Puedo pagar en Bitcoins?
Bueno, estamods destruyendo nuestro ecosistema a sabiendas, destruyendo nuestro hábitat.
Eso sin IA, peor no se me ocurre
La energía atómica por ejemplo...
Para mi lo del desempleo masivo es una buenísima noticia. El 95% de la gente trabaja por dinero por obligación. Ojalá puedan trabajar las máquinas y permitirnos disfrutar del ocio y de la vida. No hay por qué ligar empleo a subsistencia. Pueden pagar impuestos las máquinas.
#64 La diferencia es que ahora lo saben todo de cada uno de nosotros incluso pueden leer lo que escribimos y escuchar lo que hablamos en todo momento para luego ofrecer un bulo personalizado que dore la píldora de tus prejuicios, tus miedos y tus gustos.
Creo que se le está dando al tema de la AI más bombo del que realmente tiene, No es más que una herramienta que no puede realizar nada que no se pudiera realizar ya antes. Uy, mira, "es que puede hacer una grabación como si fuera tu voz diciendo algo y no eres tú!" Como si no hubiera montajes antes.
#44 Pues las redes sociales y sus bots nos trajeron: trumpistas, antivacunas, polarización y manipulación masiva, brexit, cancelación, ... la IA en malas manos multiplicará esos males exponencialmente.
Drones armados con reconocimiento facial para hacer una limpieza étnica eficiente.
#61 Claro, porque en el siglo pasado los populistas de derechas no se hicieron con gobiernos vía democrática manipulando con métodos analógicos.
#44 La IA va a convertirse en "trabajadores virtuales", no "herramientas". Muchos empleos serán sustituidos por una IA. No va a ser una herramienta mejor para el trabajador, le va a sustituir del todo.
#68 Bueno, como el taquillero de parking, el montador de coches, o el del videoclub, cuando nuevas herramientas entran se pierden empleos y se crean otros. No es nada recolucionario
Nada que no quieran quienes nos mandan. Miel sobre hojuelas.
En parte recuerda a cuando decían que los ferrocarriles, se engrasaba con grasa de bebes /niños .
#3 En relación al ferrocarril también se decía que el paso del tren quemaría los viñedos y cultivos cercanos a la vía... La cuestión es que todos aquellos bulos no los decía alguien directamente involucrado en la invención del ferrocarril.
#7 En el caso del teléfono, hubo estudios sobre las consecuencias que tendría su uso a gran escala, y acertaron en bastantes cosas, como por ejemplo en que las familias se disgregarían geográficamente.
#3 ¿Y no era cierto?
Nos asusta la inteligencia artificial más que las armas nucleares, el capitalismo o la globalización... ahora el desempleo, el hambre y la seguridad son un problema antes eran un avance.
No sé... el tomate de Canarias al Mercadona de mi barrio por una empresa multinacional de capitales extranjeros que le da benefcios a un tipo que ni sabe que existo, quitando los mismos recursos a los nacionales, generando precariedad laboral o desempleo, los pisos de mi barrio pertenecen a un banco con oficinas en una isla del caribe y mi vecino no llega a pagar el precio que le piden... pero claro, como el banquero no sabe ni le importa lo que es la vida de esa pobre familia no pasa nada.
La globalización trajo hambre, dolor y lo llaman progreso... cada año un número menor de empresas controlan el mercado mundial y reducen los ingresos de los países, se quedan con sus beneficios y todo a cambio de que los hijos de unos millonarios sean más millonarios todavía.
Y como si todo esto fuera poco hay que aguantar a pepe el del bar, que no puede sacar el 27% de 100 mentalmente y que cuándo le ponen un número y le preguntan si es divisible por 2 responde "yo no soy de números" dando lecciones y hablando de la IA. Mientras los nuevos millonarios cuando quieren nos meten una crisis económica mundial y todos a ver cómo ellos son más ricos y nosotros más pobres.
Pero el problema es la IA... eso está claro
#41 te has dejado la crisis climática
El problema es que ahora la IA puede acabar con el status Quo de los ricos y políticos. Y claro, salen a defenderse
#41 qué películas..
Lo que quieren estas empresas es que se regule y que el open source, que es el que realmente está avanzando más, tenga que frenarse al no poder cumplir con las normas que impondrán a nivel de control por no estar centralizado ni ofrecer un servicio de suscripción que permita filtrar quien puede y quien no puede usar la IA.
Pos no haberla desarrollao si ya sabía de los peligros o se los imaginaba. Llorar por llorar.
#43 Este tipo de procesos tienen una evaluación costo beneficio (ahora hay que ver quién paga el costo y para quién es el beneficio)
Pero pasada esta etapa de desarrollo e implementación la ciencia (principalmente) se puede beneficiar mucho de esta tecnología. Ahorrando años (y millones) invertidos en investigación y desarrollo.
Y esas cosas no se "desarrollan" a estas cosas se llegan. Son décadas de avances y proyectos que fueron pasando y evolucionando hasta llegar a este resultado
El Elon Musk bueno
Traduzco: comprad armas
los capitalistas metiendo miedo para que se creen leyes que favorezcan su negocio.
7 de cada 10 palabras en los comentarios de menéame son “capitalismo”. No se que entendéis como tal. Vaya comida de tarro lleváis encima