La pugna por la empresa dueña de ChatGPT va más allá de una escaramuza empresarial. Es una lucha a muerte entre utópicos y fatalistas sobre cómo se debe regular la IA. Y, de fondo, el temor a China
amp.elmundo.es
La guerra que se esconde detrás del 'caso OpenAI' que puede cambiar el futuro del mundo
JORGE BENÍTEZ 22/11/2023 08:17FacebookTwitterWhatsapp
7 - 8 minutos
La guerra por el control de OpenAI, la empresa que fascinó al mundo con el lanzamiento de ChatGPT, va más allá de un episodio al estilo de la serie Succession, con sus despidos, bandos y puñaladas, al que se ha enganchado toda la audiencia interesada en la tecnología. Más allá de la bruma que generan tuits y comunicados de prensa que dan un giro a los acontecimientos cada pocas horas , vemos que, en realidad, quién se queda al frente de OpenAI no es lo más importante de esta historia. Ni siquiera quién gana y quién pierde en el sector de la inteligencia artificial (IA). Lo que está en juego es, nada más y nada menos, que el futuro de la humanidad.
«Estamos ante dos corrientes que pelean no sólo en OpenAI, sino en toda la Tierra», dice José Ignacio Latorre, físico teórico y autor de Ética para máquinas. Aún más lejos va Carissa Veliz, profesora de Filosofía y Ética en la Universidad de Oxford: «El drama de OpenAI muestra que la inteligencia artificial no va a ayudarnos a resolver nuestros problemas de gobernanza. Todo lo contrario: cada vez resulta más evidente que en lo que tenemos que invertir es en ética».
En definitiva, el lío de OpenAI es un microcosmos de una guerra cultural que tiene como protagonista a la IA en empresas y gobiernos de todo el mundo. Y, como en todas las guerras, hay bandos enfrentados a muerte.
En una trinchera tenemos a los alarmistas que consideran que la IA debe ser regulada porque algunas de sus aplicaciones suponen un riesgo existencial para la Humanidad. En la opuesta pelean los superoptimistas, aquellos que niegan cualquier posible catástrofe derivada de esta tecnología y que, al contrario, creen que cualquier control es una peligrosa interrupción del progreso.
La crisis en OpenAI demuestra la difícil convivencia entre dos familias que no se tragan. Lo curioso es que el origen del odio se encuentra en la mismísima OpenAI y su peculiar diseño corporativo: en principio se fundó como una compañía sin ánimo de lucro, pero más tarde se creó una filial para defender sus intereses económicas con el fin de financiar su exorbitante inversión tecnológica. En definitiva, la empresa encarna dos espíritus dentro de un mismo cuerpo.
Esta controversia afecta a toda la industria tecnológica, así que pongamos dos ejemplos radicales de ambas visiones.
Dentro de la familia más cautelosa, tenemos a dos hermanos criados en OpenAI, Daniela y Dario Amodei, quienes desertaron de la empresa cuando sintieron que su espíritu primigenio era traicionado y Microsoft se convertía en su aliado preferente con una inversión de mil millones de dólares. Así, en 2020 fundaron Anthropic, que hoy es el principal competidor de OpenAI, vale una fortuna y es apoyada por Amazon.
En cuanto a la otra corriente, la tecnooptimista con tintes casi libertarios, su principal gurú es Marc Andreessen, magnate de internet y autor de un reciente manifiesto de más de 5.000 palabras sobre el futuro de la tecnología y la inteligencia artificial que ha generado un debate incendiario en las redes sociales. Andreessen, cofundador del navegador Netscape, defiende con la contundencia de un profeta del Antiguo Testamento que cualquier regulación de la IA es una amenaza para los seres humanos. Según su argumentario, esta tecnología puede salvarnos de morir en tiempos de múltiples guerras y amenazas pandémicas. No sólo eso: considera que es falso que la IA vaya a destruir empleos o que las redes sociales generen adicción y difundan fake news.
«Existen enormes conflictos dentro de las empresas sobre qué es exactamente una IA justa y ética. ¿Por qué? Porque, en general, existen muchas discrepancias sobre lo que queremos decir cuando nos referimos a que una decisión es justa y ética», dice Viktor Mayer-Schönberg, profesor de Gobernanza y Regulación de Internet en la Universidad de Oxford, quien está seguro que la polémica que estalló el fin de semana trasciende al futuro de OpenAI. «No me sorprende lo que ha pasado estos días. Lo que sí me sorprende es que haya bastantes tecnólogos que consideren que estos desacuerdos tienen una solución técnica. Esto va mucho más allá, va de valores, perspectivas y esperanzas tanto individuales como sociales».
Más allá de la abstracción del debate, nos encontramos ante una lucha en la que está en juego un negocio multimillonario y en el que los Estados están tomando un protagonismo sin precedentes.
«Las reglas del juego están cambiando», dice Mark Coeckelbergh, profesor de Filosofía de la Tecnología de la Universidad de Lovaina, por email. «Estoy de acuerdo en que existe un conflicto entre la cautela excesiva y la ausencia de límites. Estamos ante una ideología que aboga por el desarrollo de la IA en general como algo positivo, y que cualquiera que se interponga a este pensamiento debe ser considerado alguien incapaz de contemplar un futuro brillante, que quizás sea como el mundo feliz que describe Aldous Huxley».
Nadie discute que nada será igual. «Los países han aprendido la lección y no están dispuestos a tolerar los atropellos en temas de privacidad con los usuarios de las tecnológicas, que hemos visto que durante años preferían pedir perdón a pedir permiso», dice un empleado de una gran empresa tecnológica que pide no ser identificado.
Europa es la superpotencia que parece más firme en cuanto a regulación, pero está claro que EEUU ya ha dejado de ser ese paraíso que daba plena libertad a Silicon Valley para hacer lo que quisiera durante muchos años. La razón es su interés estratégico.
Este verano, el presidente Joe Biden ya dio un toque a las empresas líderes, entre ellas Microsoft, Meta, OpenAI y Google, para que asumieran «compromisos voluntarios» para que sus productos de IA sean sometidos a inspección antes de salir al mercado. Y aún hay más: a través de una orden ejecutiva, el Gobierno de EEUU va a obligarlas a que notifiquen el desarrollo de modelos de IA que superen una determinada potencia alegando razones de seguridad.
Sin duda, los gobiernos se están poniendo muy serios. Esto indicaría que los tecnooptimistas tienen todas las de perder. Sin embargo, aún reservan una bala de plata: China.
Hay tanto en juego que tanto Occidente como China juegan a la opacidad
Porque todos los expertos consultados reconocen que nadie sabe hasta dónde llegan los avances de los chinos en IA de vanguardia. Hay tanto en juego que tanto Occidente como China juegan a la opacidad. Por eso, muchos optimistas juegan con el miedo de que Pekín no pierda el tiempo con debates culturales y tenga cero pudor regulatorio para que Occidente también apriete el acelerador de las nuevas tecnologías.
«Una cosa tiene que estar clara: si China no cumple las normas básicas de ética y protección, nadie debería comprarles nada», afirma con contundencia Ricard Martínez, especialista en Privacidad y Transformación Digital de la Universidad de Valencia. «Si el resto del mundo no tomara medidas ante eso, estaríamos inmersos en una ley de la jungla muy peligrosa para todos».
#1 Yo utilizo Bypass Paywalls Clean, addon para firefox. Parece que funciona porque no me he dado cuenta de que es muro de pago .
Copio la noticia porque me ha parecido muy interesante:
La guerra por el control de OpenAI, la empresa que fascinó al mundo con el lanzamiento de ChatGPT, va más allá de un episodio al estilo de la serie Succession, con sus despidos, bandos y puñaladas, al que se ha enganchado toda la audiencia interesada en la tecnología. Más allá de la bruma que generan tuits y comunicados de prensa que dan un giro a los acontecimientos cada pocas horas , vemos que, en realidad, quién se queda al frente de OpenAI no es lo más importante de esta historia. Ni siquiera quién gana y quién pierde en el sector de la inteligencia artificial (IA). Lo que está en juego es, nada más y nada menos, que el futuro de la humanidad.
«Estamos ante dos corrientes que pelean no sólo en OpenAI, sino en toda la Tierra», dice José Ignacio Latorre, físico teórico y autor de Ética para máquinas. Aún más lejos va Carissa Veliz, profesora de Filosofía y Ética en la Universidad de Oxford: «El drama de OpenAI muestra que la inteligencia artificial no va a ayudarnos a resolver nuestros problemas de gobernanza. Todo lo contrario: cada vez resulta más evidente que en lo que tenemos que invertir es en ética».
En definitiva, el lío de OpenAI es un microcosmos de una guerra cultural que tiene como protagonista a la IA en empresas y gobiernos de todo el mundo. Y, como en todas las guerras, hay bandos enfrentados a muerte.
En una trinchera tenemos a los alarmistas que consideran que la IA debe ser regulada porque algunas de sus aplicaciones suponen un riesgo existencial para la Humanidad. En la opuesta pelean los superoptimistas, aquellos que niegan cualquier posible catástrofe derivada de esta tecnología y que, al contrario, creen que cualquier control es una peligrosa interrupción del progreso.
La crisis en OpenAI demuestra la difícil convivencia entre dos familias que no se tragan. Lo curioso es que el origen del odio se encuentra en la mismísima OpenAI y su peculiar diseño corporativo: en principio se fundó como una compañía sin ánimo de lucro, pero más tarde se creó una filial para defender sus intereses económicas con el fin de financiar su exorbitante inversión tecnológica. En definitiva, la empresa encarna dos espíritus dentro de un mismo cuerpo.
Esta controversia afecta a toda la industria tecnológica, así que pongamos dos ejemplos radicales de ambas visiones.
Dentro de la familia más cautelosa, tenemos a dos hermanos criados en OpenAI, Daniela y Dario Amodei, quienes desertaron de la empresa cuando sintieron que su espíritu primigenio era traicionado y Microsoft se convertía en su aliado preferente con una inversión de mil millones de dólares. Así, en 2020 fundaron Anthropic, que hoy es el principal competidor de OpenAI, vale una fortuna y es apoyada por Amazon.
En cuanto a la otra corriente, la tecnooptimista con tintes casi libertarios, su principal gurú es Marc Andreessen, magnate de internet y autor de un reciente manifiesto de más de 5.000 palabras sobre el futuro de la tecnología y la inteligencia artificial que ha generado un debate incendiario en las redes sociales. Andreessen, cofundador del navegador Netscape, defiende con la contundencia de un profeta del Antiguo Testamento que cualquier regulación de la IA es una amenaza para los seres humanos. Según su argumentario, esta tecnología puede salvarnos de morir en tiempos de múltiples guerras y amenazas pandémicas. No sólo eso: considera que es falso que la IA vaya a destruir empleos o que las redes sociales generen adicción y difundan fake news.
«Existen enormes conflictos dentro de las empresas sobre qué es exactamente una IA justa y ética. ¿Por qué? Porque, en general, existen muchas discrepancias sobre lo que queremos decir cuando nos referimos a que una decisión es justa y ética», dice Viktor Mayer-Schönberg, profesor de Gobernanza y Regulación de Internet en la Universidad de Oxford, quien está seguro que la polémica que estalló el fin de semana trasciende al futuro de OpenAI. «No me sorprende lo que ha pasado estos días. Lo que sí me sorprende es que haya bastantes tecnólogos que consideren que estos desacuerdos tienen una solución técnica. Esto va mucho más allá, va de valores, perspectivas y esperanzas tanto individuales como sociales».
Más allá de la abstracción del debate, nos encontramos ante una lucha en la que está en juego un negocio multimillonario y en el que los Estados están tomando un protagonismo sin precedentes.
«Las reglas del juego están cambiando», dice Mark Coeckelbergh, profesor de Filosofía de la Tecnología de la Universidad de Lovaina, por email. «Estoy de acuerdo en que existe un conflicto entre la cautela excesiva y la ausencia de límites. Estamos ante una ideología que aboga por el desarrollo de la IA en general como algo positivo, y que cualquiera que se interponga a este pensamiento debe ser considerado alguien incapaz de contemplar un futuro brillante, que quizás sea como el mundo feliz que describe Aldous Huxley».
Nadie discute que nada será igual. «Los países han aprendido la lección y no están dispuestos a tolerar los atropellos en temas de privacidad con los usuarios de las tecnológicas, que hemos visto que durante años preferían pedir perdón a pedir permiso», dice un empleado de una gran empresa tecnológica que pide no ser identificado.
Europa es la superpotencia que parece más firme en cuanto a regulación, pero está claro que EEUU ya ha dejado de ser ese paraíso que daba plena libertad a Silicon Valley para hacer lo que quisiera durante muchos años. La razón es su interés estratégico.
Este verano, el presidente Joe Biden ya dio un toque a las empresas líderes, entre ellas Microsoft, Meta, OpenAI y Google, para que asumieran «compromisos voluntarios» para que sus productos de IA sean sometidos a inspección antes de salir al mercado. Y aún hay más: a través de una orden ejecutiva, el Gobierno de EEUU va a obligarlas a que notifiquen el desarrollo de modelos de IA que superen una determinada potencia alegando razones de seguridad.
Sin duda, los gobiernos se están poniendo muy serios. Esto indicaría que los tecnooptimistas tienen todas las de perder. Sin embargo, aún reservan una bala de plata: China.
Porque todos los expertos consultados reconocen que nadie sabe hasta dónde llegan los avances de los chinos en IA de vanguardia. Hay tanto en juego que tanto Occidente como China juegan a la opacidad. Por eso, muchos optimistas juegan con el miedo de que Pekín no pierda el tiempo con debates culturales y tenga cero pudor regulatorio para que Occidente también apriete el acelerador de las nuevas tecnologías.
«Una cosa tiene que estar clara: si China no cumple las normas básicas de ética y protección, nadie debería comprarles nada», afirma con contundencia Ricard Martínez, especialista en Privacidad y Transformación Digital de la Universidad de Valencia. «Si el resto del mundo no tomara medidas ante eso, estaríamos inmersos en una ley de la jungla muy peligrosa para todos».
¿Estamos ciegos o qué? Pues va a tirar por el lado menos ético como pasa con cualquier avance que tenga esa posibilidad. No quiere decir que no se use con fines éticos, pero la verdad, no entiendo el debate.
Y lo que pase en esta empresa es indiferente, pues sólo es una empresa. Claro, si ya suponemos que esta empresa es a la que vamos a dejar en sus manos el control mundial de la IA, como ya pretendieron ellos mismos, pues sería un error porque aparte de acabar siendo usada como un negocio más (sin ninguna ética, porque así son los negocios), el control estaría en unas solas manos y en EEUU.
Por ejemplo, si ahora tienen más urgencia en aumentar el armamento, evolucionar misiles, controlar el mundo, controlar a la gente; sus pensamientos, sus acciones y sus idas y venidas, que en en parar el calentamiento global, dudar en qué dirección va a ser usada la IA, es una duda estéril.
Comentarios
Artículo con premisa interesante pero tras muro de pago - algún truquele para leer?
#1 abrir en Firefox y modo lectura.
Edito , mejor te copio pego
amp.elmundo.es
La guerra que se esconde detrás del 'caso OpenAI' que puede cambiar el futuro del mundo
JORGE BENÍTEZ 22/11/2023 08:17FacebookTwitterWhatsapp
7 - 8 minutos
La guerra por el control de OpenAI, la empresa que fascinó al mundo con el lanzamiento de ChatGPT, va más allá de un episodio al estilo de la serie Succession, con sus despidos, bandos y puñaladas, al que se ha enganchado toda la audiencia interesada en la tecnología. Más allá de la bruma que generan tuits y comunicados de prensa que dan un giro a los acontecimientos cada pocas horas , vemos que, en realidad, quién se queda al frente de OpenAI no es lo más importante de esta historia. Ni siquiera quién gana y quién pierde en el sector de la inteligencia artificial (IA). Lo que está en juego es, nada más y nada menos, que el futuro de la humanidad.
«Estamos ante dos corrientes que pelean no sólo en OpenAI, sino en toda la Tierra», dice José Ignacio Latorre, físico teórico y autor de Ética para máquinas. Aún más lejos va Carissa Veliz, profesora de Filosofía y Ética en la Universidad de Oxford: «El drama de OpenAI muestra que la inteligencia artificial no va a ayudarnos a resolver nuestros problemas de gobernanza. Todo lo contrario: cada vez resulta más evidente que en lo que tenemos que invertir es en ética».
En definitiva, el lío de OpenAI es un microcosmos de una guerra cultural que tiene como protagonista a la IA en empresas y gobiernos de todo el mundo. Y, como en todas las guerras, hay bandos enfrentados a muerte.
En una trinchera tenemos a los alarmistas que consideran que la IA debe ser regulada porque algunas de sus aplicaciones suponen un riesgo existencial para la Humanidad. En la opuesta pelean los superoptimistas, aquellos que niegan cualquier posible catástrofe derivada de esta tecnología y que, al contrario, creen que cualquier control es una peligrosa interrupción del progreso.
La crisis en OpenAI demuestra la difícil convivencia entre dos familias que no se tragan. Lo curioso es que el origen del odio se encuentra en la mismísima OpenAI y su peculiar diseño corporativo: en principio se fundó como una compañía sin ánimo de lucro, pero más tarde se creó una filial para defender sus intereses económicas con el fin de financiar su exorbitante inversión tecnológica. En definitiva, la empresa encarna dos espíritus dentro de un mismo cuerpo.
Esta controversia afecta a toda la industria tecnológica, así que pongamos dos ejemplos radicales de ambas visiones.
Dentro de la familia más cautelosa, tenemos a dos hermanos criados en OpenAI, Daniela y Dario Amodei, quienes desertaron de la empresa cuando sintieron que su espíritu primigenio era traicionado y Microsoft se convertía en su aliado preferente con una inversión de mil millones de dólares. Así, en 2020 fundaron Anthropic, que hoy es el principal competidor de OpenAI, vale una fortuna y es apoyada por Amazon.
En cuanto a la otra corriente, la tecnooptimista con tintes casi libertarios, su principal gurú es Marc Andreessen, magnate de internet y autor de un reciente manifiesto de más de 5.000 palabras sobre el futuro de la tecnología y la inteligencia artificial que ha generado un debate incendiario en las redes sociales. Andreessen, cofundador del navegador Netscape, defiende con la contundencia de un profeta del Antiguo Testamento que cualquier regulación de la IA es una amenaza para los seres humanos. Según su argumentario, esta tecnología puede salvarnos de morir en tiempos de múltiples guerras y amenazas pandémicas. No sólo eso: considera que es falso que la IA vaya a destruir empleos o que las redes sociales generen adicción y difundan fake news.
«Existen enormes conflictos dentro de las empresas sobre qué es exactamente una IA justa y ética. ¿Por qué? Porque, en general, existen muchas discrepancias sobre lo que queremos decir cuando nos referimos a que una decisión es justa y ética», dice Viktor Mayer-Schönberg, profesor de Gobernanza y Regulación de Internet en la Universidad de Oxford, quien está seguro que la polémica que estalló el fin de semana trasciende al futuro de OpenAI. «No me sorprende lo que ha pasado estos días. Lo que sí me sorprende es que haya bastantes tecnólogos que consideren que estos desacuerdos tienen una solución técnica. Esto va mucho más allá, va de valores, perspectivas y esperanzas tanto individuales como sociales».
Más allá de la abstracción del debate, nos encontramos ante una lucha en la que está en juego un negocio multimillonario y en el que los Estados están tomando un protagonismo sin precedentes.
«Las reglas del juego están cambiando», dice Mark Coeckelbergh, profesor de Filosofía de la Tecnología de la Universidad de Lovaina, por email. «Estoy de acuerdo en que existe un conflicto entre la cautela excesiva y la ausencia de límites. Estamos ante una ideología que aboga por el desarrollo de la IA en general como algo positivo, y que cualquiera que se interponga a este pensamiento debe ser considerado alguien incapaz de contemplar un futuro brillante, que quizás sea como el mundo feliz que describe Aldous Huxley».
Nadie discute que nada será igual. «Los países han aprendido la lección y no están dispuestos a tolerar los atropellos en temas de privacidad con los usuarios de las tecnológicas, que hemos visto que durante años preferían pedir perdón a pedir permiso», dice un empleado de una gran empresa tecnológica que pide no ser identificado.
Europa es la superpotencia que parece más firme en cuanto a regulación, pero está claro que EEUU ya ha dejado de ser ese paraíso que daba plena libertad a Silicon Valley para hacer lo que quisiera durante muchos años. La razón es su interés estratégico.
Este verano, el presidente Joe Biden ya dio un toque a las empresas líderes, entre ellas Microsoft, Meta, OpenAI y Google, para que asumieran «compromisos voluntarios» para que sus productos de IA sean sometidos a inspección antes de salir al mercado. Y aún hay más: a través de una orden ejecutiva, el Gobierno de EEUU va a obligarlas a que notifiquen el desarrollo de modelos de IA que superen una determinada potencia alegando razones de seguridad.
Sin duda, los gobiernos se están poniendo muy serios. Esto indicaría que los tecnooptimistas tienen todas las de perder. Sin embargo, aún reservan una bala de plata: China.
Hay tanto en juego que tanto Occidente como China juegan a la opacidad
Porque todos los expertos consultados reconocen que nadie sabe hasta dónde llegan los avances de los chinos en IA de vanguardia. Hay tanto en juego que tanto Occidente como China juegan a la opacidad. Por eso, muchos optimistas juegan con el miedo de que Pekín no pierda el tiempo con debates culturales y tenga cero pudor regulatorio para que Occidente también apriete el acelerador de las nuevas tecnologías.
«Una cosa tiene que estar clara: si China no cumple las normas básicas de ética y protección, nadie debería comprarles nada», afirma con contundencia Ricard Martínez, especialista en Privacidad y Transformación Digital de la Universidad de Valencia. «Si el resto del mundo no tomara medidas ante eso, estaríamos inmersos en una ley de la jungla muy peligrosa para todos».
#2 gracias por compartir
#1 abres en Firefox y le das a F9
#1 Yo utilizo Bypass Paywalls Clean, addon para firefox. Parece que funciona porque no me he dado cuenta de que es muro de pago .
Copio la noticia porque me ha parecido muy interesante:
La guerra por el control de OpenAI, la empresa que fascinó al mundo con el lanzamiento de ChatGPT, va más allá de un episodio al estilo de la serie Succession, con sus despidos, bandos y puñaladas, al que se ha enganchado toda la audiencia interesada en la tecnología. Más allá de la bruma que generan tuits y comunicados de prensa que dan un giro a los acontecimientos cada pocas horas , vemos que, en realidad, quién se queda al frente de OpenAI no es lo más importante de esta historia. Ni siquiera quién gana y quién pierde en el sector de la inteligencia artificial (IA). Lo que está en juego es, nada más y nada menos, que el futuro de la humanidad.
«Estamos ante dos corrientes que pelean no sólo en OpenAI, sino en toda la Tierra», dice José Ignacio Latorre, físico teórico y autor de Ética para máquinas. Aún más lejos va Carissa Veliz, profesora de Filosofía y Ética en la Universidad de Oxford: «El drama de OpenAI muestra que la inteligencia artificial no va a ayudarnos a resolver nuestros problemas de gobernanza. Todo lo contrario: cada vez resulta más evidente que en lo que tenemos que invertir es en ética».
En definitiva, el lío de OpenAI es un microcosmos de una guerra cultural que tiene como protagonista a la IA en empresas y gobiernos de todo el mundo. Y, como en todas las guerras, hay bandos enfrentados a muerte.
En una trinchera tenemos a los alarmistas que consideran que la IA debe ser regulada porque algunas de sus aplicaciones suponen un riesgo existencial para la Humanidad. En la opuesta pelean los superoptimistas, aquellos que niegan cualquier posible catástrofe derivada de esta tecnología y que, al contrario, creen que cualquier control es una peligrosa interrupción del progreso.
La crisis en OpenAI demuestra la difícil convivencia entre dos familias que no se tragan. Lo curioso es que el origen del odio se encuentra en la mismísima OpenAI y su peculiar diseño corporativo: en principio se fundó como una compañía sin ánimo de lucro, pero más tarde se creó una filial para defender sus intereses económicas con el fin de financiar su exorbitante inversión tecnológica. En definitiva, la empresa encarna dos espíritus dentro de un mismo cuerpo.
Esta controversia afecta a toda la industria tecnológica, así que pongamos dos ejemplos radicales de ambas visiones.
Dentro de la familia más cautelosa, tenemos a dos hermanos criados en OpenAI, Daniela y Dario Amodei, quienes desertaron de la empresa cuando sintieron que su espíritu primigenio era traicionado y Microsoft se convertía en su aliado preferente con una inversión de mil millones de dólares. Así, en 2020 fundaron Anthropic, que hoy es el principal competidor de OpenAI, vale una fortuna y es apoyada por Amazon.
En cuanto a la otra corriente, la tecnooptimista con tintes casi libertarios, su principal gurú es Marc Andreessen, magnate de internet y autor de un reciente manifiesto de más de 5.000 palabras sobre el futuro de la tecnología y la inteligencia artificial que ha generado un debate incendiario en las redes sociales. Andreessen, cofundador del navegador Netscape, defiende con la contundencia de un profeta del Antiguo Testamento que cualquier regulación de la IA es una amenaza para los seres humanos. Según su argumentario, esta tecnología puede salvarnos de morir en tiempos de múltiples guerras y amenazas pandémicas. No sólo eso: considera que es falso que la IA vaya a destruir empleos o que las redes sociales generen adicción y difundan fake news.
«Existen enormes conflictos dentro de las empresas sobre qué es exactamente una IA justa y ética. ¿Por qué? Porque, en general, existen muchas discrepancias sobre lo que queremos decir cuando nos referimos a que una decisión es justa y ética», dice Viktor Mayer-Schönberg, profesor de Gobernanza y Regulación de Internet en la Universidad de Oxford, quien está seguro que la polémica que estalló el fin de semana trasciende al futuro de OpenAI. «No me sorprende lo que ha pasado estos días. Lo que sí me sorprende es que haya bastantes tecnólogos que consideren que estos desacuerdos tienen una solución técnica. Esto va mucho más allá, va de valores, perspectivas y esperanzas tanto individuales como sociales».
Más allá de la abstracción del debate, nos encontramos ante una lucha en la que está en juego un negocio multimillonario y en el que los Estados están tomando un protagonismo sin precedentes.
«Las reglas del juego están cambiando», dice Mark Coeckelbergh, profesor de Filosofía de la Tecnología de la Universidad de Lovaina, por email. «Estoy de acuerdo en que existe un conflicto entre la cautela excesiva y la ausencia de límites. Estamos ante una ideología que aboga por el desarrollo de la IA en general como algo positivo, y que cualquiera que se interponga a este pensamiento debe ser considerado alguien incapaz de contemplar un futuro brillante, que quizás sea como el mundo feliz que describe Aldous Huxley».
Nadie discute que nada será igual. «Los países han aprendido la lección y no están dispuestos a tolerar los atropellos en temas de privacidad con los usuarios de las tecnológicas, que hemos visto que durante años preferían pedir perdón a pedir permiso», dice un empleado de una gran empresa tecnológica que pide no ser identificado.
Europa es la superpotencia que parece más firme en cuanto a regulación, pero está claro que EEUU ya ha dejado de ser ese paraíso que daba plena libertad a Silicon Valley para hacer lo que quisiera durante muchos años. La razón es su interés estratégico.
Este verano, el presidente Joe Biden ya dio un toque a las empresas líderes, entre ellas Microsoft, Meta, OpenAI y Google, para que asumieran «compromisos voluntarios» para que sus productos de IA sean sometidos a inspección antes de salir al mercado. Y aún hay más: a través de una orden ejecutiva, el Gobierno de EEUU va a obligarlas a que notifiquen el desarrollo de modelos de IA que superen una determinada potencia alegando razones de seguridad.
Sin duda, los gobiernos se están poniendo muy serios. Esto indicaría que los tecnooptimistas tienen todas las de perder. Sin embargo, aún reservan una bala de plata: China.
Porque todos los expertos consultados reconocen que nadie sabe hasta dónde llegan los avances de los chinos en IA de vanguardia. Hay tanto en juego que tanto Occidente como China juegan a la opacidad. Por eso, muchos optimistas juegan con el miedo de que Pekín no pierda el tiempo con debates culturales y tenga cero pudor regulatorio para que Occidente también apriete el acelerador de las nuevas tecnologías.
«Una cosa tiene que estar clara: si China no cumple las normas básicas de ética y protección, nadie debería comprarles nada», afirma con contundencia Ricard Martínez, especialista en Privacidad y Transformación Digital de la Universidad de Valencia. «Si el resto del mundo no tomara medidas ante eso, estaríamos inmersos en una ley de la jungla muy peligrosa para todos».
#1 https://www.removepaywall.com
¿Estamos ciegos o qué? Pues va a tirar por el lado menos ético como pasa con cualquier avance que tenga esa posibilidad. No quiere decir que no se use con fines éticos, pero la verdad, no entiendo el debate.
Y lo que pase en esta empresa es indiferente, pues sólo es una empresa. Claro, si ya suponemos que esta empresa es a la que vamos a dejar en sus manos el control mundial de la IA, como ya pretendieron ellos mismos, pues sería un error porque aparte de acabar siendo usada como un negocio más (sin ninguna ética, porque así son los negocios), el control estaría en unas solas manos y en EEUU.
Por ejemplo, si ahora tienen más urgencia en aumentar el armamento, evolucionar misiles, controlar el mundo, controlar a la gente; sus pensamientos, sus acciones y sus idas y venidas, que en en parar el calentamiento global, dudar en qué dirección va a ser usada la IA, es una duda estéril.