“El software de la cámara corporal y el de generación de informes de IA detectaron la película que se reproducía de fondo, que resultó ser 'La Princesa y la rana'”. El objetivo era reducir la cantidad de papeleo, pero se pasan por alto errores inmensos, incluso una simulación destinada a demostrar lo que la herramienta es capaz de hacer, resultó en un desastre. También se ha demostrado que las herramientas de IA generativa perpetúan prejuicios contra las mujeres y las personas no blancas.

La remuneración de los ejecutivos suele ser el tema más polémico en una junta general anual. Hay buenos argumentos a favor de automatizar desde arriba en lugar de desde abajo. Como sabemos por "Pensar rápido, pensar despacio", libro de mesita de noche de todos los directores ejecutivos, la toma de decisiones humanas es producto de sesgos y suposiciones irracionales. Esta es una de las razones por las que la estrategia es tan difícil y estos puestos tan bien remunerados. Así que hay buenas razones para delegar esta tarea al software.

Salesforce se enfrentó a retos técnicos críticos con los modelos lingüísticos durante su aplicación en el mundo real. Por ejemplo, a pesar de proporcionarle instrucciones claras para enviar encuestas de satisfacción, a veces no se enviaban por razones inexplicables. Cuando se les da a los modelos más de ocho instrucciones, comienzan a omitir directivas, lo que supone un grave defecto para las tareas que dependen de la precisión. Si los usuarios hacen preguntas irrelevantes, los agentes de IA pierden rápidamente el enfoque en sus objetivos.

“Creo que personas muy respetadas han causado un gran daño, pintando un panorama apocalíptico, un panorama del fin del mundo, un panorama de ciencia ficción. No es útil para las personas, no es útil para la industria, no es útil para la sociedad, no es útil para los gobiernos”. Huang, especialmente crítico con la idea de que las empresas pidan regulación, sostiene que la narrativa negativa en torno a la IA puede desalentar inversiones y generar desconfianza social, en un momento en el que el potencial de la tecnología es mayor que nunca.