Portada
mis comunidades
otras secciones
#1:
Esto no debería sorprendernos... Quien ha programado la inteligencia artificial, ha incluido el análisis del entorno del entrevistado. Toda vez que haya correlación entre el entorno y que se seleccione al entrevistado, la inteligencia artificial favorecerá ese tipo de entornos.
Es decir, ¿qué hay de sorprendente en que una software considere una característica para la que ha sido diseñado para tener en cuenta?
Otra cosa es que una vez que se detecta los pilares en los que se basa la inteligencia artificial para decidir, sea posible "hackear" la decisión. Pero en fin, esto no es muy diferente a adaptarse a las normas sociales (i.e., ir en traje a una entrevista de trabajo, llegar puntual, etc.).
Es decir, ¿qué hay de sorprendente en que una software considere una característica para la que ha sido diseñado para tener en cuenta?
Otra cosa es que una vez que se detecta los pilares en los que se basa la inteligencia artificial para decidir, sea posible "hackear" la decisión. Pero en fin, esto no es muy diferente a adaptarse a las normas sociales (i.e., ir en traje a una entrevista de trabajo, llegar puntual, etc.).
#14:
#13 Los datos no son objetivos, tienen sesgos. La IA además pueden aprender lo que no toca, eso se llama overfitting.
Por poner un ejemplo sencillo. Hay IA que reconocian barcos en fotos solo porque el fondo era azúl. La AI aprendió que azul implica barco. Eso no es objetivo.
Creer que las IA son objetivas es peligroso. Tienen sesgos que la limitan, en algunos casos muy seriamente.
Por poner un ejemplo sencillo. Hay IA que reconocian barcos en fotos solo porque el fondo era azúl. La AI aprendió que azul implica barco. Eso no es objetivo.
Creer que las IA son objetivas es peligroso. Tienen sesgos que la limitan, en algunos casos muy seriamente.
#39:
#34 El problema es que lo de la estantería lo sabemos porque hemos leído este artículo, pero no sabemos qué otras variables absurdamente random pueden estar teniendo en cuenta las IA en decisiones de todo tipo. Que la estantería sea relevante para la empleabilidad ya de por sí es bastante loco*, pero ahora dime algo que no está en el artículo: ¿cuál es la variable relevante que tienes que teatralizar para que la IA del banco te conceda un crédito? ¿Una ventana detrás con un paisaje campestre? ¿Hacer la entrevista en un despacho y no en casa? ¿Una lámpara de araña colgando del techo...?
¿De verdad la conclusión de un sistema que venía a acabar con los sesgos y a tener en cuenta solamente las variables objetivas es que los usuarios tienen que ser marionetas que pongan en escena cualquier chorrada que por pitos o por flautas haya acabado siendo significativa para la IA? Y eso suponiendo que quien interactúa con la IA sabe los sesgos.
Si un sistema está mal se arregla, no se obliga a que los usuarios se adapten adapten al mal funcionamiento. Es como si una IA mal hecha multase a quien pase un semáforo en verde. La respuesta no puede ser "pues no pases por ese semáforo".
*Esa la sabemos porque ha salido aquí al haberla detectado este estudio. Podría haber otras todavía más absurdas y con mayor influencia en el resultado ¿cómo podemos saberlo?
¿De verdad la conclusión de un sistema que venía a acabar con los sesgos y a tener en cuenta solamente las variables objetivas es que los usuarios tienen que ser marionetas que pongan en escena cualquier chorrada que por pitos o por flautas haya acabado siendo significativa para la IA? Y eso suponiendo que quien interactúa con la IA sabe los sesgos.
Si un sistema está mal se arregla, no se obliga a que los usuarios se adapten adapten al mal funcionamiento. Es como si una IA mal hecha multase a quien pase un semáforo en verde. La respuesta no puede ser "pues no pases por ese semáforo".
*Esa la sabemos porque ha salido aquí al haberla detectado este estudio. Podría haber otras todavía más absurdas y con mayor influencia en el resultado ¿cómo podemos saberlo?
#12:
#11 Si, la IA también predice que si eres tío y blanco mejor. Y si llevas gemelos ganas puntos. Si hablas con acento posh tienes extra también.
Mi comentario es: la IA no es objetiva. Otra discusión es que hacer ante un mundo que valora mejor tu estanteria de fondo que tu cv.
Mi recomendación es que te gastes el dinero del master es unas estanterias con libros de postín.
Mi comentario es: la IA no es objetiva. Otra discusión es que hacer ante un mundo que valora mejor tu estanteria de fondo que tu cv.
Mi recomendación es que te gastes el dinero del master es unas estanterias con libros de postín.
#8:
#4 Un dato objetivo sí que es; del mismo modo que la valoración de la IA en el aspecto comentado es objetiva. Cosa distinta es que dicha valoración sea razonable y que tenga sentido evaluar positivamente que alguien se ponga una estantería de fondo, pero objetiva objetiva, la verdad es que sí que lo es.
Comentarios
Esto no debería sorprendernos... Quien ha programado la inteligencia artificial, ha incluido el análisis del entorno del entrevistado. Toda vez que haya correlación entre el entorno y que se seleccione al entrevistado, la inteligencia artificial favorecerá ese tipo de entornos.
Es decir, ¿qué hay de sorprendente en que una software considere una característica para la que ha sido diseñado para tener en cuenta?
Otra cosa es que una vez que se detecta los pilares en los que se basa la inteligencia artificial para decidir, sea posible "hackear" la decisión. Pero en fin, esto no es muy diferente a adaptarse a las normas sociales (i.e., ir en traje a una entrevista de trabajo, llegar puntual, etc.).
#1 En definitivs, la IA sigue siendo incapaz de hacer una valoración objetiva.
#3 ¿Objetiva según qué? Que los usuarios con estanterías encuentran el fondo de pantalla lo hagan mejor puede ser un dato objetivo que no sabemos.
Me imagino que si es un dato utilizado para el entrenamiento de la IA es por algo.
#4 Valorar a la gente por las estanterias que tiene no es una valoración objetiva. Es una correlación. Del tipo, si tiene estanterias tiene dinero y ha ido a una universidad de prestigio.
#5 eso es una paja mental tuya. La IA se entrena con un juego de datos grande. Si los datos son buenos la predicción es buena.
#7 Que paja ni que hostias. Justamente si añades una estanteria de fondo lap redicción es distinta. Ya está claro que no funciona bien.
#10 pues añadela, qué quieres que te diga?
#11 Si, la IA también predice que si eres tío y blanco mejor. Y si llevas gemelos ganas puntos. Si hablas con acento posh tienes extra también.
Mi comentario es: la IA no es objetiva. Otra discusión es que hacer ante un mundo que valora mejor tu estanteria de fondo que tu cv.
Mi recomendación es que te gastes el dinero del master es unas estanterias con libros de postín.
#12 la IA es totalmente objetiva. Sus conclusiones dependen de los datos de entrada.
Puedes cambiar tu fondo de pantalla, tu acento y lo que quieras.
#13 Los datos no son objetivos, tienen sesgos. La IA además pueden aprender lo que no toca, eso se llama overfitting.
Por poner un ejemplo sencillo. Hay IA que reconocian barcos en fotos solo porque el fondo era azúl. La AI aprendió que azul implica barco. Eso no es objetivo.
Creer que las IA son objetivas es peligroso. Tienen sesgos que la limitan, en algunos casos muy seriamente.
#14 eso es no es una problema de la IA sino de los datos
#15 La IA son los datos.
#31 la IA es el modelo y el motor de inferencia.
Los datos se pueden ajustar a diario.
#14 Solo los datos filtrados tienen sesgos. Una correlación que funciona no puede ser acusada de no ser objetiva.
#20 Si las personas han considerado que ser hombre es mejor y han hecho así sus valoraciones y esos datos afectan a la máquina.
Después tienes correlaciones puramente aleatorias como que a los buenos candidatos les gustaba Star Wars, pero a a las nuevas generaciones les gusta Harry Potter.
#13 Puedes cambiar tu fondo de pantalla, tu acento y lo que quieras.
y se notará mucho en el resultado
#19 pues dependerá del peso que tengan esos parámetros en el modelo y cuanta gente lo haya hecho ya (y por tanto la IA lo sepa y posiblemente pueda detectarlo).
#21 Se suele llamar IA a lo que no son más que redes neuronales. Esas cosas no tienen ningún modelo. Su función es resumir las cosas lo máximo posible, por lo que detectan cualquier posible pista, cuanto más facilona mejor. No es posible averiguar qué parámetros usan.
#10 Pues pon la estantería, ¿cuál es el problema?
#34 El problema es que lo de la estantería lo sabemos porque hemos leído este artículo, pero no sabemos qué otras variables absurdamente random pueden estar teniendo en cuenta las IA en decisiones de todo tipo. Que la estantería sea relevante para la empleabilidad ya de por sí es bastante loco*, pero ahora dime algo que no está en el artículo: ¿cuál es la variable relevante que tienes que teatralizar para que la IA del banco te conceda un crédito? ¿Una ventana detrás con un paisaje campestre? ¿Hacer la entrevista en un despacho y no en casa? ¿Una lámpara de araña colgando del techo...?
¿De verdad la conclusión de un sistema que venía a acabar con los sesgos y a tener en cuenta solamente las variables objetivas es que los usuarios tienen que ser marionetas que pongan en escena cualquier chorrada que por pitos o por flautas haya acabado siendo significativa para la IA? Y eso suponiendo que quien interactúa con la IA sabe los sesgos.
Si un sistema está mal se arregla, no se obliga a que los usuarios se adapten adapten al mal funcionamiento. Es como si una IA mal hecha multase a quien pase un semáforo en verde. La respuesta no puede ser "pues no pases por ese semáforo".
*Esa la sabemos porque ha salido aquí al haberla detectado este estudio. Podría haber otras todavía más absurdas y con mayor influencia en el resultado ¿cómo podemos saberlo?
#39 El problema es que lo de la estantería lo sabemos porque hemos leído este artículo, pero no sabemos qué otras variables absurdamente random pueden estar teniendo en cuenta las IA en decisiones de todo tipo.
Con lo de ligar pasa parecido aunque no haya IA de por medio. La vida es así. Tonterías aleatorias tienen grandes repercusiones vitales.
#40 Que la vida sea así es una cosa. Que la vida se diseñe, y se acepte el diseño así es otra muy diferente.
#7 precisamente #5 da la clave en esto: la IA no razona: busca correlaciones. Y recordemos, correlación no implica causalidad.
Con o sin estantería el candidato es el mismo, igual de apto. El resultado no es objetivo porque la IA no conoce al candidato y no lo valora en base a si vale o no para el puesto.
#54 El resultado es totalmente objetivo porque así está establecido en sus algoritmos.
#56 Con los mismos datos otro algoritmo diferente puede dar un resultado distinto.
Un resultado objetivo dbería ser independiente del algoritmo... si éste está bien hecho.
#56 OK, objetivo te lo compro. Lo que es es un criterio arbitrario, banal y potencialmente perjudicial hacia la raza humana a largo plazo. A lo mejor no deberíamos delegar ciertas cosas en algoritmos.
#5 O tiene cerca un ikea…
#4
Programadores que se creen DIOS.
¡Menudos inutiles!
#6 los programadores somos DIOS, a la vista está
#9 vaya mala pata, yo nunca diría que los programadores son nada.
#22 es que pasamos por normies. Es intencionado.
#9 Disk Inputters Operating Systems?
#6 No lo recoge un programador, lo aprende una ia a base de los ejemplos, otro tema es si hay que descartarla y entrenarla mas (pero nunca sabras todos los sesgos
#4 Un dato objetivo sí que es; del mismo modo que la valoración de la IA en el aspecto comentado es objetiva. Cosa distinta es que dicha valoración sea razonable y que tenga sentido evaluar positivamente que alguien se ponga una estantería de fondo, pero objetiva objetiva, la verdad es que sí que lo es.
#8 Permíteme que suscriba tu comentario con una anécdota de investigación en imágenes médicas. Si usas una inteligencia artificial para medir el tamaño de ciertas manchas negras en escáneres cerebrales, el criterio de la IA es "arbitrario" pero también es "objetivo". Porque la IA siempre aplicará su criterio de forma matemática. Y eso puede ser mejor o peor, en ciertas condiciones su "fórmula" puede hacerlo mal, pero no deja de ser una ventaja de objetividad entre que lo haga la máquina y que lo haga una persona.
Ya que la IA siempre marcará la misma área para las mismas imágenes. Si esa imagen se la pasas a la misma persona varias veces, marcará cosas diferentes. En otro comentario le respondía a #4 diciéndole que quizás no tiene sentido hablar de objetividad en este asunto porque justamente lleva al extremo la definición de objetivo/subjetivo.
#89 Es que eso depende de a qué "verdad" te refieras. Si te refieres a rendir en pruebas, pues seguramente sí, en todo casos esas pruebas suelen ser un logro en sí mismas e independientes. Porque a menos que tengas una definición de "verdad" sobre lo que es ser el mejor corredor del mundo, lo que tienes son muchas categorías bastante acotadas. Lo que es bastante científico.
En todo caso, recuerda que no hablamos de que la medida sea útil o no, y si hablamos de altas probabilidades pues seguramente la medida seguirá siendo útil en la mayoría de los casos. La cuestión es si es subjetiva, y en todo caso no creo que la IA lo sea porque la medición tenga más ruido, o porque el sistema desarrolle sesgos. También hay métodos estadísticos para aprovechar incluso señales con muchísimo ruido, especialmente porque en física mientras más fino quieres hilar más tienes que entrar en incertidumbres, como en el del descubrimiento del Bosson de Higgs.
A lo mejor te interesa este comentario que hice sobre análisis de imágenes médicas. #67 Es un caso en el que una IA aprende de las mediciones "subjetivas" de expertos y desarrolla un criterio propio, y ese criterio es útil justamente porque es objetivo. Siempre valora la misma imagen de la misma forma. Incluso aunque tenga sesgos. Además, es más que discutible el hablar de que un criterio de los expertos sea mejor que el otro.
#90 Hay medidas de reducir el ruído, aunque no siempre son aplicables. En este caso creo que va más allá de simple ruido. Lo intentaré explicar con otra anéctoda de computer vision.
Los militares desarrollaron una IA para detectar tanques en fotos por satélite. Las primeras pruebas fueron muy exitosas y la IA tenía una gran probabilidad de acertar. Cuando llevaron el sistema a la realidad se encontraron que la IA fallaba más que una escopeta de feria. Investigando a fondo que pasaba encontraron lo que pasaba: los militares hicieron las pruebas de fotos con tanques por la mañana y sin tanques por la tarde. La IA simplemente detectaba la sombra. La IA correlacionó la sombra de la mañana o la tarde con la presencia de tanques.
Esto es similar a valorar un candidato por sus estanterias de fondo. Hay una correlación, pero la valía de un candidato no se mide en sus estanterías.
Por eso digo que la medida no es objetiva. La IA hace una valoración a partir de correlaciones, que aumenta la probabilidad de que acierte.
Es como si por ejemplo yo valorara a los jugadores de basket por su altura pero por nada más y dijera que el mejor jugador es el más alto. Lo que en verdad estoy midiendo (altura del jugador) con lo que estoy diciendo (este es el mejor del mundo) no se corresponde, aunque haya correlación.
Si digo que mi IA selecciona al mejor candidato pero selecciona al que tiene mejor estanterías la IA no hace lo que digo que hace. Hace otra cosa.
#4 #3 A mi me parece que quizás no tiene sentido hablar de "una valoración objetiva", porque esto justamente lleva al límite lo que es la definición de objetivo. Si partimos de que las personas más altas son mejores, una valoración por altura es absolutamente objetiva. Y diría que la IA simplemente sigue un proceso estadístico que igualmente es objetivo, es el que es, y no hay mucho más. Lo que no quita que se equivoque.
Ahí entra lo de los datos, si tienes muchos datos las predicciones mejoran, pero también tienes que tener en cuenta que en los datos seguramente se incluyan datos no objetivos o sesgados, por ejemplo él qué medidas considerar para decir que alguien es mejor.
Me auto cito porque creo que es relevante: #64
#65 Yo creo que hay confusión con lo que significa objetivo. Y la suposición que un algoritmo matemático es objetivo.
Si yo creo un algoritmo matemático que aprueba a los estudiantes en función de la primera letra del nombre el algoritmo no es objetivo al evaluar estudiantes.
#66 Y por eso digo que esto es llevar la definición al extremo, y entrar en debates de definiciones no me parece útil. Porque siempre podemos mover la definición para que diga lo que queremos que diga. En ese aspecto soy simplemente utilitarista, el concepto tiene que ser útil.
¿El mejor corredor es el que tiene la mejor marca? Pues a lo mejor no, pero es algo que podemos medir objetivamente, y si asumimos como válido que el mejor corredor tiene la mejor marca, pues es objetivo. Si consideras filosóficamente que objetivo representa la verdad absoluta, pues pienso que esa verdad igual no podemos conocerla.
#68 La IA ha sido construida para evaluar el mejor candidato. Pero te evalua mejor si tienes una estanteria de fondo. Eso no es buen criterio para determinar un candidato.
Por poner un ejemplo que he puesto en otro comentario. La AI determina que los gordos llevan chandal. Te presentas con chandal y la IA deduce que eres gordo, aunque peses 50 kilos. La IA no es objetiva para el proposito que ha sido construida. Pues lo de la estantería es lo mismo.
#70 La IA ha sido construida para evaluar el mejor candidato. Pero te evalua mejor si tienes una estanteria de fondo. Eso no es buen criterio para determinar un candidato.
Es que es a eso a lo que quiero llegar, no es un buen criterio, pero no tiene que ver con que sea subjetivo o no. Aunque sigue siendo un problema de definiciones, a lo mejor un medallista olímpico tampoco es el mejor corredor, porque quizás se deberían evaluar más cosas.
#71 Objetivo: Perteneciente o relativo al objeto en sí mismo, con independencia de la propia manera de pensar o de sentir.
La IA ha aprendido, a consecuencia de los datos con la que ha sido entrenada, que una estanteria de fondo suele implicar un mejor candidato.
Como tu no tienes estanteria de fondo, a pesar de ser un excelente candidato, la IA deduce que no eres suficientemente bueno. Has sido evaluado, no por tus cualidades, sino por las deducciones que ha hecho la IA de sus datos. Por definición, no cumple la definición de objetivo.
#72 Sé perfectamente cómo funciona, por eso comento, y no me estás escuchando. El problema es tu definición de objetivo. Así que este debate carece de sentido. Sí, la IA ha aprendido un hecho "objetivo" que el fondo se correlaciona con un mejor candidato, ni más, ni menos. Es como tener tres puntos en un plano, y que me digas que el plano que pasa por ellos es "subjetivo".
Si quieres seguir con el tema, al que no le veo sentido por lo que ya dije, pues contestame por los ejemplos que te puse. ¿realmente crees que el mejor corredor es el que menos tiempo tarda en completar su recorrido?
#3 Curiosamente, las personas muchas veces, incoscientemente, tampoco hacen una valoración objetiva.
#17 Rara vez hacemos valoraciones completamente objetivas. Generalmente son valoraciones subjetivas fruto dela experiencia y los sesgos mezclados con algún que otro juicio objetivo.
#3 La valoración es objetiva y parte de la correlacion observada entre las fotos de estantes y las valoraciones de otros candidatos.
Creo que querías decir "acertada".
#18 No es acertada. Es como ver que hay una correlación en que los gordos visten chandal y la máquina concluye que si vistes chandal eres gordo.
#45 Si funciona, es acertada.
#48 Osea, que si llevas chandal eres gordo aunque peses 50 kilos.
Eso no es funcionar. Eso es acertar la hora con un reloj parado.
#45 Es como si me dijeras que un diagnostico médico es acertado porque si estás constipado toses. Resulta que toses y digo que estás constipado, pero tienes neumonia.
#50 La medicina funciona EXACTAMENTE como has descrito, aunque lógicamente no simplifica tanto y se basa en más síntomas. Pero el diagnóstico se aproxima por similitud a casos anteriores registrados.
#3 En definitiva le pasa exactamente lo mismo que a cualquier persona. La objetividad no existe al ser construido por un humano.
#3 Un sesgo puede ser correcto, por ejemplo estimar que los gordos pueden tener más infartos no es gordofobia de la IA, es un sesgo correcto.
#3 En el momento que sea más objetiva que la de un humano, ya puede ser válida.
#3 Obvio. Si fuese completamente objetiva como una calculadora o un simple algoritmo de ajedrez concluiríamos que no es inteligente.
Es al imitar nuestra forma de deducción (al aprender) e inducción (al trabajar) cuando algunos se aventuran a darles el adjetivo de inteligentes o inteligencias artificiales, sin darse cuenta en que esta con frecuencia están cayendo en los mismos sesgos que nosotros. La verdad es que si queremos las ventajas del aprendizaje maquina el problema de los sesgos es inevitable. Se puede trabajar para filtrarlo y minimizarlo pero jamás podrás estar completamente seguro que no está utilizando atajos o sesgos que en cierto momento den resultados erróneos.
#3 Es al revés.
Precisamente lo único que hacen las IA son valoraciones objetivas (según sus algoritmos). Lo que no pueden hacer son las subjetivas (criterio de valor).
#55 Yo no llamaria objetivo aunque sea un algoritmo matemático. Por ejemplo hacemos un examen test y el algoritmo escoge aleatoriamente la respuesta correcta a,b,c o d y asigna una nota a los estudiantes. Yo no diría que es objetivo.
#59 Si es una máquina, seguro que no es subjetivo.
#61 Supones que o eres objetivo o subjetivo. Hay más posibilidades, arbitrario, aleatorio, ...
Objetivo se refiere a aquello que es propio del objeto y es válido para todos. Se puede medir o apreciar sin la intervención de la opinión del sujeto.
Valorar a un candidato por su estantería de fondo no es una valoración objetiva.
#59 #61 Ya sé que tenemos otra conversación, en la que ya te dijo que tu debate viene de lo que entiendes por "objetivo". Y te he dejado clara mi postura al respecto. Contesto aquí porque me ha llamado la atención este comentario (más que por continuar ese debate contigo), que luego ví que era también tuyo.
"Por ejemplo hacemos un examen test y el algoritmo escoge aleatoriamente la respuesta correcta a,b,c o d y asigna una nota a los estudiantes."
Antes que nada, no estás siendo claro, ¿a qué no llamarías objetivo?¿A la nota?¿a la valoración?¿al sistema de elección? Si partimos de definiciones a medida o mal acostadas entonces cada uno estaría hablando de su mundo y nunca llegamos a nada.
Estás confundido. Si hablamos de evaluación/valoración de los examinados esta no es ni subjetiva, ni objetiva, porque NO es una valoración de ellos, simplemente es un número aleatorio. Es un sorteo, NO una evaluación. Aún así, en muchos sitios en cas de empate podríamos considerar que un sorteo es una forma "objetiva" de desempatar.
Lo que está claro es que no sería una forma subjetiva de elegir candidato. Por tus otros, comentarios tu estás considerando que "objetivo" es una valoación ideal y absoluta de a quién deberías elegir, pero no es así. Objetivo es que estableces un criterio basado en hechos constatables/medibles para evaluarlo y lo sigues.
#77 Crees que estoy confundido. Yo no lo creo. Si que creo que la confusión en esta discusión está sobre que significa exactamente objetivo.
Mi postura es que un algoritmo matemático, que no tiene sentimientos, no es necesariamente objetivo.
De una respuesta mia anterior a otro usuario:
Objetivo: Perteneciente o relativo al objeto en sí mismo, con independencia de la propia manera de pensar o de sentir.
La IA ha aprendido, a consecuencia de los datos con la que ha sido entrenada, que una estanteria de fondo suele implicar un mejor candidato.
Como tu no tienes estanteria de fondo, a pesar de ser un excelente candidato, la IA deduce que no eres suficientemente bueno. Has sido evaluado, no por tus cualidades, sino por las deducciones que ha hecho la IA de sus datos. La evaluación, pues, no cumple la definición de objetivo.
#82 Ya, ya, efectivamente creo que estás confundido y tu no, no lo decía por eternizar la confusión solo por contestar a ese comentario que me llamó la atención. De hecho he contestado antes a un comentario en el que argumentabas eso mismo, para mi no tiene sentido tu respuesta, y antes que eternizarlo, simplemente no me interesa mucho un debate sobre definiciones.
Ahora bien, tampoco me agrada dispersarme. Sigamos el debate anterior. ¿A qué no llamarías objetivo antes? Por si puedes contestar a mis preguntas. Tu ejemplo sobre el azar me parece no válido, no sé si te retractas, o si compartes lo que dije sobre tu ejemplo.
#83 Igualmente, si te apetece, si me gustaría que me contestarás en #84
#84 Ok. Por lo que te he entendido si hay un factor aleatorio en la evaluación entonces es un sorteo, no una evaluación.
La IA aprende que si tienes una estantería de fondo entonces eres mejor candidato. Tu eres un buen cnadidato, incluso tienes una estantería de fondo. Pero resulta que el día de la entrevista tu novia está en una llamada a un comedor y te retiras a una habitación sin estanterias. La IA hace una mala evaluación de tí. Esta evaluación está afectada por factores aleatorios y es, aunque sea parcialmente, un sorteo.
#87 Un examen físico o un test, también se ve afectado por valores aleatorios. Por ejemplo, el haber dormido mejor, el que ese día no te den una mala noticia, qué temas decidiste estudiar más o cuales recuerdas mejor, los profesores que te tocaron, o la lotería genética a la que jugaron tus padres contigo.Si tienes una definición muy amplia de objetivo o de sorteo, esos conceptos es vuelven absolutamente carentes de significado, porque un sorteo es todo, y objetivo es nada.
PS: Si volvemos al ejemplo de quién es el mejor corredor del mundo, pues creo que quizás tampoco la considerarías nunca una competición objetiva al competir por tiempos, pero justamente el hacer una prueba, y medirla, es la definición de objetividad. La diferencia entre ciencia y filosofía se justamente que la filosofía no tiene límites, la ciencia para ganar rigor, limita lo que puede conocer, y lo hace generalmente a lo que puede medir. De hecho la ciencia es intrínsecamente probabilista, todo lo que damos por válido, podría cambiar drásticamente, pero no es "probable".
#88 Cuando tenemos una medida objetiva es porque consideramos que se ajusta "a la verdad", al menos con una probabilidad muy alta. Si consideramos quien es el mejor corredor del mundo esperamos que diferentes medidas sean consistentes.
Si el ruido en las medidas es muy alto, la medida deja de ser válida. En definitiva, la señal ha de resaltar sobre el fondo.
Si la IA depende de un montón de factores arbitarios/aleatorios deja de ser una medida útil.
#77 Perdón, veo que a quien contesté fue a tí.
Creo que confundimos que es objetivo y considerar que si no eres objetivo entonces eres subjetivo. Ya sería un debate filósofico que creo que no nos vamos a aclarar.
#1 Al final será como posicionarse en google o youtube. Aparecerán los SEO de entrevistas que conocerán los trucos del algoritmo y sabrán como optimizar tu indumentaria y tus gestos para estar bien arriba en los resultados.
#1 Hay ataques adversarios, que una imagen indesciflable para humanos una IA reconoce como algo y Una foto de una tostadora, la entiende como un coche.
Lo que no se si la GAN son inmunes a ellos?
Si el fondo no quieres que influya, se puede recortar, pero a lo mejor es util que lo reconozca. A humanos tambiens se la pueden colar en una entrevista.
En el peor de los casos podria eliminar el cuerpo y a cara y tener en cuenta solo los movimiento fisicos y la voz y lo que dice.
En otros caso la IA le engaña el contexto. confunde un hombre con una mujer si esta con delantal y en una cocina, o unos negros los confunde con gorillas si ve el fondo verde o vegetal o un caballo con una cebra si el fondo esta marron seco.
#1 A mi no me sorprende justamente porque esas IA suelen ser "cajas negras". Aprende algo, pero no sabemos muy bien qué. Aquí han usado como ejemplo algo que entendemos fácilmente, como poner un fondo u otro, pero es que igual si añadimos ruido a la imagen, algunos tipos de ruido generarán una mejor valoración.
Si tienes acceso al sistema de valoración de la IA puedes hasta diseñar ruidos ajustados para que generen una mejor valoración. Esto es un ejemplo en un clasificador.
https://www.nature.com/articles/d41586-019-03013-5?fbclid=IwAR2JZVF4ctIWZy9OoTgK6FZLNJDBX2dZAPCSf4O0f423c2rAYFLVPe59_aY
#64 Son los ataque adversarios
#75 Gracias. Los conocía, pero no recordaba ese nombre. Me pasa mucho que cuando intento buscar algún artículo científico, a menos que recuerdes palabras clave muy específicas es dificil encontrarlos.
Por cierto, hay una aplicación para móviles llamada Reface, de pago, que te permite sustituir tu cara en un gif. En teoría está para hacer alguna gracia, pero como sabemos que pasaría, la gente la usa para el porno. Ahora bien, han detectado esto y para cortarlo han puesto filtros, supongo que basados en algún tipo de IA.
Y ahora hay una pequeña guerra entre esos usuarios y la App, compartiendo las pequeñas modificaciones que se pueden hacer para que un vídeo pase el filtro, y puedas ponerle a un vídeo porno la cara de tu ex, de una famosa, o de lo que te venga en gana...
Normal, si no hacemos nada más que repetir por todas partes el error de llamar Inteligencia Artificial a un simple programa con una base de datos de un campo concreto. Base de datos limitada, rellenada por la mano humana. Sofwtare también limitado en alcance por la mano humana.
A día de hoy no estamos ni cerca de construir una IA, todos estos softwares predictivos están en sus primeras etapas.
#28 Es que es una "inteligencia artificial" de eso no cabe duda, pero el problema es que ese concepto induce a error. Esas IA pueden hacer cosas muy asombrosas pero de momento son tienen más de artificiales que de inteligentes.
Independientemente del color de piel o del sexo? Al final el machine learning se basa en las reglas que uno imponga y el sistema lo ajustara asi. Si el programador hubiera puesto que en bolas ganas puntos como ha puesto lo de la libreria.
Lo programan humanos y el resto se lo inventan para poder decir que es un IA cuando es un cúmulo de atajos y trampas.
#26 Un cumulo de atajos y trampas es una IA (aunque no Machine Learning). Técnicamente,se llamaria "sistema basado en reglas" y podría implementarse con una secuencia anidada de sentencias if-else. No sería un sistema maravilloso (ni permitiría adaptarse a un nuevo entorno rápidamente) pero, mientras contenga una serie de eventos lógicos y acciones, se podría considerar como un agente racional (y por tanto, un tipo de IA).
"Coma mierda, 1 millón de moscas no pueden estar equivocadas" parece ser la filosofía de la IA.
Y si esos libros son de liberalismo, como los que tiene Juan Ramón Rallo, todavía mejor.
Y si tienes un bote de pimenton en la mesa?
#80
¿Y si son cómics? ¿O videojuegos? ¿O consoladores?
#60 Ten cuidado con los consoladores, te pueden tachar de terrorista.
https://www.dailyedge.ie/cnn-isis-flag-london-pride-2186170-Jun2015/
En mi cámara se ve mi gimnasio detrás (barra de dominadas, banco y mancuernas).
¿Eso me da puntos o me los quita?
El 90% de los artículos en prensa sobre IA los ha escrito alguien que no sabe que es la IA... por suerte van dirigidos a gente que tampoco tiene ni idea.
En Twitter debe alcanzar el 99.9% tranquilamente...
#51 No diría que "por suerte van dirigidos a gente que tampoco tiene ni idea", diría que eso es bastante negativo...
Como dice el chiste: "Entonces no sería tan IA"...
¡¡El postureo ha llegado a hello world!!
La han programado para que haga eso, no tiene mayor misterio
camara virtual que vaya cambiando el fondo de pantalla durante la entrevista con algunos disenos predeterminados, filtro de voz y equalizacion para parecer microfono de un mcbook, reverb para parecer una habitación mas grande,....