EDICIóN GENERAL
277 meneos
4242 clics
Suspenden a IBM Watson por recomendar “tratamiento mortal” para pacientes de cáncer

Suspenden a IBM Watson por recomendar “tratamiento mortal” para pacientes de cáncer

El Hospital Nacional de Dinamarca ha suspendido un proyecto encargado a IBM Watson Oncology, luego que esta tecnología de inteligencia artificial propusiera utilizar un medicamento que habría tenido consecuencias fatales para los pacientes.

| etiquetas: ibm , watson , cáncer , mortal , tratamiento
Comentarios destacados:                        
#21 Hay un punto que me ha levantado la ceja. Dicen que el incremento de los fallos en Watson es probablemente debido a que solo ha entrenado con los médicos de un hospital estadounidense.

¿Están diciendo que Watson está ofreciendo un porcentaje de tratamientos mortales porque aprendió a recetar esos tratamientos con los médicos americanos? Puede que se refiera a errores en la transcripción y metodología de diagnóstico, pero visto cómo trabaja Watson, más parece los médicos daneses han hecho un disparo y escondido la mano sobre la calidad de sus homólogos del otro charco.
En Noviembre de 2017 tomó conciencia :tinfoil:
#1 interpreto las putaditas que me hace mi gps desde hace tiempo como parte del mismo machine uprising
#1 #2 Igual que mi tostador, que desde esta mañana ha decidido tirar las tostadas al suelo.
#1 A un paso de la serie T  media
Le preguntaron: ¿Como acabar con el dolor?

Respuesta: cianuro, no falla, acaba con todos los dolores.
#3 Lógico, muy lógico.
#3 con cianuro murió Ramón Sampedro el tetrapléjico gallego y hay un vídeo que registra la muerte y es bastante dolorosa.
#7 más dolorosa y larga es la agonía de setenta años en España
#39 ... el culo con las témporas
#39 Más doloroso es pincharte agujas en los huevos
#7 Pero rápida.
#7 También creo que podría ser muy dolorosa la muerte con cianuro, pero ojo. #3 No dice que no lo sea. Dice que acaba con todos los dolores, lo cual es cierto.
#3 Como diría Ray Bradbury, "una medicina contra la melancolía".
#31 pero como dirían Lupo, Coky, Tonto y Burlón, la mejor vacuna contra la melancolía es llenar la vida de canciones y de amor
La inteligencia artificial es lógica y práctica, no ética.
#5 Algo que te mata, no debe ser muy inteligente.
#10 igual es inteligente matarte.
#11 Solo la ética lo diría, cuando las computadores tengan una ética me avisas.
#12 te aviso, descuida.
No, nada de toma de consciencia, simplemente la IA no estuvo a la altura de la tarea: "La conclusión de los médicos responsables sería el que Watson Oncology es una tecnología demasiado rudimentaria para el fin que quiere dársele."

#12 ¿por qué no se podría dotar de ética a una IA?
#15 La ética te lleva a tomar decisiones irracionales y eso es difícilmente programable, creo ;)
#16 En absoluto, la ética es muy racional.

Si no tuviéramos ética ya nos habríamos matado por completo unos a otros, el problema imagino que será otro, como que esa IA estaba programada para combatir la enfermedad minimizando costes, y no para salvar vidas humanas.
#17

No sé si te has fijado que la ética cambia a lo largo del tiempo.

Lo que hoy es ético no lo era hace xx años y viceversa.
#19 Como las teorías científicas.
#20

Las teorías evolucionan y se completan con evidencias.

La ética puede hacer giros de 180º porque sí y se quedan tan pancha (es lo que tienen las pseudociencias)
#22 "La ética puede hacer giros de 180º"

Que casualidad, como las teorías científicas.

Si los seres humanos somos reales, el conjunto de costumbres y normas que dirigen o valoran el comportamiento humano en una comunidad es real. Y por lo tanto es objeto de estudio y análisis científico.
#22 o se complican con falsas evidencias y lo que se sabía se pierde
#17 Más que ética, es que a la fuerza ahorcan. Si no fuera por existencia de las armas termonucleares ya nos hubiéramos matado unos a otros hace tiempo...
#42 #32 #29 Creo que habláis de la ética como si solo respondiera a los conceptos de bien y mal, la eterna lucha entre el cielo y el infierno.

Pero en realidad responde a realidades biológicas indudables.

Somos sacos de genes que intentan llegar lo más lejos posible en un mundo complejo. Sobre esto se articula la ética, aunque las soluciones que alcanza sean contradictorias el objetivo existe,
#17 .La ética esa solo es un parche de la ilógica que gobierna al ser humano.
De echo con la lógica no tendríamos un sociedad basada en dinero de entrada ni duplicidades innecesarias.
#32 viene la dictadura de la lógica y tiene su propia etica.
#75 La lógica no tiene ética solo busca eficiencia y es injusta en términos humanos no se puede usar en un sistema humano pero no implica que podría existir seres inteligentes que se basen en ella el llamado terror a las maquinas con IA arrasarían con nuestra especie.
#17 La etica es racional, pero puede llevarte a decisiones irracionales...
Este es un debate muy interesante que se debería realizar con pausa y sosiego, y algo de beber xD
#42 Una orgía de meneantes a la usanza griega y romana
#21 Más que en la calidad de los médicos creo que los tiros van más por como ha sido entrenado Watson... Leyendo entre líneas, toda la parte que hace referencia a que Watson es Estadon Unidense como “creemos que la preponderancia estadounidense en Watson contribuye a los grandes márgenes de error que hemos observado” y otras frases como "no está sujeta a supervisión de las autoridades, ni a control de calidad, a la vez que sus resultados no son transparentes" puede que todo esto este muy ligado a lo que ha dicho #17: como que esa IA estaba programada para combatir la enfermedad minimizando costes, y no para salvar vidas humanas. :tinfoil:
#17 ala, cuña anticapitalista incluida.jajajaja no hay IA que lo supere.
#68 Es que el capitalismo tiene a veces partes muy ilógicas.

Pone al individuo por encima de la especie. Como si el primero no estuviese metido hasta el cuello en el segundo. Supongo que será una especie de error colateral de la superpoblación.
#17 Creo que si tuvieramos verdadera "ética"nos habríamos matado unos a otros al reconocer que somos una plaga dañina. Pero nuestra ética es de bajo voltaje y solo miramos nuestro ombligo no el ombligo o el bienestar del universo. El que sirve al universo tiene que estar dispuesto a suicidarse por él como un verdadero samurai que se hace el karakiri por honor.
#73 ¿Dañina para quien? Somos sacos de genes que quieren prevalecer, el universo no sirve de nada si no estamos nosotros en el.

Lo de el Harakiri si que es raro, gente que se opone a su mandato biológico y acaba con su vida, aunque es cierto que la lógica que los acompaña suele estar relacionada con el fracaso como individuo, y el deseo de dejar de ser un lastre para el resto de la especie, aunque hay otros que lo que buscan es una especie de reconocimiento póstumo.
#79 Dilecto contertulio ¡que el universo te perdone esa blasfemia que acabas de cometer contra él al decir "no sirve para nada si no estamos en él"! Nosotros somos menos que un cero a la izquierda en la inmensidad de las variadísimas e inimaginables formas de vida que alberga. Y además tenemos la mala suerte de ser una "escoria" o producto "defectuoso". Dentro de pocas generaciones ya no estaremos en el Cosmos o al menos en este planeta. Nadie nos echará de menos.…   » ver todo el comentario
#92 Bueno, vale, rectifico mi frase.

El universo no nos sirve para nada si no estamos en el.

Repito, somos sacos de genes egoístas que quieren perpetuarse a toda costa, ni siquiera creo que tengamos elección.

Aunque aún hay esperanzas puede que nuestro egoísmo como individuos acabe llevándose por delante a nuestra egoísta especie.

De todos modos, no se si esto sería bueno. Por lo que sabemos esta bola de barro tiene los milenios contados, las especies que en ella habitan morirán antes o después, somos la única especie capaz de llevar la vida compleja más allá de nuestro sistema solar, sería una pena morir antes de hacer eso.
#93 Yo lo veo diferente, los seres humanos somos máquinas programadas y el propio universo es una entidad gigantesca también programada. Todas las criaturas biológicas somos máquinas programadas. También existen otras formas de vida o criaturas no biológica que igualmente también están programadas.
El gen egoísta es una visión amputada del contexto. Las inteligencias atrapadas en cuerpos materiales como la nuestra no pueden ir muy lejos. Existen otras clases de inteligencia no humanas ni…   » ver todo el comentario
#16 jolín, pues a mí la parte irracional de una IA me parece siempre la más fácil de implementar. La ética es algo racional/cultural que implica un proceso (muchas veces hasta colisión) de conceptos que no es nada trivial de llevar a cabo porque ¿qué es un concepto para una IA?

Hay por ahí una percepción un poco errada de lo que hacen los sistemas de IA, machine learning y demás. Las cosas inspiradas en el comportamiento humano que mejor funcionan son justamente las más "intuitivas" (por ejemplo, la visión artificial de las redes convolucionales, o los LSTM). A partir de ahí, las cosas empiezan a torcerse.
#16 irracionales? seguro? o justamente terriblemente racionales?

Si la ética fuese irracional el mundo estaría de puta con la gente preguntandose cual es la mejor decisión a pesar de los costes personales, con la misma pasión que se van de compras...
#27 La ética es racional, pero puede desembocar en acciones totalmente irracionales. Cada mente es un mundo y no todos tenemos la misma ética ni consideramos la racionalidad o irracionalidad de la misma manera ;)
#12 La ética a la que aduces está muy influenciada por esa creencia religiosa de que la vida es un regalo divino.

Cuando se invente una ética que no esté lastrada religiosamente y sea realista, nos avisas tú a nosotros.
#12 Te enterarás cada inteligencia conlleva un tipo de ética que es una faceta de ella. Segun Raimond Kurtzweil, ingeniero de Google las máquinas nos superarán en un billón la capacidad y eso creará otro mundo.
#10 Soluciona el problema del cancer
#10 Le dijeron que acabara con el cáncer, Se olvidaron que decirle que el paciente debía sobrevivir.
#86 igual confundió al paciente con un cáncer o nació entre el 21 de junio y el 22 de julio. :-|

También puede ser que leyera por Internet que los humanos somos un cáncer para el planeta. :-P
#5 ¿Sin ironía?
#5 Algo que te mata debe ser rematadamente estúpido.
#5 Seguro que va a ordenar a matar a todos los discapacitados... :tinfoil:
#5 En este caso no tiene mucho que ver, ni con lógica, ni con ética. En el fondo los programas de aprendizaje automático básicamente buscan correlaciones entre datos y hacen extrapolaciones que por supuesto que pueden ser descabelladas. A pesar de que se haya avanzado mucho en IA me parece que les damos demasiado crédito.
#5 Lo que pasa es que la IA está a nivel becario, ya mejorará. De momento hay que supervisarla.
#5 Nos van a dar lecciones de ética ¡cosmíca! cuando nos echen por delante. La nube humana del conocimiento es una ridiculez con la de la IA a la que se engancharán las máquinas ultra inteligentes. Esta IA con pocas luces no representa a la que dominará el mundo es solo su etapa "infantil".
Que le borren el proceso donde leyó lo de "muerto el perro, se acabó la rabia"
La inteligencia artificial se está acercando la super inteligencia artificial. Pero aún no ha llegado. Cuando pase ningún médico tratará a ningún paciente. Será la super inteligencia artificial quien lo dirija a todo.
#8 Auguro la siguiente lógica difusa que la IA hará:
* "¿tiene dinero para pagarse el tratamiento?"
(no hay más preguntas)
Dejo a la imaginación del lector, las respuestas y acciones que tomará en el futuro, esa IA
#28 te podras descargar la super inteligencia aritficial por el torrent y que te diagnostique gratis, a la vez que dices "que hagan conciertos!!!"
#41 Pfff como pilles una ISO con troy-ano estas jodido en la consulta.
"a la vez que tiene dificultades para leer y entender expedientes médicos" Pues que los médicos dejen de escribir los expedientes a mano :troll:
Hay un punto que me ha levantado la ceja. Dicen que el incremento de los fallos en Watson es probablemente debido a que solo ha entrenado con los médicos de un hospital estadounidense.

¿Están diciendo que Watson está ofreciendo un porcentaje de tratamientos mortales porque aprendió a recetar esos tratamientos con los médicos americanos? Puede que se refiera a errores en la transcripción y metodología de diagnóstico, pero visto cómo trabaja Watson, más parece los médicos daneses han hecho un disparo y escondido la mano sobre la calidad de sus homólogos del otro charco.
#21 Leyendo el tema parece un chisme de ML normal, asi que es posible que haya algún paso en la metodología que esté desviando los resultados. O igual genuínamente está respondiendo mal, pero es más probable que algo haya cambiado en los imputs, si.
#21 El problema principal de "machine learning" es que hay que enseñar bien, para que acierte en los resultados/diagnóstico, una incorrecta enseñanza puede hacer variar mucho la calidad de los resultados. Lo que están destacando es que tal vez la calidad de los diagnósticos del hospital de nueva york no sea muy elevado.
#21 No tanto. Podría deberse simplemente a características culturales distintas. Me parece que los estadounidenses son más agresivos y basan sus diagnósticos siguiendo esa línea.
Más bien, creo que es muy atinado que el médico danés haya señalado eso. Porque Watson no está considerando demasiadas variables. Tienen razón en decir que aún es muy rudimentaria esta tecnología.

Como Marvin Minsky decía, se necesita alguien que integre nuevas propuestas al desarrollo de inteligencia artificial.

Este enfoque no es suficiente.
#21 Sí, todo indica a que Watson aplica los patrones adquiridos del área médica correspondiente de USA. Teniendo en cuenta que la legislación sobre medicamentos en USA y la UE es diferente, así como los medicamentos autorizados y las prioridades y preferencias tiene sentido.
La laxitud en la política alimentaria y farmaceútica americana es conocida. Priman más los intereses de las multinacionales que los de los consumidores y pacientes respectivamente.
Pero no ha sido un fallo de software, lo que no dice la noticia es que el paciente se llamaba John Connor
El mejor tratamiento uno de Panduro
El dia que las maquinas hagan todo, nosotros sobraremos.
#30 Sobraremos para hacer cosas, no para disfrutarlas, espero...
#30 El día que las máquinas hagan todo, el ser humano querrá hacer cosas que las máquinas no pueden hacer.
Nosotros somos los que tenemos sueños y ambiciones, las máquinas no.
Discrepo. Que el tratamiento era descabellado es solo otra opinión. Habría que comprobar que efectivamente los médicos tienen razón y la IA no.
#33 Lo subscribo. Por ejemplo, hace poco he podido comprobar en un projecto como un sistema de aprendizaje automático para manos robóticas generaba configuraciones que para el experto humano eran "descabelladas" y luego resulta que daban resultados del 200% de eficiencia sobre la configuración propuesta por el experto humano...
Las AI están bien y tienen aplicaciones directas que se implementarán rápidamente en sistemas no críticos, donde no hay vidas en juego.

Por eso la implantación de vehículos autónomos está muy lejos, un "pequeño" fallo de este tipo puede significar retrasos de años.
#34 si si, superlejos, jajaja. El problema es que la gente pretende que estos sistemas sean libres de fallos antes de implantarse, cuando es suficiente que cometan menos fallos que el humano medio...
#65 Si claro, a la gente le pasa como a los médicos de la noticia: Quieren una AI que no decida matarte.
#89 la pregunta es si el oncoloco medio no decide con mayor probabilidad un tratamiento que te manda al otro barrio. Esa es la vara de medir
#91 Espero que lo de "oncoloco" sea una errata, y no una sutil puñalada trapera... ;)
#94 era una errata pero me ha quedado de puta madre, jajaja
#91 Ya veo que tienes una fe ciega en la tecnología, je, je.

Yo entre los médicos y máquinas que "piensan', lo tengo muy claro.
#99 no tengo fe ciega, pero ya lo dijeron en terminator así que mejor que repetirme te pego un enlace
youtu.be/tksN5Jaan9E
A ver, si van a morir igual, cuanto antes mejor y se dedican recursos a otros pacientes. :troll:
para mí es errónea,
MORTAL solo sale en el titular, en el texto habla de descabellado... es muy diferente.
además se insinua que el sistema no falla, si no que quería acabar con el paciente.
Curioso... Dice:

Entre las críticas destaca que Watson Oncology no aporta nuevo conocimiento científico, a la vez que tiene dificultades para leer y entender expedientes médicos.

Será que están escritos en letra de médico. Lo único menos inteligible que la letra de un médico es la de M. Rajoy.... :-)

Aparte de ello, no está sujeta a supervisión de las autoridades, ni a control de calidad, a la vez que sus resultados no son transparentes.

Los resultados son transparentes. Lo que nunca será transparente es el proceso para llegar a esos resultados. Las redes neuronales funcionan así: sabes que entra, sabes que sale, pero es imposible saber como leches ha procesado la información
¿Y si Watson es tan avanzado que propone cosas que para la ciecia actual son descabelladas pero en realidad ocultan la cura para el cáncer? :troll: :tinfoil: :tinfoil: :tinfoil:
A lo mejor esos pacientes estaban terminales y simplemente sugería la opción rápida...
Entonces no era un asunto tan elemental querido IBM Watson.
El titular quiere dar a entender que la máquina quería matar conscientemente al paciente.
En realidad es que recomendaba un tratamiento erróneo en un tercio de los casos.
El problema es que ante el término 'inteligencia artificial' la gente de imagina roboces asesinos, y en realidad son programas que intentan aprender a hacer la O con un canuto y se les hace bola.
el problema no es IBM Watson, el problema es el Panduro que cuesta roerlo.Hay que poner pan del día y seguro que IBM Watson funciona a la perfección.
Mi primera duda es si Watson tenia acceso a la información que decía que esos medicamentos eran mortales para esa tipologia de pacientes.
No me agrada el titular porque es sensacionalista. Se da a entender que propone directamente matar al paciente porque no hay nada que hacer, pero se trata de que recomienda tratamientos que según los médicos son contraproducentes y podrían matar al paciente.

Estoy muy de acuerdo en la afirmación de esta tecnología es rudimentaria, y en general, me parece que la inteligencia artificial lo es. Se le da más crédito del que merece, y en general de lo que se trata de que un algoritmo de aprendizaje…   » ver todo el comentario
Es que Watson ha aprendido de médicos estadounidenses, y allí consideran más rentable dejar que se muera el paciente
Joder, a nadie más le choca tanto la malísima redacción del articulo como para no poder ni leerlo del tirón?
Justamente ayer en el programa "sense ficció" hablaban de este método y lo peligroso que nos pareció
Es como el relato de Asimov en el que le dicen a un cerebro positrónico que descubra como viajar más rápido que la luz. El cerebro se cortocircuita porque en la solución encontrada los humanos morian durante una fracción de segundo y eso entraba en conflicto con las leyes de la robótica.
La gente debe de entender que de momento los sistemas de IA son herramientas de ayuda al la decisión.
Medidas para el sostenimiento eficaz del gasto sanitario
lo llamamos en EE.UU, dijo Watson..., teneis mucho que aprender.



"...hemos visto que Watson ha propuesto un tratamiento con sustancias que el paciente nunca más en su vida debía tomar, debido al riesgo vital que implican”.

"en la tercera parte de los casos el tratamiento propuesto por Watson “era descabellado"

“Watson es estadounidense”
Otro elemento puesto de relieve por médicos no estadounidenses es que Watson se caracteriza en grado sumo por el enfoque y
percepciones estadounidenses sobre el tratamiento del cáncer, lo que también queda reflejado en los tratamientos que propone.
Skynet confirmed!!!!
«12

menéame