Hace 4 años | Por Izaga a vozpopuli.com
Publicado hace 4 años por Izaga a vozpopuli.com

El Consejo General del Poder Judicial estudia ya la potencial aplicación generalizada en España de sistemas de "Justicia predictiva". Estas tecnologías consisten en algoritmos capaces de recoger toda la jurisprudencia sobre un asunto y estimar las probabilidades de que los procedimientos judiciales se resuelvan en un sentido u otro, con un grado de eficacia que ronda el 85% de los casos según experiencias ya dadas en otros países europeos y en EEUU a la hora de perfilar y cuantificar en sus resultados a los jueces y a los abogados.

Comentarios

D

#3 Tienes que llamarlo Inteligencia Artificial para meter el cuento y que se oiga muy guay.

Varlak

#62 Si, porque llamarlo "gilipollez humana" no vende bien. Como os gusta montaros peliculas, de verdad...
Cc #3

D

#67 Sí, se vende muy mal, llamémoslo la lógica fundamental subyacente de la LIVG.

Varlak

#69 nah, me parece que lo de "gilipollez" o "pelicula" sigue siendo mas preciso

NapalMe

#3 Por el amor de Boole...

Culpable = acusado==hombre and delito==viogen

D

#3

Creo que tu ideología está igual de bien desarrollada que el modelo de computación que expresa ese código.

Ya no voy a hablar de las sintaxis anticuada, usando palabras como marcadores en lugar de llaves o indentaciones. Ya que eso son detalles cosméticos, que si bien tienen fundamento en la claridad visual, al final son modas.

Pero de lo que si quiero hablar es de la concepción que tienes de una computadora. La máquina electromagnética que hemos construído para computar se basa en estados por razones ingenieristicas, no por que sea ni de lejos el mejor modelo computacional, si los comparamos en base a los costes de producción o mantenimiento de los algoritmos que construyen los programas.

Por eso, te ruego por favor que reconsideres tu postura sobre el modelo computacional que utilizas para razonar sobre programas informáticas, e incorpores en el construcciones tan útiles como el concepto de función. Entender los programas como funciones que transforman de unos datos a otros es muy interesante y genera programas mas sencillos.

Por ejemplo, podrías haber expresado algo tipo:

sentenciar(acusado)

Como ves, es mucho mas sencillo y permite construir programas mantenibles y extensibles.

De la misma forma, te sugiero también que repases tus opiniones sobre ciertos asuntos, es posible que estén igual de anticuadas que tu modelo conceptual alrededor de la computación.

Tenía que hacerlo, no me he podido resistir.

D

#77 toda esa chapa, nivel pedantería xtrem, te la podías haber ahorrado.

Mete ese codigo en cualquier macro de vba y me dices si funciona, eso sí, hay que meter comillas en las variables.

d

#77 Madre mía, y yo que creía saber lo que era la pedantería... así va el sector

D

#87 En meneame siempre hemos estado los mas pedantes, durante años intenté ser el mas pedante, pero me di cuenta de que era imposible.

Todos los listillos de clase estamos en meneame.

Por cierto, te devuelvo el negativo, derp

perro_marron

#77 Tu funcion esta mal. Fijate en el algoritmo original, que dice que en el caso de hombre y viogen culpable es cierto, pero no dice nada de los demas casos. Tu funcion asigna culpable igual a falso. Entonces si una mujer se come un niño culpable igual a falso?
A parte de que no has entendido nada de programacion estructurada, leete a wirth, que en los años setenta ya explico las reglas del juego.

D

#92 mi función cubre los mismos casos que los cambios de estado que el propone.

Madre mía, que nivel.

Por cierto, la programación estructurada está muy bien como paradigma, pero no es mucho más que no utilizar goto.

Intentar dárselas de pedante y no llegar, es peor incluso que ser un pedante.

perro_marron

#93 mi función cubre los mismos casos que los cambios de estado que el propone.
No, no lo hace. Devuelve falso para casos no contemplados por el algoritmo original. Y ademas no hace diferenciacion de esos casos. En el mundo real esto es un bug de libro. Esto no es pedanteria, es simplemente constatacion de un hecho. Si quieres dartelas de listo, por mi bien, pero luego asegurate de que lo que dices tiene un minimo de coherencia. Si tu codigo es de este estilo mal vamos, y si tu sentido de humildad es ese, aun peor.


Madre mía, que nivel

En eso estamos de acuerdo. Con lo del goto, bueno en fin... Mejor mirate la ultima frase de tu comentario, es una gran verdad.

D

#94

No, no lo hace. Devuelve falso para casos no contemplados por el algoritmo original.


Claro, pero es que el algoritmo original devolvía false para esos casos, o bien fallaba.

Vamos a repasar el algoritmo original:

If acusado=hombre and delito=viogen then
Culpable=true
End if


Perfecto, como puedes observar, este trozo de código altera el estado de una variable, pero claro, como no hay mas código, suponemos que ese es el programa o módulo completo (que otra opción tenemos?).

Si te fijas, ese modulo no tiene sentido, por que no devuelve nada. Lee unas variables y asigna un valor, que no utiliza para nada, y luego termina el programa o módulo en cuestión. Como le he explicado al usuario eso conceptualmente es inutil, además de evidenciar paradigmas de computación y de programación anticuados e ineficientes (en cuanto a costes de creación y mantenimiento de los programas informáticos).

Es divertido que me digas que mi transformación expresada en forma de función tiene un bug por que devuelve false para los casos que el usuario no ha contemplado. Si lees su ejemplo, verás que no cubre ningún otro caso, por lo que forzosamente su transformación tiene que devolver un valor evaluable a false como resultado de la ejecución del algoritmo.

¿Que valor contiene Culpable si no se entra en el if? Pues en base al código que el usuario ha decidido postear, un valor dependiente de la plataforma pero evaluable a false. undefined, null, empty, nil, false... todo eso son detalles implementativos, pues su código se basa en lógica booleana y todos esos valores evaluarían a false en cualquier plataforma de computación convencional.

De hecho, esto que comentas es un claro ejemplo de por que tengo razón: el modelo de computación que utiliza el usuario para construir el programa no especifica el dominio completo de la función, por lo que es imposible nisiquiera computarla, solo con ese ejemplo.

Y ademas no hace diferenciacion de esos casos.

Es que como programador debes conseguir que el computador haga las transformaciones necesarias para que el programa haga lo que la especificación dicta, no inventarte cosas por que a ti te parecen subjetivamente razonables. Es el clásico error de junior, que cree que tiene que construir una catedral de su propia imaginación cada vez que le piden que gestione 4 casos concretos.

El programa original gestionaba un caso, y el resto estaban indefinidios (lo cual evalua a falso). Mi función se comporta de la misma manera, pero explicita esa decisión del anterior usuario. En mi ejemplo pasa lo mismo que en el suyo, solo que en el mio las cosas son legibles y explicitas.

En el mundo real esto es un bug de libro.

¿Y que bug es? Su algoritmo solo especifica que en caso de viogen y hombre, el resultado debe ser true. No se específica nada mas. Ponerte a inventarte tus películas en las historias de usuario no es algo positivo, y ceñirse a la historia/requisitos no es un bug.

Nadie ha pedido que debe pasar con otros casos, ni se ha especificado ningún caso mas. Además, en este foro y con este ejemplo no hay contexto suficiente para decir que compartimos un entendimiento de la realidad para construir un modelo, al estilo DDD, del cual podamos deducir esos casos que no han sido especificados.

Esto no es pedanteria, es simplemente constatacion de un hecho

No, no es pedantería. Es ignorancia sobre el estado del arte de ingeniería del software y sobre ciencias de la computación.


Si quieres dartelas de listo, por mi bien, pero luego asegurate de que lo que dices tiene un minimo de coherencia.

Lo que he dicho es completamente coherente, a diferencia de tus observaciones donde me indicas que debería cubrir casos no cubiertos sobre un dominio indefinido. ¿Eres de Barcelona? Lo digo por que si te dedicas al software y eres de Barcelona es probable que nos conozcamos o conozcamos a gente en común. Tengo curiosidad por saber a que te dedicas, ya que demuestras un conocimiento muy limitado de como se construye software y por que se hacen las cosas como se hacen.

Si tu codigo es de este estilo mal vamos, y si tu sentido de humildad es ese, aun peor.

Que tiene que ver la humildad en un debate de ingenieria y ciencias de la computación? La humildad no tiene nada que ver con aceptar práticas suboptimas, o con no decirte las cosas como son.

Obviamente yo no tengo la verdad absoluta, ni tampoco soy el mejor programador o ingeniero de software del mundo, ni tampoco pretendo serlo, pero las cosas como son, si el usuario pretendía expresar un algoritmo que hace una transformación así de simple, la abstracción mas pertinente para ello es una función. Como función, luego puede constituir una pieza de otra estructura, por ejemplo de una clase, para convertirse en un método. Pero supongo que no te hace falta que te explique las ventajas de entender los programas como funciones que llaman a funciones, en lugar de como pedazos de código que alteran estados arbitrarios. ¿O si hace falta?

En eso estamos de acuerdo. Con lo del goto, bueno en fin...

La programación estructurada es un concepto que nació cuando se eliminó el goto en ALGOL.

Te cito de la propia wikipedia:

It emerged in the late 1950s with the appearance of the ALGOL 58 and ALGOL 60 programming languages,[1] with the latter including support for block structures. Contributing factors to its popularity and widespread acceptance, at first in academia and later among practitioners, include the discovery of what is now known as the structured program theorem in 1966,[2] and the publication of the influential "Go To Statement Considered Harmful" open letter in 1968 by Dutch computer scientist Edsger W. Dijkstra, who coined the term "structured programming".[3]

Las block structures de las que habla son el mecanismo que permite eliminar el goto, y convierte los programas en secuencias con principio y final definido, y no en instrucciones sobre las que saltas adelante y atrás.

Te sugiero que antes de entrar al trapo estudies un poco mas sobre ciertos asuntos, y no presupongas que la gente no tiene ni idea de lo que habla

RobertoConde

#7 Lo tengo apuntado en mis ideas para relato desde hace tiempo. Tenía otro pensado para este miércoles pero a lo mejor lo cambio.

Jakeukalane

#11 Me acabo de acordar del nombre del relato: Sufragio universal.

r

#13 ¿No era esa una peli de Van Damme y Dolph Lundgren?

Jakeukalane

#28 ni idea.

MoñecoTeDrapo

#34 Sufragio Soldado universal, te tomaban el pelo

Jakeukalane

#47 así es.

Desty

#47 Ni siquiera "vota", solo le hace unas cuantas preguntas aparentemente aleatorias.

ContinuumST

#90 Demasiado he puesto, que he tirado de memoria... lol pero... ¿no iba ni siquiera a votar? Hmmm... falso recuerdo el mío entonces.

Jakeukalane

#91 Sí, es lo que la persona responda es lo que hace que Multivac determine su voto y con ese voto la victoria de ese candidato.

JohnSmith_

#47 Creo recordar (es posible que este equivocado), que el Votante (notese la mayuscula) lo elegia MULTIVAC de forma que el resultado, despues de todo el proceso de seleccion y entrevista, fuera el que MULTIVAC habia establecido como optimo. La gente creia que tenian capacidad de eleccion, representada en el Votante ... pero solo era una ilusion pues, en el fondo, sus destinos los regia MULTIVAC en exclusiva.

(es posible que lo este recordando mal ... hace eones que lei ese relato).

D

#7 ¿Dudas que una IA pueda ser más justa e imparcial que un juez particular?

Jakeukalane

#16 me parece muy peligroso.

D

#35 A mi me parece peligroso el seguir dando esos poderes a personas

Jakeukalane

#96 con una IA se les está dando poder a las personas que han encargado la programación de dichas IA.

D

#99 Y si lo encarga la sociedad que problema le ves?

Jakeukalane

#100 esa sociedad de la que hablas estará en el íbex 35 supongo.

eldarel

#16 Sí, las IAs tienden a heredar los sesgos de quienes las entrenan.

D

#39 .... cuentame más

katinka_aäå

#60 Dice que es posible entrenar una IA especializada en detectar perros y que luego detecte gatos, porque la entrenas con gatos.

... pidenos más

RHnegativo

#65 Exacto y el problema a diferencia de un software con un algoritmo definido, no se puede audiar los entresijos de una red neuronal, lo que supone que en caso de disputa por la decisión de la IA solo tienes una caja negra que no te deja ver nada, un ProblemoN para la Democracia.

D

#65 Que chorrada es esa? Si la entrenas con gatos la relacion con los perros solo esta en tu cabeza.

Quiero mas acerca de esas "teorias" vuestras, por favor.

katinka_aäå

#97 Sí, aquí voy a estar simplificando la comparación hasta el nivel adecuado para que a ti no te parezca una chorrada.

D

#16 una IA es exactamente igual de manipulable (o más) que un ser humano.

tranki

#51 Sí, eso es cierto, pero al menos no cobran ni mordidas ni sobornos
de momento

vacuonauta

#22 qué tendrá que ver disentir con que el papel lo juegue una persona o una IA

ContinuumST

#45 Porque si se equivoca un humano puede "castigado" por su error y si su error es un delito puede ir a la cárcel. Si una máquina con IA comete un error y alguien muere (por ejemplo) a quién se "castiga"... ¿al software? ¿Al programador? (chistes aquí...) ¿A quién?

Jakeukalane

#107 me estás dando la razón entonces. Yo no estoy en contra de las IA por sistema. No da miedo porque sean IA, si fuera otro tipo de procedimiento en el que se puede controlar externamente también daría miedo (y es lo que pasa ahora). Sin embargo, como dice #52 todavía existe la posibilidad de que se pille a un juez haciendo lo que no debe y se le puede castigar. O la conversación aquella del que iba a ser jefe del supremo y era un pepesuno.

D

#45

Fácil, tu mismo lo descubrirás si te preguntas: ¿Que impidió que la gente del pasado se revelase, por ejemplo, para obtener derechos laborales?

Si los poderosos de ayer hubiesen tenido algoritmos sentenciadores y cámaras por todas partes, y máquinas para procesar todos esos datos, hoy no disfrutarías de casi ningún derecho de los que disfrutas.

El disidente siempre se salta las normas, los movimientos de disidencia siempre tienen fases clandestinas y acciones clandestinas. La aplicación sistemática de justicia a todo tipo de situaciones se vuelve posible si el coste de auditar la situación y evaluarla como delictiva es bajísimo.

De hecho, en base a este argumento podemos entender por que programas como Xkeyscore, de la NSA no son un ataque a tu privacidad, son un ataque a la democracia. Por que encontrar a la gente que hace cosas "malas" tiene que ser caro, por que de lo contrario los poderes que dicen representar a las supuestas mayorías tienen un poder extremo.

O dicho de una manera mucho mas simple: impedir acciones tiene que ser caro, de forma que exista un aliciente para encontrar la causa de las cosas, en lugar de restringir la libertad.

En realidad, por cierto, este suele ser un eje central en los modelos de pensamiento conservador-progresista al menos en España. Las personas de derecha generalmente defienden la aplicación de la ley a toda costa, mientras que las personas de izquierdas siempre son mas relativistas con esto de imponer la ley sistematicamente. Esto es así por que ambos saben que la disidencia es siempre la fuente de cambio, y el conservador no quiere cambio, el progresista si.

P

Por fin!
Juez Dreed en camino!

pedrobz

#6 Yo veo más bien Psycho Pass (spolier) además que nuestros gobernantes encajan perfectamente en el perfil de la máquina que decide quien es un criminal (/spolier)

subzero

#6 Ni siquiera se escribe así...

P

#44 perdone usted

D

#6 Dredd no es una IA

D

#12 Es que si no la gente no socios eso de tecnología=> mayor productividad => Menos mano de obra necesaria para el mismo trabajo.

Y extrañamente, la sociedad asimila eso a algo negativo. Cosas del capitalismo...

Pérfido

Actualmente los expedientes no son digitales, no hay bases de datos comunes, ni siquiera un juzgado tiene capacidad real de conocer los expedientes previos o paralelos de los encausados en otros lugares. La mayoría de juzgados no tienen ni email, siguen operando con fax, balija y documentos presenciales anacrónicos decanato mediante.

Un gran porcentaje de los funcionarios son analfabetos digitales, su productividad es mínima, se pueden tirar literalmente meses para firmar un documento. Imaginaos como se trabajaba en las oficinas en los años 70-80, pues en los juzgados es peor.
Las causas se acumulan y los procesos se eternizan.

El despropósito es tan grande que justifica por si mismo la existencia de una profesión, los procuradores, de otro modo ansurda e innecesaria.

¿y qué plantean ante esta situación? Aplicar machine learning a los nuevos procesos, algo que a mi parecer no sólo no resuelve ninguno de los problemas de base de la justicia, sino que además vulnera los principios más básicos de la misma.

eldarel

#24 Yo siempre he pensado que si el anacronismo del papel es porque no se fían de lo digital por no saber si está juaqueado.

Pérfido

#42 pues hacienda bien que se fía...

thingoldedoriath

#55 Y desde hace bastantes años!!

Pérfido

#46 te has dejado dos errores por corregir

subzero

#56 No soy tan pérfido

Pérfido

#78 bien jugado

ContinuumST

#24 Porque dotar de más dinero, medios y personal a la Justicia como que no se les ocurre... ¿por qué será? Déjame pensar a ver qué se me ocurre.

Pérfido

#54 creo firmemente que con el personal actual se podría conseguir muchísimo, pero habría que cambiar bastante la gestión.

ContinuumST

#58 No lo sé, hablo por referencias de conocidos míos en el ámbito de la Justicia. Y los "bloqueos" que reciben desde arriba. OJO, nivel secretarios judiciales y cosas así, nada de super jueces ni nada de eso.

Pérfido

#61 si yo pusiese a la financiera de mi empresa a trabajar únicamente con una calculadora, me diria que necesita personal de apoyo.
Sin embargo si le facilito un ordenador con un excel, le cambio la vida.

ContinuumST

#63 Claro, indiscutible, de ahí la parte de dedicar dinero a la Justicia, dotación, escaneo de documentos, sistemas seguros de guarda y custodia de documentos, mil cosas... pero es dinero y hay que querer invertirlo en la Justicia española.

D

#64 Aunque estoy totalmente de acuerdo, también piensa que tienes a un funcionario que toda su vida ha usado un ábaco, no vas a conseguir que encienda el ordenador ni de coña, y no le hables de excel... de todas formas, es cierto que hay que dotar a la justicia de medios.

De hecho, ya que ya ha salido el tema de la violencia de género, pienso que hay muchos temas en los que seguramente mejoraría la criminalidad simplemente porque mejoren los tiempos de la justicia. En la mayoría de sociedades civilizadas importa mucho la percepción social que se tiene de cuánto funciona la justicia.

En muchos países hay leyes contra el ruido, pero no en todos se respeta, y no en todos se tiene la misma percepción de que te hagan caso si denuncias (al margen de que luego realmente te hagan caso).

tamat

Hace poco estuve en una charla que hablaba sobre los peligros de esta tendencia.

La tecnologia consiste en entrenar un sistema usando todos los casos existentes, lo que a simple vista suena bien porque reduce parte de la carga a la hora de evaluar ciertos casos.

El peligro está en los sesgos. Al entrenar estos sistemas se le está diciendo indirectamente al sistema que la sentencia dada en todos los casos anteriores era correcta, y el sistema tenderá a perpetuarla. El problema es que muchas de esas sentencias se hicieron teniendo en cuenta el sesgo de nuestro sistema judicial.

Por poner un ejemplo, si el acusado es negro en USA el sistema cae mas fuerte sobre él. Para evitar esto los sistemas dicen - no añadimos la raza como parte de las variables que el sistema tiene en cuenta - sin embargo su barrio de origen (que si que formaba parte de los datos que se introducian al sistema) ya va a definir seguramente su raza.

El segundo problema es que estos sistemas son opacos al publico, e incluso aunque los resultados puedan ser estudiados (algo que no es facil, ya que las redes neuronales entrenadas al final son grandes matrices de numeros dificiles de interpretar), los procesos por el cual se han entrenado los sistemas no suelen ser publicos.

Asi que la cosa entra en un terreno turbio donde enseñamos a maquinas a ser como somos nosotros ahora, con nuestras virtudes y defectos, solo que nosotros podemos darnos cuenta de nuestros fallos, ellas no.

D

#71 Exacto, es muy importante cómo se entrena a la máquina, ése proceso debe ser público y revisable, es decir, se debe poder reentrenar a la máquina cada cierto tiempo.

aroundtheworld

Lo que no puede ser es que se tarde más de 12 meses en resolver cualquier tema judicial. A día de hoy en España, con la lentitud del sistema, no es posible dar una cobertura jurídica adecuada al ciudadano medio.

D

#18 dímelo a mí, tengo una denuncia contra mi empresa por reclamación de una cantidad, tres años esperando el juicio. Fue la semana pasada, la empresa argumentó no haber tenido tiempo de estudiarse la actualización de cantidades que presentó mi abogado diez dias antes y el juez suspendió el juicio, el siguiente dentro de otros tres años. Es todo un chiste, la empresa me va a pagar el dinero que me está quitando de manera ilegal dentro de cien años, con suerte. Robots dicen.

l

#26 SI te sirve de consuelo, que imagino que no, tendrán que pagarte los intereses de ese dinero, que es bastante más de lo que te daría si estuviera en el banco.

eldarel

#26

C

Espero que no funcione como los algoritmos de algunos meneantes:

Si comentario es opuesto al mío entonces
Votar negativo
Marcar usuario al ignore
Fin si

Si noticia es de deportes entonces
Votarla irrelevante
Fin si

Si noticia es sobre político local que se sale con la suya y me causa indignación entonces
Menear noticia
Escribir comentario de cuñao mostrando mi vestidura rasgada
Fin si

ﻞαʋιҽɾαẞ

Los hackers estarán frotándose las manos.

soundnessia

Esto debe ser troll no me jodas.
Ya si eso se hace un carné de condena con unas normas y punto.
Ya se que existe el penal

ElPerroDeLosCinco

Donde dice "predigan" hay que entender "dicten". El juez humano empezará comparando su sentencia con la predicha por la máquina, luego irá confiándose y se limitará a firmar.

ContinuumST

#38 Y si se equivoca pagará los platos rotos el informático de turno. lol lol

D

#38 Le pondran una IA más gorda por encima para que rectifique al juez y lea sus constantes vitales para ver si va enfarloped. No habrá paz para los malvados, jueces incluidos. ¡Jajjjjaaaajjjaa!

M

Con que tengan por fin una intranet que funcione, me conformo.

D

Bueno un pelín sensacionalista, pero es un tema a tener en cuenta en el futuro.

jm22381

Y cuando haya una anomalía... tal vez quiera decir que el juez ha sido sobornado? Uy qué peligro!

p

¿Discriminarán por jueces, para que así un caso le toque a uno u otro según convenga?

D

#4 Más bien ya no harán falta jueces, para qué? Para que se limiten a fallar lo que diga el ordenador?

mierdeame

Manolity Report

MoñecoTeDrapo

#36 Precrimen!! tinfoil. Ya tardaba la 1ª referencia...

D

El caso es no dar ni chapa.
Reducirán los funcionarios, no?

c

La fiscalía va a tener que afinar usando hackers rusos.

polvos.magicos

El otro 15% es sobre sentencias al PP dictadas por sus afines.

D

#51Una IA es auditable. Un humano no.

katinka_aäå

#59 Para empezar el código tendría que ser abierto y por lo visto la administración española es reticente a ello. Y el modelo predictivo generado podría ser difícil de interpretar incluso por ingeniero-abogados, dependiendo del tipo de IA.

r

Pues tendran que incorporar un buzon para entrada de sobres antes de ejecutar la sentencia.

Pues si su eficacia es del 85% quiza sea mejor tirar una moneda al aire y nos ahorramos aun mas pasta.

D

Para qué quieren una IA que prediga sentencias, si para eso ya está Twitter

D

El desempleo tecnológico de sus señorias: Me parto.

D

Lo próximo será robots que generen noticias verdaderas y contrastadas y adiós a los panfletos que todos conocemos.

David_Bernal

Y no serie mejor invertir el dinero en acabar de informatizar el sistema judicial de una vez. Y tener unos juzgados más ágiles y eficaces.

D

Aqui la gente no sabe la diferencia entre algoritmo e IA y ya sueltan sus mierdas para apoyar sus mierdas de ideologias.
Luego los cuñaos son los del bando opuesto.

kucho

#33 son robots, mola!

E

Multivac de libro, espero verlo algun dia.

D

#27 yo espero no verlo nunca

D

El neoludismo pega fuerte en meneame

D

¿ Y predecir indultos ? Necesitamos sujetar en corto a este presidente traidor

1 2