Preguntémosle a Alpha Zero cómo juega y mejoremos nuestro juego. No podemos, la red neuronal de Alpha Zero es una caja negra total: su conocimiento se encuentra distribuido entre los valores numéricos de los pesos de sus nodos neuronales. Abriendo su interior no podemos entender nada, pues el deep learning tiene este grave defecto: no podemos pasar su conocimiento a fórmulas lineales tal que podamos traducirlo en estrategias de juego. O sea, hemos creado el ente que mejor juega al ajedrez de todos los tiempos y no sabemos cómo lo hace.
Comentarios
El problema de la caja negra es una constante en el aprendizaje profundo, a ver si en poco tiempo se soluciona traduciendo los pesos de los nodos en fórmulas.
#1 En aprendizaje profundo y también en sistemas de ensemble (como Random Forests). Ya existen varias aproximaciones para intentar "entender" sistemas de ensembles y arquitecturas de redes neuronales profundas, por ejemplo utilizando HMMs.
Es un tema de investigación que está ahora mismo en auge por la GDPR y su "derecho al entendimiento".
Podéis ver los últimos avances en las publicaciones del WHI (Workshop on Human Interpretability in Machine Learning) en https://sites.google.com/view/whi2018/home si os interesa.
Las máquinas llegarán -están llegando- a un nivel de complejidad en el que no podrán explicar cómo toman sus decisiones, vendría a ser el equivalente de la intuición humana...
Interesantisimo artículo
necesitaremos una IA para que nos explique como razona otra IA, de la misma forma que necesitamos un desemsamblador o decompilador hoy en día, ¿quién sabe lo que es 010000111100001111 ? sin una de estas herramientas.
guauuu el problema es complejisimo pero se puede entender, viendo como lo explica el capa (y sabiendo algo de ajedrez claro)
He metido stockfish al problema y da ventaja blanca pero efectivamente no puede concretar como, me gustaría saber si alpha zero puede. Por cierto alguien sabe el ELO el capa este, es maestro de algo?. Nunca lo pone, lo cierto es que detrás de ese aspecto clásico algo grimoso se esconde un pedazo de profesor.
Es curioso que Alpha zero descarte defensas como la siciliana, desde luego los humanos no hemos conseguido refutarlas. Las posiciones humanas de las que ha aprendido stockfish, en base a complejidades limitadas por nuestra capacidad, son un lastre para zero, que aprende digamos, de otro modo.
Sobre el tema de no poder "desambiguar" el conocimiento adquirido por una maquina hay un articulo de hace pocos días que dice que no es exactamente cierto.
Es que descarta todas las sicilianas y la Ruy lopez, dando prioridad a peon de dama.
La novedad teorica del carlsen caruana en la siciliana suena a cocina refutada contra una maquina de estas, extrayendo el petroleo