![\"\"](\"https:\/\/www.argentina.gob.ar\/sites\/default\/files\/zoom_2_cafe.jpg\")
<\/p>\nEn el D\u00eda de la Industria y en el marco del caf\u00e9 n\u00famero 50, el ciclo de divulgaci\u00f3n cient\u00edfica \u201cCaf\u00e9 de las Ciencias\u201d llev\u00f3 a cabo un nuevo encuentro virtual dedicado a la \u201cExplicabilidad en la Industria del Futuro\u201d de la mano de la profesora titular de Ciencias de la Computaci\u00f3n en INSA Rouen Normandie (Francia), Cecilia Zanni-Merk, y el profesor de la Universidad Tecnol\u00f3gica Nacional Facultad Regional Rafaela, Javier Fornari, con la moderaci\u00f3n del periodista cient\u00edfico Bruno Massare.<\/p>\n
<\/p>\n
Cecilia abri\u00f3 la charla explicando sobre la Industria del Futuro conocida como la Industria 4.0, un nuevo paradigma de producci\u00f3n, donde las l\u00edneas de producci\u00f3n y las m\u00e1quinas que las componen tienen captores que miden diferentes par\u00e1metros de forma continua y,\u00a0\u201cde esta forma, analizarlos para entender c\u00f3mo se comporta esa l\u00ednea de producci\u00f3n y detectar lo antes posible cu\u00e1ndo habr\u00e1 problemas a partir del uso de inteligencia artificial (IA), Big Data y el aprendizaje profundo\u201d<\/em>.<\/p>\n A partir de los datos recuperados se aprende un modelo de ciertos enfoques y en tiempo real se compara los comportamientos con los captores.\u00a0\u201cEl problema con esto es la caja negra, de c\u00f3mo llegan estos algoritmos a una decisi\u00f3n. Ah\u00ed viene la idea de explicabilidad (explainability, en ingl\u00e9s)\u201d<\/em>. En otras palabras, el algoritmo de aprendizaje toma una decisi\u00f3n, por ejemplo, hacer mantenimiento de tal m\u00e1quina, y el t\u00e9cnico u operador al lado de la m\u00e1quina quiere entender el por qu\u00e9 de tal decisi\u00f3n.\u00a0\u201cHoy los algoritmos de aprendizajes son robustos, pero son cajas negras, es decir, no se sabe por qu\u00e9 una decisi\u00f3n fue tomada\u201d<\/em>, afirm\u00f3 la doctora en Ciencias de la Computaci\u00f3n que dicta actualmente clases en Francia.\u00a0\u201cEl tema de la explicabilidad es otro campo de investigaci\u00f3n, donde en Europa reci\u00e9n estamos trabajando, en Estados Unidos hace tres a\u00f1os aproximadamente. La idea es completar estos algoritmos de aprendizaje con otro tipo de enfoque para conocer la decisi\u00f3n tomada\u201d<\/em>, cerr\u00f3.<\/p>\n Javier abord\u00f3 la representaci\u00f3n del conocimiento dentro de la IA:\u00a0\u201cHay dos ramas en particular, una orientada al aprendizaje autom\u00e1tico (la caja negra), donde sabemos que toma buenas decisiones pero no sabemos por qu\u00e9, y por otro, los sistemas expertos, que corren con la ventaja que puede explicar la decisi\u00f3n\u201d<\/em>. Seg\u00fan el doctor en Ingenier\u00eda en Sistemas y Computaci\u00f3n, por razones que refieren a la reducci\u00f3n de costos y a la potencia, los algoritmos de aprendizaje autom\u00e1tico en el tiempo tuvieron m\u00e1s preponderancia y se utilizan aplicados en la industria, en la internet de las cosas, en los robots colaborativos, los cuales parten de estas herramientas autom\u00e1ticas.<\/p>\n El profesor invit\u00f3 a reflexionar sobre\u00a0\u201c\u00bfQui\u00e9n le dice a un sistema de aprendizaje autom\u00e1tico que se equivoc\u00f3 en una decisi\u00f3n que tom\u00f3? Seguramente el operario, y la m\u00e1quina no le va a responder, por lo que habr\u00e1 que reentrenarlo, pero en ning\u00fan momento podr\u00e1 indicar el motivo. La idea es c\u00f3mo integrar lo mejor del aprendizaje autom\u00e1tico con el razonamiento deductivo, sobre todo al momento de fundamentar decisiones\u201d<\/em>. Finalmente, dej\u00f3 abierta la cuesti\u00f3n legal en el proceso de decisi\u00f3n y la \u00e9tica al tomar decisiones, temas que ata\u00f1en a la explicabilidad.<\/p>\n