{"id":10786,"date":"2023-09-22T12:00:10","date_gmt":"2023-09-22T12:00:10","guid":{"rendered":"https:\/\/revistanyt.com.ar\/online\/?p=10786"},"modified":"2023-09-22T05:41:56","modified_gmt":"2023-09-22T05:41:56","slug":"inteligencia-artificial-confiar-o-no-confiar","status":"publish","type":"post","link":"https:\/\/revistanyt.com.ar\/online\/inteligencia-artificial-confiar-o-no-confiar\/","title":{"rendered":"Inteligencia artificial: \u00bfconfiar o no confiar?"},"content":{"rendered":"

Un equipo argentino que trabaja cuantificando sesgos en grandes vol\u00famenes de texto, public\u00f3 un trabajo que alerta sobre los problemas de transparencia e interpretabilidad de algunas herramientas basadas en inteligencia artificial. Apunta al desconocimiento sobre c\u00f3mo toman decisiones y a la posibilidad de reproducir sesgos y estereotipos.<\/strong><\/span><\/p>\n

Adem\u00e1s de procesar y cuantificar, la inteligencia artificial (IA) toma decisiones. Pondera algunos elementos por sobre otros, saca conclusiones, brinda respuestas, produce textos o im\u00e1genes. Decir que esta tecnolog\u00eda est\u00e1 generando profundas transformaciones en nuestras formas de vida ya resulta una obviedad. Sin embargo, su funcionamiento todav\u00eda entra\u00f1a algunos misterios.<\/p>\n

Para apreciar la profundidad de esa caja negra, basta con un ejemplo: una herramienta que selecciona autom\u00e1ticamente un curr\u00edculum para un puesto de trabajo. \u00bfC\u00f3mo elige a una persona por sobre otra? \u00bfC\u00f3mo confiar en la imparcialidad de sus resultados? \u00bfSe puede saber cu\u00e1l fue el camino adoptado por el sistema para tomar una decisi\u00f3n?<\/p>\n

Seg\u00fan Edgar Altszyler, investigador del CONICET en el Laboratorio de Inteligencia Artificial Aplicada (LIAA) en la Facultad de Ciencias Exactas y Naturales de la UBA, esa herramienta deber\u00eda poder auditarse. \u201cSer\u00eda bueno ver qu\u00e9 elementos est\u00e1 mirando y, en funci\u00f3n de eso, que una persona pueda decidir entendiendo el proceso, porque tal vez se est\u00e9 basando en estereotipos. Es uno de los problemas que existen\u201d, afirma.<\/p>\n

Una herramienta que selecciona autom\u00e1ticamente un curr\u00edculum para un puesto de trabajo. \u00bfC\u00f3mo elige a una persona por sobre otra?<\/p><\/blockquote>\n

Altszyler se especializa en procesamiento del lenguaje natural y ha venido desarrollando distintos trabajos sobre detecci\u00f3n y medici\u00f3n de sesgos, en especial, de g\u00e9nero, en grandes vol\u00famenes de texto. \u201cSe mezclaron dos intereses -dice-. Uno es la t\u00e9cnica de IA y el otro tiene que ver con las ciencias sociales computacionales\u201d.<\/p>\n

\u201cNosotros abordamos estos trabajos desde el aspecto de la t\u00e9cnica. Cuantificamos la hip\u00f3tesis que plantean los expertos en temas de g\u00e9nero. No es nuevo cuantificar la presencia de sesgos en textos, la novedad es que la computaci\u00f3n permite hacerlo a gran escala\u201d, comenta el investigador.<\/p>\n

De esta manera, en un trabajo anterior, el equipo cuantific\u00f3 la presencia de sesgos en pel\u00edculas. \u201cTomamos los subt\u00edtulos de los \u00faltimos cincuenta a\u00f1os del mainstream<\/em> de Hollywood y estudiamos c\u00f3mo fue cambiando en el tiempo la presencia de estereotipos, principalmente, en cuanto a roles de g\u00e9nero\u201d, detalla Altszyler.<\/p>\n

Los resultados mostraron, por ejemplo, la existencia del sesgo que asocia la inteligencia a lo masculino, una constante de los \u00faltimos cincuenta a\u00f1os. Para el investigador, eso tambi\u00e9n impacta fuertemente en la educaci\u00f3n. \u201cHay otras hip\u00f3tesis que entienden que ese es uno de los or\u00edgenes que explican la brecha en la elecci\u00f3n de profesiones\u201d, afirma. Algo que hist\u00f3ricamente se ha visto en las matr\u00edculas de carreras cient\u00edficas y t\u00e9cnicas.<\/p>\n

\u201cEn otro estudio, analizamos el contenido de dos revistas de la misma editorial, una orientada a varones y otra a mujeres. Quisimos mostrar qu\u00e9 contenidos diferentes se muestran en cada una y para eso usamos herramientas de IA que permiten extraer autom\u00e1ticamente t\u00f3picos de muchos textos\u201d, explica el investigador.<\/p>\n

Los resultados mostraron, por ejemplo, la existencia del sesgo que asocia la inteligencia a lo masculino, una constante de los \u00faltimos cincuenta a\u00f1os.<\/p><\/blockquote>\n

El trabajo encontr\u00f3 que en los t\u00f3picos asociados a la familia o a la empresa ya no hab\u00eda brechas, pero en tem\u00e1ticas de ciencia s\u00ed: la revista orientada a hombres contaba con m\u00e1s presencia de ese t\u00f3pico que la destinada a mujeres.<\/p>\n

Una objetividad ideol\u00f3gica<\/strong><\/span><\/h5>\n

El art\u00edculo recientemente publicado en ACL, cuyo primer autor es Francisco Valentini, becario doctoral en el LIAA, plantea los problemas de transparencia e interpretabilidad de estos m\u00e9todos en la medici\u00f3n de sesgos. Lo que proponen los autores es retomar otros m\u00e1s tradicionales. \u201cNosotros queremos volver al m\u00e9todo estad\u00edstico de la d\u00e9cada del noventa por distintas caracter\u00edsticas. Es bastante transparente y permite cuantificar la asociaci\u00f3n de pares de palabras. Va a los textos y se fija cu\u00e1ntas veces las palabras co-ocurren en una ventana de texto\u201d, comenta Altszyler.<\/p>\n

El investigador se\u00f1ala que ingres\u00f3 a esta \u00e1rea de trabajo en el momento de la \u201crevoluci\u00f3n\u201d de los word embeddings<\/em>, una t\u00e9cnica que \u201cpermite llevar las palabras a los n\u00fameros\u201d. \u00bfEn qu\u00e9 consiste? En la traducci\u00f3n del significado de las palabras a un espacio matem\u00e1tico. \u201cEl c\u00f3digo va haciendo que palabras con significado similar tiendan a estar cerca\u201d, detalla.<\/p>\n

No obstante, el lenguaje es polis\u00e9mico. \u00bfQu\u00e9 sucede con palabras ambiguas? Altsyler explica que estos sistemas aprenden a partir de la co-ocurrencia de palabras en base a una gran cantidad de texto. Con palabras ambiguas o con m\u00faltiples sentidos posibles, depender\u00e1 de la forma estad\u00edsticamente mayoritaria en la que aparezcan en los textos.<\/p>\n

Sin embargo, en este nuevo trabajo el equipo propone desandar un poco ese camino y dejar de lado las herramientas basadas en IA para la medici\u00f3n de sesgos. \u00bfPor qu\u00e9 no ser\u00eda conveniente continuar usando metodolog\u00edas m\u00e1s nuevas que se nutren de la tecnolog\u00eda de redes neuronales?<\/p>\n

\"\"<\/a>

Edgar Altszyler. Foto: Luiza Cavalcante. Exactas UBA.<\/span><\/p><\/div>\n

\u201cEmpezamos a notar que las m\u00e9tricas de word embedding<\/em> ten\u00edan algunas fallas. Por ejemplo, que las palabras m\u00e1s frecuentes en ingl\u00e9s, como el art\u00edculo \u201cthe\u201d, ten\u00edan sesgo masculino, y eso no estaba reportado. Encontramos que existe una tendencia en esta herramienta a ordenar las palabras en el espacio no solo por su significado, sino tambi\u00e9n por su frecuencia. Algo que, de alguna manera, va en contra de la sem\u00e1ntica\u201d, resume Altszyler.<\/p>\n

Si le damos un texto a Chat-GPT y le pedimos un resumen, lo puede hacer, pero no vamos a saber por qu\u00e9 lo hizo de esa manera.<\/p><\/blockquote>\n

\u201cYo esperar\u00eda que las palabras \u201cperro\u201d y \u201ccan\u201d est\u00e9n cerca porque significan lo mismo. Pero si se separan un poco porque una es m\u00e1s frecuente que la otra, se est\u00e1 rompiendo lo que quiero medir\u201d, agrega.<\/p>\n

Para el especialista, son m\u00e9todos en los que \u201cno se sabe exactamente qu\u00e9 es lo que se est\u00e1 midiendo\u201d, porque cuando brinda un valor, no es posible saber exactamente qu\u00e9 representa ese valor para los datos. Lo explica con un ejemplo: \u201cHoy si le damos un texto a Chat-GPT y le pedimos un resumen, lo puede hacer, pero no vamos a saber por qu\u00e9 lo hizo de esa manera, c\u00f3mo eligi\u00f3 recortar algunas cosas y quedarse con otras\u201d.<\/p>\n

Altszyler aclara que eso no es relevante si el objetivo es, por ejemplo, lograr una aplicaci\u00f3n que cumpla una tarea determinada, pero s\u00ed lo es cuando se busca analizar y comprender el proceso. \u201cNotamos que este problema afectaba espec\u00edficamente la medici\u00f3n de sesgos de g\u00e9nero\u201d, afirma.<\/p>\n

Se debe a que al modificar la frecuencia, una misma palabra puede medirse con sesgos diferentes. Por ejemplo, en un contexto m\u00e1s frecuente puede tener un sesgo masculino pero con menor frecuencia, uno femenino. \u201cEs solo por la frecuencia\u201d, expresa Altszyler. Y agrega: \u201cel contexto en el que estas palabras aparecen sigue siendo el mismo. Es un problema que aparece con estos m\u00e9todos\u201d.<\/p>\n

Por eso, lo que proponen es entender c\u00f3mo la herramienta toma decisiones, ya que de esa manera se comprende mejor qu\u00e9 se est\u00e1 midiendo. \u201cLo que proponemos en el trabajo es asociar las m\u00e9tricas de sesgos a algo tan simple como un cociente de probabilidades, es decir, qu\u00e9 tanto m\u00e1s probable es que una palabra aparezca m\u00e1s en un contexto que en otro, en relaci\u00f3n a una u otra palabra. Por ejemplo, \u2018nerd\u2019 en relaci\u00f3n a los pronombres \u2018\u00e9l\u2019 o \u2018ella\u2019\u201d, explica el investigador.<\/p>\n

\u201cLa interpretabilidad llega cuando sab\u00e9s qu\u00e9 es lo que est\u00e1s midiendo. En este caso, se obtiene un determinado porcentaje de probabilidad de que una palabra aparezca m\u00e1s en un contexto que en otro. Ese cociente entre las probabilidades es otra manera de medir la similitud sem\u00e1ntica. Adem\u00e1s, como valor extra, es posible identificar si lo que se est\u00e1 midiendo efectivamente es porque aparece m\u00e1s en un contexto masculino o femenino y no por fluctuaciones estad\u00edsticas, es decir, apariciones espor\u00e1dicas\u201d, agrega.<\/p>\n

Para concluir, Altszyler plantea que este estudio tambi\u00e9n puede ser de inter\u00e9s para la generaci\u00f3n de modelos de inteligencia artificial. \u201cDado que la IA reproduce y aprende de la informaci\u00f3n que toma, algo muy relevante es chequear y cuantificar la presencia de sesgos en los textos de entrada\u201d, propone. Y suma: \u201cmedir la presencia de sesgos en los textos de entrenamiento, permitir\u00eda trabajar en esos textos para eliminar los sesgos y despu\u00e9s entrenar la herramienta con textos m\u00e1s curados\u201d.<\/p>\n

 <\/p>\n

Foto portada: Cr\u00e9dito: Claudia\/Pixabay<\/span><\/p>\n

Autor: Adri\u00e1n Negro<\/span><\/p>\n

Fuente: nexciencia<\/span><\/p>\n

\n","protected":false},"excerpt":{"rendered":"

Un equipo argentino que trabaja cuantificando sesgos en grandes vol\u00famenes de texto, public\u00f3 un trabajo que alerta sobre los problemas de transparencia e interpretabilidad de algunas herramientas basadas en inteligencia artificial. Apunta al desconocimiento sobre c\u00f3mo toman decisiones y a la posibilidad de reproducir sesgos y estereotipos. Adem\u00e1s de procesar y cuantificar, la inteligencia artificial […]<\/p>\n","protected":false},"author":6,"featured_media":10788,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":[],"categories":[5,37,380,14,36],"tags":[2560,358,1557,492],"_links":{"self":[{"href":"https:\/\/revistanyt.com.ar\/online\/wp-json\/wp\/v2\/posts\/10786"}],"collection":[{"href":"https:\/\/revistanyt.com.ar\/online\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/revistanyt.com.ar\/online\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/revistanyt.com.ar\/online\/wp-json\/wp\/v2\/users\/6"}],"replies":[{"embeddable":true,"href":"https:\/\/revistanyt.com.ar\/online\/wp-json\/wp\/v2\/comments?post=10786"}],"version-history":[{"count":3,"href":"https:\/\/revistanyt.com.ar\/online\/wp-json\/wp\/v2\/posts\/10786\/revisions"}],"predecessor-version":[{"id":10795,"href":"https:\/\/revistanyt.com.ar\/online\/wp-json\/wp\/v2\/posts\/10786\/revisions\/10795"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/revistanyt.com.ar\/online\/wp-json\/wp\/v2\/media\/10788"}],"wp:attachment":[{"href":"https:\/\/revistanyt.com.ar\/online\/wp-json\/wp\/v2\/media?parent=10786"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/revistanyt.com.ar\/online\/wp-json\/wp\/v2\/categories?post=10786"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/revistanyt.com.ar\/online\/wp-json\/wp\/v2\/tags?post=10786"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}