{"id":10262,"date":"2023-07-12T12:00:30","date_gmt":"2023-07-12T12:00:30","guid":{"rendered":"https:\/\/revistanyt.com.ar\/online\/?p=10262"},"modified":"2023-07-12T03:34:39","modified_gmt":"2023-07-12T03:34:39","slug":"modelo-para-desarmar","status":"publish","type":"post","link":"https:\/\/revistanyt.com.ar\/online\/modelo-para-desarmar\/","title":{"rendered":"Modelo para desarmar"},"content":{"rendered":"

Con su reciente popularidad, la inteligencia artificial inspira tantas amenazas como promesas. \u00bfEs razonable desconfiar de esta tecnolog\u00eda? \u00bfSuperar\u00e1 al intelecto humano? \u00bfSe deben frenar los desarrollos? En di\u00e1logo con NEXciencia, Luciana Ferrer, especialista en el tema e investigadora del CONICET, despeja algunas dudas y comenta sus trabajos.<\/strong><\/span><\/p>\n

Hasta en la sopa. En los \u00faltimos meses, la inteligencia artificial (IA) pas\u00f3 a ocupar el centro de la escena. Est\u00e1 en las mesas familiares, las charlas de oficina, la televisi\u00f3n, las redes sociales. Ya ingres\u00f3 en el sal\u00f3n de la fama de la cultura popular y hasta tuvo sus esc\u00e1ndalos medi\u00e1ticos. Con tanto ruido, las dudas y mitos se instalan con m\u00e1s fuerza que sus posibilidades concretas.<\/p>\n

La historia es conocida. Desde el lanzamiento de Chat GPT<\/em>, desarrollado por OpenAI<\/em>, a fines de 2022, se han generado iguales dosis de fascinaci\u00f3n y espanto. En ese contexto, dos hechos marcaron la agenda. El primero fue la carta abierta firmada por expertos y empresarios, encabezada por Elon Musk, alertando sobre los \u201cgrandes riesgos\u201d y proponiendo suspender los desarrollos por seis meses. El segundo fue la renuncia de Geoffrey Hinton a Google tras calificar de \u201caterrador\u201d a Bard<\/em>, el chat bot de esa compa\u00f1\u00eda, apuntando a su falta de \u00e9tica y a la necesidad de regulaciones.<\/p>\n

En el medio, un grupo de cient\u00edficos y especialistas en IA reunidos en Montevideo en el marco de Khipu<\/em>, el Encuentro Latinoamericano de Inteligencia Artificial, firm\u00f3 una declaraci\u00f3n respondiendo cr\u00edticamente a la carta encabezada por Musk. \u201cNo hay valor social en tecnolog\u00edas que simplifican tareas a unas pocas personas generando alto riesgo para la dignidad de muchas otras, limitando sus oportunidades de desarrollo, su acceso a recursos y sus derechos\u201d, advierten al afirmar que la implementaci\u00f3n de IA debe cumplir con los principios rectores de los derechos humanos y estar al servicio de las personas.<\/p>\n

\u00bfPara qu\u00e9 estamos utilizando esta tecnolog\u00eda? \u00bfNos quedaremos sin trabajo?\u00bfHemos abierto una caja de Pandora sin ning\u00fan control?<\/em><\/strong><\/p><\/blockquote>\n

En definitiva, \u00bfpara qu\u00e9 estamos utilizando esta tecnolog\u00eda? \u00bfNos quedaremos sin trabajo? \u00bfLas m\u00e1quinas tendr\u00e1n autonom\u00eda y poder de decisi\u00f3n sobre asuntos p\u00fablicos? \u00bfHemos abierto una caja de Pandora sin ning\u00fan control? Son preguntas que ya est\u00e1n sobre la mesa. Sin embargo, para evitar tanto el optimismo furtivo como la distop\u00eda fatal, puede ser \u00fatil empezar por lo b\u00e1sico.<\/p>\n

\u00bfC\u00f3mo definir la Inteligencia artificial? Para Luciana Ferrer, investigadora del Laboratorio de Inteligencia Artificial Aplicada en el Instituto de Ciencias de la Computaci\u00f3n de la Facultad de Ciencias Exactas y Naturales de la UBA, son algoritmos y m\u00e9todos que puedan resolver los mismos problemas que nosotros aunque, potencialmente, de otras maneras.<\/p>\n

\u201cLo que llamamos inteligencia artificial es un concepto que existe, aproximadamente, hace noventa a\u00f1os\u201d, afirma. Y explica: \u201cEn aquel momento, estaba basado en sistemas expertos dise\u00f1ados por especialistas que tomaban las decisiones de forma manual, dando instrucciones expl\u00edcitas. En cambio, ahora se aprende de datos. Conceptualmente es bastante similar: cont\u00e1s con cierta informaci\u00f3n de tu problema y ten\u00e9s una caja negra que dice qu\u00e9 hacer en cada caso. Lo que hay dentro de ella lo aprendemos de una gran cantidad de datos, y lo que trata de aprender ese modelo son los patrones que existen en ellos\u201d.<\/p>\n

\"\"<\/a>

Luciana Ferrer. Foto: Luiza Cavalcante. Exactas UBA.<\/span><\/p><\/div>\n

\u2013 \u00bfPara interpretar los datos no hacen falta expertos que den indicaciones?<\/strong><\/p>\n

\u2013 La interpretaci\u00f3n la hace el modelo. La influencia de quien dise\u00f1a el sistema radica en su forma matem\u00e1tica. Por ejemplo, puede ser una red neuronal, con millones de par\u00e1metros que hay que estimar a partir de los datos. Su influencia tambi\u00e9n se encuentra en el proceso de selecci\u00f3n y recolecci\u00f3n de esos datos. A veces, eso incide mucho m\u00e1s que la forma matem\u00e1tica del modelo, porque va a aprender seg\u00fan lo que recibe. Una vez que se decidi\u00f3 cu\u00e1les son los datos y cu\u00e1l es la forma, el resto est\u00e1 bastante fuera del control humano. Me refiero a lo que termina aprendiendo el modelo.<\/p>\n

A veces, Big Data, algoritmos e inteligencia artificial parecen ser sin\u00f3nimos. \u00bfUn algoritmo es IA?<\/strong><\/p>\n

No cualquier algoritmo. Hay una zona gris donde la distinci\u00f3n no es del todo clara. En la charla que brindamos en Exactas, se dijo que \u201ctiene que estar resolviendo un problema complejo\u201d. Eso sucede, por ejemplo, en los campos del habla, las im\u00e1genes y los textos. Todo algoritmo que est\u00e9 resolviendo problemas en esos campos, asociados a entender y producir habla, texto e im\u00e1genes, es IA. En cambio, si el algoritmo simplemente da instrucciones como, por ejemplo, encontrar determinada palabra en un texto, no creo que sea apropiado decir que es IA porque simplifica demasiado el concepto.<\/p>\n

\u2013 Mencionabas que estos sistemas pueden resolver lo mismo que nosotros\u2026<\/strong><\/p>\n

\u2013 Pareciera que queremos reemplazar a los humanos. Suena horrible. Lo que buscamos hacer son, en general, cosas que los humanos queremos hacer aunque no siempre podemos, muchas veces por una cuesti\u00f3n de escalas. Por ejemplo, si pretendemos buscar un determinado archivo en una base de datos de millones de audios, es humanamente imposible. Y esto ni siquiera es \u201cinteligencia\u201d, sino una trivialidad que alguien podr\u00eda hacer si tuviera infinito tiempo. Es una cuesti\u00f3n de eficiencia y de capacidad computacional. Pero la IA no se restringe \u00fanicamente a Big Data, tambi\u00e9n resolvemos un mont\u00f3n de problemas peque\u00f1os. En el tel\u00e9fono tenemos los asistentes virtuales. Eso es IA porque est\u00e1 entendiendo lo que se le dice, transcribiendo el habla y respondiendo con voz sint\u00e9tica. Ambos lados requieren un sistema de inteligencia artificial y, adem\u00e1s, tiene que entender qu\u00e9 acci\u00f3n llevar a cabo y ejecutarla.<\/p>\n

\u2013 Se habla de inteligencia artificial general, que es la que podr\u00eda igualar y superar a la inteligencia humana.<\/strong><\/p>\n

\u2013 En mi opini\u00f3n, creo que nos falta mucho para llegar a una inteligencia similar a la humana. En principio, porque estos sistemas no saben razonar. Hay mucha gente trabajando en eso y probablemente en el corto plazo se resuelva. Existen todos los componentes para hacer que planifique. Pero le van a seguir faltando los sentidos. Va a leer texto, mirar im\u00e1genes y escuchar audio y podr\u00e1 integrar todo eso, pero no es una persona que se est\u00e1 moviendo por el mundo. No tiene tacto, ni olfato ni gusto, y la manera en que integra la informaci\u00f3n no es din\u00e1mica. No vio la realidad en conjunto. Le est\u00e1 faltando una integraci\u00f3n global de la informaci\u00f3n con causalidad temporal. Estos sistemas no experimentan el mundo.<\/p>\n

\u201cCreo que nos falta mucho para llegar a una inteligencia similar a la humana. En principio, porque estos sistemas no saben razonar\u201d.<\/strong><\/em><\/p><\/blockquote>\n

\u2013 \u00bfLo har\u00edan si llegaran a tener un cuerpo rob\u00f3tico con sensores?<\/strong><\/p>\n

\u2013 Bueno, cuando lleguemos a tener un robot caminando que tenga sentido del tacto, el gusto, el olfato, que escuche y vea como nosotros, tal vez podamos pensar en algo parecido, pero falta much\u00edsimo. Con suerte una vez llegado a ese punto vamos a tener mucho m\u00e1s regulado y entendido c\u00f3mo controlar esta tecnolog\u00eda. La estamos creando nosotros, pensar que se puede desmadrar de un d\u00eda para el otro me parece absurdo.<\/p>\n

\u2013 Vos participaste de la declaraci\u00f3n de Montevideo, que responde de alg\u00fan modo a aquella carta abierta encabezada por Elon Musk, \u00bfHay que suspender los desarrollos en IA?<\/strong><\/p>\n

\u2013 Los problemas que tenemos no se van a resolver en seis meses. Me parece inocente pensar que se puedan suspender los desarrollos. Lo que necesitamos es regulaci\u00f3n y legislaci\u00f3n. Creo que estuvo mal que Chat GPT saliera a la luz sin haber pasado por un proceso de inspecci\u00f3n, algo similar a los protocolos para desarrollar un medicamento. A diferencia de la actual, que est\u00e1 m\u00e1s controlada, la primera versi\u00f3n que sali\u00f3 en noviembre no solo se equivocaba bastante sino que a veces dec\u00eda barbaridades o maltrataba al usuario. No admit\u00eda que se equivocaba, era como un ni\u00f1o caprichoso y la gente lo usaba muy inocentemente. Pero no se puede pretender que el p\u00fablico comprenda el funcionamiento de una tecnolog\u00eda tan compleja y entienda en qu\u00e9 puede confiar y en qu\u00e9 no. El sistema deber\u00eda haber sido probado por voluntarios conscientes de lo que hacen y controlado por los desarrolladores. As\u00ed, hubiera salido una versi\u00f3n ya inspeccionada que cumple con determinados est\u00e1ndares. Siempre puede haber efectos no deseados y hay que tratar de mitigarlos porque pueden ser grandes.<\/p>\n

Para la investigadora, la IA es \u00fatil para resolver problemas espec\u00edficos que las personas no quieren o no pueden resolver o para los que, en muchos casos, resultan ineficientes o poco confiables. \u201cTenemos que darle a la IA ese tipo de cosas, que adem\u00e1s podemos controlar, regular e inspeccionar muy bien por dentro y por fuera del c\u00f3digo\u201d, propone.<\/p>\n

Una m\u00e1quina parlante<\/strong><\/h5>\n

Luciana Ferrer se sorprende del nivel de habilidades al que se lleg\u00f3 en tan poco tiempo. La investigadora del CONICET integra el Grupo de Procesamiento del Habla, donde se dedican a procesar audio. Uno de sus desarrollos es un sistema de tutor\u00eda para el aprendizaje de ingl\u00e9s, enfocado especialmente a la ense\u00f1anza escolar. \u201cEl objetivo principal es que sea un software que pueda ayudar a los maestros a darle tarea a los chicos. Va a permitir corregir la pronunciaci\u00f3n de un estudiante de ingl\u00e9s en un ida y vuelta uno a uno, que es algo que los docentes en el colegio tienen poco tiempo para hacer\u201d, comenta.<\/p>\n

El equipo, adem\u00e1s, trabaja en la detecci\u00f3n de estados mentales y emociones. Por ejemplo, para saber si alguien est\u00e1 confiando o no en un asistente virtual y que el sistema pueda reaccionar en caso de desconfianza y ser m\u00e1s \u00fatil. Tambi\u00e9n abordaron la detecci\u00f3n de enfermedades neurol\u00f3gicas como Alzheimer y Parkinson.<\/p>\n

\u201cMe parece in<\/strong>ocente pensar que se puedan suspender los desarrollos. Lo que necesitamos es regulaci\u00f3n y legislaci\u00f3n\u201d.<\/em><\/strong><\/p><\/blockquote>\n

\u201cEn general, salvo para el caso del asistente de aprendizaje de ingl\u00e9s, no llegamos a la aplicaci\u00f3n, hacemos investigaci\u00f3n b\u00e1sica, pero sentamos las bases para que se pueda usar y llevarla a cabo\u201d, aclara Ferrer.<\/p>\n

La investigadora agrega que existen muchos desarrollos de asistencia al aprendizaje basados en IA y recuerda extra\u00f1ada lo que suced\u00eda hace veinte a\u00f1os: \u201cPor entonces ten\u00edamos sistemas de reconocimiento y transcripci\u00f3n del habla donde el 40 por ciento de las palabras estaban mal y nos pon\u00edamos contentos. Ahora se puede mantener un di\u00e1logo. En aqu\u00e9l momento era dif\u00edcil imaginar que se podr\u00eda generar habla indistinguible de la humana. Es alucinante\u201d.<\/p>\n

Ferrer explica que, en sus inicios, para que sean razonablemente efectivos, los sistemas de dictado requer\u00edan que los adapt\u00e1ramos a nuestras voces y los us\u00e1ramos con un buen micr\u00f3fono y en completo silencio. Ahora, en cambio, es posible estar en la calle usando el tel\u00e9fono celular, sin adaptaci\u00f3n previa, con ruido ambiente y hablando un espa\u00f1ol local, que no es el acento mayoritario con el que el sistema aprendi\u00f3. \u201cEso es una diferencia dr\u00e1stica\u201d, afirma. Y celebra: \u201cse pas\u00f3 de usar en un laboratorio para algunas pocas cosas a un uso masivo en la vida cotidiana\u201d.<\/p>\n

Sin embargo, la IA no se trata \u00fanicamente de procesamiento del habla. M\u00e1s dr\u00e1stico aun es lo que pas\u00f3 con el Procesamiento Natural del Lenguaje (NLP por sus siglas en ingl\u00e9s), que utiliza texto en lugar de se\u00f1ales de audio. Lo que se pod\u00eda hacer hace veinte a\u00f1os con NLP era muy primitivo en comparaci\u00f3n con la actualidad. Ahora se le puede pedir que escriba una novela con determinado tema y tono, y lo hace.<\/p>\n

\u2013 \u00bfQu\u00e9 es lo que permiti\u00f3 este crecimiento tan notable?<\/strong><\/p>\n

\u2013 Los modelos matem\u00e1ticos cambiaron radicalmente. Desde hace poco m\u00e1s de diez a\u00f1os se utilizan, principalmente, redes neuronales, que es una tecnolog\u00eda que presenta una arquitectura con secuencias de capas en donde cada una hace un procesamiento y se lo pasa a la que viene. Entonces, en lugar de dise\u00f1ar el modelo conociendo la tarea, el sistema aprende a resolver el problema a partir de los datos que se le brindan. El otro cambio dr\u00e1stico es la capacidad de computaci\u00f3n, que es enormemente m\u00e1s grande. La GPU no se usaba para resolver problemas de IA hace veinte a\u00f1os. Lo mismo que se usa para jugar videojuegos sirve para correr redes neuronales muy eficientemente, mucho m\u00e1s r\u00e1pido de lo que correr\u00edan en una CPU. Para entrenar Chat GPT, por ejemplo, se usaron cientos o miles de GPUs durante semanas.<\/p>\n

\u2013 \u00bfSe puede decir que estos modelos piensan? \u00bfC\u00f3mo producen lo que dicen?<\/strong><\/p>\n

\u2013 Es probabil\u00edstico. Por ejemplo, la tarea de Chat GPT es predecir la siguiente palabra. Y con una muestra grande de Internet incorporada, est\u00e1 viendo un porcentaje enorme de todo lo que fue escrito por la humanidad. De un mensaje dado, va a determinar que es probable que una palabra que vio en el entrenamiento en contextos similares vaya bien para ese mensaje. La l\u00f3gica es estad\u00edstica. Dado un cierto texto, predice la siguiente palabra entre las m\u00e1s probables y as\u00ed hasta que predice el s\u00edmbolo de \u201cfin de respuesta\u201d. En parte, el resultado depende de lo que ya viene respondiendo \u00e9l mismo. Tiene un conjunto de posibilidades que son todas razonables pero no hay un razonamiento.<\/p>\n

Inteligencia artificial soberana<\/strong><\/span><\/h5>\n

Al pensar en el desarrollo local de la IA, Luciana Ferrer afirma que est\u00e1n tratando de hacerlo. \u201cTrabajamos en el problema de las alucinaciones, que es como se les dice a los errores y equivocaciones de los chats\u201d, explica.<\/p>\n

A su vez, comenta lo complicado de abarcar modelos tan grandes: \u201cLo que estamos haciendo es correr modelos viejos, m\u00e1s chicos, que entran en la computadora que tenemos. Creo que en el corto plazo eso se va a ir resolviendo. Mucha gente est\u00e1 generando nuevos modelos open source<\/em> en los que su proceso de entrenamiento es p\u00fablico\u201d, manifiesta la investigadora. Y suma: \u201cCreo que a corto o mediano plazo va a ser posible tener algo razonablemente parecido a lo que tiene Open AI. Si se achican un poco los modelos y adquirimos equipamiento m\u00e1s grande podremos entrenar desde cero nuestros propios desarrollos\u201d.<\/p>\n

Al igual que en otros rubros, la dependencia e inequidad respecto a las potencias mundiales es notoria con estas tecnolog\u00edas. En materia de lenguaje, cultura, y sesgos, resulta algo evidente. Open AI,\u00a0 por ejemplo, tambi\u00e9n gener\u00f3 datos a mano con gente que fue indicando c\u00f3mo prefer\u00eda que el chat responda ante determinadas preguntas. \u201cEl problema de eso es que se trata de gente de una determinada cultura. Las respuestas correctas, \u00bfaplican a una cultura diferente? Hay un mont\u00f3n de sesgos\u201d, advierte.<\/p>\n

Sin embargo, el principal problema, precisa Ferrer, es la producci\u00f3n de datos: \u201cLa mitad de Internet est\u00e1 en ingl\u00e9s, no vamos a tener nunca ese volumen de datos para los dem\u00e1s idiomas\u201d, concluye.<\/p>\n

Foto portada: Cr\u00e9dito: Gerd Altmann<\/span><\/p>\n

Autor: Adri\u00e1n Negro<\/span><\/p>\n

Fuente: nexciencia<\/span><\/p>\n","protected":false},"excerpt":{"rendered":"

Con su reciente popularidad, la inteligencia artificial inspira tantas amenazas como promesas. \u00bfEs razonable desconfiar de esta tecnolog\u00eda? \u00bfSuperar\u00e1 al intelecto humano? \u00bfSe deben frenar los desarrollos? En di\u00e1logo con NEXciencia, Luciana Ferrer, especialista en el tema e investigadora del CONICET, despeja algunas dudas y comenta sus trabajos. Hasta en la sopa. En los \u00faltimos […]<\/p>\n","protected":false},"author":6,"featured_media":10264,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":[],"categories":[35,5,465,37,380,36],"tags":[358,2356,1557,492],"_links":{"self":[{"href":"https:\/\/revistanyt.com.ar\/online\/wp-json\/wp\/v2\/posts\/10262"}],"collection":[{"href":"https:\/\/revistanyt.com.ar\/online\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/revistanyt.com.ar\/online\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/revistanyt.com.ar\/online\/wp-json\/wp\/v2\/users\/6"}],"replies":[{"embeddable":true,"href":"https:\/\/revistanyt.com.ar\/online\/wp-json\/wp\/v2\/comments?post=10262"}],"version-history":[{"count":2,"href":"https:\/\/revistanyt.com.ar\/online\/wp-json\/wp\/v2\/posts\/10262\/revisions"}],"predecessor-version":[{"id":10267,"href":"https:\/\/revistanyt.com.ar\/online\/wp-json\/wp\/v2\/posts\/10262\/revisions\/10267"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/revistanyt.com.ar\/online\/wp-json\/wp\/v2\/media\/10264"}],"wp:attachment":[{"href":"https:\/\/revistanyt.com.ar\/online\/wp-json\/wp\/v2\/media?parent=10262"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/revistanyt.com.ar\/online\/wp-json\/wp\/v2\/categories?post=10262"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/revistanyt.com.ar\/online\/wp-json\/wp\/v2\/tags?post=10262"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}