\n
![](\"https:\/\/news.mit.edu\/sites\/default\/files\/styles\/news_article__cover_image__original\/public\/images\/202312\/terpestra-gandhi.jpg?itok=i4SeDV_p\")
<\/p>\n [ad_1]
\n<\/p>\n
El lenguaje natural transmite ideas, acciones, informaci\u00f3n e intenciones a trav\u00e9s del contexto y la sintaxis; Adem\u00e1s, hay vol\u00famenes contenidos en bases de datos. Esto lo convierte en una excelente fuente de datos para entrenar sistemas de aprendizaje autom\u00e1tico. Dos estudiantes de maestr\u00eda en ingenier\u00eda en el Programa de Tesis 6A MEng del MIT, Irene Terpstra ’23 y Rujul Gandhi ’22, est\u00e1n trabajando con mentores en el Laboratorio de IA Watson del MIT-IBM para utilizar este poder del lenguaje natural para construir sistemas de IA.<\/p>\n
A medida que la inform\u00e1tica se vuelve m\u00e1s avanzada, los investigadores buscan mejorar el hardware en el que se ejecutan; esto significa innovar para crear nuevos chips de computadora. Y, dado que ya existe literatura disponible sobre las modificaciones que se pueden realizar para lograr ciertos par\u00e1metros y rendimiento, Terpstra y sus mentores y asesores Anantha Chandrakasan, decana de la Escuela de Ingenier\u00eda del MIT y profesora Vannevar Bush de Ingenier\u00eda El\u00e9ctrica e Inform\u00e1tica, e investigadora de IBM Xin Zhang, est\u00e1n desarrollando un algoritmo de inteligencia artificial que ayuda en el dise\u00f1o de chips.<\/p>\n
\u201cEstoy creando un flujo de trabajo para analizar sistem\u00e1ticamente c\u00f3mo estos modelos de lenguaje pueden ayudar en el proceso de dise\u00f1o de circuitos. \u00bfQu\u00e9 poderes de razonamiento tienen y c\u00f3mo se pueden integrar en el proceso de dise\u00f1o del chip? dice Terpstra. \"Y luego, por otro lado, si eso resulta lo suficientemente \u00fatil, veremos si pueden dise\u00f1ar autom\u00e1ticamente los chips ellos mismos, adjunt\u00e1ndolos a un algoritmo de aprendizaje por refuerzo\".<\/p>\n
Para ello, el equipo de Terpstra est\u00e1 creando un sistema de inteligencia artificial que puede iterar sobre diferentes dise\u00f1os. Significa experimentar con varios modelos de lenguajes grandes previamente entrenados (como ChatGPT, Llama 2 y Bard), utilizando un lenguaje simulador de circuitos de c\u00f3digo abierto llamado NGspice, que tiene los par\u00e1metros del chip en forma de c\u00f3digo, y un algoritmo de aprendizaje por refuerzo. Con indicaciones de texto, los investigadores podr\u00e1n consultar c\u00f3mo se debe modificar el chip f\u00edsico para lograr un objetivo determinado en el modelo de lenguaje y generar orientaci\u00f3n para los ajustes. Luego, esto se transfiere a un algoritmo de aprendizaje por refuerzo que actualiza el dise\u00f1o del circuito y genera nuevos par\u00e1metros f\u00edsicos del chip.<\/p>\n
\"El objetivo final ser\u00eda combinar los poderes de razonamiento y la base de conocimientos integrados en estos grandes modelos de lenguaje y combinarlos con el poder de optimizaci\u00f3n de los algoritmos de aprendizaje por refuerzo y hacer que estos dise\u00f1en el chip en s\u00ed\", dice Terpstra.<\/p>\n
Rujul Gandhi trabaja con el propio lenguaje crudo. Como estudiante en el MIT, Gandhi explor\u00f3 la ling\u00fc\u00edstica y las ciencias inform\u00e1ticas, y las uni\u00f3 en su trabajo de MEng. \"Me ha interesado la comunicaci\u00f3n, tanto entre humanos como entre humanos y computadoras\", dice Gandhi.<\/p>\n
Los robots u otros sistemas interactivos de IA son un \u00e1rea en la que tanto los humanos como las m\u00e1quinas deben comprender la comunicaci\u00f3n. Los investigadores suelen escribir instrucciones para robots utilizando l\u00f3gica formal. Esto ayuda a garantizar que los comandos se sigan de forma segura y seg\u00fan lo previsto, pero la l\u00f3gica formal puede resultar dif\u00edcil de entender para los usuarios, mientras que el lenguaje natural resulta sencillo. Para garantizar esta comunicaci\u00f3n fluida, Gandhi y sus asesores Yang Zhang de IBM y el profesor asistente del MIT Chuchu Fan est\u00e1n construyendo un analizador que convierte instrucciones en lenguaje natural en un formato compatible con m\u00e1quinas. Aprovechando la estructura ling\u00fc\u00edstica codificada por el modelo codificador-decodificador T5 previamente entrenado y un conjunto de datos de comandos b\u00e1sicos en ingl\u00e9s anotados para realizar ciertas tareas, el sistema de Gandhi identifica las unidades l\u00f3gicas m\u00e1s peque\u00f1as, o proposiciones at\u00f3micas, que est\u00e1n presentes en una instrucci\u00f3n determinada.<\/p>\n
\"Una vez que haya dado sus instrucciones, el modelo identifica todas las subtareas m\u00e1s peque\u00f1as que desea que lleve a cabo\", dice Gandhi. \u201cLuego, utilizando un modelo de lenguaje grande, cada subtarea se puede comparar con las acciones y objetos disponibles en el mundo del robot, y si alguna subtarea no se puede llevar a cabo porque no se reconoce un determinado objeto, o una acci\u00f3n \"No es posible, el sistema puede detenerse all\u00ed mismo para pedir ayuda al usuario\".<\/p>\n
Este enfoque de dividir las instrucciones en subtareas tambi\u00e9n permite que su sistema comprenda las dependencias l\u00f3gicas expresadas en ingl\u00e9s, como \"realizar la tarea X hasta que ocurra el evento Y\". Gandhi utiliza un conjunto de datos de instrucciones paso a paso en los dominios de tareas de los robots, como la navegaci\u00f3n y la manipulaci\u00f3n, centr\u00e1ndose en las tareas dom\u00e9sticas. Utilizar datos escritos tal como los humanos hablar\u00edan entre s\u00ed tiene muchas ventajas, afirma, porque significa que un usuario puede ser m\u00e1s flexible a la hora de expresar sus instrucciones.<\/p>\n
Otro de los proyectos de Gandhi consiste en desarrollar modelos de habla. En el contexto del reconocimiento de voz, algunos idiomas se consideran de \u201cbajos recursos\u201d, ya que es posible que no tengan una gran cantidad de voz transcrita disponible o que no tengan ninguna forma escrita. \"Una de las razones por las que solicit\u00e9 esta pasant\u00eda en el Laboratorio de IA Watson del MIT-IBM fue mi inter\u00e9s en el procesamiento del lenguaje para idiomas de bajos recursos\", dice. \"Hoy en d\u00eda, muchos modelos de lenguaje se basan en gran medida en datos, y cuando no es tan f\u00e1cil adquirir todos esos datos, es cuando es necesario utilizar los datos limitados de manera eficiente\". <\/p>\n
El habla es solo una corriente de ondas sonoras, pero los humanos que mantienen una conversaci\u00f3n pueden descubrir f\u00e1cilmente d\u00f3nde comienzan y terminan las palabras y los pensamientos. En el procesamiento del habla, tanto los humanos como los modelos de lenguaje utilizan su vocabulario existente para reconocer los l\u00edmites de las palabras y comprender el significado. En idiomas de bajos o nulos recursos, es posible que no exista ning\u00fan vocabulario escrito, por lo que los investigadores no pueden proporcionar uno al modelo. En cambio, el modelo puede tomar nota de qu\u00e9 secuencias de sonidos ocurren juntas con m\u00e1s frecuencia que otras e inferir que podr\u00edan ser palabras o conceptos individuales. En el grupo de investigaci\u00f3n de Gandhi, estas palabras inferidas se recopilan luego en un pseudovocabulario que sirve como m\u00e9todo de etiquetado para el lenguaje de bajos recursos, creando datos etiquetados para aplicaciones futuras.<\/p>\n
Las aplicaciones de la tecnolog\u00eda del lenguaje est\u00e1n \u201cpr\u00e1cticamente en todas partes\u201d, dice Gandhi. \u201cSe podr\u00eda imaginar que las personas pudieran interactuar con software y dispositivos en su idioma nativo, su dialecto nativo. Podr\u00edas imaginarte mejorando todos los asistentes de voz que utilizamos. Se podr\u00eda imaginar que se utiliza para traducci\u00f3n o interpretaci\u00f3n\u201d.<\/p>\n<\/p><\/div>\n