Los investigadores de Meta AI están desarrollando un modelo de lenguaje que imita la forma en que el cerebro humano procesa el lenguaje

This Article Is Based On The Meta Research Article 'Studying the brain to build AI that processes language as people do'. All Credit For This Research Goes To The Researchers Of This Research 👏👏👏

Please Don't Forget To Join Our ML Subreddit

Meta AI se está embarcando en una iniciativa de investigación a largo plazo para comprender mejor cómo el cerebro humano interpreta el lenguaje. La investigación se llevará a cabo en colaboración con NeuroSpin, un instituto de neuroimagen, e Inria, el Instituto Nacional de Investigación de Francia. Meta AI comparará cómo los modelos de lenguaje de IA y los cerebros humanos responden a palabras idénticas habladas o escritas.

Las redes neuronales artificiales del lenguaje se acercan cada vez más a la función del cerebro humano, ofreciendo nuevos conocimientos sobre cómo se puede implementar el pensamiento en el tejido neuronal. Los modelos de IA que replican más fielmente el lenguaje humano ahora lo hacen desglosando oraciones metódicamente examinando el contexto e intentando anticipar la siguiente palabra mediante el aprendizaje automático.

Si bien estas tecnologías pueden dar a los consumidores una falsa sensación de «humanidad», los modelos predicen la siguiente palabra basándose en grandes bases de datos del progreso de conversaciones anteriores. Por otro lado, el cerebro humano anticipa las palabras y los pensamientos con anticipación, considerando lo que pueda implicar el enunciado o el concepto.

Darle a un modelo de IA la frase «Érase una vez» y hacer que adivine la siguiente palabra es un ejemplo de un procedimiento único para predecir la palabra «tiempo». Cuando alguien que se crió en los cuentos de hadas escucha «Érase una vez», su cerebro hace más que predecir «tiempo» como la siguiente palabra. También evoca todos los diseños mágicos que lo acompañan, como terribles brujas, dragones, castillos, héroes y otras figuras culturalmente significativas.

Los cerebros crean «estados cerebrales» particulares al hacer estas predicciones, que se pueden visualizar durante las imágenes cerebrales. Se tomaron instantáneas de la actividad cerebral mientras los voluntarios leían o escuchaban una historia usando escáneres de resonancia magnética funcional y magnetoencefalografía. Los investigadores notaron algo inusual al usar el aprendizaje automático en escáneres cerebrales de conjuntos de datos públicos combinados con nuevas imágenes de fMRI y MEG. Según los resultados, el procesamiento del lenguaje en el cerebro humano se asemeja a jerarquías ordenadas, comparables al funcionamiento de los modelos de lenguaje de IA.

Hay partes del cerebro comparables a los algoritmos de procesamiento visual que se activan cuando las palabras generan estímulos visuales, áreas similares a los algoritmos de comprensión de palabras y redes enteras que funcionan de manera similar a los procesadores de lenguaje de IA.

Áreas específicas del cerebro están involucradas en el procesamiento de la visión y el lenguaje, y sus interacciones crean redes para generar narrativas y representaciones para la comprensión. Los resultados revelaron que áreas cerebrales particulares, como las cortezas prefrontal (frente del cerebro) y parietal (mitad del cerebro), representaban mejor los patrones de lenguaje con predicciones de palabras distantes.

Esto sugiere que las representaciones internas compartidas por cerebros y algoritmos son útiles para que el algoritmo procese el lenguaje. Este resultado fue validado rápidamente después de estudiar las activaciones cerebrales de 200 participantes durante una prueba de lectura simple. Luego, aproximadamente una semana después, un equipo del Instituto de Tecnología de Massachusetts realizó un estudio independiente encuesta con resultados notablemente idénticos.

Esta investigación proporciona nuevos conocimientos sobre los procesos cerebrales mediante el uso de esta investigación para establecer paralelos cuantitativos entre el cerebro humano y los modelos de IA. La IA que puede comportarse y reaccionar de forma más sincronizada con el uso del lenguaje humano se conectará naturalmente con los humanos. Para obtener más información, consulte aquí.

Referencias:

• https://ai.facebook.com/blog/studying-the-brain-to-build-ai-that-processes-language-as-people-do/
• https://siliconangle.com/2022/04/28/build-better-ai-meta-studying-human-brains-process-language/