Los Grandes Modelos de Lenguaje Nunca Serán Inteligentes, Afirma el Experto

Los Grandes Modelos de Lenguaje Nunca Serán Inteligentes, Dice un Experto

Los LLM son simplemente herramientas que emulan la función comunicativa del lenguaje.

¿Están las empresas tecnológicas a punto de crear máquinas pensantes con sus enormes modelos de inteligencia artificial, como afirman los altos directivos? No, según un experto.

Los humanos tendemos a asociar el lenguaje con la inteligencia. Nos sentimos atraídos por aquellos con mayores habilidades lingüísticas como oradores o escritores.

Pero la investigación más reciente sugiere que el lenguaje no es lo mismo que la inteligencia, dice Benjamin Riley, fundador de la empresa Cognitive Resonance, en un ensayo para The Verge. Y eso es malas noticias para la industria de la inteligencia artificial, que está basando sus esperanzas y sueños de crear una inteligencia artificial general, o AGI, en la arquitectura de los grandes modelos de lenguaje que ya están utilizando.

"El problema es que, según la neurociencia actual, el pensamiento humano es en gran medida independiente del lenguaje humano, y no tenemos razones para creer que la modelización cada vez más sofisticada del lenguaje creará una forma de inteligencia que iguale o supere la nuestra", escribió Riley. "Usamos el lenguaje para pensar, pero eso no hace que el lenguaje sea lo mismo que el pensamiento. Entender esta distinción es la clave para separar el hecho científico de la ficción científica especulativa de los directivos de empresas de inteligencia artificial".

La AGI, para explicarlo, sería un sistema de inteligencia artificial que iguala o supera la cognición humana en una amplia variedad de tareas. Pero en la práctica, a menudo se la imagina como una herramienta para resolver todos los problemas más grandes que la humanidad no puede, desde el cáncer hasta el cambio climático. Y al decir que la están creando, los líderes de la inteligencia artificial pueden justificar el gasto exorbitante de la industria y su impacto ambiental catastrófico.

Parte del motivo por el que el gasto en capital de la inteligencia artificial ha estado fuera de control es la obsesión con la escalabilidad: al proporcionar a los modelos de inteligencia artificial más datos y alimentarlos con un número cada vez mayor de GPUs, las empresas de inteligencia artificial han mejorado la capacidad de sus modelos para resolver problemas y hacerlos más similares a los humanos en su capacidad para mantener una conversación.

Pero "los LLM son simplemente herramientas que emulan la función comunicativa del lenguaje, no el proceso cognitivo separado y distinto de pensar y razonar, no importa cuántos centros de datos construyamos", escribió Riley.

Si el lenguaje fuera esencial para pensar, entonces quitarlo debería eliminar nuestra capacidad para pensar. Pero esto no sucede, señala Riley, citando décadas de investigación resumidas en un comentario publicado en Nature el año pasado.

Por un lado, la imagen por resonancia magnética funcional (fMRI) del cerebro humano ha mostrado que se activan partes distintas del cerebro durante diferentes actividades cognitivas, señala Riley. No estamos reclutando la misma región de neuronas cuando pensamos en un problema de matemáticas en comparación con un problema de lenguaje. Mientras tanto, los estudios de personas que perdieron sus habilidades lingüísticas mostraron que su capacidad para pensar no se vio afectada en gran medida, ya que aún podían resolver problemas de matemáticas, seguir instrucciones no verbales y entender las emociones de los demás.

Incluso algunos de los principales expertos en inteligencia artificial son escépticos sobre los LLM. El más famoso de todos es el ganador del Premio Turing y "padre" de la inteligencia artificial moderna Yann LeCun, quien hasta hace poco era el principal científico de inteligencia artificial de Meta. LeCun ha argumentado durante mucho tiempo que los LLM nunca alcanzarán la inteligencia general, y en su lugar cree en perseguir los llamados "modelos del mundo" que están diseñados para entender el mundo tridimensional al entrenarlos en una variedad de datos físicos, en lugar de solo lenguaje. Es probable que esta visión haya llevado a su reciente partida; a pesar de la posición de LeCun, el CEO de Meta Mark Zuckerberg ha cambiado su enfoque para invertir miles de millones de dólares en una nueva división de inteligencia artificial para crear una "superinteligencia" artificial utilizando la tecnología de LLM.

Otra investigación agrega a la idea de que los LLM tienen un techo difícil. En un nuevo análisis publicado en la Revista de Comportamiento Creativo, un investigador utilizó una fórmula matemática para determinar los límites de la "creatividad" de la inteligencia artificial, con resultados condenatorios. Debido a que los LLM son un sistema probabilístico, llegan a un punto en el que ya no son capaces de generar salidas nuevas y únicas que no sean sin sentido. Como resultado, el estudio concluyó que incluso los mejores sistemas de inteligencia artificial nunca serán más que artistas serviciales que te escriben un correo electrónico elocuente.

"Aunque la inteligencia artificial puede imitar el comportamiento creativo, su capacidad creativa real está limitada al nivel de un humano promedio y nunca alcanzará los estándares profesionales o de experto bajo los principios de diseño actuales", dijo el autor del estudio, David H Cropley, profesor de innovación en ingeniería en la Universidad de Australia del Sur, en una declaración sobre el trabajo.

"Un escritor, artista o diseñador habilidoso puede producir ocasionalmente algo verdaderamente original y efectivo", agregó Cropley. "Un LLM nunca lo hará. Siempre producirá algo promedio, y si las industrias dependen demasiado de él, terminarán con trabajo formulaico y repetitivo".

Eso no es un augurio prometedor si se supone que la inteligencia artificial impulsada por LLM debe pensar en nuevas innovaciones y empujar los límites de nuestra comprensión del mundo. ¿Cómo inventará "nueva física", como dice Elon Musk, o resolverá la crisis climática, como sugiere el CEO de OpenAI Sam Altman, si la tecnología lucha por unir oraciones nuevas que no se basen en escritura preexistente?

Sí, un sistema de inteligencia artificial puede mezclar y reciclar nuestro conocimiento de maneras interesantes, escribe Riley. Pero eso es todo lo que podrá hacer. Estará atrapado para siempre en el vocabulario que hemos codificado en nuestros datos y en el que lo hemos entrenado, una máquina de metáforas muertas.

Autor

Ai Base Network (ABN), ABN ASIA fue fundada por personas con profundas raíces en la academia y experiencia laboral en EE.UU., Holanda, Hungría, Japón, Corea del Sur, Singapur y Vietnam. ABN Asia es donde la academia y la tecnología encuentran oportunidades. Con nuestras soluciones innovadoras y servicios competentes de desarrollo de software, estamos ayudando a las empresas a mejorar y a enfrentarse al mercado global. Nuestro compromiso: Más rápido. Mejor. Más confiable. En la mayoría de los casos: también más económico.

No dudes en contactarnos siempre que necesites servicios de TI, consultoría digital, soluciones de software listas para usar, o si deseas enviarnos solicitudes de propuestas (RFPs). Puedes contactarnos en [email protected]. Estamos listos para ayudarte con todas tus necesidades tecnológicas.