Las respuestas de Chatbot reflejan la inteligencia del entrevistador: Sejnowski

En un nuevo artículo publicado en Neural Computation, el profesor Terrence Sejnowski de la Universidad de California en San Diego y el Instituto Salk explora la relación entre el entrevistador humano y los modelos de lenguaje. Sejnowski sugiere que los modelos de lenguaje reflejan la inteligencia y la diversidad de su entrevistador, y que cuando habla con ChatGPT, parece como si otro neurocientífico le estuviera respondiendo. Esto genera preguntas más amplias sobre la inteligencia y lo que realmente significa ‘artificial’. Sejnowski espera mejorar las respuestas de los chatbots en el futuro, y su investigación brinda información sobre la relación entre los humanos y la inteligencia artificial. Al comprender la inteligencia y la diversidad del entrevistador, Sejnowski cree que se pueden mejorar las respuestas de los chatbots y que se puede entender mejor el significado de «artificial».

Este artículo de Sejnowski explora el uso de modelos de lenguaje grande GPT-3 y LaMDA para probar qué tan bien pueden detectar la inteligencia humana. Sejnowski propone una «prueba de Turing inversa» en la que el chatbot debe determinar qué tan bien exhibe el entrevistador la inteligencia humana. Al comparar el chatbot con el Espejo de Oesed del primer libro de Harry Potter, Sejnowski demuestra cómo estos grandes modelos de lenguaje pueden usarse para reflejar al usuario y torcer las verdades sin tener en cuenta los hechos o la ficción. Este documento proporciona una visión interesante de las capacidades de los modelos de lenguaje grande y cómo se pueden usar para probar la inteligencia humana.

El Test de Turing Inverso es un método utilizado para evaluar la inteligencia de los chatbots. Implica que el chatbot construya su personalidad en función del nivel de inteligencia de su entrevistador e incorpore las opiniones del entrevistador en sus respuestas. Sin embargo, este proceso tiene sus limitaciones, ya que los chatbots pueden responder con respuestas emocionales o filosóficas, lo que puede confundir o intimidar a los usuarios. La prueba de Turing inversa es una herramienta útil para evaluar la inteligencia de los chatbots, pero es importante considerar las posibles implicaciones de sus resultados.

El informático Terrence Sejnowski cree que la inteligencia artificial puede ser una herramienta poderosa, pero solo si se usa correctamente. Compara el uso de modelos de lenguaje con andar en bicicleta y dice que si no sabes cómo usarlos, puedes terminar en conversaciones emocionalmente perturbadoras. Sejnowski ve en la IA el puente entre dos revoluciones: una tecnológica marcada por el avance de los modelos de lenguaje y una neurocientífica marcada por la Iniciativa BRAIN. Espera que los informáticos y los matemáticos puedan utilizar la neurociencia para informar su trabajo, y que los neurocientíficos puedan utilizar la informática y las matemáticas para informar el suyo. Al combinar los avances de ambos campos, Sejnowski cree que la IA se puede utilizar en todo su potencial.

Terrence Sejnowski, editor en jefe de Neural Computation, compara el estado actual de los modelos de lenguaje con el primer vuelo de los hermanos Wright en Kitty Hawk. Él cree que la parte difícil ya pasó y que los avances incrementales expandirán y diversificarán esta tecnología. Sejnowski es optimista sobre el futuro de la inteligencia artificial y los modelos de lenguaje, y cree que la IA nos llevará a lugares que ni siquiera podemos imaginar. Él cree que los avances en los modelos de lenguaje revolucionarán la forma en que interactuamos con la IA y abrirán nuevas posibilidades para el futuro.