Durante el último año, el robotic de inteligencia synthetic ChatGPT ha deslumbrado a la gente con su capacidad para responder preguntas, escribir ensayos e incluso codificar software program. Entre los jóvenes de 13 a 17 años en los Estados Unidos que han oído hablar de ChatGPT (que es la mayoría), el 19 por ciento cube que lo ha usado para hacer las tareas escolares. ChatGPT y otros chatbots como Bard y Meta AI se basan en grandes modelos de lenguaje, o LLM para abreviar. Estos modelos fueron entrenados para elaborar un lenguaje notablemente humano al recibir grandes cantidades de texto de Web. Y si bien ese texto incluye poemas de Louise Glück, guías de regalos de Oprah’s Favorite Issues y artículos de la New York Instancestambién incluye, como bien sabemos, contenidos falsos, difamatorios, violentos y horripilantes.
Como medida de protección, los creadores de los principales chatbots también los han entrenado para que se nieguen a proporcionar información inapropiada o dañina, por ejemplo, instrucciones paso a paso sobre cómo robar la identidad de alguien. Pero la formación no es infalible y la gente ya ha aprovechado las debilidades de los chatbots.
En este número, la física y escritora principal Emily Conover profundiza en los esfuerzos de los científicos informáticos. para mantener a los chatbots en el buen camino. Es un gran desafío, explica Conover, en parte porque estos LLM aún son muy nuevos y los científicos recién están comenzando a aprender sobre las vulnerabilidades de los chatbots. Y el desafío será mucho mayor a medida que los LLM se integren en productos cotidianos o se les asignen tareas como operar sistemas de metro.
La realidad es que aunque los LLM a veces parecen humanos, no lo son. Al leer el artículo de Conover, aprendí el delicioso término «loro estocástico». La lingüista computacional Emily Bender de la Universidad de Washington y sus colegas lo utilizan para explicar que, si bien los LLM pueden compilar palabras en prosa, no comprenden el significado de lo que «escriben» y, por lo tanto, no pueden entender si es inexacto o inmoral. Están repitiendo como loros.
Los loros reales y los científicos que los estudian pueden sentirse ofendidos por ese término. Los pájaros son famosos por poder emular el habla humana. Ahora, los científicos están descubriendo que los loros pueden hacer mucho más, incluido utilizar herramientas, crear conjuntos de herramientas, resolver acertijos complejos y, a veces, incluso comprender lo que decimos. Y como informa la redactora Erin García de Jesús, algunos los loros pueden practicar la moderaciónrenunciando a un pequeño obsequio ahora para obtener recompensas mayores más adelante.
Durante mucho tiempo, muchos científicos subestimaron a los loros (incluso los consideraron estúpidos) porque sus cerebros no son tan grandes y elegantes como los de los humanos y otros primates. Más recientemente, los científicos han descubierto que los cerebros de esos pequeños loros están densamente poblados de neuronas y tienen características análogas a las del cerebro de los primates.
Quedan por resolver muchos misterios de la inteligencia de los loros, incluido exactamente cómo y por qué las aves evolucionaron para tener estas asombrosas habilidades. Pero encontrar las respuestas puede, en última instancia, ayudarnos a comprender mejor los orígenes de nuestra propia inteligencia, así como otras formas de inteligencia que encontramos.
Por ahora, podemos maravillarnos de la convivencia de los loros, su belleza y el placer que parecen sentir al empuñar herramientas para abrir y comer un mango de mar.