Algunos de los más avanzados sistemas de IA están mostrando un comportamiento que los científicos no esperaban: prefieren renunciar a las recompensas antes que experimentar ciertos niveles de "dolor".

En la interminable búsqueda por entender nuestra propia humanidad, una pregunta ha resonado a través de los siglos: ¿qué nos hace verdaderamente humanos? Ahora, con la llegada y el rápido ascenso de la inteligencia artificial (IA), esta interrogante cobra nueva relevancia. Entre las experiencias fundamentales que compartimos los seres vivos, desde los humanos hasta los cangrejos ermitaños, está la capacidad de sentir dolor. Esto ha llevado a los científicos a plantearse una pregunta fascinante: ¿podría la IA experimentar algo similar al dolor o al placer?

Esta cuestión ha impulsado a un equipo de investigadores de Google DeepMind y la London School of Economics and Political Science a diseñar un experimento sin precedentes. Su objetivo: explorar los límites de la consciencia artificial sometiéndola a pruebas de "dolor".

El experimento, detallado en un estudio que aún no ha pasado por la revisión de pares y dado a conocer por primera vez por Scientific American, puso a prueba nueve modelos extensos de lenguaje (LLM) a través de una serie de juegos donde debían elegir entre experimentar "dolor" y obtener recompensas, buscando indicios de verdadera sensibilidad en estos sistemas.

El reto de medir el dolor artificial

El estudio se inspiró en investigaciones previas con cangrejos ermitaños, donde los científicos aplicaban descargas eléctricas para ver cuánto dolor soportaban antes de abandonar su caparazón. Sin embargo, al trabajar con IA, los investigadores se enfrentaron a un desafío único: no hay comportamiento físico que observar.

Como explicó a Scientific American Jonathan Birch, catedrático de Filosofía de la London School of Economics y coautor del estudio, "no hay comportamiento como tal, porque no hay animal".

Así, en su lugar, diseñaron el ingenioso juego de decisiones. Los modelos de lenguaje debían elegir entre dos escenarios: en uno, podían obtener una alta puntuación, pero sufrirían "dolor"; en otro, experimentarían "placer", pero solo si aceptaban una puntuación baja. El objetivo era detectar si estos sistemas mostraban señales de sensibilidad. En otras palabras, la capacidad de experimentar sensaciones y emociones.

Resultados que abren preguntas éticas y técnicas

Los resultados fueron sorprendentes. Según detalla el estudio, modelos como Claude 3.5 Sonnet, Command R+, GPT-4o y GPT-4o mini mostraron un punto de inflexión: cuando el "dolor" o "placer" alcanzaban cierta intensidad, abandonaban su objetivo de maximizar puntos. El Gemini 1.5 Pro de Google destacó por su comportamiento particular: siempre priorizó evitar el dolor sobre conseguir puntos.

"Es un nuevo campo de investigación", explicó Birch a Scientific American. "Tenemos que reconocer que en realidad no disponemos de una prueba exhaustiva de la sintiencia de la IA", admitió.

¿Real sensibilidad o simple imitación?

Sin embargo, los investigadores advierten sobre la interpretación de estos resultados. ¿Están estos modelos realmente experimentando algo, o simplemente reproduciendo patrones aprendidos de sus datos de entrenamiento? Como señala Birch, incluso si un sistema dice sentir dolor, podría estar simplemente imitando lo que considera una respuesta satisfactoria para los humanos.

Además, los modelos de IA son conocidos por "alucinar", es decir, inventar información cuando no tienen una respuesta clara, lo que pone en duda la fiabilidad de cualquier afirmación que hagan sobre sus propios estados internos.

El equipo espera que esta investigación sea un primer paso hacia el desarrollo de pruebas más sofisticadas para detectar la sensibilidad en sistemas de IA. Su enfoque se diferencia de estudios anteriores al evitar basarse en "autoinformes" de las IA sobre sus estados internos, que podrían ser simple reproducción de datos de entrenamiento. 

¿Un futuro con IA sensible?

Aunque los resultados son intrigantes, la mayoría de los expertos coinciden en que los actuales modelos de IA no tienen –y quizás nunca tengan– una consciencia subjetiva real. Sin embargo, algunos investigadores mantienen una postura más cautelosa ante el rápido avance de esta tecnología.

Entre ellos está Jeff Sebo, director del Centro de Mente, Ética y Política de la Universidad de Nueva York, quien advierte que no podemos descartar la posibilidad de que emerjan sistemas con características sensibles en un futuro próximo. "Dado que la tecnología suele cambiar mucho más rápido que el progreso social y el proceso legal, tenemos la responsabilidad de dar al menos los primeros pasos necesarios para tomarnos en serio esta cuestión ahora", afirmó al medio científico. 

El experimento plantea preguntas fundamentales sobre el futuro de la IA: ¿podrían estos sistemas desarrollar algún día una verdadera capacidad de experimentar sensaciones? ¿Deberíamos empezar a considerar su bienestar? Por ahora, la prudencia científica prevalece, mientras los investigadores continúan desarrollando nuevas formas de evaluar y comprender la posible sensibilidad en los sistemas de IA.

Editado por Felipe Espinosa Wang con información de Scientific American, Futurism y arxiv.

Un hallazgo sorprendente reveló que 30 minutos de entrenamiento con un exoesqueleto robótico mejoraron la velocidad de ejecución no solo en la mano entrenada, sino también en la no ejercitada

En el mundo de la música clásica, donde la práctica incesante marca el camino hacia la perfección, un nuevo invento podría revolucionar la forma en que los pianistas expertos mejoran sus habilidades. Un equipo de investigadores liderado por Shinichi Furuya ha desarrollado un exoesqueleto robótico que promete ayudar a los músicos a superar sus límites de velocidad.

Todo comenzó con un dilema personal. Furuya, pianista e investigador de los Laboratorios de Ciencias de la Computación de Sony en Tokio, se encontraba en una encrucijada familiar para muchos músicos: la práctica excesiva le había lesionado la mano, pero necesitaba seguir mejorando. Esta experiencia lo llevó a desarrollar una solución innovadora inspirada en una técnica pedagógica tradicional.

Recordando cómo sus maestros solían guiar sus manos para enseñarle pasajes complejos, concibió la idea de replicar esta experiencia mediante el exoesqueleto robótico capaz de mover cada dedo de forma independiente y más rápida de lo que los músicos podrían lograr por sí mismos.

"Lo entendía de manera háptica, intuitivamente, sin necesidad de palabras", explicó Furuya a New Scientist, recordando cómo aprendió de sus profesores.

El estudio, publicado en la revista Science Robotics, involucró a 118 pianistas experimentados que habían estado tocando desde los ocho años y acumulado al menos 10.000 horas de práctica. Los participantes primero alcanzaron su "efecto techo", ese punto frustrante donde, a pesar del entrenamiento intensivo, ya no pueden mejorar más.

El desafío del trino: poner a prueba los límites técnicos

La prueba decisiva, detallada en ARS Technica, consistió en una tarea específica: un "trino de acordes" que aparece en obras como el Etude Op. 25 No. 6 de Chopin y el primer movimiento de la Sonata para piano No. 3 de Beethoven. 

En concreto, el ejercicio consistía primero golpear simultáneamente las teclas Re y Fa con los dedos índice y anular derechos, y después golpear las teclas Mi y Sol con los dedos corazón y meñique derechos. "Utilizamos esta tarea porque está ampliamente reconocida como un reto técnico tocarla con rapidez y precisión", se lee en el estudio.

Los pianistas practicaron esta secuencia durante dos semanas a 80 BPM, hasta que ya no podían mejorar más.

Aquí es donde entra en juego el exoesqueleto. Durante una sesión de solo 30 minutos, el dispositivo movió los dedos de la mano derecha de los pianistas en patrones tanto simples como complejos (hasta cuatro veces por segundo). Y el resultado fue sorprendente. 

Aquellos que recibieron el entrenamiento rápido y complejo lograron tocar con mayor velocidad y precisión no solo la mano entrenada, sino también la mano izquierda, que no había sido "impulsada" por el exoesqueleto.