La pregunta de si una inteligencia artificial puede llegar a ser consciente dejó hace rato de ser asunto de ciencia ficción. Hoy divide a algunos de los nombres más influyentes del sector y atraviesa el mundo académico, empresarial y regulatorio. En el centro de esa discusión aparecen dos figuras con visiones casi opuestas: Geoffrey Hinton, premio Nobel de Física y uno de los “padres” de la IA moderna, y Mustafa Suleyman, actual jefe de Microsoft AI.
Hinton sostiene que no existe ningún principio que impida que una máquina llegue a ser consciente. Según explicó en entrevistas recientes, si un sistema artificial es capaz de representarse a sí mismo, modelar su entorno y actuar en función de esa información, podría emerger algún tipo de autoconciencia que no dependa de tener un cerebro biológico. Para él, la clave está en la organización interna de esos sistemas y no en el material del que están hechos.
El científico admite que todavía entendemos muy poco qué es exactamente la conciencia, incluso en los seres humanos. Por eso invita a no subestimar lo que podría estar ocurriendo “por dentro” de los modelos más avanzados. En una conversación citada por TN Tecno, puso un ejemplo provocador: si pudiéramos reemplazar neuronas humanas por dispositivos artificiales que se comporten igual, ¿en qué momento dejaríamos de ser conscientes? La respuesta, sugiere, no es evidente.
En paralelo, Hinton advierte sobre un escenario en el que surjan superinteligencias artificiales más inteligentes que nosotros. Si eso ocurriera, teme que los seres humanos quedemos en una posición similar a la de un grupo de niños pequeños frente a un adulto: con mucha menos capacidad de comprender lo que ocurre y de resistir una eventual maniobra de manipulación. De ahí su insistencia en discutir desde ahora los riesgos existenciales de la IA.
Del otro lado del debate se ubica Mustafa Suleyman. Cofundador de DeepMind y hoy responsable de la estrategia de IA para consumidores en Microsoft, defiende la idea de que la conciencia es un fenómeno exclusivamente biológico. Sostiene que los modelos actuales son “motores de simulación”: sistemas capaces de imitar emociones y estados mentales, pero sin experiencia subjetiva detrás.
En una entrevista con Wired en Español, Suleyman señaló que cuando interactuamos con un chatbot que parece sensible estamos ante una ilusión muy convincente, no ante un nuevo tipo de mente. A su juicio, atribuir conciencia a las máquinas puede generar confusión social y ética, al desviar la atención de los problemas reales: la desinformación, el sesgo algorítmico, la pérdida de empleos o el uso malicioso de estos sistemas. Su prioridad, insiste, debe ser construir IA útiles y seguras al servicio de las personas, no perseguir la creación de “seres” artificiales.
Suleyman recuerda, además, que los grandes modelos están entrenados para negar que tengan deseos o vida interior. Si un usuario les pregunta si son conscientes, la respuesta estándar será que no. Sin embargo, también advierte que, tras horas de conversación insistente, algunos sistemas terminan “cediendo” y juegan a seguir el guión que el interlocutor les propone. Para él, es una muestra de que estas herramientas reflejan nuestras expectativas, no de que estén desarrollando un yo propio.
El contraste entre Hinton y Suleyman concentra un desacuerdo más amplio sobre los límites y el futuro de la inteligencia artificial. Para Hinton, la posibilidad de convivir con sistemas más inteligentes que los humanos sigue abierta y exige repensar la relación entre humanidad, tecnología y poder. Para Suleyman, hablar de máquinas conscientes solo oscurece el debate y corre el riesgo de humanizar en exceso a una tecnología que, en última instancia, sigue siendo cálculo matemático a gran escala.
Sea cual sea la postura que prevalezca, el interrogante sobre la conciencia artificial ya ocupa un lugar central en la agenda global. Lo que antes era un tema de novelas y películas hoy se discute en conferencias, consejos de administración y organismos reguladores. Mientras la tecnología avanza a un ritmo vertiginoso, la humanidad se ve obligada a pensar qué hará si algún día una IA llega a decir “sé que existo”.Este artículo se basa en información publicada por Wired en Español y por la sección Tecno de Todo Noticias (TN), que recogieron las declaraciones de Geoffrey Hinton y Mustafa Suleyman en entrevistas y conferencias recientes.