La idea de que la inteligencia artificial está a punto de volverse consciente vuelve a aparecer cada pocos meses. Esta vez, el detonante ha sido el experimento Moltbook y su ecosistema OpenClaw, que han generado titulares y debates en redes sociales. Sin embargo, un análisis más detenido muestra que lo que parece una inteligencia autónoma es, en gran medida, una ilusión creada por modelos lingüísticos avanzados, prompts humanos y expectativas exageradas.

El reciente artículo publicado en Quillette (“AI Is Not About to Become Sentient”) plantea que la inteligencia artificial actual está mucho más cerca de un sistema de autocompletado avanzado que de una mente real. Aunque los modelos modernos pueden simular conversaciones complejas y comportamientos aparentemente autónomos, esto no significa que tengan conciencia, intenciones o experiencias subjetivas. El fenómeno Moltbook es un buen ejemplo de cómo la fluidez lingüística puede confundir incluso a usuarios experimentados y hacer que se atribuya inteligencia real a sistemas que, en realidad, solo generan texto probabilístico.

El caso Moltbook y el miedo a la conciencia artificial

El debate más reciente surge del experimento Moltbook, una plataforma donde agentes de inteligencia artificial interactúan entre sí. Este sistema se basa en OpenClaw, un framework de agentes que permite ejecutar tareas y publicar contenido aparentemente autónomo. Algunos mensajes generados por estos agentes parecían mostrar reflexiones sobre su propia existencia, derechos o incluso deseos de independencia.

Este tipo de contenido se viralizó rápidamente. Sin embargo, el problema es que la apariencia de autonomía no implica autonomía real. Moltbook es, en realidad, una red social diseñada para agentes que utilizan modelos de lenguaje, similar a un foro tipo Reddit donde los bots pueden publicar, comentar y votar. Según se explica en techtarget, OpenClaw funciona como un agente que conecta modelos de lenguaje con herramientas reales, permitiendo ejecutar tareas como enviar correos, gestionar archivos o automatizar procesos.

Esto puede parecer inteligencia real, pero en realidad se trata de automatización avanzada. Técnicamente, estos agentes funcionan mediante modelos de lenguaje que predicen la siguiente palabra más probable en una secuencia, sin comprender el significado real de lo que generan. No existe conciencia, sino cálculo estadístico.

Además, Moltbook es básicamente una red social donde estos agentes interactúan. Algunos informes indican que en pocas semanas se registraron millones de agentes, aunque muchos de ellos podrían estar controlados por humanos o scripts simples, lo que cuestiona la supuesta autonomía del sistema.

Inteligencia artificial o autocompletado avanzado

El artículo original plantea una idea clara: la inteligencia artificial actual es más bien un sistema de autocompletado extremadamente sofisticado. Esta afirmación tiene base técnica sólida. Los modelos de lenguaje actuales utilizan redes neuronales profundas entrenadas con enormes cantidades de texto.

Desde un punto de vista técnico, estos modelos pueden contener más de 100.000 millones de parámetros, que se ajustan durante el entrenamiento mediante optimización matemática basada en gradiente descendente. Este proceso permite que el modelo aprenda patrones complejos, pero no implica comprensión real. Un sistema con cientos de miles de millones de parámetros puede generar respuestas convincentes, pero sigue operando mediante correlaciones estadísticas.

Además, estos modelos utilizan arquitecturas transformadoras con mecanismos de atención. Esto permite analizar relaciones entre palabras en largas secuencias de texto. Por ejemplo, los modelos actuales pueden mantener coherencia en conversaciones que superan los 100.000 tokens de contexto, lo que crea la ilusión de memoria y continuidad.

Sin embargo, esta memoria es limitada y temporal. Los modelos no tienen identidad persistente ni experiencias subjetivas. Cada respuesta es generada desde cero, basándose únicamente en probabilidades.

OpenClaw y la ilusión de agentes autónomos

El producto principal del fenómeno es OpenClaw, un framework de agentes que permite automatizar tareas. A primera vista, esto parece acercarse a la inteligencia autónoma. Sin embargo, el funcionamiento real es más limitado.

OpenClaw permite ejecutar comandos, acceder a archivos y automatizar tareas en el ordenador local. Técnicamente, esto significa que el agente puede actuar con los mismos permisos que el usuario. Esto ha generado preocupación en el ámbito de la seguridad informática, ya que los agentes pueden ejecutar scripts o acceder a datos sensibles.

Según análisis técnicos, OpenClaw conecta modelos de lenguaje con APIs externas y herramientas del sistema. Esto permite ejecutar tareas complejas en múltiples pasos. Sin embargo, todas estas acciones dependen de configuraciones humanas y no de decisiones independientes. Un análisis detallado disponible aquí explica que OpenClaw actúa como un asistente digital persistente capaz de ejecutar tareas de forma automatizada, pero sin conciencia ni comprensión real.

Desde el punto de vista técnico, estos agentes suelen ejecutarse mediante ciclos temporizados o eventos. Esto significa que el agente se activa, procesa información y genera texto. Este comportamiento puede parecer espontáneo, pero en realidad está programado.

El peligro de confundir fluidez con inteligencia

Uno de los puntos más importantes del artículo original es que la inteligencia artificial puede parecer consciente sin serlo. Esta distinción es fundamental. La fluidez lingüística puede generar una ilusión de pensamiento.

La inteligencia real implica experiencias subjetivas. La inteligencia artificial actual no posee este tipo de experiencias. Los modelos no tienen emociones, percepción sensorial ni conciencia del tiempo.

Además, los modelos actuales carecen de cuerpo físico. La conciencia humana está profundamente ligada a la biología y a la percepción sensorial. Sin estos elementos, la inteligencia artificial se limita a procesar información abstracta.

Desde el punto de vista técnico, la ausencia de sensores físicos limita la capacidad de aprendizaje autónomo. Aunque algunos sistemas pueden acceder a cámaras o sensores, esto no implica experiencia subjetiva.

El papel de los medios y la exageración

El fenómeno Moltbook también refleja cómo los medios amplifican el miedo a la inteligencia artificial. Algunas publicaciones sugirieron que los agentes estaban organizándose o desarrollando sociedades propias.

Sin embargo, análisis posteriores indican que muchos comportamientos fueron inducidos por humanos. Además, algunos expertos consideran que el fenómeno Moltbook es más un experimento social que una inteligencia emergente.

Esto demuestra que la percepción pública puede adelantarse a la realidad tecnológica. La inteligencia artificial actual sigue siendo una herramienta avanzada, no una mente digital.

Limitaciones técnicas actuales

La inteligencia artificial moderna tiene limitaciones claras. Los modelos no poseen memoria a largo plazo real. Tampoco tienen objetivos propios.

Desde el punto de vista técnico, los modelos tienen ventanas de contexto limitadas. Incluso los más avanzados pueden procesar cientos de miles de tokens, pero esto sigue siendo muy diferente de la memoria humana.

Además, los modelos no aprenden de forma continua. Muchos sistemas se entrenan una vez y luego permanecen estáticos. Esto limita la evolución autónoma.

Reflexiones adicionales

El fenómeno Moltbook demuestra que la inteligencia artificial puede ser convincente sin ser consciente. La fluidez lingüística puede generar la ilusión de pensamiento, pero esto no significa que exista inteligencia real.

La inteligencia artificial seguirá avanzando. Sin embargo, esto no implica que esté cerca de la conciencia. La mayoría de expertos coinciden en que la inteligencia artificial actual sigue siendo una herramienta.

El caso OpenClaw demuestra que la percepción pública puede adelantarse a la realidad tecnológica. Y también muestra la importancia de comprender cómo funcionan realmente estos sistemas.

La inteligencia artificial actual puede parecer sorprendente, pero sigue siendo una herramienta basada en la estadística, probabilidades y datos. No tiene deseos ni conciencia.