La inteligencia artificial actual se sostiene sobre una operación matemática muy concreta:…  la multiplicación. Cada vez que un modelo genera una respuesta, reconoce una canción o recomienda una foto, está ejecutando millones o incluso miles de millones de multiplicaciones entre datos de entrada y los llamados «pesos» aprendidos durante el entrenamiento. Lizy K. John, profesora de ingeniería eléctrica e informática en la Universidad de Texas en Austin, lleva cinco años cuestionando esa premisa. Su equipo trabaja en redes neuronales «sin pesos» (weightless neural networks), un enfoque que sustituye las multiplicaciones por consultas a tablas de búsqueda binarias interconectadas. El resultado, según sus propias pruebas, son modelos hasta mil veces más pequeños o más rápidos que las alternativas convencionales, manteniendo una precisión comparable. Aunque de momento el enfoque se ha probado en problemas pequeños y muy acotados, la investigadora cree que el mismo principio podría acabar aplicándose a los modelos de lenguaje que hoy alimentan a los chatbots más populares.

De las multiplicaciones a las tablas de consulta

La idea de prescindir de los pesos no es nueva, pero sí lo es el momento en el que resurge. John explica que el concepto llevaba décadas dando vueltas de forma marginal: un producto comercial basado en esta técnica se desarrolló en el Reino Unido durante los años ochenta para tareas de reconocimiento de patrones, y después cayó prácticamente en el olvido, salvo por un grupo de investigación en la Universidad Federal de Río de Janeiro que siguió trabajando en ello con muy pocos recursos. Todo cambió cuando una colega invitó a John a una reunión semanal sobre el tema, y ella decidió aplicar su experiencia previa en implementación hardware para intentar llevarlo a la práctica. En menos de seis meses su equipo ya tenía el sistema funcionando sobre una FPGA, un tipo de chip reconfigurable que no requiere GPU para operar. Lograron redes neuronales hasta mil veces más pequeñas que las de la competencia, un resultado que ella misma describe como el punto de partida que le dio confianza para seguir adelante.

El principio técnico es sencillo de enunciar aunque profundo en sus implicaciones: en lugar de multiplicar entradas por pesos de 16 o 30 bits, el sistema convierte la información en valores binarios y consulta directamente una tabla que ya contiene la respuesta almacenada, algo más parecido a mirar una chuleta que a resolver una cuenta cada vez. Al eliminar la multiplicación, que es una operación especialmente costosa en términos de energía tanto para el hardware como, según recuerda John, para el propio cerebro humano cuando aprende las tablas de multiplicar de pequeño, se reduce drásticamente el consumo. La comparación que ella misma propone resulta reveladora: el cerebro humano toma decisiones consumiendo apenas unos 20 vatios, sin ejecutar una sola multiplicación, mientras que un modelo como ChatGPT necesita millones de estas operaciones solo para predecir la siguiente palabra de una frase.

Resultados medidos en sensores médicos y reconocimiento de voz

Los avances más concretos del equipo de John se han producido en el terreno de los sensores médicos y de actividad física. En tareas de reconocimiento de actividad humana o monitorización médica —electrocardiogramas, electroencefalogramas, presión arterial— las redes sin pesos han demostrado hacer el mismo trabajo con hasta mil veces menos energía. Esto tiene una consecuencia práctica directa: hoy muchos sensores inteligentes se limitan a capturar datos en bruto y enviarlos a un servidor o a un teléfono porque el propio sensor, alimentado por batería, no tiene capacidad de procesamiento local. El equipo de Austin ha conseguido que el modelo quepa directamente en el propio sensor. En una de las comparativas citadas por John, el mejor modelo pequeño disponible para un problema concreto ocupaba 17 megabytes, frente a los 14 kilobytes de su propuesta, una diferencia de más de mil veces en tamaño. Esa reducción no solo ahorra energía al evitar la transmisión constante de datos crudos, sino que además supone una ventaja de privacidad, ya que la información nunca tiene que salir del dispositivo.

Otro terreno donde el equipo ha mostrado resultados es el de la detección de palabras clave, la función que permite a un altavoz inteligente reconocer una palabra de activación antes de empezar a escuchar de verdad. Según los datos que aporta John, el mejor modelo industrial actual para esta tarea consume más de 5.000 nanojulios por inferencia, mientras que su arquitectura basada en tablas de búsqueda se mueve entre 42 y 79 nanojulios según la variante utilizada. Se trata de una diferencia de dos órdenes de magnitud que, multiplicada por los miles de millones de dispositivos que ejecutan este tipo de escucha permanente, tendría un impacto notable sobre el consumo agregado del sector.

El producto en el centro: un detector de arritmias sobre plástico flexible

Entre todos los prototipos desarrollados por el laboratorio de John, el que mejor ilustra el potencial del enfoque es un detector de arritmias fabricado sobre un sustrato de plástico flexible. Se trata de un circuito capaz de identificar irregularidades del ritmo cardiaco utilizando apenas unas 10.000 puertas lógicas, frente a los miles de millones que integra un chip convencional fabricado con procesos de dos o cinco nanómetros. Esa diferencia de escala no es un detalle menor: un sustrato flexible y de bajo coste como este solo tiene espacio físico para un número muy limitado de componentes, por lo que una red neuronal tradicional simplemente no cabría en él. Al partir de una arquitectura ya de por sí extremadamente compacta, la red sin pesos sí encuentra hueco, lo que abre la puerta a dispositivos médicos desechables o de un solo uso, del tipo tirita inteligente, capaces de vigilar a un paciente durante una semana entera sin necesidad de un equipo conectado y costoso. Como valor añadido, John señala que fabricar sobre este tipo de sustrato plástico consume menos agua que los procesos habituales de fabricación de semiconductores, lo que suma un argumento de sostenibilidad al de eficiencia energética. Este dispositivo, más que un simple experimento de laboratorio, funciona como prueba de concepto de que la arquitectura sin pesos puede aterrizar en aplicaciones médicas reales a corto plazo, antes incluso de plantearse saltos más ambiciosos como los modelos de lenguaje.

¿Y los chatbots? El siguiente gran reto

La pregunta inevitable es si esta tecnología podría llegar algún día a los grandes modelos de lenguaje que sostienen a los asistentes conversacionales actuales. John reconoce que su equipo ya está trabajando en ello, aunque el camino es más complicado que en los sensores. Un transformador, la arquitectura que da forma a modelos como los que usan los chatbots más conocidos, alterna entre una capa de atención y un perceptrón multicapa de forma repetida. El equipo de Austin ya ha sustituido la parte del perceptrón multicapa, que supone aproximadamente la mitad de la red, por su enfoque basado en tablas de búsqueda, pero todavía no ha abordado la capa de atención, que es la pieza que permite al modelo relacionar unas palabras con otras dentro de una frase. Según explica en una entrevista recogida en IEEE Spectrum, sustituir también esa parte es el objetivo a medio plazo, aunque no oculta que se trata de un reto mucho mayor que optimizar un sensor médico.

Un aspecto interesante es que, según John, el resto del ecosistema tecnológico no necesitaría cambios drásticos para adoptar este enfoque. Los datos de entrenamiento pueden seguir siendo los mismos, e incluso podrían necesitarse en menor cantidad. El entrenamiento, eso sí, sigue realizándose sobre GPU por ser el hardware más potente disponible hoy, aunque su aspiración a medio plazo es poder entrenar directamente sobre FPGA, ya que estos chips ya incorporan de fábrica pequeñas tablas de búsqueda que encajan de forma natural tanto con el entrenamiento como con la inferencia de este tipo de redes. De hecho, recuerda que las FPGA llevan más de tres décadas utilizando tablas de búsqueda internamente, aunque siempre han sido un segmento minoritario del mercado frente a otro tipo de procesadores más mediáticos.

Por qué tan poca gente investiga esta vía

Uno de los datos más llamativos de la conversación es lo reducido que resulta el número de investigadores dedicados a esta línea de trabajo en comparación con los que trabajan en transformadores convencionales. John lo atribuye a una lógica muy humana: cuando algo funciona y se puede seguir pagando su coste, no hay incentivo suficiente para cambiar de rumbo. Además, al haberse demostrado únicamente en problemas pequeños, como salidas de sensores, muchos investigadores dudan de que el enfoque pueda escalar a problemas de gran tamaño, precisamente porque parece «demasiado simple» para funcionar a esa escala. Con todo, ella asegura que quienes asisten a sus charlas en congresos o universidades suelen quedar sorprendidos y muestran interés en sumarse, aunque de momento se trata de un grupo reducido de personas. Su expectativa es que, si logra demostrar que el enfoque funciona sobre un modelo de lenguaje de tamaño considerable, ese resultado podría actuar como catalizador para atraer a más investigadores hacia este campo. Un análisis reciente de la Agencia Internacional de la Energía sitúa precisamente el consumo eléctrico de la inteligencia artificial como uno de los factores de mayor crecimiento en la demanda energética global de los próximos años, lo que da contexto a por qué propuestas como esta empiezan a despertar interés fuera del ámbito puramente académico. Asimismo, la propia definición técnica de este tipo de arquitecturas, recogida por Google Research, las sitúa como una alternativa especialmente indicada para inferencia en el borde, es decir, directamente sobre el dispositivo y sin depender de la nube.

Reflexiones finales

Lo que propone Lizy K. John no es una revolución inmediata para los grandes modelos de lenguaje, sino un cambio de paradigma que primero está demostrando su valor en el terreno más modesto de los sensores médicos y los dispositivos de bajo consumo. Resulta llamativo que una técnica con raíces en los años ochenta, casi olvidada durante décadas, reaparezca ahora como posible respuesta a uno de los problemas más urgentes de la IA actual: su apetito energético. Si el equipo de Austin consigue extender su enfoque a la capa de atención de los transformadores, el impacto podría no limitarse a los dispositivos médicos, sino alcanzar directamente al consumo eléctrico de los centros de datos que hoy sostienen a los chatbots más usados del planeta. De momento, el camino avanza sensor a sensor, kilobyte a kilobyte.