Un equipo de investigadores ha desarrollado una técnica matemática que permite comprender con precisión cómo las redes neuronales toman decisiones, un avance que podría transformar el campo del aprendizaje automático.
Estas redes, piezas clave en tecnologías como asistentes virtuales, coches autónomos y diagnósticos médicos, han sido históricamente difíciles de analizar, ganándose el apodo de "cajas negras".
Según Lyle Muller, profesor de matemáticas en la Universidad de Western Ontario, este enfoque "resuelve las ecuaciones que rigen la actividad de las redes, permitiendo desentrañar su funcionamiento".
Este avance, publicado en la revista PNAS, abre la puerta a un entendimiento más profundo y transparente de la inteligencia artificial (IA).
La técnica fue probada inicialmente en una tarea de segmentación de imágenes, una herramienta básica en visión artificial que divide imágenes en componentes clave. Usando formas simples como triángulos y cuadrados, el equipo creó una red neuronal capaz de realizar esta tarea. Luego, aplicaron un modelo matemático desarrollado previamente para analizar cómo la red procesaba cada paso del cálculo.
Resultados sorprendentes
El experimento arrojó resultados sorprendentes: la red no solo segmentaba formas geométricas básicas, sino que también podía interpretar imágenes naturales, como un oso polar en la nieve o un pájaro en su hábitat. "Nuestro enfoque permitió crear una red más flexible y eficaz frente a nuevas entradas", comentó Muller.
Este avance tiene implicaciones que trascienden el procesamiento de imágenes. En otro estudio publicado en Communications Physics en 2024, el equipo diseñó una red explicable que realizaba tareas como operaciones lógicas, funciones de memoria y transmisión segura de mensajes.
Conexión con una célula cerebral viva
En una colaboración interdisciplinaria, los investigadores conectaron su red a una célula cerebral viva, creando un sistema híbrido entre redes neuronales artificiales y biológicas. "Este tipo de avances son fundamentales para desarrollar sistemas de IA confiables y éticos", destacó Budzinski, investigador postdoctoral del equipo.
El trabajo representa un paso hacia sistemas de inteligencia artificial más transparentes y comprensibles, con potencial para revolucionar la manera en que confiamos y dependemos de estas tecnologías.
