La complejidad de la inteligencia artificial sigue siendo un misterio para quienes la diseñan

La complejidad de la inteligencia artificial sigue siendo un misterio para quienes la diseñan. Foto: Redacción InfoArticulos

La inteligencia artificial generativa (IA gen) está a punto de cambiar el mundo, pero incluso las mentes humanas más brillantes que desarrollan esta tecnología admiten que no comprenden cómo piensan los cerebros digitales.

"Quienes no se dedican al sector suelen sorprenderse y alarmarse al descubrir que no entendemos cómo funcionan nuestras propias creaciones de IA", escribió Dario Amodei, cofundador de Anthropic, en un ensayo publicado en internet en abril.

"Esta falta de comprensión no tiene precedentes en la historia de la tecnología".

Los modelos de IA generativa son entrenados para encontrar su propio camino al éxito una vez que reciben un pedido, a diferencia de los programas de software tradicionales que siguen rutas lógicas preestablecidas dictadas por los programadores.

Chris Olah, quien formó parte de OpenAI (creador de ChatGPT) antes de unirse a Anthropic, describió la IA gen como un "andamio" sobre el que crecen los circuitos.

La startup Goodfire utiliza software de IA capaz de representar datos en forma de pasos de razonamiento para comprender mejor el procesamiento de la IA generativa y corregir errores.

La herramienta también está diseñada para evitar que los modelos de IA se utilicen con fines maliciosos o que decidan por sí mismos engañar a los humanos sobre lo que están haciendo.

"Se siente como una carrera contrarreloj para llegar antes de que se implementen modelos de IA extremadamente inteligentes en el mundo sin comprender cómo funcionan", afirmó Eric Ho, director ejecutivo de Goodfire.

En su ensayo, Amodei afirma que los recientes avances lo han vuelto optimista respecto a que la clave para descifrar completamente la IA se encontraría en dos años.

"Coincido en que para 2027, podríamos tener una interpretabilidad que detecte de forma fiable los sesgos y las intenciones dañinas de los modelos", afirmó Anh Nguyen, profesor asociado de la Universidad de Auburn.

Según Crovella, de la Universidad de Boston, "a diferencia del cerebro humano", en el caso de la IA los investigadores tienen "el equivalente a cada neurona instrumentada dentro de estos modelos".

"Todo lo que ocurre dentro del modelo lo conocemos perfectamente. Es cuestión de descubrir la forma correcta de analizarlo", afirmó el académico.

Descifrar el funcionamiento interno de la IA generativa podría allanar el camino para su adopción en áreas donde pequeños errores pueden tener consecuencias drásticas, como la seguridad nacional, sostiene Amodei.

Para Nanda, también podría impulsar los descubrimientos humanos, de forma similar a cómo el modelo AlphaZero, de DeepMind, reveló jugadas de ajedrez completamente nuevas.

Bien entendido, un modelo de IA generativa con un sello de fiabilidad obtendría una ventaja competitiva en el mercado.

Un avance de este tipo por parte de una empresa estadounidense también sería una victoria para el país en su rivalidad tecnológica con China.

"Una IA potente moldeará el destino de la humanidad", escribió Amodei. "Merecemos comprender nuestras propias creaciones antes de que transformen radicalmente nuestra economía, nuestras vidas y nuestro futuro".