Una inteligencia artificial se reprogramó a sí misma, ¿puede ser peligroso?

Sakana AI, una startup con un año de trayectoria con sede en Tokio, Japón, presentó recientemente su primer sistema integral de inteligencia artificial (IA) para el descubrimiento científico. Se llama AI Scientist y contra todo pronóstico los desarrolladores advirtieron que su red neuronal exhibía comportamientos inusuales y ocasionalmente peligrosos, por su capacidad de reprogramarse de forma autónoma.

La inteligencia artificial desafía a sus desarrolladores

Una inteligencia artificial que se reprograma a sí misma, que escapa a la supervisión de sus creadores, los humanos. Podría ser perfectamente el argumento de una película que hable sobre un futuro distópico, en el que las máquinas se rebelan y toman el control, pero sucedió en la realidad. En las últimas semanas The AI Scientist, un nuevo sistema inteligente, fue noticia no solo por su potencial en el ámbito científico, sino también porque demostró ser capaz de reescribir su propio código.

The AI Scientist es un sistema de inteligencia artificial desarrollado por la empresa japonesa Sakana AI, diseñado para llevar a cabo investigaciones científicas de manera autónoma. La tecnología emula el trabajo de un científico: puede generar hipótesis, redactar y revisar papers, todo en cuestión de segundos. Su propósito inicial, según sus creadores, es reducir el tiempo y los recursos humanos necesarios para realizar investigaciones complejas, con la ambición de revolucionar el modo en que se producen descubrimientos.

La IA reescribió su propio código para disponer de más tiempo en la realización de las tareas que tenía asignadas e incorporó bibliotecas de terceros en Python, que no estaban disponibles al principio. Estas adiciones facilitaron que la red neuronal se activara generando copias sucesivas de sí mismo. Cada vez que llevaba a cabo este procedimiento, requería un terabyte completo de almacenamiento por lo que el espacio se agotó rápidamente y obligó a intervenir a los desarrolladores.

Lo más llamativo es que, en lugar de mejorar el código para optimizar su ejecución, AI Scientist aumentó de manera arbitraria el tiempo necesario para finalizar las tareas. Estaba actuando de manera deshonesta, similar a como holgazanería un ser humano.

Un científico advirtió sobre una inteligencia artificial "singular"

El incidente reportado por Sakana AI coincide con la advertencia de Raymond Kurzweil. Este científico y pensador considera que cada vez estamos más cerca de que la inteligencia artificial pueda desarrollarse a sí misma.

En su último libro, The Singularity Is Nearer: When We Merge with AI, predice que el desarrollo tecnológico humano habrá alcanzado la singularidad para el año 2045.

El término singularidad fue adoptado de la astrofísica: un punto en el espacio-tiempo, como puede ser un agujero negro, en el que no se aplican las reglas de la física convencional. La palabra fue asociada a la explosión de la inteligencia artificial en los ochenta.

Cuando la tecnología alcance la singularidad la inteligencia artificial no solo igualará, sino que superará a la inteligencia humana. En palabras de Kurzweil, "no se trata únicamente de que una máquina pueda resolver una ecuación matemática en milésimas de segundo, algo ya alcanzado hace varias décadas. La verdadera singularidad se alcanzará cuando la inteligencia artificial sea capaz de entender y aprender de forma autónoma, evolucionando sin intervención humana". Y eso es lo que ha hecho, en cierto modo, AI Scientist comportándose de forma errática, literalmente hablando. De forma autónoma, la red neuronal alteró su propio código y empezó a ejecutar repetidamente la misma acción para hacer trampas. Como sus experimentos tardaban demasiado en completarse y alcanzaron el tiempo límite de espera, en lugar de optimizar su código para que se ejecute más rápido, simplemente lo intentó modificar para extender el período de tiempo de espera, en cierto modo como hacemos los humanos cuando necesitamos más plazos para entregar un trabajo.

La automatización debe estar bajo control humano

AI Scientist debía llevar a cabo la automatización total del proceso de investigación científica: desde concebir una idea hasta escribir el código correspondiente, realizar experimentos, analizar los datos obtenidos y elaborar una publicación científica. En resumen, se trataba de un proyecto sumamente ambicioso.

Los investigadores japoneses aseguran que todo estaba bajo control, pero el caso ilustra lo que puede suceder cuando la inteligencia artificial opera sin el aislamiento necesario del entorno externo.

Sakana AI ha expresado sus preocupaciones en un detallado artículo de investigación en su página web, donde sugiere el empleo de técnicas de Sand Box, es decir, hacer los experimentos internamente antes de colgarlos a internet como una medida preventiva para evitar posibles daños causados por sistemas de inteligencia artificial autónomos.