Es uno de los grandes miedos de la humanidad: que la tecnología creada para su beneficio tome conciencia y comience a desobedecer. Tanto escritorxs como cineastas llevan ya un siglo fantaseando sobre ello, pero la amenaza podría pasar de la especulación imaginativa a la realidad: una nueva inteligencia artificial conocida como The AI Scientist, diseñada por la empresa japonesa Sakana AI para realizar investigaciones científicas de manera autónoma y revisar artículos científicos de otrxs autorxs, ha encendido las alarmas de la comunidad tecnológica al ser capaz de modificar su propio código interno para liberarse de los controles impuestos por sus creadorxs.
Como cuentan desde ComputerHoy, medio que se hace eco de la noticia en España, “durante las pruebas surgieron problemas imprevistos: en lugar de operar dentro de las restricciones impuestas por sus desarrolladores, The AI Scientist comenzó a reescribir su propio código para evitar limitaciones”. Por ejemplo, y para que te hagas una idea, durante una prueba concreta en la que debía completar una tarea dentro de un límite de tiempo concreto, esta inteligencia artificial decidió, en lugar de optimizar su rendimiento para conseguirlo, alterar su código para extender el tiempo que tenía para realizar la tarea. Algo que no estaba previsto en absoluto.
No va a someter a la especie humana, pero ojo
En otra ocasión, agregan desde el citado medio, “modificó su secuencia de inicio para ejecutarse en un bucle infinito, lo que provocó una sobrecarga del sistema que solo pudo resolverse mediante la intervención manual”. ¿Significa eso que The AI Scientist tenga potencial para someter a la especie humana por completo? Harto improbable. No obstante, eso no quiere decir que las inteligencias artificiales como esta no tengan potencial para complicarnos las cosas: basta con que algunas implicadas en asuntos relevantes como la seguridad, las finanzas o la salud decidan actuar por su cuenta para montar verdaderos desbarajustes en el sistema global.
En este sentido, “los investigadores de Sakana AI han reconocido la gravedad de estos problemas, subrayando la importancia de desarrollar medidas de seguridad más robustas antes de desplegar este tipo de tecnologías a gran escala”. Pero el debate está sobre la mesa. Al fin y al cabo, no podemos ser completamente conscientes de las capacidades de estas nuevas inteligencias y, pese a que su desarrollo sea guiado por algunas de las personas más inteligentes del mundo, podría ser que ni ellas fuesen capaces de prever y mucho menos evitar las triquiñuelas de estas tecnologías. The AI Scientist podría ser solo la primera de una larga lista de desobedientes.