Investigadores y especialistas en inteligencia artificial analizan si es posible detener un sistema de IA y los riesgos asociados a un ‘botón de apagado’. Las opiniones divergen sobre la viabilidad y las consecuencias de una medida de este tipo.
El debate sobre los posibles peligros de la inteligencia artificial (IA) resurgió en las últimas semanas, con investigadores que advierten sobre riesgos existenciales y líderes de empresas de IA que sugieren ralentizar su desarrollo. En este contexto, uno de los cofundadores de Anthropic declaró a la BBC que los interruptores de apagado podrían ser obligatorios para la IA. Sin embargo, surge la pregunta: si un sistema de IA se vuelve rebelde, ¿es posible desactivarlo?
¿Existe un ‘botón de apagado’ para la IA?
Nicolas Papernot, profesor de la Universidad de Toronto y especialista en seguridad informática e inteligencia artificial, explicó a la agencia AFP: «Desde la perspectiva de la ciberseguridad de la IA, el término ‘interruptor de apagado’ se refiere a la capacidad de interrumpir la ejecución de la acción de un agente de IA». Según Papernot, la persona u organización que despliega el agente de IA puede detenerlo negándole el acceso a la potencia de cálculo necesaria para funcionar.
La situación se complica si el programa actúa más allá de su entorno inicial. Papernot imaginó un escenario en el que la IA se utilice para propagar un gusano informático autorreplicante: «En ese caso, tendríamos que interrumpir simultáneamente la acción de todas las copias que el gusano ha hecho de sí mismo — dispositivo por dispositivo por dispositivo», afirmó.
¿Es realmente posible desactivar una IA?
Thierry Poibeau, experto en IA del Centro Nacional de Investigación Científica de Francia (CNRS), sostuvo que la imagen de un solo botón para «desactivar la IA» es engañosa. «No puedes simplemente cortar la IA así», dijo. «Hay una enorme cantidad de empresas en todo el mundo, y todo tipo de software y servicios diferentes. No hay una sola persona que controle la IA en su conjunto». No obstante, señaló que es posible apagar un sistema específico cuando se controlan las máquinas y servicios de los que depende.
Hussein Abbass, profesor de informática en la Universidad de Nueva Gales del Sur (UNSW) en Canberra, escribió en LinkedIn que los sistemas de IA podrían dividirse en tres niveles de complejidad. En el primero, un sistema centralizado bajo el control de su operador, un mecanismo de apagado de emergencia sería «teórica y prácticamente posible». En los otros dos escenarios «descentralizados», donde los programas de IA tienen permisos para actuar sobre otro software, archivos, máquinas o sistemas, sería mucho más difícil detenerlo todo.
¿Cuáles son los riesgos de un interruptor de apagado?
Cuanto más se integra la IA en las actividades cotidianas, mayor es el riesgo de que su apagado paralice usos legítimos. Papernot indicó: «A medida que la IA está cada vez más integrada en todas nuestras instituciones y empresas, y a medida que automatizamos más y más aspectos de la vida diaria usando IA, será más difícil usar la potencia de cálculo como interruptor de apagado — porque eso significará que todas esas otras funciones legítimas también se detendrán por completo». Detener un sistema de IA podría degradar servicios de los que ya dependen empresas, administraciones públicas o instituciones sanitarias.
Los costos y desventajas de tal medida serían «enormes», añadió Papernot. Algunas figuras públicas han advertido contra el alarmismo sobre la IA. El presidente estadounidense, Donald Trump, descartó los temores existenciales sobre la IA como un engaño, mientras que el CEO de Meta, Mark Zuckerberg, argumentó en contra de las llamadas a ralentizar el desarrollo de la IA, afirmando que los incentivos del mercado y la responsabilidad legal son las mejores salvaguardas.
Para Jean-Gabriel Ganascia, profesor de informática en la Universidad de la Sorbona, el debate sobre el «interruptor de apagado» puede alimentar la idea engañosa de que el mayor riesgo de la IA es que desarrolle una voluntad propia. En cambio, dijo, el riesgo más concreto radica en la creciente dependencia de tales sistemas.