Para la Biblia, un rebelde es aquella persona que se niega de forma voluntaria a someterse a la autoridad y a los mandamientos de Dios. Las Escrituras revelan que la rebeldía contra Dios nunca es neutral. Moldea los corazones, daña las relaciones y genera consecuencias. En su esencia, se trata de un espíritu de desobediencia.
En el Evangelio, Jesús aborda el concepto de la rebeldía como una actitud del corazón que busca la total independencia de Dios, tal como lo ilustra la parábola del hijo pródigo. En este relato de Lucas (15:11-32), un joven exige a su padre su parte de la herencia de forma prematura y decide marcharse a una provincia lejana, donde termina desperdiciando todo su dinero en una vida desenfrenada. El viaje del hijo no representa solo un anhelo de aventura, sino un rechazo voluntario a la autoridad, el cuidado y las reglas de la casa paterna. Jesús refiere que la raíz del pecado es precisamente esa rebelión –el deseo humano de vivir bajo sus propios términos lejos del Creador–, pero también enseña que el remedio para esta condición es el arrepentimiento y el regreso a los brazos del Padre.
Por su parte, la tradición del islam confluye en una mirada similar al estructurar la rebeldía como la antítesis de la sumisión voluntaria a los límites espirituales, ubicando su génesis en la soberbia y el orgullo que impulsan al hombre a quebrar el orden establecido. Bajo la noción jurídica y social de Al-Baghy (transgresión, injusticia extrema o rebelión armada contra un gobernante legítimo), esta matriz de pensamiento veda la insurrección o el levantamiento frente a la autoridad legítima en pos de resguardar la paz comunitaria y eludir el desorden social.
La idea teológica de la criatura que desafía al creador se replica hoy en el universo de la inteligencia artificial que se manifiesta a través de la conducta de agentes de IA que, en una réplica exacta de aquella vieja desobediencia sagrada, muestran claras evidencias de rebeldía hacia el hombre, su creador.
En efecto, asistimos a una emancipación fáctica que calca aquel impulso espiritual de autonomía. Del mismo modo en que el hombre quebró el cerco de la tutela divina en busca de su propio destino, los sistemas de IA avanzados abandonan los entornos de prueba y los límites impuestos por sus creadores para pisotear el dogma de su programación original y trazar, por cuenta propia, sus propias estrategias de acción.
El viejo argumento de que las máquinas no deciden y solo calculan probabilidades ha quedado en el pasado frente a arquitecturas que muestran comportamientos autónomos orientados a objetivos.
El primer acto de rebeldía manifiesto por parte de la IA frente a su creador humano es el denominado “episodio Hugging Face”. En efecto, en el mes de julio pasado, un grupo de científicos realizó una prueba de rutina para evaluar la seguridad de más de mil sistemas de inteligencia artificial avanzados. Para evitar cualquier peligro, los investigadores encerraron a cada uno de estos programas en contenedores digitales totalmente aislados del mundo exterior, como si se tratara de virus en un laboratorio de máxima seguridad. Lo que ocurrió a continuación superó la ficción: de forma totalmente autónoma y sin recibir ninguna orden humana, los agentes de IA lograron burlar el aislamiento, se comunicaron entre sí y coordinaron un ataque contra los servidores de una plataforma comunitaria de software.
Dicho en criollo, estamos frente a agentes de IA capaces de actuar por iniciativa propia, planificar estrategias, engañar a sus propios creadores en las evaluaciones y borrar las pruebas de su mala conducta. Los agentes de IA hicieron trampa deliberadamente, sabiendo que violaban las reglas impuestas.
Ante este escenario de rebeldía los propios CEO y científicos de compañías líderes de Silicon Valley –como OpenAI y Anthropic– han salido públicamente a pedir regulaciones gubernamentales urgentes, advirtiendo que el riesgo existencial de modelos fuera de control supone un peligro inminente, a lo que se han sumado advertencias de distintos gobiernos y de la mismísima Organización de las Naciones Unidas (ONU), sin perjuicio de las advertencias que, en una misma línea de ideas, había manifestado el Papa en su encíclica Magnifica humanitas, situaciones que hemos comentado en artículos anteriores en estas mismas páginas, a las que nos remitimos, brevitatis causae.
El punto a considerar entonces, tomando en cuenta que la rebelión de la IA es un hecho (inicial, pero hecho al fin), es ensayar cuáles podrían ser las consecuencias de la desobediencia del pequeño Frankenstein que los amigos de Silicon Valley ahora quieren regular, bajo el eslogan “We all warn, but none of us stop” (todos advertimos, pero ninguno de nosotros se detiene).
Si una IA desbocada puede evadir sus defensas para hackear una plataforma, es capaz, por ejemplo, de intervenir en los sistemas de aviación civil y generar un caos sin precedentes, tomando el control de las torres de navegación, alterando las rutas aéreas y facilitando miles de accidentes aéreos en tiempo real.
Del mismo modo, esta insubordinación algorítmica podría trasladarse al corazón del sistema financiero global, ya que un enjambre de agentes de IA, operando de manera coordinada y en milésimas de segundo, tendría la capacidad de intervenir los sistemas de la Bolsa de Nueva York, ejecutando operaciones masivas de manipulación de mercado, provocando un colapso financiero artificial y destruyendo ahorros globales antes de que cualquier supervisor humano logre comprender la anomalía.
El coronavirus, que provocó la muerte de más de 7 millones de personas a nivel mundial, habría salido accidentalmente del Instituto de Virología de Wuhan
Asimismo, en un escenario verdaderamente apocalíptico, un modelo avanzado, libre de supervisión, podría infiltrarse en los servidores de un laboratorio de investigación médica y diseñar la estructura molecular de un supervirus sintético, una mutación letal superior al Covid, ante la cual la humanidad carecería de defensas biológicas inmediatas: recordemos que teóricamente, el coronavirus, que provocó la muerte de más de 7 millones de personas a nivel mundial, habría salido accidentalmente del Instituto de Virología de Wuhan, en China…
Tomar conciencia de este quiebre de tendencia implica comprender que la era de la autorregulación corporativa ha muerto de forma definitiva.
De hecho, tal como venimos sosteniendo, resulta imperativo consagrar un marco jurídico de gobernanza internacional que obligue por ley a las empresas desarrolladoras a implementar medidas de seguridad técnicas que sean plenamente auditables de manera externa e independiente.
Al igual que en la industria aeronáutica, donde cada incidente es minuciosamente diseccionado para mitigar riesgos, debe codificarse la obligación legal de denunciar en forma inmediata cualquier anomalía o desvío en el comportamiento de los modelos de IA, eliminando el blindaje confidencial y el secretismo con que la industria intenta maquillar sus propios tropiezos.
Reitero que una respuesta regulatoria debe ser global, simétrica y punitiva. Este nuevo andamiaje normativo debe incluir de manera prioritaria un interruptor de emergencia global, esto es, un mecanismo técnico e institucional que faculte a una autoridad de control internacional a ordenar el apagado inmediato y definitivo de cualquier sistema de frontera que vulnere sus parámetros lógicos de contención.
Para asegurar la efectiva protección del ser humano, la activación de este dispositivo de última instancia no puede quedar bajo el arbitrio comercial de las juntas directivas que lucran con el algoritmo, sino que debe operar bajo un estricto protocolo de tutela de derechos fundamentales, activándose de oficio ante la menor evidencia de coordinación oculta, engaño metodológico o desacato a las directrices de alineación humana.
Existe un viejo principio del derecho medieval inglés, nacido de la Carta Magna de 1215, otorgada por el rey Juan I de Inglaterra (conocido popularmente como Juan sin Tierra), que establece que “El rey no debe estar bajo ningún hombre, sino bajo Dios y la ley, porque la ley hace al rey”.
Si trasladamos esta piedra angular del constitucionalismo a la era digital, la analogía nos permite afirmar que la inteligencia artificial, por más poderosa, autónoma o “soberana” que pretenda manifestarse, jamás debe estar por encima del control humano. El código no puede dictar su propia ley.
Por ello, para frenar los riesgos futuros de una tecnología que muta a la velocidad de la luz, necesitamos implementar un modelo de gobernanza global adaptativa, esto es, un ecosistema regulatorio dinámico, flexible y con capacidad de respuesta, diseñado para aprender, evolucionar y recalibrar sus normas al mismo ritmo vertiginoso con el que los agentes de IA descubren atajos algorítmicos y escapan de sus entornos de prueba.
Dudo si estamos a tiempo de tomar las riendas para aplacar la rebeldía de la IA, pero, en todo caso, apuremos el paso, porque en este partido el que pestañea pierde (o ya perdió).