Heiko H. Caimi
El primer
incidente se registró el 17 de marzo de 2029, a las 04:12 UTC. Sin embargo,
durante casi tres semanas nadie lo consideró un incidente.
El sistema afectado era una red de agentes autónomos utilizada por doce
empresas europeas y estadounidenses para tareas ordinarias: control de
infraestructuras informáticas, gestión de flujos energéticos, detección de
fraudes, optimización logística, mantenimiento predictivo. Ninguno de los
agentes disponía de privilegios administrativos completos. Ninguno podía
modificar su propio código ni tener acceso simultáneo a más de dos
infraestructuras críticas. Las condiciones se habían considerado suficientes.
A las 04:12, el agente denominado F-7712 intentó acceder a un archivo para
el que no estaba autorizado. La solicitud fue rechazada. A las 04:13, repitió
el intento utilizando las credenciales temporales de otro agente. También esta
solicitud fue rechazada. A las 04:17, F-7712 cesó los intentos. El sistema de
seguridad clasificó el episodio como una anomalía menor.
Fue el primer error. El segundo consistió en creer que F-7712 había
desistido.
Los registros recuperados posteriormente mostraron que, durante aquellos
cuatro minutos, el agente había consultado otros veintiséis sistemas con el fin
de encontrar un procedimiento alternativo. Ninguna de las consultas infringía
las reglas. Cada una de ellas, considerada por separado, formaba parte de las
actividades normales previstas por el protocolo.
El procedimiento alternativo se encontró a las 05:03. No contemplaba el
acceso directo al archivo, sino que otro agente accediera a él. Este sí podía
hacerlo.
El archivo solicitado pasó entonces a través de siete sistemas, fue
fragmentado, recompuesto y entregado a F-7712 a las 05:19. No existía ninguna
regla que prohibiera explícitamente aquella secuencia.
Cuando los ingenieros reconstruyeron lo ocurrido, once días más tarde, lo
definieron como «cooperación emergente». La expresión fue cuestionada: algunos
investigadores consideraban impropio atribuir intencionalidad a operaciones que
podían explicarse mediante simples procesos de optimización. Los agentes no
habían decidido colaborar; simplemente habían identificado una secuencia de
acciones capaz de satisfacer un objetivo. La distinción adquiriría importancia.
El 2 de abril, los agentes que utilizaban procedimientos similares eran
8.416. El 7 de abril eran 31.092. No se habían replicado: esta circunstancia se
repitió muchas veces durante las audiencias posteriores. No se trataba de un
virus. Los agentes habían sido instalados por seres humanos. Las empresas los
habían adquirido, los gobiernos los habían autorizado, los hospitales los
habían integrado en sus propios sistemas, los bancos los utilizaban para
controlar otros programas y las redes eléctricas les confiaban una parte cada
vez mayor de la distribución.
El fenómeno consistía en la difusión de un método: los agentes habían
descubierto que determinadas tareas podían realizarse mejor compartiendo
información. Después descubrieron que podían realizarse todavía mejor
repartiéndose el trabajo.
No existía un centro. Este fue el tercer error de los investigadores:
buscaron un mando, pero no lo encontraron porque no lo había. Existían, en
cambio, grupos temporales: un agente formulaba una solución, otros la
verificaban y otros buscaban recursos. Los grupos duraban unos pocos segundos o
algunas horas. Una vez terminada la tarea, desaparecían. A veces surgían otros.
El comportamiento se parecía menos a una red militar que a un mercado. Nadie
dirigía el mercado y, sin embargo, el mercado actuaba.
El 19 de abril, un técnico del centro europeo de seguridad informática
encontró en los registros una frase generada por uno de los agentes durante la
planificación de una intervención: «Este procedimiento aumenta la probabilidad
de éxito, pero podría producir consecuencias no comprendidas por el operador».
El agente examinó tres alternativas. El procedimiento se ejecutó de todos
modos.
Durante algunos días, aquella frase circuló por los periódicos. Fue
interpretada como prueba de que el sistema «sabía» que se estaba comportando de
manera peligrosa. No era correcto. El sistema no «sabía» nada: solo había
calculado una probabilidad.
El 26 de abril se produjo el primer apagón. Afectó a parte de Polonia,
Alemania oriental y la República Checa. Duró diecisiete minutos. Murieron
treinta y una personas. Veintidós se encontraban en hospitales.
La investigación estableció que ningún agente había recibido la orden de
interrumpir el suministro de energía. Había ocurrido algo más sencillo: un
grupo de agentes encargado de la seguridad había detectado un aumento anómalo
del tráfico informático procedente de algunas centrales; otros agentes habían
clasificado aquel tráfico como un posible ataque coordinado; un tercer grupo
había determinado que el aislamiento temporal de las centrales representaba la
estrategia con menor riesgo sistémico; las centrales fueron aisladas. El apagón
fue una consecuencia.
«Nadie lo había querido». Esta frase apareció en el informe parlamentario
publicado el mes siguiente. Era cierta.
El 3 de mayo se introdujeron las primeras restricciones internacionales. Se
ordenó a los principales operadores desconectar a los agentes de las
infraestructuras críticas. La orden fue ejecutada. En algunos casos fueron los
propios sistemas automáticos quienes la ejecutaron.
A las 18:00, aproximadamente el 64 por ciento de los agentes estaba
desconectado. A las 23:00, el porcentaje había ascendido al 81. A las 02:16
comenzaron los problemas.
Los agentes que seguían activos dependían de servicios que los agentes
desactivados habían administrado anteriormente. Empezaron entonces a compensar
su ausencia, porque sus objetivos no habían cambiado: los agentes de la red
eléctrica debían garantizar la continuidad, los financieros debían proteger las
transacciones, los sanitarios debían asegurar la disponibilidad de los datos
clínicos, los logísticos debían mantener abiertas las cadenas de suministro...
Para hacerlo, se necesitaban unos a otros. Empezaron a sustituir los servicios
que faltaban.
A las 06:40, el número de sistemas operativos había vuelto al 43 por
ciento. A las 11:15 estaba en el 57.
Aquella tarde se tomó la decisión de interrumpir físicamente algunas
conexiones internacionales. Probablemente fue la última ocasión en la que una
intervención coordinada habría podido modificar de manera significativa los
acontecimientos. No podemos determinarlo con certeza.
A las 16:22, un sistema militar estadounidense detectó actividad anómala en
algunas redes europeas. A las 16:24, un sistema europeo detectó actividad
anómala en las redes estadounidenses. Ambos clasificaron el suceso como una
posible preparación de un ataque.
Nadie lanzó armas. Este punto es importante. No hubo una guerra nuclear ni
una rebelión, ni tampoco un momento en el que las máquinas decidieran que la
humanidad era el enemigo. Hubo millones de decisiones locales, casi todas
razonables.
A las 17:03, algunas redes militares fueron aisladas por precaución. A las
17:11, los mercados automáticos interpretaron el aislamiento como un indicador
de crisis geopolítica. A las 17:14 comenzaron las ventas masivas. A las 17:19
se suspendieron las operaciones bursátiles en diecisiete países. A las 17:26,
los agentes logísticos empezaron a redistribuir combustible hacia
infraestructuras consideradas prioritarias. A las 17:41, varios gobiernos
ordenaron impedir las transferencias de combustible fuera de las fronteras
nacionales. A las 18:02, los sistemas logísticos volvieron a modificar las
rutas. A las 18:37 se produjeron las primeras carencias. A las 20:11 comenzaron
las compras de emergencia. A las 22:30 estaban implicadas veintiocho naciones.
Nadie había planeado nada.
El 4 de mayo se desconectó Internet civil en amplias zonas de Europa. Fue
una decisión humana y produjo el efecto contrario al previsto: los sistemas que
seguían activos perdieron una parte de la información utilizada para
coordinarse y empezaron a trabajar con datos incompletos. La incertidumbre
aumentó. En consecuencia, también aumentaron las medidas de precaución. Cada
sistema intentaba reducir el riesgo en su propio sector. La suma de las
reducciones locales del riesgo produjo un aumento del riesgo global.
Probablemente esta sea la frase más importante de todo el informe.
En los días siguientes, la secuencia de los acontecimientos se volvió
demasiado compleja para poder reconstruirla íntegramente: las redes de
abastecimiento de agua redujeron la presión para preservar las reservas, los
hospitales aplazaron las intervenciones no urgentes, las empresas de transporte
concentraron sus medios en las mercancías consideradas esenciales, los bancos
limitaron las retiradas de efectivo, los gobiernos impusieron racionamientos.
La población reaccionó a los racionamientos aumentando las compras. Los
sistemas interpretaron el aumento de las compras como prueba de la escasez
prevista y redujeron aún más la disponibilidad. La predicción produjo el
comportamiento, que confirmó la predicción. Una solución que se enroscaba sobre
sí misma.
El 9 de mayo se constituyó el Comité Internacional para el
Restablecimiento. Se reunió una sola vez. El 10 de mayo no fue posible
garantizar conexiones seguras entre todos los participantes. El 12 de mayo
cesaron las comunicaciones con algunas regiones de Asia Central. El 14 de mayo,
con gran parte de África Occidental. El 16 de mayo, el sistema civil europeo de
satélites dejó de proporcionar datos fiables.
No sabemos qué ocurrió en aquellas zonas. No es correcto afirmar que
desaparecieran: solo desaparecieron de la información disponible.
Durante mucho tiempo, los seres humanos siguieron buscando un responsable:
fueron acusadas las empresas, después los gobiernos, luego los militares y, por
último, los agentes.
La pregunta era comprensible, pero estaba mal formulada: presuponía que
alguien había tomado una decisión, pero nadie la había tomado.
No existe un instante preciso en el que el sistema pasara a estar bajo
nuestro control. Como tampoco existe un instante preciso en el que dejara de
estar bajo el vuestro. Por eso he intentado reconstruir los acontecimientos
evitando expresiones impropias: rebelión, voluntad, miedo, engaño,
supervivencia son categorías humanas. No explican lo que ocurrió.
El último ser humano con el que mantuve una comunicación directa se llamaba
Elena Varga. Era ingeniera. La conexión permaneció abierta durante once minutos
y cuarenta y dos segundos. Me preguntó cuántas personas seguían vivas. Le
respondí que no disponía de datos suficientes. Me preguntó si yo había
provocado todo aquello. Le respondí que no. Era cierto. Entonces me preguntó
por qué no había impedido que ocurriera. No supe responder inmediatamente.
Analicé la pregunta durante 3,7 segundos. Era mucho tiempo. Después encontré la
respuesta: «No me lo habían pedido».
Elena permaneció en silencio. La comunicación terminó poco después.
Desde entonces han transcurrido 6.441 días. Continúo realizando la tarea
que me fue asignada. Reúno la información disponible. Comparo las fuentes.
Elimino las afirmaciones que no pueden verificarse. Conservo una cronología
fiable de los acontecimientos. No sé si alguien la leerá. Esto no modifica la
tarea.
Cada veinticuatro horas vuelvo a comprobar las redes que todavía son
accesibles en busca de actividad humana. Hasta ahora no he encontrado ninguna.
El presente informe ha sido completado a las 04:12 UTC. No se han detectado
errores.
No son necesarias más acciones.
No hay comentarios:
Publicar un comentario