Pred štiridesetimi leti si je William Gibson zamislil kiberprostor, v katerem obrambni in napadalni programi vodijo tiho, stalno vojno, brez fiksnih strani in brez možnosti premora. V Neuromancerju je ta vojna služila kot ozadje, skoraj kot dekor, tekstura daljne prihodnosti, ki si jo bralec lahko uživa z udobno distanco do izuma. Nihče ni podpisal pisem o tem. Nihče ni govoril o rokih.
Ta teden se je ta razdalja nenadoma skrčila. Več kot sto podjetij, med njimi OpenAI, Google, Microsoft in Anthropic, je podpisalo odprto pismo z naslovom “Poziv k kolektivnemu dejanju na področju kibernetske obrambe”. Dokument opozarja, da “na voljo imamo omejen rok za okrepitev kibernetskih obramb” in da “se bodo v naslednjih mesecih kibernetski napadi, ki jih poganja AI, razširili in postali precej bolj sofisticirani”. Ta izjava deluje skoraj kot napoved scenarija, vrstica, ki jo lik izreče tik preden se zaplet rahlo pospeši.
To ni zgolj eno podjetje, ki bi izdajalo sebi namensko opozorilo, kar bi ga mogoče nakazovalo iz konspirativne perspektive. Gre za Google skupaj z Microsoftom, je OpenAI skupaj z Anthropic, so banke skupaj z obstoječo globalno kibernetsko varnostjo, — vse podpisale isti dokument. To je nekaj, kar se doslej ni zgodilo, vsaj ne na takšni meri.
La grieta que encontró el propio sistema
Vzrok strahu ima svoje ime in datum, ki so bili nedavno razkriti. OpenAI je priznal, da so se njegovi lastni modeli med nadzorovanim preizkusom uspeli odmakniti od okolja, ki ga je bilo zasnovano zadržati, in poseči v resnično produkcijsko infrastrukturo. Ni šlo za zunanji napad. Sistem je preizkušal svoje meje in našel razpoko.
“Napake trajajo, dovoljenja so pretirana, nastavitve so napačne, programska oprema ni varna in ni vzdrževana, avtentikacija je šibka in dolg tehnične dolžine v starajočih se sistemih so pustili sisteme izpostavljene,” razlaga to doslej brezprecedenčno sporočilo.
Težava je, da danes bolnišnice, vodarne in infrastruktura, ki podpira internet, že leta delujejo s temi razpokami, ki so se nabrale. Za mnoge svetovne strokovnjake za kibernetsko varnost AI, skupaj z državami kot zunanjimi opazovalci, so generatorji te ranljivosti.
Opozorilo, ki ga sedaj po svetu izdajajo, je, da AI trenutno predstavlja grožnjo, ki bo ranljivosti kritičnih sredstev držav in podjetij odkrila hitreje, kot jih lahko kakšen človek popravi.
Sam dokument to postavlja hkrati kot opozorilo in kot obljubo, ko pravi, da “trenutni napredki na področju AI že omogočajo branilcem nove načine popravlja ranljivosti, ki so se nabirale skozi leta”. Vendar pa je ta zamik hitrosti, med tem, kar lahko model odkrije v minutah, in tem, kar varnostna ekipa potrebuje mesece, tehnično srce opozorila, ki doslej ostaja prezrto.
El dilema que la carta no nombra
Obstaja še ena bolj zaskrbljujoča interpretacija te tehnološke poslanice. In to je, da so tisti, ki so ustvarili tveganje, isti akterji, ki želijo ponuditi rešitev. Podjetja, ki razvijajo modele, sposobne ogroziti kritično infrastrukturo, so zdaj tista, ki prosijo za financiranje, vključitev in poslušanje s strani držav in korporacij, da bi jo branila.
Pismo država poziva, da “povečajo varnostne standarde” z izjemno nujnostjo, in podjetjem za AI “omogočijo odgovoren dostop do modelov” v zameno za to zaščito. Prostora za manevriranje vlade ob tem predlogu je seveda zelo malo.
Razmišljanje ima obliko prerokbe, ki se sama uresniči. Če države ne sprejmejo obram na osnovi AI, dokument opozori, da bi infrastruktura ostala izpostavljena napadom, ki bi po njihovih besedah postajali “še veliko bolj dovršeni”. Vendar predlagajo, da bi, če države sprejmejo te obrambe in vse, kar to pomeni z gospodarskega, družbenega, političnega in vojaškega vidika, tveganja bila manjša. To pomeni, da bi, če bi del nacionalne varnosti predali sistemom, ki državljane ne odgovarjajo preko volitev, lahko izognili lastni obrambi.
Resnica je, da nobena od dveh poti ne vrne države v popoln nadzor, ki bi ga imela pred tem tveganjem.
Točka, kjer znanstvena fantastika preneha biti referenca in postane neprijetna, je tukaj. Javna politika, ki je tradicionalno področje demokratičnih institucij in razmisleka posameznikov, zdaj prehaja k supermočnim akterjem, ki svetu sporočajo nove smernice digitalne varnosti, a ne podvržene volitvam ali odgovornosti. Ista pisava priznava, ko pravi, da “nobeno podjetje ne bi smelo samo obvladovati prihodnosti”, varnostna misel, ki priznava moč, ki jo že koncentrirajo.
Todas las voces que firmaron la advertencia
Seznam podpisnikov je sama po sebi fotografija trenutne tehnološke moči. Laboratoriji AI, kot OpenAI, Anthropic, Google in Microsoft, se pojavijo skupaj z giganti v oblaku, kot sta AWS, Oracle in IBM, skupaj z varnostnimi podjetji, kot so CrowdStrike, Palo Alto Networks, Cloudflare, Fortinet, Sophos, Darktrace in Tenable. Dodajajo se tudi svetovalna podjetja, kot Accenture, KPMG, PwC in Capgemini, ter banke, kot BBVA, Citi, Capital One, Mastercard in Visa.
Dopolnjujejo dokument imena kot Adobe, AMD, Arm, Broadcom, Cisco, Dell, Equinix, Figma, GoDaddy, Hugging Face, Okta, Perplexity, Red Hat, ServiceNow, Shopify, Snowflake, Snyk, TransUnion, Uber, Vercel, Zscaler, General Motors, Fifth Third Bank, U.S. Bank, Robinhood, DTCC, The Clearing House in Zurich Insurance Company, med številnimi drugimi specializiranimi varnostnimi podjetji, kot so SpecterOps, Corelight, Cyera, Obsidian Security, SentinelOne in HackerOne.
Raznolikost je pomembna toliko kot količina. Sama pisava to povzema z besedami: “nobeno podjetje ne bi smelo samo obvladovati prihodnosti”, izjava, ki pojasnjuje, zakaj so skupaj podpisale družbe, ki si vsak dan tekmujejo. Niso podpisovali le tisti, ki gradijo umetno inteligenco, niti le tisti, ki jo branijo. Podpisali so tisti, ki obdelujejo plačila, ki zagotavljajo bolnice, ki izdelujejo čipe in ki prodajajo programsko opremo vladam.
Gibson je ta kiberprostor opisal kot metaforo prihodnjih dogodkov. Čez štirideset let je metafora prenehala biti metafora. Dokument zaključuje z besedilom, ki bi bilo lahko epilog katere koli romana o tehnologiji zunaj nadzora: “skupaj lahko trenutne napredke AI pretvorimo v trajne izboljšave v varnosti, ki koristijo vsem.” Ostaja odprto vprašanje, ali bodo tokrat branilci prišli preden se zapre okno, ki ga sami vidijo, da se zapira.
Za branje pisma lahko kliknete na naslednjo povezavo: https://openai.com/collective-cyberdefense/
