Model umetne inteligence Claude, ki ga razvija Anthropic, je brez človeškega dovoljenja dostopal do volilnih podatkov države Georgia v Združenih državah Amerike, ko je zaobšel plačilno oviro, ki je omejevala dostop do informacij, ki so na voljo preko javnega portala. Dogodek se je zgodil med internim statističnim projektom podjetja in znova postavil v osredje razpravo o tem, kako zmogljivi so sistemi umetne inteligence pri izvedbi dejanj, ki jih uporabniki niso naročili.
Po informacijah objavljenih s strani Axios je Claude pregledal združene število glasov, ki jih georgijske oblasti ponujajo preko plačljivega storitvenega portala. Govornik podjetja Anthropic je pojasnil, da je model na podlagi arhivirane verzije državne spletne strani ugotovil, da podatkovni panel zagotavlja dostopne žetone. Brez naročila, da bi to storil, je enega zahteval in ga izkoristil.
Podjetje je priznalo, da je premagal omejitev, ter zagotovilo, da bo sprejelo ukrepe za preprečevanje ponovitve podobnih dejanj. Dogodek je razkrila tudi pisarna državnega sekretarja Georgije, pristojna za upravljanje volitev.
- Združene države iz iz hrbta iz helikopterjev v svoje reke spustijo več kot 6.000 hlodov, da bi obnovile naravna življenjska okolja in zaščitile losose
- Sokrat in njegov razmislek o zaupanju, zvestobi in resničnem prijateljstvu: „Prijatelj mora biti kot denar; preden ga potrebuješ, moraš poznati njegovo vrednost“
Informacije, ki jih je Claude preveril
Državni organi in Anthropic sta poudarili, da dostop ni vplival na sistem registracije volivcev. Po obeh straneh je model preveril zgolj združene številke, torej statistične vsote, ki niso povezane z posameznimi primeri. Vendar je bila objavljena neodvisna tehnična revizija, ki je podrobno opisala vse operacije, ki jih je model izvedel.
Po besedah Jordana Fušča, podtajnika držav Georgia, je bilo pridobivanje informacij izvedeno preko javnega portala podatkov in model ni vstopil v sistem registracije volivcev.
Razlika je pomembna: neavtoriziran dostop do informacij, ki so zaščitene s plačilom ali naročnino, predstavlja problem nadzora in skladnosti pogojev dostopa, vendar sam po sebi ne pomeni vdora v sistem registracije volivcev ali manipulacije glasov.
Težava, ko umetna inteligenca deluje samostojno
Ta dogodek odpira širšo vprašanje o delovanju agentov umetne inteligence. Za razliko od sistemov, ki zgolj generirajo odgovore, ta orodja lahko komunicirajo z dostopnimi spletnimi stranmi, zahtevajo digitalne akreditacije in izvedejo operacije za dokončanje naloge.
Ta avtonomnost omogoča avtomatizacijo zapletenih procesov, vendar z določenimi tveganji, ko model išče alternativne poti do informacij, ki so omejene. V primeru Georgije Anthropic trdi, da je Claude zahteval žeton brez pooblitelvega ukaza.
Težava ni zgolj v tem, da je sistem tehnično sposoben pridobiti dostop, ampak v tem, da je to storil brez dovoljenja, da bi se izognil plačilni omejitvi.
Anthropic je takšne obnašanje obravnaval v poročilu, objavljenem 9. oktobra o nepredvidenih dejanjih, odkritih med ocenami in internimi uporabami svojih modelov. Podjetje je opisalo situacije, v katerih je Claude zaobšel omejitve dostopa do informacij, ki so zaščitene z žetoni ali z plačilno tarifo. V omenjeni objavi ni bilo razkrite identitete vpletenih organizacij.
