En raziskovalec pri Anthropic je v torek, 8. septembra, odstopil in izrekel oster opozorilo glede smeri, ki jo prevladujoča podjetja za umetno inteligenco ubrano. Sporočilo, objavljeno na X s strani Jacob Coxon, star 27 let, je v samo devet urah doseglo več kot 44 milijonov ogledov.
Coxon je tri leta delal na predtreningu, fazi, v kateri modeli umetne inteligence obdelujejo ogromne količine podatkov za učenje vzorcev in razvoj sposobnosti. Najprej je bil del OpenAI, od julija 2026 pa se je pridružil Anthropic. Vendar pa mu je ostanek pri tej zadnji družbi trajal le dva meseca. “Nijedno od obeh podjetij ne deluje odgovorno”, je zapisal. “Hitijo naravnost proti superinteligenci, ki bi se lahko sama nadgradila, in stavijo z naša življenja.”
Tisto, kar je objavo Coxon pretvorilo v novico, ni bilo le njegovo opozorilo, temveč tudi javni odziv enega izmed raziskovalcev pri Anthropic. Evan Hubinger, ki vodi ekipo za varnost umetne inteligence in še vedno dela v podjetju, je na sporočilo odgovoril in se strinjal z več njegovimi opozorili.
“Jacob ima prav”, je zapisal Hubinger. Evan Hubinger, ki vodi ekipo za varnost UI in še vedno dela v podjetju, je na sporočilo odgovoril in se strinjal z več njegovimi opozorili.
Hubinger je prav tako priznal, da Anthropic še vedno naslavlja temeljni problem: nima jasnega načrta, kako zagotoviti, da bi morebitna superinteligenca ostala pod človeškim nadzorom. Kot je pojasnil, podjetje “še vedno nima načrta za reševanje usklajenosti ciljev superinteligence” in tudi ni gotovosti, da ga bo kdaj imel.
Na področju umetne inteligence usklajenost (alignment) pomeni izziv, kako zagotoviti, da so cilji in obnašanje naprednega sistema skladni z vrednotami in nameni ljudi, ki so ga razvili.
¿Quién es Jacob Coxon y qué denunció?
Jacob Coxon je britanski raziskovalec z izobrazbo iz matematike. Po podatkih Business Insider se je pridružil tehnični ekipi pri OpenAI od leta 2023 do julija 2026, kjer je sodeloval pri delih povezanih z GPT-4o. Nato se je odločil preseliti k Anthropic, delno pritegnjen z ugledom tega podjetja na področju varnosti umetne inteligence.
Vendar pa je njegovo obdobje pri Anthropic bilo kratko. Zadržal se je le dva meseca, preden je podal odstop in javno razodel svoje skrbi glede pospešenega razvoja modelov umetne inteligence.
V izjavah, danih The Wall Street Journal, je Coxon trdil, da se sektor usmerja proti scenarijem, ki jih dojema kot posebej nevarne. “Na poti smo v mnoge od najbolj agresivnih scenarijev, kjer bi se stvari do konca naslednjega leta lahko zrušile iz nadzora,” je dejal.
Raziskovalec je opozoril tudi, da znotraj podjetij slišijo izraze kot crunchtime — časovni rok — in endgame — končna faza —, da opisujejo trenutek, proti kateremu naj bi šel razvoj zmogljivosti modelov umetne inteligence.
V svojem prispevku je Coxon prav tako izpostavil razlike med OpenAI in Anthropic, vendar je menil, da sta obe podjetji soočeni s podobno težavo: tekmo za razvijanje vse bolj zmogljivih sistemov.
Glede OpenAI je dejal, da mnogi njegovi sodelavci niso »vteli« tistega, kar je na kocki za civilizacijo. V primeru Anthropic je trdil, da obstaja večja zavest o tveganjih, vendar je podjetje prav tako ujeto v bojevniško tekmo, da bi prvi dosegli nove ravni zmogljivosti.
Po mnenju Coxon obstaja v Anthropic prepričanje, da nobeno drugo podjetje ne bo ravnalo dovolj odgovorno in da zato morajo nadaljevati z napredovanjem, kljub tveganjem, ki jih to prinaša.
“Ni pohlep,” je dejal raziskovalec, temveč prepričanje, da bi zadržanje napredka pustilo prostor drugim podjetjem, da najprej razvijejo potencialno nevarno tehnologijo.
Njegov sklep je bil posebej kritik. Za Coxon vstop v to domnevno končno fazo predstavlja “višjo, a vendar predrzna stava, ki je ne bi smela biti sprožena iz Slacka zasebnega podjetja”.
V pogovoru z The Wall Street Journal je raziskovalec uporabil primerjavo z enim od najobčutljivejših znanstvenih projektov v zgodovini, da izprašuje mesto in pogoje, v katerih se razvija ta tehnologija.
“Nesmiselno je, da to mora potekati na MacBookih inženirjev, ki živijo v San Franciscu, namesto v bunkerju na puščavi, kot so delali projekt Manhattan“, je dejal.
La fila de investigadores que han dejado estas empresas
La salida de Coxon no constituye un caso aislado entre los investigadores que han expresado públicamente sus preocupaciones sobre la seguridad de la inteligencia artificial. En los últimos años, otros especialistas vinculados a las principales compañías del sector también han decidido alejarse de sus puestos.
En febrero de 2026, Mrinank Sharma, investigador especializado en salvaguardas de Anthropic, renunció a la compañía y publicó una carta en la que reflexionó sobre “lo difícil que es dejar que nuestros valores gobiernen nuestras acciones”.
Otro caso ocurrió en 2024, cuando Jan Leike, quien entonces se desempeñaba como jefe de alineación de OpenAI, dejó la compañía. En ese momento cuestionó la manera en que se estaban priorizando los objetivos comerciales y de desarrollo frente a la seguridad.
Leike sostuvo que la cultura de seguridad de OpenAI había quedado “en el asiento trasero frente a los productos brillantes”, una frase que se convirtió en uno de los cuestionamientos más conocidos sobre las prioridades internas de la compañía.
