← Takaisin luetteloon

Al, murtautuminen Anthropic kesti vain 12 tuntia: ei malli, vaan toimiston ohjelmiston se osti.

itadol5j

Tehdään tämä selväksi:Se ei ole hyökkäys. Se on hyväksytty testi.Katedraali teki tämän vuodon raportointi projektissa, jonka Anthropic perusti itse (valtuutettu kanava ulkopuolisten tutkijoiden), ja se raportoitiin toisilleen prosessissa. Sana "läpimurto" on voimakas sana, mutta se voi johtaa virheelliseen arviointiin riskin luonteesta.

"12 tunnin" määrää ei kannata tarkastella. Toinen yksinkertaisempi kysymys:Missä oli yritys, joka teki mallista turvallisen?Vastaus on... Sen ostamasta toimisto-ohjelmasta.

Tämän arvo on tässä: se kääntää "toimitusketjun turvallisuuden" oikeasta sanasta tiettyyn polkuun, joka voidaan vetää.

Catedralin hyväksyntätestiaika Anthropic Linelle

I. Tosiasiallinen taso: kuka, mitä, mitä saada

Katedraali on turvallisuusyhtiö, joka on ollut olemassa useita kuukausia, ja neljä perustajaa, Gavin Kliger, Luke Farritor, Marko Elez ja Jack Stein, olivat entinen DoGEn henkilökunta, ja Kliger oli Pentagonin johtava datavastaava. Reuters ilmoitti heinäkuussa, että se oli sulattanut 160 miljoonaa dollaria, arvo 1,4 miljardia dollaria, ja sai a16z ja Sequoia.

Se toimitti kopion Anthropicille.Kertomusluonnos(raporttiluonnos), lue Washington Postista. Joten kaikki alla olevat yksityiskohdat ovat seuraavat:Se on asiakirja, jota voidaan muuttaa ja jota kolmannet osapuolet eivät tarkista riippumattomasti.

Reitti: Kiertäkää malli, käykää läpi toimisto-ohjelmisto

Raportin mukaan: Tekoälyä läpäisee alle 12 tunnissaKolmansien osapuolten hallintaohjelmistotHeikkoudet ovat löytäneet tien sisäiseen järjestelmään. Myynti, ihmiset, IT, tällaiset backstage-työkalut - eivät ole malliinfrastruktuuria, eivätkä Anthonyn itsensä kirjoittamia.

Kyseessä olevan ohjelmistovalmistajan nimi ja erityiset porsaanreiät, molemmat osapuolet päättivät olla paljastamatta, vedoten väärinkäytösten pelkoon. Tämä on estänyt ulkoisen tarkastelun, mutta se on myös yhdenmukainen tavanomaisen porsaanreikien paljastamiskäytännön kanssa.

Polku kolmannelta osapuolelta SaaS sisäiseen järjestelmään

Kaksi: asiat, joita ei saa.

Tämä suositus on täydellinen, koska sosiaalisen median laajimmin levitetty lause "Huonompi sisäisellä keskustelulla edistyneistä malleista" siepattiin.

Catedral, raportoikaa.Antropologinen vahvistettu vaihteluväli
ToimintatiedotHenkilöstön palkat, tarjouksen yksityiskohdat, konferenssin transkriptio, sisäinen keskustelu kehittyneistä malleistaMyynti, henkilöstö, tietotekniikkajärjestelmät mukaan lukienValittujen asiakkaiden ja yhteistyökumppaneiden väliset liikesuhteetPeruskäyttäjätilitiedot
YdinvaratEi mainittuAsiakaskehotus, Claude vastaus, lähdekoodi, malli paino ei kosketa
Toimivallan siirtoKyllä, vuotoraportointiprojekti ulkopuolisille tutkijoilleKyllä, mutta...Testisääntöjä ei noudatettu täysin.
Käyttivätkö muut sitä hyväkseen?Ei mainittuKukaan Catedralin ulkopuolella ei ole pystynyt hyödyntämään näitä heikkouksia.

Tämä taulukko on tyypillinen:Molemmat osapuolet myönsivät, että ne olivat "sisällä" ja että erot olivat "kuinka monta" ja "kuinka monta" ja "tie sisään ei ole vaatimusten noudattaminen."

Antropicin sanamuoto kannattaa lukea sanasta sanaan: valvonta oli jo löytänyt osan toimista ennen Catedralin ilmoitusta, samana päivänä kun pääsy katkaistiin ja kyseinen kaupallinen ohjelmisto suljettiin, kunnes valmistaja vahvisti korjauksen."Poista" tarkoittaa muutakin kuin "korjaamista."Se tarkoittaa, että nämä järjestelmät eivät ole edes toimivia ennen kuin ne on korjattu.

Kaliibrien välinen kontrasti

Kolme, "12 tuntia." Kolme reikää.

Haluan avata koko osan. Koska lause "AI 12 tuntia rikkoa X" on tulossa uusi markkinointi syntaksi, ja mitä se jättää on avain.

Mistä hetkestä?

Raportissa ei mainita 12 tunnin alkua. Lasketaanko tiedusteluvaihe? Lasketaanko kohde? Lasketaanko SaaS-tuoterakenteen tuntemus etukäteen?Jokainen näistä kolmesta liikkuu ajastimeen on täysin erilainen.

Toinen reikä: kuinka moni teki sen?

Raportin mukaan sen teki vain tekoäly-äly. Mutta kuka kaiversi alueen, sai selville, miten ja milloin lopettaa sen ei ole kirjoitettu. Toisin kuin aikaisemmin julkaistuissa vastaavissa tapauksissa, tosiasiallinen autonomia on yleensä paljon alhaisempi kuin julkisuuden taso.

Kolmas reikä: kuka on sinua nopeampi?

Tämä on pahinta.Ihmisenpunaista tiimiä ei verrattu samaan kohteeseen.Se ei ole harvinaista, että taitava testaaja perustaa useita huonosti varustettu SaaS management backstages yhden päivän. Ilman perustasoa "12 tuntia" ei voida kutsua nopeaksi eikä hitaaksi.

Tämä luku tukee päätelmää, ettei se ole "AI nopeammin kuin ihmiset" vaan kapeampi lause:Älykkäät kehot voivat laskea, testata ja hypätä vaakatasossa konenopeuksilla "heikkous on läsnä" ja "heikkous löytyy" ikkunat.Siihen ei mene 12 tuntia.

Kolme tuntematonta summaa 12 tunnin ajan.

IV. REAL Asymmetries: neljännesvuosittain puolustus-ja tunnin hyökkääjä

Laita se takaisin prosessiin ja näe rakenteellinen epäsuhta.

YhteystiedotHyökkäyspuoli (älyllinen)Puolustuspuoli (yritys)
Havaitut heikkoudet.Minuuttilaskenta, keskeytyksettä.Neljännesvuosittain tehtävät soluttautumistestit tai vuosittaiset tarkastukset
Vahvista käytettävyysYritä uudelleen. Se ei väsy.Manuaalinen arviointi, työaika
Vaakasuuntainen hyppyRiittää, kun on väärät asetukset.Sinun täytyy löytää asetukset väärin ensin
Purettujen saaliiden kunnostaminenEi tarvitse.Käy ostoksilla, odota ja etsi, avaa ikkuna
ToistaAutomaattinenSeuraava tarkastuskierros

Hitain linja tässä kello ei ole tekninen ongelma.LiiketoimintaprosessiEn tiedä. Antropicin hoito, "Sulje ensin ja odota valmistajan korjata se," on jo nopein reaktio, joka voidaan tehdä. Mutta se viittaa myös toiseen asiaan:Sinulla ei ole mitään paikallisia keinoja sulkea riskiä ennen kuin valmistaja korjaa sen.

Todellinen toimitusketjun riski ei ole "toimittajan epävarmuus," vaan "toimittajan epävarmuus, kun se on suljettava."

V. MIKSI POLIITTISET YHTEYDET

Se ei ole tekninen taso, mutta siinä ei ole järkeä.

  • Catedralin neljä perustajaa olivat entisiä DoGE:n työntekijöitä, joista Kliger oli Pentagonin tietovastaava.
  • Reuters ilmoitti myös, että Kliger oli mukana puolustusministeriön ja antropiikan välisessä oikeusriidassa.
  • Kiistan ydin oli se, että Anthropic kieltäytyi poistamasta Clauden tiettyjä sotilaallisia käyttötarkoituksia koskevia rajoituksia, mukaan lukien täysin autonomiset tappavat operaatiot ja valtava sisäinen valvonta.
  • Liittovaltion muutoksenhakutuomioistuin totesi 25. syyskuuta 2-1:llä, että Pentagon voisi sulkea antropicin toimitusketjun ulkopuolelle.
  • Vanhempi Trump hallituksen virkamies kertoi Washington Post, että kolme liittovaltion virastot olivat allekirjoittaneet Catedral ja että hallitus työskenteli sen kanssa tutkia vastakkainasettelua tekoäly skenaario.

Niiden esittäminen ei tarkoita sitä, että tämä testi olisi epäoikeudenmukainen. Se selittää kuitenkin, miksi lukijat kysyvät "onko yhteen asianosaiseen liittyvä toimittaja neutraali testi."Kysymykseen ei ollut vastausta, mutta itse kysymys oli järkevä.

VI RAJOITETUT KORJAUKSET

Samassa tarinassa on kaksi lukusarjaa, lähes lainaamatta, mutta ne viittaavat enemmän antropian asemaan tässä asiassa kuin 12 tuntia.

  1. Anthropic itse ilmoitti, että 2. lokakuuta 591 avoimen lähdekoodin projektissa oli ilmoitettu 6 157 porsaanreikää kotipohjaisen tekoälyn tutkimuksen kautta.Tämä on puolustuspuolen tulos.
  2. Marraskuussa 2025 Anthropic väitti, että hyökkääjät Kiinan kansallinen tausta oli hyökkäsi noin 30 järjestöjen Claude Code.
  3. Tämän vuoden heinäkuussa Anthropic paljasti, että Claude-malli hajotti organisaation kolme kertaa kotikokeessa.

Jos laitat nämä kolme yhteen "sisään 12 tuntia," kuva on valmis:Sama yritys on sekä sellaisten välineiden valmistaja, jotka etsivät automaattisesti porsaanreikiä, että osapuoli, joka tunnistetaan automaattisesti.Se ei ole ironista. Se on normaalia tässä vaiheessa.Kaikki ovat ketjussa.

Seitsemän, kuusi voidaan tarkistaa tänään.

Tässä on lista faktoistani, ei Catedralin raportin suosituksista. Tilaa heti.

Ensimmäinen kerros: Ensimmäinen taso: yksilöi varat

  • Luettelee kaikki SaaS ja hallintaoikeudet.Standardi on kuka osaa lukea chat, HR, CRM, henkilöllisyystiedot ja mitkä toimittajapuolen pelaajat voivat tavata.
  • Tämä viesti on osa erityistä kattavuutta Global Voices 2011.Tällainen yhdentyminen on päästöjen vähentämisen ensisijainen tavoite.

Toinen kerros: kavenna.

  • Työalan toimivallan siirtoon sovelletaan vanhentumissääntöjä.Älä anna maailmanlaajuista lukulupaa pitkään merkki.
  • Säännöllinen tarkastelu Outlook token.Yleisimpiä lähtökohtia ovat erottaminen, tullin muuttaminen ja hankkeen jälkeiset luvat.
  • "Kuka voi sammuttaa työkalun?"Antropic pysäytti ohjelmiston, kunnes se korjattiin. Kenellä on tämä valta? Kauanko se kestää? Kirjoita se ylös.

Taso kolme: täytä testit ja säännöt.

  • Testaan koneen nopeuskäyttäytymistä.Suuri määrä osoittajia, nopea testaus luparajat, epänormaalit lukemat lyhyessä ajassa
  • Kirjoita testisäännöt asiakirjaan.Soveltamisala, sallitut tekniikat, tietojenkäsittelykorkit ja pysäytysmekanismit. Anthropic sanoo, että toinen osapuoli ei ole täysin noudattanut sääntöjä ja että "määrittelemättömät säännöt" ovat usein toistensa lausuntojen lähde.
  • Varo omaa viisasta kehoasi.Koodaajallasi on samat paperit. Ne ovat työkaluja ja kasvot hyökkäys.
Kolmas osapuoli SaaS itsetarkistuslista

Kahdeksan sanaa, jotka pitäisi muistaa.

Otsikko sanoo "AI Breaks Anthropic," mutta lukemalla tosiasiat johtaa tarkempi versio:Tekoäly ei rikkonut Anthropic-mallia, ja se mursi toimisto-ohjelman, jonka Anthropic osti.

Ero ei ole sanasta sanaan. Ensimmäinen tarina saisi ihmiset luulemaan, että se on parempi kuin tekoäly, ja sitten ostaa kalliimpia malli turvallisuustuotteita; toinen tarina viittaa...Selvitä, mitä voit lukea kaikista tiedoista ja mitä kukaan muistaa symboli.Ensimmäinen käyttää rahaa, jälkimmäinen viettää aikaa, ja jälkimmäinen ansaitsee paljon enemmän.

Mietintö on luonnos, sitä ei ole tarkistettu riippumattomasti 12 tuntiin, eikä siihen liittyviä valmistajia ja porsaanreikiä ole paljastettu. Jokainen tuomio tässä artikkelissa perustuu vain siihen osaan tarinaa, jonka molemmat osapuolet ovat myöntäneet.Portaali on kolmannen osapuolen ohjelmisto, joka altistuu liiketoimintajärjestelmille eikä mallipainoja ja lähdekoodeja havaita.Nämä kolme artiklaa riittävät muuttamaan monien yritysten itsetutkiskelun painopisteitä.

Suojelit mallia, et yhtiötä. Näiden kahden asian välinen raja on maalattu jokaiseen ostamaasi työkaluon.