← Retour à la liste

AI, enfreindre Anthropic a pris seulement 12 heures: pas le modèle, mais le logiciel de bureau qu'il a acheté.

itadol5j

Soyons clairs :Ce n'est pas une invasion. C'est un test autorisé.La cathédrale l'a fait dans le projet de rapport de fuite qu'Anthropic s'est mis en place (le canal autorisé pour les chercheurs externes), et il a été signalé à l'autre dans un processus. Le mot « rupture » est un mot puissant, mais il peut conduire à une erreur de jugement de la nature du risque.

Le nombre de "12 heures" ne vaut pas vraiment la peine de regarder. Autre question plus simple:Où était une entreprise qui a rendu le modèle sûr pour l'industrie?La réponse est -- du logiciel de bureau qu'il a acheté.

La valeur de ceci est ici: il transforme la "sécurité de la chaîne d'approvisionnement" du bon mot à un chemin spécifique qui peut être tracé.

Temps d'essai d'autorisation de Catedral pour la lignée anthropique

I. Niveau factuel: qui, quoi, quoi obtenir

Cathedral est une société de sécurité qui existe depuis plusieurs mois, et quatre co-fondateurs, Gavin Kliger, Luke Farritor, Marko Elez et Jack Stein, étaient anciens employés du DoGE, et Kliger était le directeur des données du Pentagone. Reuters a déclaré en juillet qu'elle avait fondu 160 millions de dollars, d'une valeur de 1,4 milliard de dollars, et qu'elle avait reçu a16z et Sequoia.

Elle en a remis une copie à Anthropic.Projet de rapport(projet de rapport), lu dans le Washington Post. Ainsi, tous les détails ci-dessous sont fondés sur:Il s'agit d'un document qui peut être modifié et qui n'est pas vérifié de manière indépendante par des tiers.

Route: Parcourez le modèle, passez par le logiciel de bureau

Selon le rapport: AI corps intelligent est passé en moins de 12 heuresLogiciel de gestion de tiersLes faiblesses ont trouvé un moyen d'entrer dans le système interne. Les ventes, les gens, les TI, ces types d'outils backstage, ce ne sont pas des infrastructures modèles, ce n'est pas le code qu'Anthony s'est écrit lui-même.

Le nom du fabricant de logiciels concerné et les lacunes spécifiques, les deux parties ont choisi de ne pas divulguer, invoquant la crainte d'abus. Cela a empêché l'examen externe, mais il est également conforme à la pratique habituelle de divulgation des lacunes.

Chemin de la tierce partie SaaS vers le système interne

Deux : les choses que vous obtenez, les choses que vous n'obtenez pas.

Cette recommandation est complète, car la phrase la plus largement diffusée sur les médias sociaux, "Slack with an interne discussion of highd models", a en fait été interceptée.

Catedral, rapport.Portée anthropique confirmée
Données opérationnellesRémunération du personnel, détails de l'offre, transcription de conférence, discussion interne Slack sur les modèles avancésVentes, RH, systèmes informatiques, y comprisContacts commerciaux entre des clients et des partenaires sélectionnésEnregistrements des comptes utilisateur de base
Actifs de baseNon mentionnéClient prompt, réponse Claude, code source, poids modèle non touché
Délégation de pouvoirOui, le projet de déclaration des fuites pour les chercheurs de l'extérieurOui, maisLes règles d'essai n'ont pas été pleinement respectées.
Était-elle exploitée par d'autres ?Non mentionnéPersonne en dehors de Catedral n'a pu exploiter ces faiblesses.

Ce tableau est typique:Les deux parties ont admis qu'elles étaient « dans » et que les différences étaient « combien » et « combien » et « la façon d'entrer n'est pas conforme ».

Le libellé d'Anthropic vaut la peine d'être lu mot pour mot: la surveillance avait déjà découvert certaines des activités avant que Catedral ait été signalé, le même jour l'accès a été coupé et le logiciel commercial affecté a été fermé jusqu'à ce que le fabricant confirme la réparation.« Désactiver » signifie plus que « réparer ».— Cela signifie que ces systèmes ne sont même pas fonctionnels tant qu'ils ne sont pas réparés.

Contrairement aux calibres

Trois, "12 heures". Trois trous.

C'est toute la partie que je veux ouvrir. Parce que l'expression "AI 12 heures pour casser X" devient une nouvelle syntaxe marketing, et ce qu'il omet est la clé.

Premier trou : à quel moment ?

Le rapport n'indique pas le point de départ de 12 heures. La phase de reconnaissance compte-t-elle ? La cible compte-t-elle ? La connaissance préalable de la structure du produit SaaS compte-t-elle?N'importe lequel de ces trois se déplace dans une minuterie est complètement différent.

Le deuxième trou : combien de personnes l'ont fait ?

Le rapport dit seulement qu'il a été fait par le corps intelligent d'IA. Mais qui a sculpté la portée, a découvert comment et quand l'arrêter — rien de cela n'a été écrit. Contrairement à des cas similaires précédemment annoncés, le niveau réel d'autonomie est généralement bien inférieur au niveau de publicité.

Qui est plus rapide que toi ?

C'est le pire.Il n'y a pas eu de comparaison de l'équipe humaine rouge sur la même cible.Il n'est pas rare pour un testeur qualifié de mettre en place plusieurs backstages de gestion SaaS mal équipés en une journée. Sans référence, "12 heures" ne peuvent pas être appelées rapides ou lents.

Donc ce nombre appuie vraiment la conclusion que ce n'est pas "AI plus rapide que les humains" mais plutôt une phrase plus étroite:Les corps intelligents peuvent compter, tester et sauter horizontalement à la vitesse de la machine, de "faiblesse est présente" à "faiblesse est trouvé" fenêtres.Ça ne prend pas 12 heures pour entériner, et c'est réglé.

Trois quantités inconnues pendant 12 heures.

IV. Asymétries réelles : trimestriel pour la défensive et horaire pour l ' agresseur

Remettez-le dans le processus et voyez une inadéquation structurelle.

LienCôté attaque (intellectuel)Côté défense (entreprise)
Faiblesses détectées.Compte minutes, ininterrompu.Essais trimestriels d'infiltration ou audits annuels
Valider la convivialitéEssaie encore. Ça ne se fatiguera pas.Jugement manuel, limité par les heures de travail
Saut horizontalÇa suffit avec la mauvaise configuration.Vous devez d'abord trouver la configuration incorrecte
Remise en état des débarquementsPas besoin.Faites vos courses, attendez-vous, relâchez la fenêtre
RépéterAutomatiqueProchaine série d ' audits

La ligne la plus lente de cette montre n'est pas un problème technique.Questions relatives au processus opérationnelJe ne sais pas. Le traitement d'Anthropic, «Fermer d'abord et attendre que le fabricant le règle», est déjà la réaction la plus rapide qui puisse être faite. Mais il indique aussi une autre chose:Vous n'avez aucun moyen local d'éteindre le risque jusqu'à ce que le fabricant le corrige.

La véritable forme de risque de la chaîne d'approvisionnement n'est pas "l'insécurité supplémentaire", c'est "l'insécurité supplémentaire quand il faut l'arrêter".

V. POURQUOI LE CONTEXTE POLITIQUE DU PROBLÈME

Ce n'est pas un niveau technique, mais ça n'a pas de sens.

  • Les quatre fondateurs de Catedral étaient tous des anciens employés du DoGE, dont Kliger était le directeur des données du Pentagone.
  • Reuters a également signalé que Kliger était impliqué dans un différend juridique entre le Ministère de la défense et Anthropic.
  • Au cœur du différend se trouvait le refus d'Anthropic de lever les restrictions de Claude sur certaines utilisations militaires, y compris des opérations létales totalement autonomes et une surveillance interne massive.
  • Le 25 septembre, la Cour d'appel fédérale a statué par 2 à 1 que le Pentagone pouvait exclure Anthropic de la chaîne d'approvisionnement.
  • Un haut fonctionnaire du gouvernement Trump a déclaré au Washington Post que trois agences fédérales avaient signé avec Catedral et que le gouvernement travaillait avec lui pour étudier le scénario conflictuel de l'IA.

Il ne s'agit pas de dire que ce critère est injuste — il n'y a aucune preuve dans le rapport public à l'appui de cette conclusion, et je ne prends pas ce jugement. Cependant, elle explique pourquoi les lecteurs demandent « si un fournisseur associé à l'un des plaideurs est un test neutre ».Il n'y a pas de réponse à cette question, mais la question elle-même est raisonnable.

VI. CORRECTIONS LIMITÉES

Il y a deux séries de chiffres dans la même histoire, presque sans citation, mais ils sont plus indicatifs de la place de l'anthropique dans cette affaire que 12 heures.

  1. Anthropic elle-même a révélé qu'au 2 octobre, 6 157 lacunes avaient été signalées dans 591 projets de sources ouvertes grâce à des recherches de soutien à l'IA à domicile.C'est la sortie du côté défensif.
  2. En novembre 2025, Anthropic a allégué que les agresseurs d'origine nationale chinoise avaient attaqué une trentaine d'organisations avec Claude Code.
  3. En juillet de cette année, Anthropic a révélé que Claude modèle a détruit la vraie organisation trois fois dans un test à domicile.

Si vous mettez ces trois avec « en 12 heures », la photo est complète:La même société est à la fois le fabricant d'instruments qui cherchent automatiquement des failles et la partie qui est automatiquement identifiée.Ce n'est pas ironique. C'est normal à ce stade.Le pouvoir est bidirectionnel, tout le monde est sur cette chaîne.

Sept, six peuvent être vérifiés aujourd'hui.

Voici une liste des faits que j'ai rédigés, pas les recommandations du rapport Catedral. Commandez immédiatement.

Premier étage : Premier niveau : identifier les actifs

  • Liste toutes les SaaS avec des privilèges de gestion.Le standard est celui qui peut lire chat, HR, CRM, données d'identité, et quels joueurs du côté fournisseur peuvent rencontrer.
  • Ce billet fait partie de notre couverture spéciale Global Voices 2011.Cette intégration est la priorité absolue pour la réduction.

Deuxième étage : étroit.

  • La délégation de pouvoirs dans le domaine de travail est soumise à une prescription.Ne donnez pas l'autorisation de lecture globale pendant longtemps.
  • Examen périodique du jeton Outlook.La séparation, le changement de service et l'autorisation résiduelle après le projet sont les points d'entrée les plus courants.
  • "Qui peut éteindre un outil ?"L'anthropique a arrêté le logiciel jusqu'à ce qu'il soit réparé. Qui dans votre entreprise a cette autorité ? Combien de temps ça prendra ? Écrivez-le.

Niveau 3 : remplir les tests et les règles.

  • Test du comportement de la vitesse de la machine.Un grand nombre d'énumérateurs, des tests rapides des limites des permissions, des lectures anormales dans un court laps de temps — ce sont les caractéristiques des corps intelligents fonctionnant, pas humains.
  • Écrire les règles de test dans un document.Portée, techniques admissibles, plafonds de traitement des données et mécanismes d'arrêt. Anthropique dit que l'autre partie n'a pas pleinement respecté les règles et que les « règles non définies » sont souvent la source des déclarations de l'autre.
  • Regardez votre propre corps intelligent.Votre agent de codage, l'agent de fortune détient les mêmes documents. Ce sont des outils et un visage d'attaque.
Liste d'auto-contrôle de tiers SaaS

Huit mots qui devraient vraiment être rappelés.

Le titre dit "AI Breaks Anthropic", mais la lecture des faits conduit à une version plus précise:AI n'a pas brisé le modèle Anthropique, et il a brisé le logiciel de bureau qu'Anthropic a acheté.

La différence n'est pas un mot pour mot. La première narration ferait croire que c'est mieux que l'IA, puis achèterait des modèles de produits de sécurité plus chers; la seconde narration indiquerait --Découvrez ce que vous pouvez lire sur toutes les données et ce que personne ne se souvient jeton.Le premier dépense de l'argent, le second passe du temps, et le second gagne beaucoup plus.

Il y a aussi une restriction qui doit être maintenue : le rapport est une ébauche, il n'a pas été vérifié de façon indépendante pendant 12 heures, et les fabricants et les lacunes n'ont pas été divulguées. Ainsi, chaque jugement dans cet article ne se fonde que sur cette partie de l'histoire, que les deux parties ont admis.Le portail est un logiciel tiers, qui est exposé aux systèmes d'affaires et les poids des modèles et les codes de source ne sont pas rencontrés.Ces trois articles suffisent à modifier les priorités d'auto-examen de nombreuses entreprises.

Vous avez protégé le modèle, pas la société. La frontière entre ces deux choses est peinte sur chaque outil que vous achetez.