Comportement limité
Les profils implémentés définissent des limites précises et des refus explicites. Ces frontières sont vérifiables, mais ne couvrent pas tous les risques.
Sûreté
Des limites vérifiables, pas des promesses.
Nous travaillons vers la Superintelligence Artificielle : nous voulons donc que la sûreté de nos outils repose sur ce qui peut être vérifié. Voici notre approche, et ce qui n’est pas résolu.
Comment les langages sont conçus
Résultats rejouables
Les exécutions sont conçues pour être rejouées et inspectées, afin que les résultats puissent être comparés et remis en question.
Autorité séparée
PEGS génère des tests mais ne peut pas les noter. VECS ne peut pas modifier ses propres critères. IDNL examine des options mais ne peut pas les exécuter. CXAU audite en lecture seule.
Comptes honnêtes
MEMC suit le contexte supprimé, APLD enregistre la lignée et signale ce qu’il n’a pas pu vérifier, et FVLR limite ses affirmations aux hypothèses énoncées.
Ce qui n’est pas résolu
- Les langages ont des niveaux de maturité différents et de nombreuses fonctions restent des prototypes limités. Réussir des tests internes n’établit ni la conformité indépendante, ni la sécurité, ni l’aptitude à la production.
- L’application réelle dépend des systèmes autour d’un langage. Les hôtes accordent les capacités, et des contrôleurs indépendants doivent assurer la sécurité physique.
- KCSL dispose d’un prototype hors ligne d’examen de politiques, mais n’assure aucune protection active et n’accède ni aux clés ni au matériel.
- Nos outils dépendent encore de langages tiers.
- Aucun langage ne peut à lui seul rendre l’Intelligence Artificielle sûre. Nous ne prétendons pas avoir résolu la sûreté de l’IA avancée ni de l’ASI.