範囲を定めた動作
実装済みプロファイルは具体的な制限と拒否動作を定義します。その境界は確認できますが、すべてのリスクを網羅するものではありません。
安全性
約束ではなく、確認できる制限を。
私たちは人工超知能を目指しているからこそ、ツールの安全性を確認可能なものに基づかせたいと考えています。取り組みと未解決の課題をご紹介します。
言語の設計方針
再現可能な結果
実行は再現と検査ができるよう設計されており、結果を比較し検証できます。
権限の分離
PEGSはテストを生成しますが採点はできません。VECSは自身の基準を変更できません。IDNLは選択肢を検討しますが実行できません。CXAUは読み取り専用で監査します。
誠実な記録
MEMCは除外されたコンテキストを追跡し、APLDは系譜を記録して検証できなかった点を報告し、FVLRは明示された前提の範囲でのみ主張します。
未解決の課題
- 言語ごとに成熟度は異なり、多くの機能は限定的なプロトタイプです。内部テストの合格は、独立した適合性、セキュリティ、本番運用への準備を証明しません。
- 実際の強制は言語を取り巻くシステムに依存します。ホストが権限を与え、独立したコントローラーが物理的安全を確保する必要があります。
- KCSLにはオフラインのポリシー検査プロトタイプがありますが、実際のセキュリティ強制や鍵・ハードウェアへのアクセスはありません。
- 私たちのツールは依然としてサードパーティ言語に依存しています。
- どの言語も、それだけで人工知能を安全にすることはできません。高度なAIやASIの安全性を解決したとは主張していません。