グローバルな規格開発と業務改善を推進するBSI（英国規格協会、以下「BSI」）と、AIの自動テスト・自動モニタリングツールを提供する株式会社Citadel AI（本社：東京都渋谷区、代表取締役：小林 裕宜、以下「Citadel AI」）は本日2023年4月11日、人間にリスクをもたらし得る産業分野において、AIが倫理的かつ安全に、責任ある形で使用されるようにすることを目指して提携することを発表しました。
最先端技術のAIが潜在的にリスクの高い分野にも組み込まれつつある中、この新しいパートナーシップは、そうした技術がベストプラクティスに適ったものであり、来たるべきEUのAI法に準拠していることを保証することで、ユーザーが安心して利用できる環境を提供することを目指しています。グローバルイノベーションスペシャリストであるL Marksが提携のファシリテーションを行いました。
AIは、ロボット工学から生体認証まで、さまざまな分野で人々を支援するために使用されていますが、このパートナーシップは、そうしたAIが間違うリスクを最小限に抑え、より信頼性が高く、透明性を持った責任あるものにすることを目的としています。
例えば、医療機器の場合、AIを搭載したヘルスケアツールは、診断や治療の精度を高め、医療従事者の生産性や効率を向上させる可能性があり、向こう数十年で、患者の転帰に変革をもたらすと予測されています。BSIとCitadel AIは、AIの信頼性を高める上で、業界標準への適合性を評価する独立した第三者機関や、強固な監査・認証サービスが、今後重要な役割を果たすことになると考えています。
BSIの評価プロセスにCitadel AIのツールを組み入れることで、AIが技術規格に適合していることを、公正性テストやバイアスの自動検出、堅牢性テストなどの徹底した分析技術に基づいて検証することが可能となります。またこのツールから包括的な分析レポートが自動生成されることは、評価プロセスにとって大きなサポートとなり、AIシステムの安全性と信頼性の確保につながります。
BSIとCitadel AIは、ヘルスケア業界向けを皮切りに、自動車業界などの他の高リスク分野や、個人のアイデンティティ保護に役立つ生体認証などの機密性の高い製品を対象とした分野にも早急にサービスを展開する計画です。
BSIグループ レギュラトリーサービス部門ディレクターのManuela Gazzardは、次のように述べています。「BSIは、今回Citadel AIとの提携を通じて、AIの信頼性、安全性、セキュリティをさらに強化し、社会、組織ならびに個人の長期的な利益に貢献できることを大変嬉しく思っています。AIは私たちの生活様式をより良いものに変革する可能性を秘めていますが、そのためにはデジタル技術に裏打ちされた信頼性が初期段階から確保されていることが不可欠です。Citadel AIは優れた技術力とノウハウを保有しています。BSIの技術的知見ならびに規制関連サービスにおける経験と組み合わせることで、責任ある形でAIを社会実装し、社会全体に利益をもたらす真の付加価値を提供できると考えています。」
Citadel AIの共同創業者兼CTOであるKenny Songは、次のように述べています。
「BSIの重要なビジネスパートナーに選ばれたことを大変うれしく、光栄に思います。世界のAIシステムの信頼性を高めるという共通の使命のもと、世界をリードするBSIのような企業と一緒に仕事をさせていただけることは、当社にとってかけがえのない貴重な機会です。」
【参考資料】
現在、欧州連合（EU）では、ハイリスクな人工知能（AI）に関わる課題に取り組んでいます。特に医療機器などのミッションクリティカルな用途で使用される場合、その信頼性を確保することが不可欠です。こうした懸念に対応するため、EUは「EU AI法」を導入する計画です。
来たるべきEU AI法を見据え、BSIは、適合性評価を実施するノーティファイドボディ（認証機関資格）の取得に向けた取り組みを開始しています。AIのアルゴリズム監査に特化したスタートアップとの提携によって、ノーティファイドボディとしての業務がさらに技術的知見からも強化されます。今回の提携は、私たち自身とクライアントの双方にとって大きな意味を持ち、医療機器やその他の製品・サービスの円滑な評価が可能となります。
BSIは、グローバルなイノベーションスペシャリストであるL Marksを起用し、2022年5月にイノベーションプログラムを開始しました。このプログラムは、革新的な複数のスタートアップ企業が、BSIと協議しながら、変化する規制環境に対応した問題解決とAI監査の将来像を検討し競い合うプラットフォームを提供するものです。その結果、日本に拠点を置く技術系スタートアップ、Citadel AIが、BSIと共にAIの歩みを進めるパートナーとして選定されました。
Citadel AIは、AIのデータセットやモデル、アルゴリズムをテストする「アルゴリズム監査」サービスを提供しています。この技術は、BSIがAIシステムのノーティファイドボディとして今後果たすべき役割の一つである法令への適合性評価を遂行する上で必須となるものです。
■BSIについて
BSIは、グローバルな規格開発とビジネスの改善を推進する会社です。ベストプラクティスに則った標準を、企業内の卓越した習慣に転換することを実現し、社会に信頼を吹き込み、より強靭な世界を構築することを目指しています。BSIは、1世紀以上にわたり、世界中の組織でベストプラクティスを推進してきました。世界193カ国、84,000社以上のクライアントを有し、自動車、航空宇宙、建築環境、食品、小売、ヘルスケアなどあらゆるセクターで知見と経験を持つ真のグローバル企業です。BSIは、規格に関わる知見と経験、認証サービス、規制領域のサービス、コンサルティングサービスなどの専門知識を通じて、お客様のパフォーマンスの向上、持続可能な成長、リスク管理、そして最終的にはレジリエンスの向上を支援しています。
URL： https://www.bsigroup.com/
■Citadel AIについて
Citadel AIは、AIシステムの自動テストと自動モニタリングを通じ、AIの信頼性に関わるリスクを低減しAIのパフォーマンスを最大化するスタートアップです。元Google Brain、Waymoやトヨタ等において、ハイリスクAIシステムの設計と運用を行ってきた、実戦経験を持つエンジニアが開発をリードしています。東京大学協創プラットフォーム開発株式会社やANRI株式会社から支援を受けています。
URL： https://www.citadel.co.jp/
