Feb 11, 2025

1 minute read

CohereのSecure AI Frontier Model Frameworkのご紹介

CohereのSecure AI Frontier Model Frameworkは、安全性とセキュリティに対する当社の実践的なアプローチを説明するものです。

Introducing Cohere’s Secure AI Frontier Model Framework

データプライバシーとセキュリティはエンタープライズにおけるAI導入の成否を分ける極めて重要な要素です。企業は、自社の特定のニーズを満たすだけでなく、知的財産(IP)、顧客データ、従業員情報を安全に保護できるAIソリューションを必要としています。AI技術に関連する現実世界のリスクとエンタープライズ顧客のニーズへの対応を重視する一環として、Cohereは当社の安全・セキュリティへの実践的なアプローチを定義した「Secure AI Frontier Model Framework(セキュアAIフロンティア・モデル・フレームワーク)」を公開しました。Secure AI Frontier Model Framework

このフレームワークは、当社がどのようにセキュアなAI製品を開発しているかを示すものであり、英国政府との協力による2024年ソウル・サミットでの取り組みを含む、Cohereが参画している複数の業界イニシアチブの一環です。

Cohereのアプローチ:実務上のリスク、セキュリティ、プライバシー

当社は、推測に基づくリスクではなく、企業や政府がAIを利用する際に今日直面している現実的かつ実務的な課題に焦点を当てています。エンタープライズAIにおけるリスクと軽減策は、一般向けチャットボットやスマートフォン用AIアシスタントに統合されたAIとは異なります。

さまざまな業界や分野の顧客が、当社のAIモデルやアプリケーションを大規模に活用しています。その用途は、カスタマーサポートやサプライチェーン管理から、財務情報の抽出・整理、法的契約書の分析、社内規定に関する質問への回答、テキスト情報の要約まで多岐にわたります。

当社の顧客は高い基準を設けており、財務、医療、重要インフラ、公共部門など、セキュリティとデータプライバシーが極めて重要視される業界で事業を展開しています。プライベートクラウドやオンプレミスなど、多様な導入形態を通じてセキュリティを最優先するだけでなく、モデル開発プロセスにおいて企業の固有の規制、安全性、セキュリティ上のニーズにも対応しています。

当社のセキュアAIアプローチには、3つの基本原則があります。

  • 実証されたリスク:既知であるか、測定可能、あるいは観察可能な現実世界のリスクに焦点を当てます。
  • 文脈に応じた評価:CohereおよびCohereの顧客の具体的なユースケースと文脈において、リスクを特定し評価します。
  • 包括的な管理:安全性とセキュリティのリスク管理は、設計段階からモデルおよびシステム開発に組み込まれています。

フレームワークの概要

Cohere Secure AI Frontier Model Frameworkは、(i) リスク特定、(ii) リスク評価と軽減、(iii) リスク保証メカニズム、(iv) 透明性、(v) 研究および外部ステークホルダーとの連携の5つの要素で構成されています。(i)から(iii)では、当社のリスク管理手法とそのAIライフサイクル全体への実装方法について説明します。(iv)と(v)では、情報やベストプラクティスの共有方法、および外部研究への支援を通じて、自社のプラクティスを継続的に改善し、AIリスク管理の最先端を推進する方法について説明します。

フレームワーク構成要素
当社の活動および取り組み
1. リスクの特定 当社のAIモデルおよびシステムに関連するリスクの種類と性質を把握します。
1a モデルの機能から生じるリスクの特定 1b システムに対するリスクの特定 1c 状況に応じた潜在的な危害の把握
2. リスク評価と軽減 モデルおよびシステムのライフサイクル全体を通じて、リスクを低減するための措置を講じます。
2a 多層防御 2b 危害への対処 2c 設計段階からのセキュアAI
3. リスク保証メカニズム AIリスクが適切に軽減されていることを検証し、証明するためのテストと評価を実施します。
3a 評価とベンチマーク 3b 内部および第三者による脆弱性テスト 3c 顧客主導のテストと評価
4. 透明性 リスク管理の取り組みに関する情報を共有し、フィードバックを募ることで継続的な改善を図ります。
4a 取り組みの文書化と共有 4b 継続的な改善

当社の完全なフレームワークは、こちらからダウンロードいただけます。こちらからダウンロードいただけます。これは初版であり、製品の安全性とセキュリティを向上させるための新たなベストプラクティスを開発し続ける中で、随時更新される予定です。