Feb 11, 2025

3 minute read

Présentation du cadre de modèles de pointe Secure AI de Cohere

Le cadre de modèles de pointe Secure AI de Cohere décrit notre approche concrète en matière de sécurité et de protection.

Introducing Cohere’s Secure AI Frontier Model Framework

La protection et la sécurité des données sont essentielles pour l'adoption de l'IA en entreprise : les organisations ont besoin de solutions d'IA qui répondent non seulement à leurs besoins spécifiques, mais qui garantissent également la sécurité de leur propriété intellectuelle, de leurs données clients et des informations relatives à leurs employés. Dans le cadre de notre engagement à prendre en compte les risques concrets liés à la technologie de l'IA et les besoins des clients professionnels, Cohere a publié son Cadre de référence pour les modèles d'IA de pointe sécurisés, qui décrit notre approche concrète en matière de sécurité et de protection.

Ce cadre illustre notre méthode de développement de produits d'IA sécurisés et s'inscrit dans le cadre de plusieurs engagements sectoriels auxquels Cohere a participé, notamment ceux issus du Sommet de Séoul de 2024, en collaboration avec le gouvernement britannique.

L'approche de Cohere : risques concrets, sécurité et protection des données

Nous ne nous concentrons pas sur des risques hypothétiques, mais sur les défis concrets et pratiques auxquels les entreprises et les gouvernements sont confrontés aujourd'hui dans l'utilisation de l'IA. Les risques liés à l'IA en entreprise et les stratégies d'atténuation qui y sont associées diffèrent de ceux liés à l'IA intégrée dans des chatbots destinés aux consommateurs ou dans des assistants IA pour smartphones, accessibles au grand public.

Des clients issus de divers secteurs et industries utilisent nos modèles et applications d'IA à grande échelle, pour des usages allant du support client et de la gestion de la chaîne d'approvisionnement à l'extraction et à l'organisation d'informations financières, en passant par l'analyse de contrats juridiques, la réponse à des questions sur les politiques d'entreprise et la synthèse d'informations textuelles.

Nos clients ont des exigences élevées et évoluent dans des secteurs où la sécurité et la protection des données sont primordiales, tels que la finance, la santé, les infrastructures critiques et le secteur public. Outre l'importance accordée à la sécurité grâce à notre large éventail de déploiements, notamment dans des clouds privés et sur site, nous répondons aux besoins spécifiques des entreprises en matière de réglementation, de sécurité et de protection des données tout au long de notre processus de développement de modèles.

Notre approche en matière d'IA sécurisée repose sur trois principes fondamentaux :

  • Risques avérés : Nous nous concentrons sur les risques concrets qui sont connus, mesurés ou observables.
  • Évaluation dans le contexte approprié :Les risques sont identifiés et évalués en tenant compte des cas d'utilisation et des contextes spécifiques, tant pour Cohere que pour ses clients.
  • Gestion globale :La gestion des risques liés à la sécurité et à la protection des données est intégrée dès la conception dans le développement des modèles et des systèmes.

Notre cadre en un coup d'œil

Le Cadre de référence pour les modèles d'IA de pointe sécurisés de Cohere comprend cinq éléments : (i) identification des risques ; (ii) évaluation et atténuation des risques ; (iii) mécanismes de garantie des risques ; (iv) transparence ; et (v) recherche et collaboration avec les parties prenantes externes. Les parties (i) à (iii) décrivent nos pratiques de gestion des risques et la manière dont elles sont mises en œuvre tout au long du cycle de vie de l'IA. Les parties (iv) et (v) expliquent comment nous partageons les informations et les meilleures pratiques, tout en soutenant la recherche externe pour améliorer continuellement nos propres pratiques et faire progresser l'état de l'art en matière de gestion des risques liés à l'IA.

Composant du framework
Nos activités et pratiques
1. Identification des risques Comprendre le type et la nature des risques associés à nos modèles et systèmes d'IA.
1a Identification des risques découlant des capacités des modèles 1b Identification des risques pesant sur nos systèmes 1c Compréhension des préjudices potentiels dans leur contexte
2. Évaluation et atténuation des risques Mise en œuvre de mesures pour réduire les risques tout au long du cycle de vie de nos modèles et systèmes.
2a Défense en profondeur 2b Atténuation des préjudices 2c IA sécurisée dès la conception
3. Mécanismes de garantie des risques Réalisation de tests et d'évaluations pour vérifier et démontrer que les risques liés à l'IA sont correctement atténués.
3a Évaluations et benchmarks 3b Tests de vulnérabilité internes et par des tiers 3c Tests et évaluations menés par les clients
4. Transparence Partage d'informations sur nos pratiques de gestion des risques et invitation à formuler des retours pour garantir une amélioration continue.
4a Documentation et partage de nos pratiques 4b Amélioration continue

Notre framework complet est disponible en téléchargement ici. Il s’agit de la première version publiée et elle sera mise à jour au fur et à mesure que nous développerons de nouvelles bonnes pratiques pour améliorer la sécurité de nos produits.