La protection et la sécurité des données sont essentielles pour l'adoption de l'IA en entreprise : les organisations ont besoin de solutions d'IA qui répondent non seulement à leurs besoins spécifiques, mais qui garantissent également la sécurité de leur propriété intellectuelle, de leurs données clients et des informations relatives à leurs employés. Dans le cadre de notre engagement à prendre en compte les risques concrets liés à la technologie de l'IA et les besoins des clients professionnels, Cohere a publié son Cadre de référence pour les modèles d'IA de pointe sécurisés, qui décrit notre approche concrète en matière de sécurité et de protection.
Ce cadre illustre notre méthode de développement de produits d'IA sécurisés et s'inscrit dans le cadre de plusieurs engagements sectoriels auxquels Cohere a participé, notamment ceux issus du Sommet de Séoul de 2024, en collaboration avec le gouvernement britannique.
L'approche de Cohere : risques concrets, sécurité et protection des données
Nous ne nous concentrons pas sur des risques hypothétiques, mais sur les défis concrets et pratiques auxquels les entreprises et les gouvernements sont confrontés aujourd'hui dans l'utilisation de l'IA. Les risques liés à l'IA en entreprise et les stratégies d'atténuation qui y sont associées diffèrent de ceux liés à l'IA intégrée dans des chatbots destinés aux consommateurs ou dans des assistants IA pour smartphones, accessibles au grand public.
Des clients issus de divers secteurs et industries utilisent nos modèles et applications d'IA à grande échelle, pour des usages allant du support client et de la gestion de la chaîne d'approvisionnement à l'extraction et à l'organisation d'informations financières, en passant par l'analyse de contrats juridiques, la réponse à des questions sur les politiques d'entreprise et la synthèse d'informations textuelles.
Nos clients ont des exigences élevées et évoluent dans des secteurs où la sécurité et la protection des données sont primordiales, tels que la finance, la santé, les infrastructures critiques et le secteur public. Outre l'importance accordée à la sécurité grâce à notre large éventail de déploiements, notamment dans des clouds privés et sur site, nous répondons aux besoins spécifiques des entreprises en matière de réglementation, de sécurité et de protection des données tout au long de notre processus de développement de modèles.
Notre approche en matière d'IA sécurisée repose sur trois principes fondamentaux :
- Risques avérés : Nous nous concentrons sur les risques concrets qui sont connus, mesurés ou observables.
- Évaluation dans le contexte approprié :Les risques sont identifiés et évalués en tenant compte des cas d'utilisation et des contextes spécifiques, tant pour Cohere que pour ses clients.
- Gestion globale :La gestion des risques liés à la sécurité et à la protection des données est intégrée dès la conception dans le développement des modèles et des systèmes.
Notre cadre en un coup d'œil
Le Cadre de référence pour les modèles d'IA de pointe sécurisés de Cohere comprend cinq éléments : (i) identification des risques ; (ii) évaluation et atténuation des risques ; (iii) mécanismes de garantie des risques ; (iv) transparence ; et (v) recherche et collaboration avec les parties prenantes externes. Les parties (i) à (iii) décrivent nos pratiques de gestion des risques et la manière dont elles sont mises en œuvre tout au long du cycle de vie de l'IA. Les parties (iv) et (v) expliquent comment nous partageons les informations et les meilleures pratiques, tout en soutenant la recherche externe pour améliorer continuellement nos propres pratiques et faire progresser l'état de l'art en matière de gestion des risques liés à l'IA.
Notre framework complet est disponible en téléchargement ici. Il s’agit de la première version publiée et elle sera mise à jour au fur et à mesure que nous développerons de nouvelles bonnes pratiques pour améliorer la sécurité de nos produits.










