데이터 프라이버시와 보안은 기업용 AI 도입에 있어 매우 중요합니다. 기업은 특정 요구 사항에 맞는 AI 솔루션을 사용할 뿐만 아니라, 지적 재산(IP), 고객 데이터 및 직원 정보를 안전하게 보호할 수 있는 솔루션을 필요로 합니다. AI 기술과 관련된 실제 리스크 및 기업 고객의 니즈에 집중하는 일환으로, Cohere는 Secure AI Frontier Model Framework를 발표하여 안전 및 보안에 대한 당사의 실무적 접근 방식을 설명했습니다.
이 프레임워크는 당사가 안전한 AI 제품을 개발하는 방법을 보여주며, 영국 정부와 협력한 2024 서울 정상회의의 합의 사항을 포함하여 Cohere가 참여한 여러 업계 약속의 일부입니다.
Cohere의 접근 방식: 실제 리스크, 보안 및 프라이버시
당사는 추측성 리스크보다는 기업과 정부가 오늘날 AI를 사용할 때 직면하는 실제적이고 실무적인 과제에 집중합니다. 기업용 AI 리스크 및 완화 전략은 일반 대중이 사용하는 챗봇이나 스마트폰 AI 어시스턴트에 통합된 AI와는 다릅니다.
다양한 산업 및 분야의 고객들이 고객 지원, 공급망 관리부터 금융 정보 추출 및 정리, 법률 계약 분석, 회사 정책에 관한 질의 응답, 텍스트 기반 정보 요약에 이르기까지 광범위한 용도로 당사의 AI 모델과 애플리케이션을 대규모로 활용하고 있습니다.
당사의 고객들은 높은 기준을 가지고 있으며, 금융, 헬스케어, 핵심 인프라 및 공공 부문과 같이 보안과 데이터 프라이버시가 무엇보다 중요한 산업에서 활동하고 있습니다. 프라이빗 클라우드 및 온프레미스 등 포괄적인 배포 환경을 통해 보안을 최우선으로 하는 것 외에도, 모델 개발 프로세스를 통해 기업의 고유한 규제, 안전 및 보안 요구 사항을 충족하는 데 집중하고 있습니다.
당사의 Secure AI 접근 방식은 세 가지 핵심 원칙을 포함합니다:
- 근거 기반 리스크:당사는 이미 알려져 있거나 측정 가능하거나 관찰 가능한 실제 리스크에 집중합니다.
- 맥락 기반 평가:리스크는 Cohere와 Cohere 고객의 구체적인 사용 사례 및 맥락 모두를 바탕으로 식별 및 평가됩니다.
- 통합적 관리:안전 및 보안 리스크 관리는 모델 및 시스템 개발 단계부터 설계에 반영되어 있습니다.
프레임워크 개요
Cohere Secure AI Frontier Model Framework는 (i) 리스크 식별, (ii) 리스크 평가 및 완화, (iii) 리스크 보증 메커니즘, (iv) 투명성, (v) 연구 및 외부 이해관계자 참여의 다섯 가지 요소로 구성됩니다. (i)부터 (iii)까지는 당사의 리스크 관리 관행과 이를 AI 라이프사이클 전반에 걸쳐 어떻게 구현하는지를 설명합니다. (iv)와 (v)는 당사가 정보와 모범 사례를 어떻게 공유하고 외부 연구를 지원하는지, 그리고 이를 통해 자체 관행을 지속적으로 개선하고 AI 리스크 관리 분야의 최신 기술을 발전시키는 방법을 설명합니다.
전체 프레임워크를 다운로드하실 수 있습니다.여기에서 확인하세요. 본 버전은 최초 공개 버전이며, 제품 안전성과 보안 강화를 위한 새로운 모범 사례를 지속적으로 개발함에 따라 업데이트될 예정입니다.










