스노우플레이크, 코텍스 AI에서 딥시크-R1 지원··· “서버리스 추론에 활용”


스노우플레이크는 딥시크-R1이 지도학습(SFT) 없이 대규모 강화학습(RL)만으로 훈련된 최초의 오픈소스 모델이라고 설명하며, 자체검증, 스스로 답을 찾는 추론하는 사고체계(Chain-of-Thought, CoT), 추론 생성 등이 가능하다고 밝혔다. 폐쇄형 모델인 오픈AI의 o1 수준의 고급 추론, 수학, 코딩 성능으로 현재 전 세계 오픈소스 모델 중 리더보드 최상위권에 자리 잡았으며, 응답의 무한 반복, 언어 혼재, 낮은 가독성 문제를 해결하고 추론 능력을 개선하기 위해 콜드 스타트 데이터를 전략적으로 통합했다는 설명이다.

딥시크(DeepSeek)와 오픈AI(OpenAI) 모델의 AIME 2024, 코드포스(Codeforces), MATH-500 등 주요 벤치마크 정확도 비교 결과

스노우플레이크

스노우플레이크는 딥시크-R1을 코텍스 AI에서 서버리스 추론에 사용할 수 있는 비공개 프리뷰 형태로 제공한다. 배치(SQL 함수)와 대화형(파이썬 및 REST API) 모두를 통해 액세스할 수 있어 기존 데이터 파이프라인, 애플리케이션 및 통합개발환경(IDE)에 통합된다. 코텍스 AI는 고객이 코텍스 가드(Cortex Guard)를 활성화할 수 있도록 해 잠재적으로 유해한 콘텐츠를 필터링하고 생성형 AI 애플리케이션을 대규모로 안전하게 배포할 수 있도록 지원한다.

스노우플레이크는 모델이 안전한 서비스 범위 내에서만 작동하고 고객 데이터가 모델 제공자와 공유되지 않도록 보장한다고 설명했다. 또한, 모델이 정식 출시되면 고객이 역할 기반 액세스 제어(RBAC)를 통해 딥시크-R1에 대한 접근을 설정해 거버넌스를 관리할 수 있다고 밝혔다. 현재 미국 내 고객의 스노우플레이크 계정에서 사용할 수 있다.



Source link

Leave a Comment