전체

스노우플레이크, 코텍스 AI 게이트웨이 신규 기능 발표… 글로벌 기업의 AI 경제성 개선 및 모델 선택권 확대

글로벌 AI 데이터 클라우드 기업 스노우플레이크(Snowflake)가 ‘코텍스 AI 게이트웨이(Cortex AI Gateway)’와 스노우플레이크 AI 제품에 ‘다이나믹 모델 라우팅(Dynamic Model Routing)’ 기능[1]을 도입하고, 업계를 선도하는 오픈 모델에 대한 접근성을 확대한다. 이를 통해 기업은 AI 워크로드의 비용 효율성을 높일 수 있게 됐으며, 기업이 컴퓨팅 자원과 모델, 데이터, 맥락을 얼마나 효과적으로 측정 가능한 비즈니스 성과로 전환하는지를 나타내는 ‘인텔리전스 효율성(intelligence efficiency)’을 개선하도록 지원한다.

코텍스 AI 게이트웨이의 신규 기능은 워크로드별로 적합한 모델을 선택해 AI 비용을 절감하고, 스노우플레이크 내에서 데이터 거버넌스를 유지할 수 있도록 지원한다
코텍스 AI 게이트웨이의 신규 기능은 워크로드별로 적합한 모델을 선택해 AI 비용을 절감하고, 스노우플레이크 내에서 데이터 거버넌스를 유지할 수 있도록 지원한다
이번에 추가된 새로운 기능은 스노우플레이크가 지난 7월
발표한 코텍스 AI 게이트웨이를 기반으로 한다. 코텍스 AI 게이트웨이는 에이전트 연결을 관리하고, 요청을 지능적으로 라우팅하며, AI 소비를 최적화하는 통합 기반이다. 기업들이 더 많은 AI 애플리케이션과 에이전트를 실제 운영 환경에 투입함에 따라 하나의 모델을 모든 작업에 적용할 경우 비용이 급증할 수 있다. 반면 다양한 모델을 일일이 평가하고 관리하는 일은 개발팀의 업무 부담으로 이어진다. 스노우플레이크는 모델 선택을 자동화하고 폭넓은 오픈 모델과 상용 모델에 대한 접근성을 제공해 이 두 가지 과제를 동시에 해결한다.

이 기능을 통해 코텍스 AI 게이트웨이는 각 작업에 대해 품질과 비용 간 최적의 균형을 제공하는 모델을 자동으로 선택한다. 다이나믹 모델 라우팅 기능은
스노우플레이크 코코(Snowflake CoCo, 이하 코코)와 스노우플레이크 코워크(Snowflake CoWork, 이하 코워크) 등 자체 주요 AI 제품뿐 아니라 코텍스 AI 게이트웨이를 사용하는 서드파티 AI 에이전트에서도 이용할 수 있다. 덜 복잡하거나 반복적인 작업은 비용 효율적인 모델로, 심층적인 추론이 필요한 작업은 프론티어 모델로 배분한다. 이에 따라 고객은 요청마다 모델을 직접 선택 및 관리할 필요 없이 불필요한 추론 비용을 줄일 수 있다.

스노우플레이크는 스노우플레이크
코텍스 AI(Snowflake Cortex AI)를 통해 딥시크 V4 플래시 0731(DeepSeek-V4-Flash 0731), GLM-5.3[2] 등 업계를 선도하는 오픈 모델에 대한 고객의 접근성을 확대한다. 이 모델들은 스노우플레이크의 방대한 모델 라이브러리에 추가되며, 고객은 거버넌스가 적용된 데이터를 스노우플레이크 내에 안전하게 유지하면서도 품질과 비용의 균형에 맞춰 더 다양한 모델을 선택할 수 있다.

스노우플레이크는 이 같은 혁신을 통해 기업이 AI 사용을 확대하는 과정에서 AI 경제성을 더욱 효과적으로 통제할 수 있도록 지원한다. 각 작업에 적합한 모델을 연결하고 불필요한 비용을 줄여 ‘인텔리전스 효율성’을 높일 수 있도록 지원한다.

슈리다 라마스워미(Sridhar Ramaswamy) 스노우플레이크 CEO는 “기업들은 갈수록 AI의 경제성을 더 엄격히 평가하고 있다. 이제 관건은 얼마나 많은 AI를 사용하고 있는지가 아니라, AI가 유의미한 비즈니스 가치로 이어지고 있는지 여부”라며 “인텔리전스 효율성을 달성하려면 변화하는 환경에 맞춰 각 작업에 가장 적합한 모델을 유연하게 사용할 수 있어야 한다. 스노우플레이크의 역할은 이러한 복잡성을 대신 처리하고 고객이 성과에 집중할 수 있도록 기반에서 모델 선택을 최적화하는 것”이라고 말했다.

산지브 모한(Sanjeev Mohan) 산지모(SanjMo) 대표 겸 창립자는 “기업들은 넘쳐나는 모델 선택지 속에서 어려움을 겪고 있지만, 문제는 어떤 모델을 고를 것인가가 아니다. 문제는 대규모 환경에서 모든 작업에 적합한 모델을 선택하는 데 따르는 운영 부담으로, 다이나믹 모델 라우팅은 바로 이 문제를 정확히 해결한다”며 “스노우플레이크는 코텍스 AI 게이트웨이 내에서 지능형 모델 선택을 자동화해 엔터프라이즈 AI 배포를 지연시켜 온 실질적인 장애 요인을 제거하고 있다. 새로운 모델이 출시될 때마다 인프라를 다시 구축하지 않고도 워크로드의 복잡성에 맞는 비용의 모델을 선택할 수 있다는 점이 기업이 AI 실험 단계에서 대규모 AI 활용 단계로 전환하는 데 필요한 효율성”이라고 밝혔다.

코텍스 AI 게이트웨이, 모델 선택으로 AI 경제성 극대화

코텍스 AI 게이트웨이에 추가된 다이나믹 모델 라우팅 기능은 코코, 코워크, 서드파티 AI 에이전트 전반에서 비용이 높은 프론티어 모델을 결과 품질 향상에 실질적으로 기여할 수 있는 작업에만 사용하도록 설계됐다. 각 요청에 가장 적합한 모델을 자동으로 선택하며, 기업은 사용자가 이용할 수 있는 모델과 제공업체의 범위를 직접 컨트롤할 수 있다. 이는 지역별 모델 이용 가능 여부를 고려해야 하는 글로벌 기업이나 특정 규제 준수 요건을 충족해야 하는 규제 산업에서 특히 중요하다.

코텍스 AI 게이트웨이는 모델의 성능과 가격 변동에 맞춰 라우팅 정책을 업데이트하기 때문에 고객은 새로운 모델이 출시될 때마다 애플리케이션이나 에이전트를 다시 구축할 필요가 없다. 이를 통해 기업은 기존 시스템을 변경하지 않고도 새롭게 등장하는 모델을 유연하게 활용할 수 있다.

스노우플레이크 내부 테스트 결과, 오픈 모델과 상용 모델을 조합하면 품질을 유지하면서도 비용을 크게 절감할 수 있는 것으로 나타났다. 한 평가에서는 코텍스 AI 게이트웨이의 다이나믹 모델 라우팅을 활용한 에이전트가 프론티어 모델만 사용한 경우와 동등한 품질을 유지하면서 최대 3배 높은 토큰 효율성으로 dbt 파이프라인을 구축했다. 또 다른 테스트에서는 엔지니어링 팀이 동일한 수의 풀 리퀘스트(pull request)를 처리하면서 토큰 효율성을 25% 높였다.[3]

스노우플레이크, 거버넌스가 적용된 기업 데이터에 새로운 오픈 모델 도입

딥시크 V4 플래시와 GLM-5.3이 스노우플레이크 모델 포트폴리오에 새롭게 추가돼 코텍스 AI, 코코, 코워크 전반에서 이용할 수 있게 됐다. 이번 포트폴리오 확대를 통해 고객은 앤트로픽, 오픈AI, 구글, 스페이스X AI, 메타, 미스트랄 등이 제공하는 다양한 모델 가운데 각 워크로드에 적합한 품질과 성능, 비용의 조합을 자유롭게 선택할 수 있다.

스노우플레이크는 오픈 모델이 출시될 때마다 개별적으로 통합하는 대신, 빠르게 진화하는 오픈 모델 생태계의 변화를 유연하게 반영할 수 있는 환경을 구축하고 있다. 자사 AI 제품 전반에서 각 모델이 제공되고 활용되는 방식을 지속적으로 평가하고 최적화해 고객이 애플리케이션이나 인프라를 반복적으로 재구축하지 않고도 오픈 모델 생태계의 발전을 활용할 수 있도록 지원한다. 이를 통해 고객은 오픈 모델과 상용 모델 모두에 일관된 접근 제어와 보안 정책, 거버넌스를 적용하면서 더 새롭고 강력한 모델을 활용할 수 있다.

스노우플레이크 AI 리서치팀이 딥시크 V4 플래시를 엔터프라이즈 실무 과제로 평가한 결과, 데이터 엔지니어링 과제에서 74.4%의 점수를 기록해 평가에 사용된 주요 상용 모델들을 능가하는 성능을 보였다. GLM-5.2 역시 62.8%의 우수한 성능을 기록했으며, 테스트된 모델 중 가장 적은 토큰을 사용했다.[4] 이러한 결과는 오픈 모델이 더 낮은 비용으로 기업의 핵심 업무를 지원할 수 있는 수준으로 발전하고 있음을 보여준다.

스노우플레이크, 기업의 대규모 인텔리전스 효율성 향상 지원

기업이 점점 더 많은 AI 애플리케이션과 에이전트에 다양한 모델을 도입함에 따라 인텔리전스 효율성을 높이기 위해서는 AI 리소스 소비 방식에 대한 가시성과 통제력이 필수적이다. 코텍스 AI 게이트웨이는 관리자에게 토큰 사용량과 비용에 대한 가시성을 제공하며, 조직 차원에서 AI 애플리케이션과 에이전트 전반의 지출 한도를 설정할 수 있도록 지원한다. 코코는 기존의 역할 기반 접근 제어와 태깅 프레임워크를 기반으로 이러한 관리 기능을 한층 확장한다. 관리자는 기본 모델을 지정하고 사용량을 팀 혹은 코스트센터로 귀속시키며, 사용자별 할당량을 설정하고 사용량이 지정 한도에 근접하면 알림을 받을 수 있다.

다이나믹 모델 라우팅 기능과 다양해진 모델 선택지가 더해지면서, 기업은 AI 운영비용을 훨씬 더 세밀하게 통제할 수 있다. 이를 통해 기업은 AI 활용이 확산되는 과정에서도 모델 선택과 AI 지출에 대한 통제력을 한층 강화할 수 있다. 워크로드를 적합한 모델에 자동으로 매칭하고, 새롭게 등장하는 모델 옵션을 신속하게 활용하며, 비즈니스 전반에서 AI 리소스가 소비되는 방식을 관리할 수 있다. 그 결과 기업은 스노우플레이크의 신뢰할 수 있는 거버넌스를 유지하고 자사의 고유한 데이터와 맥락에 대한 소유권을 지키면서, 인텔리전스 효율성을 높일 수 있다.

더 알아보기:
인텔리전스 효율성을 극대화하는 방법은 스노우플레이크
블로그에서 확인 가능하다.
스노우플레이크의 최신 AI 혁신이 AI 경제성 극대화하는 방법은
블로그에서 확인 가능하다.
스노우플레이크의 최신 뉴스는
LinkedIn과 X에서 확인할 수 있다.

[1]해당 스노우플레이크 제품은 프라이빗 프리뷰(Private Preview)로 제공 예정이다.
[2]해당 스노우플레이크 제품은 프라이빗 프리뷰(Private Preview)로 공개됐다.
[3]결과는 스노우플레이크의 내부 테스트를 기반으로 한다. 테스트 방법론과 조건은 요청 시 제공되며, 개별 결과는 워크로드와 구성에 따라 달라질 수 있다.
[4]효율성 점수는 dbt가 개발한 프레임워크인 ADE-bench를 활용한 내부 테스트를 기반으로 하며, 이는 실제 애널리틱스 및 데이터 엔지니어링 과제에서 AI 에이전트의 성능을 평가하기 위해 만들어졌다.

공유하기