새로운 엔비디아 NIM 마이크로서비스는 소프트웨어 도구 모음인 엔비디아 네모 가드레일(NeMo Guardrail)의 일부다. 새로운 마이크로서비스는 기업이 에이전트 AI 애플리케이션의 정확성, 보안 및 제어 기능을 개선할 수 있도록 지원함으로써 이 기술과 관련한 주요 우려 사항을 해결하는 것을 목표로 한다. 네모 가드레일은 개발자가 거대 언어 모델(large language model, LLM) 애플리케이션에 AI 가드레일을 통합하고 관리할 수 있도록 지원한다. 업계 선두 기업인 암독스(Amdocs), 세렌스 AI(Cerence AI), 로우즈(Lowe’s)는 AI 애플리케이션을 보호하기 위해 네모 가드레일을 사용하고 있다. 엔비디아의 엔터프라이즈 AI 모델, 소프트웨어,…

스노우플레이크는 스위프트KV에 최적화된 LLM이 정확도 손실을 최소화한다고 언급했지만, 심민은 구현의 복잡성, 성능 저하 수준, 기본 추론 아키텍처와의 호환성 측면에서 상충되는 부분이 있을 수 있다고 지적했다. 그는 “양자화 같은 방법이 인기 있는 이유는 그만큼 상충되는 부분이 적기 때문이다. 만약 고객들이 스위프트KV도 양자화처럼 가치가 있다고 판단한다면, 프로젝트의 필요에 따라 다른 최적화 기법들과 함께 활용할 것으로 예상된다”라고 말했다. 스위프트KV 사용 방법 기업은 스노우플레이크를 통해 스위프트KV에 접근하거나 허깅페이스(Hugging Face)의 모델 체크포인트 또는 vLLM에서 최적화된 추론을 실행할 수 있다. 허깅페이스의…

IBM은 로레알에 맞춤형 AI 파운데이션 모델을 구축해 연구혁신(Research & Innovation) 역량을 강화하고 나아가 전 세계 시장 모든 뷰티 카테고리에서 보다 우수한 소비자 경험과 제품 효능을 제공할 것이라고 밝혔다. 이는 뷰티, 화학, 기술의 접점에서 AI 혁신을 통해 만들어진 업계 최초의 제형(formulation) 파운데이션 모델이 될 전망이다. 이번 협업은 로레알이 보유한 화장품 과학 전문성과 IBM의 첨단 인공지능 기술을 결합한다. IBM은 과학과 기술이 생태학적으로 책임감 있고 혁신적인 솔루션을 도출하고 우선순위를 정리하는 데 기여하는 미래를 열 것이라고 설명했다. 또한 IBM은…

The robust economic value that artificial intelligence (AI) has introduced to businesses is undeniable. Yet, what’s less well-known is that right at the centre of this transformation is the advent of AI factories. This is a conversation that has taken off in recent months, with companies–from small and medium businesses (SMBs) to larger enterprises—increasingly exploring the use of AI factories within their operations. That said, lingering questions persist around the technology’s potential. At present, AI…

가트너는 향후 3~4년 동안 애플 인텔리전스(Apple Intelligence), 챗GPT(ChatGPT), 구글 제미나이(Google Gemini), 메타 AI(Meta AI) 등이 기존의 앱 기능을 대체함에 따라 결과적으로 앱 사용이 줄어들 것으로 예상했다. 아울러 앱이 여러 브랜드와 회사에서 통합되어 모바일 앱 파트너십 또는 컨소시엄이 출현할 것으로 예측했다. 또 이런 변화로 인해 앱을 통해 연결되고 도달하는 고객의 수가 대규모로 증가하면서, 제작 및 유지 관리 비용을 절감할 수 있을 것으로 가트너는 전망했다 전망이다. 아울러 검색 엔진 최적화를 염두에 두고 작성되던 콘텐츠들은 생성형 AI에서 검색되고…