Author: Admin

최근 C++의 메모리 안전성 문제가 논란이 되면서, 트랩C(TrapC)와 세이프C++(Safe C++) 같은 프로젝트에 대한 관심이 높아지고 있다. 다양한 시도가 이어지고 있지만, 스트롭스트룹은 여전히 C++에서 프로파일을 도입하는 것이 안전성을 확보하는 핵심이라고 주장했다. 여기서 말하는 프로파일은 C++의 특정 기능을 제한하거나 조정하여, 더 안전한 코드를 작성할 수 있도록 하는 일련의 규칙이나 설정을 말한다. 직접적인 포인터 연산을 금지하거나 자동 메모리 관리가 되는 스마트 포인터만 허용하는 등의 가이드라인을 제시하는 것이다. 프로파일은 기존 기능에 대한 제한을 가하여 일정한 안전성을 보장할 수 있다….

이번 컨소시엄에 참여하는 15개의 기관은 앞으로 AI를 활용한 연구와 교육 혁신을 위해서 협력하게 된다. 이를 통해 차세대 발견을 촉진하고 다음 세대를 위해 AI의 미래를 준비하는 것이 목표다. 컨소시엄 창립 파트너로는 캘리포니아 공과대학교(Caltech), 캘리포니아 주립대학 시스템(The California State University system), 듀크 대학(Duke University), 조지아 대학(The University of Georgia), 하버드 대학(Harvard University), 하워드 대학(Howard University), 매사추세츠 공과대학(Massachusetts Institute of Technology), 미시간 대학(The University of Michigan)이 참여한다. 또한, 미시시피 대학(The University of Mississippi), 오하이오 주립 대학(The Ohio State…

AWS、マイクロソフト、グーグルは引き続きエンタープライズ・クラウド市場を支配しているかもしれないが、特に急成長しているAI時代には、専門的なワークロードやユースケースを持つ組織やイノベーターにとって貴重なパートナーであることを証明する第二層のクラウド・プロバイダーが続々と登場している。 Athos Therapeuticsもそのような企業のひとつだ。臨床段階のバイオテクノロジー企業であるAthos Therapeuticsは、これまでAIワークロードを構内で実行していたが、Vultr Cloud GPUを選択した。Vultr Cloud GPUは、AthosがデルのNvidia搭載HGX H100 PowerEdgeサーバー上で実行するGPU-as-a-サービスであり、自社開発のAIモデルをトレーニングし、自己免疫疾患や癌性疾患の解決を目的としたAI搭載精密医療プラットフォームを構築する。 昨年夏に契約を結ぶ前に、Athos、Vultr、Dellの3社は、Athosのニーズを満たすパイロットプロジェクトで協力したと、AthosのAIおよびML担当副社長June Guo氏は言う。 グオ氏は、Athosが小規模なオンプレミスのインフラを捨てて、Vultrの専門的なクラウドプラットフォームを採用した理由をいくつか挙げている。Athosがオンプレミスで膨大な電力とインターネットを使用していることや、大規模なモデルを訓練するためのセキュリティの必要性などだ。Vultrへの移行は、コスト削減にもつながったという。 「以前は、これらのAIアルゴリズムをトレーニングするためにオンプレミスのサーバーを使用していましたが、停電やインターネット帯域幅の問題などのインフラ問題が発生したため、これらの問題に対処するベンダーを探し始めました」とGuo氏は言い、GPU-as-a-Serviceモデルへの切り替えは、Athosの精密治療プラットフォームの開発を加速させるのにも役立ったと述べている。 ニッチなニーズ、ニッチなソリューション Vultr、IBM、Alibaba、Akamai、OVHcloud、Tencent、Huawei は、コスト削減と AI モデルのトレーニング、チューニング、推論サービスの柔軟性を提供し、知的財産、ゲノミクスデータ、独自の AI アルゴリズムに必要なセキュリティと機密性を提供する一握りのセカンドティアクラウド IaaS プレーヤーのひとつであるとアナリストは述べている。 「Vultr、Akamai、IBM、Alibaba、Tencent、Huaweiのような第二級のクラウドプロバイダーは、ハイパースケーラーが広範で画一的なアプローチをとるのとは対照的に、ニッチ市場と特定の顧客ニーズに焦点を当てることで差別化を図っている。これらのプロバイダーは、専門性、柔軟性、コスト効率が最も重要な分野で成功を収めているとアナリストは語る。 知的財産の保護は、AthosがVultrのGPUクラウドに移行した重要な理由であり、そうすることで業界の規制やコンプライアンスに準拠しながら、モデルIPをよりよく保護することができるからだとGuo氏は言う。また、GPU-as-a-serviceモデルは、大量のゲノムデータのダウンロード、インターネットアップデート、Nvidiaカードの入れ替えなど、AIインフラストラクチャの絶え間なく進化するメンテナンス要件を最小限に抑えることができるという。 Athosは、AWS、Google Cloud、Microsoft Azureの3大ハイパースケーラのいずれかを選択することもできたが、アルゴリズムのトレーニングと様々なタイプの科学的オミックスデータのスケーリングは、これらのプラットフォームでは法外なコストがかかるとGuo氏は語る。 Athosのデータはヒトの血液、便、組織サンプルに由来し、マルチオミクスのデータ構造はテキスト、音声、動画とは異なるため、Athosは標準的なAIモデルを使用することができない。精密治療に使用されるデータは多種多様で大量であるため、アトスは独自のAIアルゴリズムとAIモデルを構築する必要がある。 さらに、Vultrとデルは、Athosの自律型AI分析プラットフォームとデータレイクに対して、ほとんどのクラウドベンダーが提供できるよりもコスト効率の高いエンジニアリングサポートを提供することができた、とGuo氏は言う。 Athosにとって、VultrのCloud GPUプラットフォームは、AthosのAIモデルのトレーニング、微調整、推論サービスの実行など、すべてをこなす。また、Athosの知的財産、大規模なゲノムデータセット、独自のAIアルゴリズムに必要なセキュリティと機密性も提供する。 クリーブランド・クリニックおよびレイヒー病院・医療センターと提携しているAthos Therapeutics社は、数十億のパラメーターとマルチオミクスデータを持つ複数のモデルを開発し、25,000人以上の患者の分析を行ってきた。VultrとDellのクラウドパートナーシップは、その道を切り開くのに役立っている。 「以前使用していたオンプレミスのサーバーと比較すると、その高速化には驚かされます。以前使っていたオンプレミスのサーバーと比べると、加速度は驚くべきものです。」 イノベーションの選択肢は豊富 AIのゴールドラッシュは、純粋なGPU-as-a-Serviceを提供するニッチプレーヤーや、クラウド上のGPUを含む大手3大ハイパースケーラーと同様にクラウドオプションの充実したメニューをホストするセカンドティア・プロバイダーの台頭をもたらした。IDCのアナリストであるDave McCarthy氏によると、GPU-as-a-Serviceは、GPUサービスモデルのみを提供するCoreWeaveのような新興企業の登場により、新しい用語として登場したが、AWS、Microsoft、Googleのような大手企業は、何年も前から提供している。 Vultrは、GPU-as-a-Service以外にもさまざまなクラウドサービスを提供しているため、大手3社のハイパースケーラに「より近い」とマッカーシーは言う。2014年にローンチしたVultrは、開発者たちによって設立され、独自のコントロールペインと自動化を提供し、顧客が迅速にスケーリングできるように初期のクラウドプラットフォームを設計した。このプラットフォームは当初、ゲーム会社やSaaSの新興企業に大人気だった。 Vultrが成長し、規模を拡大し、C-suiteを雇用し、NvidiaやDellとパートナーシップを結ぶにつれて、同社は現在、AIワークロードをサポートする柔軟でスケーラブルなグローバルクラウドコンピュート、クラウドGPU、ベアメタル、クラウドストレージソリューションで世界中の企業をターゲットにしている。 例えば、VultrのCPU-a-serviceは、AI/MLやハイパフォーマンス・コンピューティング向けに、AMDのInstinct MI300Xアクセラレータや、GH200、HGX H100、A100、L40S、A40、A16などのNvidia GPUへのアクセスを提供している、 クラウドの専門家であるリンティカム氏は、Vultr はわかりやすい価格設定とシンプルさで開発者、新興企業、中小企業にアピールし、アカマイはメディア、ゲーム、遅延の影響を受けやすいアプリケーション向けのエッジコンピューティングとコンテンツデリバリーで優位に立っていると指摘する。「IBM はハイブリッド・クラウド・ソリューションでリードしており、米国および EU のヘルスケアや金融など、コンプライアンスを重視する業界を中心に、レガシーシステムを管理する企業をターゲットとしています」とのこと。 地域的には、アリババ、テンセント、ファーウェイがアジアで圧倒的な強さを見せているという。 米国や欧州の企業にとって、第2層のクラウドプロバイダーの魅力は、ベンダーの多様性、コスト削減、AWSやGoogle Cloud Platform、Azureのような拡張性や複雑さを必要としないAIや特殊なワークロードをサポートできる点にあることが多い、とリンティカム氏は付け加える。 アクセンチュアのCloud Firstアナリストであるスラブ・スリバスタバ氏によると、二番手のクラウドプレイヤーは、中小企業、地域企業、規制産業向けにさまざまな専門サービスを提供しており、AI/MLのトレーニングや推論のユースケースでコストを抑えられるなどの主なメリットがあるという。スリヴァスタヴァ氏によると、AIモデルをトレーニングするためのハイパースケーラのGPUコンピューティングインフラのコストは、Vultrのような専門プロバイダーが提供する同じリソースよりもはるかに高いのが一般的だという。 Vultr社としては、エンタープライズでの足跡を拡大するために取り組んでおり、大規模なハイパースケーラーが価格を下げてAIモデルのトレーニングビジネスをより多く獲得できるかどうかは、時間が経ってみなければわからない。 「企業向けのVultrの普及は限定的です」とスリバスタバ氏は言う。「Nvidiaのプリファード・パートナーであるVultrは、AIワークロードのためのコスト効率の良い代替手段として最前線に位置し、AI/MLトレーニングをより身近なものにする可能性がある。 Athos Therapeutics社にとって、Vultr-Dellソリューションは、自社開発モデルの構築とトレーニングのためのプラットフォーム開発に最適な選択だ。 「我々は、レガシーなデータ、コード、プラットフォームを持っていません。一部のデータ処理にはパブリッククラウドを使用していますが、ゲノミクスデータを使ったモデルのトレーニングには、Vultrとデルがこの分野で非常にリーズナブルな提案をしてくれました」とGuo氏は言う。 Source link