この記事は、インテルのウェブサイトで公開されている「Introducing The Open Platform for Enterprise AI」の日本語参考訳です。原文は更新される可能性があります。原文と翻訳文の内容が異なる場合は原文を優先してください。
画像の出典: opea.dev (英語)
オープンソース・プロジェクトは、AI イノベーションを加速し、拡大してきました。この進化の成果の 1 つが、活発なイノベーションの段階にある生成 AI (GenAI) の出現であり、その副産物として技術とツールの断片化が生じています。この断片化は、企業における GenAI の導入と、それがビジネスにもたらす計り知れない価値にとって障壁となっています。この価値の実現に取り組む開発者は、GenAI を組み込むにあたって、非常に多くの選択肢に直面しています。この初期段階において、オープンソース・コラボレーションは強固で具体的なフレームワークを確立し、構成可能な GenAI ソリューションの構築と評価を可能にします。この考えに基づき、インテルは他の業界パートナーと協力して、Open Platform for Enterprise AI (OPEA) (英語) を立ち上げました。
OPEA は、LF AI & Data Foundation (英語) 内の新しいサンドボックス・レベルのプロジェクトです。OPEA の使命は、エコシステム全体で最高のイノベーションを活用する、オープンでマルチプロバイダー対応、堅牢で構成可能な GenAI ソリューションの構築を可能にするオープン・プラットフォーム・プロジェクトを構築することです。
インテル コーポレーションのソフトウェア & 先端技術部門 (SATG) 担当副社長兼戦略実行事業本部長の Melissa Evers は次のように述べています。
「OPEA は、より広範なコミュニティーの支援を得て、今日の RAG の導入と拡張における重要な課題に対処します。また、生成 AI が企業と私たちの生活にもたらす潜在的な価値を活用する、次段階の開発者イノベーション向けのプラットフォームを定義します。」
OPEA 実装の原則 (画像の出典: opea.dev (英語))
GenAI 実装の断片化に対するソリューション
OPEA は、検索拡張生成 (RAG) だけでなく、必要に応じてその他の機能も含む、GenAI ワークフローの全体的で分かりやすいビューを提供します。このワークフローの構成要素 (オープンおよびプロプライエタリー) には、以下が含まれます。
- GenAI モデル – 大規模言語モデル (LLM)、大規模ビジョンモデル (LVM)、マルチモーダル・モデルなど
- 取り込み/データ処理
- 埋め込みモデル/サービス
- インデックス/ベクトル/グラフ・データ・ストア
- 検索/ランキング
- プロンプトエンジン
- ガードレール
- メモリーシステム
RAG フローのリファレンス実装 (画像の出展: opea.dev (英語))
今後数か月にわたり、オープンソース・コミュニティーと企業パートナーは、開発者のニーズに合わせてこのフレームワークを拡張し進化させる予定ですが、インテルは現時点で利用可能なリファレンス実装を OPEA Github リポジトリー (英語) で公開しています。これらの実装には、以下のフレームワークが含まれます。
- インテル® Xeon® 6 プロセッサーおよびインテル® Gaudi® 2 AI アクセラレーター上で動作するチャットボット (英語)
- インテル® Gaudi® 2 AI アクセラレーター上で動作するドキュメントの要約 (英語)
- インテル® Gaudi® 2 AI アクセラレーター上で動作するビジュアル質問応答 (VQA) (英語)
- インテル® Gaudi® 2 AI アクセラレーター上の Visual Studio Code で動作するコード生成用の Copilot (英語)
エンタープライズに注目した評価
構成可能なフレームワークは、OPEA が開発者にもたらすもののごく一部に過ぎず、インテルが OPEA Github リポジトリー (英語) ですでに公開している評価フレームワークと連携して機能します。これにより、パフォーマンス、信頼性、スケーラビリティー、レジリエンスなどの指標に対して GenAI フローの合意に基づいた等級付けおよび評価が可能になり、エンタープライズ対応であることが保証されます。
評価カテゴリーを見てみましょう。
パフォーマンスは、実際のユースケースのブラックボックス・ベンチマークに基づき、「ベンチマークを満たす」から「最低許容性能を超える」までの等級で評価されます。
機能は、相互運用性、AI 手法、デプロイメントの選択肢、使いやすさなど、システム・コンポーネントの必須機能およびオプション機能の評価です。
信頼性は、アクセス制御や、コンフィデンシャル・コンピューティングやトラステッド・エグゼキューション環境などの機能によって測定される、品質、セキュリティー、堅牢性を保証する能力を評価します。
エンタープライズ対応は、エンタープライズ環境でソリューションをデプロイする実働環境のニーズに注目して評価します。測定では、まずパフォーマンス、機能、信頼性の各指標の最小要件を満たしていることを確認し、ドキュメント、認証、サポートの応答速度も考慮されます。
OPEA は、コミュニティーと協力して、この評価基準に基づいた自己評価用のテストを提供し、要望に応じて評価と等級を提供します。
GenAI の荒野を照らす明確な道筋
OPEA は、評価、開発、デプロイメントの標準化されたプラットフォームを提供することで、GenAI を次のレベルに引き上げます。すでに、Anyscale、Cloudera、DataStax、Domino Datalabs、Hugging Face、IBM、KX Systems、MariaDB Foundation、MinIO、Qdrant、Red Hat、Redis、SAS、Yellowbrick Data、Zilliz などの強力な企業パートナーがこのプロジェクトに投資しています。
オープンなエコシステムは、インテルのアプローチの基盤を形成しています。インテルは、オープンなエコシステムが、複数のプレーヤーが協力し、革新的なソリューションをより迅速かつ効率的に開発できる水平的な競争の場を生み出すと信じています。オープンソース開発は、ソフトウェア開発の鍵です。この精神に基づき、インテルはこのプラットフォームをオープンソース・コミュニティーと共有し、開発者のニーズに応え、GenAI のビジネス価値を高めるため、皆様と協力して改善と拡張に取り組んでいきたいと考えています。
opea.dev (英語) からこの取り組みにご参加ください。
著者紹介
インテル コーポレーションのオープンソース戦略ディレクターである Rachel Roumeliotis は、20 年以上にわたり、技術者を教育してきました。前職では、O’Reilly Media のコンテンツ戦略担当バイスプレジデントとして、技術コンテンツの獲得と制作に従事し、オープンソースから AI、セキュリティー、デザインまで、幅広いコミュニティーと協業しました。多くの技術カンファレンスで議長を務め、OSCON (O’Reilly のオープンソース・ソフトウェア・カンファレンス) では 2020年春にバーチャルに移行するまで 5 年間その議長を務めました。また、Google、IBM、Microsoft などの多くの企業と協力して、開発者に向けて彼らのストーリーを伝えてきました。米国マサチューセッツ州出身で、Mistery Box 系のテレビ番組や、SF、ホラー、ファンタジー小説のファンです。
製品および性能に関する情報
1 性能は、使用状況、構成、その他の要因によって異なります。詳細については、http://www.intel.com/PerformanceIndex/ (英語) を参照してください。
