要約:
11 月 20 日、Tencent Hunyuan は公式のオープンソース Hy4 モデルを発表し、同時に Hy4 システム カードをリリースし、モデルのセキュリティ評価方法、テスト結果、既知のリスクを公開しました。現在、開発者は関連するモデルを入手し、GitHub、Hugging Face、ModelScope、GitCode を通じてデプロイできます。

公開情報によると、Hy4 はテキスト、画像、ビデオの理解をサポートするハイブリッド エキスパート アーキテクチャを使用したマルチモーダル モデルです。言語モデル本体のパラメータの総数は 7,700 億で、各トークンは約 490 億のパラメータをアクティブにし、最大 100 万のトークンのコンテキスト ウィンドウをサポートします。標準命令モデルに加えて、このオープン バージョンには FP8 量子化モデルと事前トレーニングされた基本モデルも含まれています。
モデルの重みとともにリリースされたシステム カードは、主に Hy4 の安全性評価を説明するために使用され、開発者がモデルの機能の境界と潜在的なリスクを理解するための参考資料を提供します。 Tencent Hunyuan は、今回の措置により、モデルのリリースプロセス中にセキュリティ評価情報を同時に開示する慣行が継続されると述べた。
Hy4 のオープンにより、Tencent Hunyuan が現在リリースしている Hy シリーズの大規模言語モデルは、Hy3 プレビュー、Hy3、Hy4 プレビュー、Hy4 および Hy4 フラッシュ バージョンを含むオープン ソースになりました。その中で、Hy4 フラッシュはこれまでにモデルの重みを開放しており、高い推論効率と導入コストを必要とするアプリケーション シナリオに位置付けられています。
コメント