AI
Moonshot AI、2.8兆パラメータのKimi K3を発表
オープンウェイトモデル史上最大となる2.8兆パラメータのAIモデルが中国から登場した。7月27日までに重みが公開される。 史上最大のオープンウェイトモデル Moonshot AIが7月16日、AIモデルKimi K3を発表した。パラメータ数は2.8兆。オープンウェイトモデルとしては史上最大となる。 直近の比較対象だったDeepSeek V4-Proが1.6兆パラメータ。Kimi K3はその1.75倍になる。前世代のKimi K2は約1兆パラメータで、1年で2.8倍の跳躍だ。 オープンウェイトモデルのパラメータ規模 ※総パラメータ数の比較。K2は2025年7月、DeepSeek V4-Proは2026年4月、K3は2026年7月にそれぞれ発表 100万トークンのコンテキストウィンドウを備え、画像入力にも対応する。モデルの重みは7月27日までに公開される予定で、技術レポートも同時に出る。 独自アーキテクチャの中身 K3の基盤技術は2つある。 1つ目がKimi Delta Attention(KDA)。従来のフルアテンションではなく、線形アテンシ