伊人激情四射久久,久久久久久久

“歐洲 DeepSeek”發(fā)布 Mistral 3 系列模型

2025-12-04 17:53

昨日，素有 “歐洲 DeepSeek” 之稱(chēng)的 Mistral 3 上線，這是 Mistral 模型的下一代產(chǎn)品。

Mistral 3 包含三個(gè)先進(jìn)的小型密集模型：140 億、80 億和 30 億。Mistral Large 3 是 Mistral 迄今為止功能最強(qiáng)大的模型，它是一款稀疏混合專(zhuān)家模型，使用 410 億個(gè)活躍參數(shù)和 6750 億個(gè)總參數(shù)進(jìn)行訓(xùn)練。

官方表示，所有模型均以 Apache 2.0 許可證發(fā)布，以多種壓縮格式開(kāi)源模型，賦能開(kāi)發(fā)者社區(qū)，并通過(guò)分布式智能將人工智能帶入千家萬(wàn)戶(hù)。

Mistral Large 3：最先進(jìn)的開(kāi)放式模型

Mistral Large 3 是目前世界上最好的開(kāi)放權(quán)重模型之一，它基于 NVIDIA 的 3000 個(gè) H200 GPU 訓(xùn)練而成。

Mistral Large 3 還是 Mistral 自開(kāi)創(chuàng)性的 Mixtral 系列以來(lái)推出的首個(gè)專(zhuān)家混合模型，該模型在通用提示上的表現(xiàn)與市面上最好的指令調(diào)優(yōu)開(kāi)放權(quán)重模型不相上下，展現(xiàn)出卓越的圖像理解能力，并在多語(yǔ)言對(duì)話（例如，非英語(yǔ)/中文）方面取得了一流的性能。

Mistral Large 3 在在 OSS 非推理模型類(lèi)別中排名第 2,在所有 OSS 模型中排名第 6。

從 Large 3 到 Ministral 3，均在 NVIDIA Hopper GPU 上進(jìn)行訓(xùn)練，利用高帶寬 HBM3e 內(nèi)存來(lái)處理前沿規(guī)模的工作負(fù)載。

NVIDIA 為整個(gè) Mistral 3 系列模型啟用了對(duì) TensorRT-LLM 和 SGLang 的高效推理支持，從而實(shí)現(xiàn)高效的低精度執(zhí)行。

針對(duì) Large 3 的稀疏 MoE 架構(gòu)，NVIDIA 集成了最先進(jìn)的 Blackwell 注意力機(jī)制和 MoE 內(nèi)核，增加了對(duì)預(yù)填充/解碼解耦服務(wù)的支持，并與 Mistral 合作開(kāi)發(fā)了推測(cè)性解碼，使開(kāi)發(fā)者能夠在 GB200 NVL72 及更高級(jí)別的設(shè)備上高效地處理長(zhǎng)上下文、高吞吐量的工作負(fù)載。