高加索AV无码,99尹人网毛,韩日337p99,一级a片久久无,97色区综合,激情日韩在线一二三,日韩精品久久精品草比,婷婷久久91,亚洲天堂艹比

Ling-1T上線后，螞蟻再接再厲，推出全球首個(gè)開(kāi)源的萬(wàn)億參數(shù)思考模型 Ring-1T�；�于 Ling 2.0 架構(gòu)構(gòu)建，通過(guò)純自然語(yǔ)言推理，可達(dá)到 IMO 銀牌的推理能力。

早在 9 月 30 日，螞蟻就已放出 Ring-1T-preview 版本。該版本模型擁有出色的自然語(yǔ)言推理能力，一推出便在多項(xiàng)榜單上嶄露頭角。

此次發(fā)布主要披露了 Ring-1T 完整的訓(xùn)練流程，包括繼續(xù)通過(guò)大規(guī)模可驗(yàn)證獎(jiǎng)勵(lì)強(qiáng)化學(xué)習(xí)（RLVR）進(jìn)一步增強(qiáng)推理能力，并結(jié)合人類(lèi)反饋強(qiáng)化學(xué)習(xí)（RLHF）提升通用表現(xiàn)，模型整體能力更均衡。

螞蟻官方表示，他們的目標(biāo)是進(jìn)一步釋放 Ring-1T 的推理潛力并提高長(zhǎng)上下文下的對(duì)齊和效率。

出色的推理能力

Ring-1T 采用 Ling 2.0 架構(gòu)，并在 Ling-1T-base 基礎(chǔ)模型上進(jìn)行訓(xùn)練。該模型包含 1 萬(wàn)億個(gè)總參數(shù)，其中 500 億個(gè)激活參數(shù)，支持高達(dá) 128K 個(gè) token 的上下文窗口。

螞蟻還借助自主研發(fā)的 icepop 強(qiáng)化學(xué)習(xí)穩(wěn)定化方法和高效的強(qiáng)化學(xué)習(xí)系統(tǒng) ASystem，實(shí)現(xiàn)了 MoE 架構(gòu)強(qiáng)化學(xué)習(xí)的平滑擴(kuò)展——從數(shù)百億（Ring-mini-2.0）到數(shù)千億（Ring-flash-2.0）再到數(shù)萬(wàn)億（Ring-1T）的參數(shù)規(guī)模，顯著提升了模型的深度推理和自然語(yǔ)言推理能力。

為了評(píng)估 Ring-1T 的深度推理能力，螞蟻選取了具有代表性的開(kāi)源思維模型，如 Deepseek-V3.1-Terminus-Thinking、Qwen-235B-A22B-Thinking-2507、Gemini-2.5-Pro 和 GPT-5-Thinking 作為基準(zhǔn)測(cè)試。

首先，相比此前開(kāi)源的預(yù)覽版，Ring-1T 在各項(xiàng)任務(wù)上展現(xiàn)出更加均衡的性能。此外，Ring-1T 在數(shù)學(xué)競(jìng)賽 （AIME 25、HMMT 25）、 代碼生成 （LiveCodeBench、CodeForce）、 邏輯推理 （ARC-AGI-1）等高難度推理基準(zhǔn)測(cè)試中均取得了開(kāi)源領(lǐng)域領(lǐng)先的性能。

在綜合任務(wù)（Arena-Hard-v2.0）、 醫(yī)療保健 （HealthBench）和創(chuàng)意寫(xiě)作 （Creative Writing v3） 等測(cè)試中，Ring-1T 也展現(xiàn)出強(qiáng)勁的競(jìng)爭(zhēng)力。

為了更客觀地分析 Ring-1T 的深度推理能力，團(tuán)隊(duì)還使用了今年 7 月舉辦的 IMO 2025（國(guó)際數(shù)學(xué)奧林匹克）和最近結(jié)束的 ICPC 2025 世界總決賽（國(guó)際大學(xué)生程序設(shè)計(jì)競(jìng)賽世界總決賽）進(jìn)行了測(cè)試。

在 IMO 2025 的測(cè)試中，Ring-1T 一次性解決了問(wèn)題 1、3、4 和 5，可達(dá)到 IMO 銀牌水平。在第三次嘗試中，它還對(duì)一個(gè)關(guān)于幾何證明的問(wèn)題給出了近乎完美的答案。

問(wèn)題 6 最具有挑戰(zhàn)性，IMO 2025 中沒(méi)有一位 AI 選手能夠正確解答。Ring-1T 給出了與 Gemini 2.5 Pro 相同的答案——“4048”（正確答案為 2112）。研究人員表示，通過(guò)持續(xù)優(yōu)化，Ring-1T 未來(lái)有潛力在 IMO 中一次性達(dá)到金牌水平。

在允許模型直接求解三次問(wèn)題的測(cè)試中，團(tuán)隊(duì)分別對(duì)比了 GPT-5-Thinking、Gemini-2.5-Pro 和 Ring-1T 的解題能力。結(jié)果表明，Ring-1T 在國(guó)際頂級(jí)編程比賽中也表現(xiàn)出色。

全新的強(qiáng)化學(xué)習(xí)框架

隨著序列長(zhǎng)度和訓(xùn)練步長(zhǎng)的增加，訓(xùn)練引擎和推理引擎之間運(yùn)算符實(shí)現(xiàn)的差異會(huì)變得越來(lái)越明顯，尤其是在長(zhǎng)序列生成和訓(xùn)練周期延長(zhǎng)的情況下。

團(tuán)隊(duì)提出了 Icepop 算法，通過(guò)掩蔽雙向截?cái)嗉夹g(shù)校正分布，有效縮小了訓(xùn)練階段和推理階段之間的差距，從而“冷卻”了迅速擴(kuò)大的訓(xùn)練-推理差異。

為了保障萬(wàn)億參數(shù)基礎(chǔ)模型的強(qiáng)化學(xué)習(xí)訓(xùn)練穩(wěn)定高效，團(tuán)隊(duì)還自主研發(fā)了高性能強(qiáng)化學(xué)習(xí)系統(tǒng)——ASystem。ASystem 采用 SingleController+SPMD 架構(gòu)，對(duì)內(nèi)存管理和權(quán)重交換挑戰(zhàn)進(jìn)行了精心優(yōu)化，可實(shí)現(xiàn)秒級(jí)零冗余的模型權(quán)重交換。

對(duì)于強(qiáng)化學(xué)習(xí)訓(xùn)練框架，研究團(tuán)隊(duì)基于大規(guī)模無(wú)服務(wù)器沙箱技術(shù)構(gòu)建了混合獎(jiǎng)勵(lì)系統(tǒng)。該系統(tǒng)支持超過(guò) 10 種編程語(yǔ)言的執(zhí)行環(huán)境，并處理高達(dá) 10K/s 的請(qǐng)求吞吐量。系統(tǒng)目前已經(jīng)開(kāi)源。

然而，Ring-1T 也有不少局限性。當(dāng)前版本存在身份識(shí)別偏差、語(yǔ)言混合、重復(fù)生成等問(wèn)題。此外，由于其注意力機(jī)制仍沿用 Ling 2.0 的 GQA 方法，在長(zhǎng)上下文場(chǎng)景下的推理效率仍有提升空間。

研究人員表示，Ring-1T 的訓(xùn)練仍在進(jìn)行中，將在未來(lái)的版本中繼續(xù)優(yōu)化這些問(wèn)題。

參考資料：

https://huggingface.co/inclusionAI/Ring-1T