中國AI雙子星,在硅谷教OpenAI做事?

64次瀏覽

國內大模型圈迎來神仙打架,OpenAI一覺醒來驚呼變了天?ZV8知多少教育網-記錄每日最新科研教育資訊

1月20日,DeepSeek沒有任何預兆地發布了DeepSeek-R1模型。不到兩個小時,Kimi k1.5新模型隨即發布。模型之外,還都附帶上了詳細的技術訓練報告。ZV8知多少教育網-記錄每日最新科研教育資訊

兩款推理模型,全面對標OpenAI o1,在多項基準測試中獲得了打平和超越o1的好成績。DeepSeek-R1文本推理模型出廠即開源、可商用,Kimi k1.5同時支持文本和視覺推理,同樣各項指標拉滿,成為首個實現o1完整版水平的多模態模型。ZV8知多少教育網-記錄每日最新科研教育資訊

中國大模型界“雙子星”一夜間卷到海外,給了硅谷“億點點”震撼。社交平臺X上多位業界和學界大佬下場轉發、點贊DeepSeek-R1與Kimi k1.5的帖子。ZV8知多少教育網-記錄每日最新科研教育資訊

英偉達AI科學家Jim Fan第一時間發帖總結兩者的相同點和差異性,評價所發表的論文是“重磅”級別。ZV8知多少教育網-記錄每日最新科研教育資訊

圖片ZV8知多少教育網-記錄每日最新科研教育資訊

(圖源:X)ZV8知多少教育網-記錄每日最新科研教育資訊

圖片ZV8知多少教育網-記錄每日最新科研教育資訊

(圖源:X)ZV8知多少教育網-記錄每日最新科研教育資訊

多位AI技術大V對Kimi k1.5給予肯定,有人發表評論稱“又一個重量級模型誕生了,亮點是文本和視覺的多模態推理能力,這是多模態AI領域的重大突破”。有人將其與OpenAI o1相比較,感嘆OpenAI是否已經被拉下了神壇,“越來越多的模型正在打敗OpenAI o1”?ZV8知多少教育網-記錄每日最新科研教育資訊

圖片ZV8知多少教育網-記錄每日最新科研教育資訊

(圖源:X)ZV8知多少教育網-記錄每日最新科研教育資訊

面對來自中國的“攻擂者”,擠牙膏式釋放期貨的OpenAI首席執行官Sam Altman在個人賬號發布帖子抱怨媒體炒作AGI,讓網友降低期待值,“下個月不會部署AGI,也不會構建AGI”。沒想到,反而激怒了網友,被諷刺“賊喊捉賊”。ZV8知多少教育網-記錄每日最新科研教育資訊

AI世界正在發生一些變化,DeepSeek-R1和Kimi k1.5驗證了強化學習(RL)思路的可行性,開始挑戰OpenAI的絕對領先地位。ZV8知多少教育網-記錄每日最新科研教育資訊

同時,中國本土模型挑戰不可能性,實現換道超車,也是對國內大模型行業的一次精神鼓舞。未來,中國AI企業仍有機會打破硅谷的技術壟斷,走出中國自主技術路線。ZV8知多少教育網-記錄每日最新科研教育資訊

真正的滿血o1來了ZV8知多少教育網-記錄每日最新科研教育資訊

繼去年11月發布的k0-math數學模型,12月發布的k1視覺思考模型之后,連續第三個月升級,Kimi帶來了K系列強化學習模型Kimi k1.5。ZV8知多少教育網-記錄每日最新科研教育資訊

圖片ZV8知多少教育網-記錄每日最新科研教育資訊

按照Kimi k系列思考模型路線圖,k0到kn進化是模態和領域的全面拓展。k0屬于文本態,聚焦于數學領域;k1增加了視覺態,成為了OpenAI之外首個多模態版的o1,其領域擴展至物理、化學;此次升級的k1.5仍是多模態,這也是Kimi模型突出特點之一,在領域上則由數理化升級到代碼、通用等更加常用和廣闊的領域。ZV8知多少教育網-記錄每日最新科研教育資訊

從基準測試成績看,k1.5多模態思考模型實現了SOTA(state-of-the-art)級別的多模態推理和通用推理能力。ZV8知多少教育網-記錄每日最新科研教育資訊

國內外宣傳達到o1水準的模型很多,但是從數據來看,目前只有Kimi和DeepSeek發布的模型才是真正滿血版的o1,其他各家發布的模型還在o1-Preview的水平——差距有30%-40%。ZV8知多少教育網-記錄每日最新科研教育資訊

以OpenAI o1為基準,其數學水平得分74.4分,編程水平得分67.2分,并且支持多模態。按此標準審視國內已發布的推理模型,阿里QVQ、智譜GML、科大訊飛星火和階躍星辰Step系列模型與實際o1水平仍有一定距離。DeepSeek和Kimi模型在數學水平上均超過了OpenAI,編程水平接近o1水準。但跟DeepSeek相比,Kimi支持多模態視覺推理,而DeepSeek只能識別文字,不支持圖片識別。ZV8知多少教育網-記錄每日最新科研教育資訊

具體來看,在short-CoT(短思考)模式下,Kimi k1.5超越了其他一切模型。其數學、代碼、視覺多模態和通用能力,大幅超越了全球范圍內短思考SOTA模型 GPT-4o和Claude 3.5 Sonnet的水平,領先達到550%。ZV8知多少教育網-記錄每日最新科研教育資訊

圖片ZV8知多少教育網-記錄每日最新科研教育資訊

在long-CoT(長思考)模式下,Kimi k1.5的數學、代碼、多模態推理能力,也達到長思考 SOTA 模型 OpenAI o1 正式版的水平。在兩個數學水平測試(AIME 2024和MATH-500)中打敗了o1,在編程水平測試(Codeforces)中與o1打平。這應該是全球范圍內,OpenAI之外的公司首次實現o1正式版的多模態推理性能。ZV8知多少教育網-記錄每日最新科研教育資訊

圖片ZV8知多少教育網-記錄每日最新科研教育資訊

Kimi k1.5的修煉秘籍ZV8知多少教育網-記錄每日最新科研教育資訊

海內外一起打call,實力水平經得住考驗,Kimi是如何修煉成“最強大腦”的?ZV8知多少教育網-記錄每日最新科研教育資訊

看完干貨滿滿的技術報告,可以總結歸納為一種訓練思路、一個訓練方案和一個訓練框架。其中,高效推理、優化思路貫穿其中。ZV8知多少教育網-記錄每日最新科研教育資訊

受制于數據量的限制,預訓練“大力出奇跡”的方法在現實訓練中屢屢碰壁,從OpenAI o1起行業內開始轉變訓練范式,把更多的精力投入到強化學習上。ZV8知多少教育網-記錄每日最新科研教育資訊

之前的思路可以理解為“直給”,即人類要主動去“喂”給大模型數據,監督大模型工作,介入大模型的“調教”過程。但強化學習的核心思路是,在沒有人過多干預的情況下,讓大模型自我學習和進化。ZV8知多少教育網-記錄每日最新科研教育資訊

此次Kimi的新模型更新便采用了強化學習的路徑,在訓練過程中證明,無需依賴蒙特卡洛樹搜索、價值函數、過程獎勵模型,也能讓模型取得不錯的性能。ZV8知多少教育網-記錄每日最新科研教育資訊

強化學習的思路集中體現在了“Long2Short”訓練方案中,這也是Kimi技術報告的亮點所在。按其官方介紹,具體的做法為,先利用較大的上下文窗口,讓模型學會長鏈式思維,再將“長模型”的推理經驗轉移到“短模型”中,兩者進行合并,最后針對“短模型”進行強化學習微調。ZV8知多少教育網-記錄每日最新科研教育資訊

圖片ZV8知多少教育網-記錄每日最新科研教育資訊

圖注:越靠近左上角越好ZV8知多少教育網-記錄每日最新科研教育資訊

這種做法的好處在于,可以提升token的利用率以及訓練效率,在模型性能和效率中間尋找到最優解。ZV8知多少教育網-記錄每日最新科研教育資訊

放到行業內來看,Kimi的“Long2Short”訓練方案也是“模型蒸餾”的體現。在這里,“長模型”是老師,而“短模型”是學生,老師傳授給學生知識,利用大模型來提升小模型的性能。當然,Kimi也采用了一些方法來提升效率,比如利用“長模型”生成的多個樣本,取最短的正解為正樣本,生成時間長的為負樣本,以此來形成對照組訓練數據集。ZV8知多少教育網-記錄每日最新科研教育資訊

為了適配強化學習訓練,Kimi k1.5專門設計了特殊的強化學習框架,作為基座來支撐整個訓練系統。ZV8知多少教育網-記錄每日最新科研教育資訊

圖片ZV8知多少教育網-記錄每日最新科研教育資訊

k1.5模型最高支持128k的上下文本長度,如果模型每次都要完成一次完整的思維鏈生成和推理過程,對于計算資源、內存存儲和訓練穩定性都會造成影響。因此,Kimi引進了“Partial Rollouts”技術,生成的鏈路切分為多個步驟,而并非畢功與一役。ZV8知多少教育網-記錄每日最新科研教育資訊

底層AI infra的搭建思路,體現了月之暗面在長文本上的積累,如何實現資源最大化和高效是其一直重點解決的問題,現在這種思路又將延續到思維鏈生成和推理上。ZV8知多少教育網-記錄每日最新科研教育資訊

中國“雙子星”終結OpenAI神話?ZV8知多少教育網-記錄每日最新科研教育資訊

從Kimi和DeepSeek身上,我們或許能看出未來模型訓練的幾種趨勢:對于強化學習訓練的投入和資源傾斜將加大;OpenAI o1成為了下一階段大模型入場的新門檻,技術、資源跟不上意味著掉隊;上下長文本技術尤為重要,這將作為能夠生成和推理長思維鏈的基礎;Scaling law還沒有完全失效,在一些局部,比如長上下文本依然存在并且具有潛力。ZV8知多少教育網-記錄每日最新科研教育資訊

中國“雙子星”打開了OpenAI的黑箱。此前,OpenAI定義了大模型訓練的四個階段:預訓練、監督微調、獎勵建模、強化學習。現在,這個范式被打破了,Kimi 和DeepSeek都證明了可以跳過和簡化某些環節來提升模型的訓練效率和性能。ZV8知多少教育網-記錄每日最新科研教育資訊

Kimi和DeepSeek效應是雙重的。走出國門,向海外AI圈特別是硅谷證明,持續的專注于聚焦就能出奇跡,中國依然具備競爭科技第一梯隊的能力。ZV8知多少教育網-記錄每日最新科研教育資訊

OpenAI應該反思,在投入如此資源和擁有高人才密度的情況下,為什么被來自中國的企業在多個方面趕超,這或許將給世界的競爭格局帶來微妙的變化。人們不禁要問,OpenAI的先發優勢還能持續多久?不僅同一個國家有死對頭Anthropic,從其手中拿走了To B的單子,現在還要對來自中國的AI企業保持警惕。ZV8知多少教育網-記錄每日最新科研教育資訊

在國內,新的格局似乎已經在變動之中。DeepSeek憑借開源和超越OpenAI性能的模型受到了前所未有的關注,甚至已經開始有人將其納入“AI 六小虎”的行列之中。ZV8知多少教育網-記錄每日最新科研教育資訊

相較于以前,現階段的Kimi更加明確了從k0到kn的技術路線,盡管其表示“會聚焦在Kimi一個產品上”,但Kimi所承載的已經遠遠超越了一個普通的AI應用。ZV8知多少教育網-記錄每日最新科研教育資訊

Kimi k1.5讓月之暗面拿下了下一階段的入場券,這也讓其在未來競爭中掌握更多的主動權。保持一定的領先之后,2025年新的目標是如何活得更好。ZV8知多少教育網-記錄每日最新科研教育資訊

新一輪洗牌悄悄開始,誰會先掉隊,誰又能先突出重圍?ZV8知多少教育網-記錄每日最新科研教育資訊

本文鏈接:http://www.albanygandhi.com/news-23-193928.html中國AI雙子星,在硅谷教OpenAI做事?

聲明:本網頁內容由互聯網博主自發貢獻,不代表本站觀點,本站不承擔任何法律責任。天上不會到餡餅,請大家謹防詐騙!若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。

熱門文章

延伸閱讀

相關閱讀

熱點精選

最新推薦

您可能感興趣

我國新型儲能投運裝機超3000萬千瓦

去年京津冀地區生產總值達10.4萬億元

【申報】關于組織開展可再生能源供暖(制冷)項目典型案例申報工作的通知(京發改〔2024〕105號)

兩會聲音 | 北京兩會代表委員們聚焦這些科技熱點→

我學者用超表面實現平面內納米位移光學感測

科技部辦公廳 民政部辦公廳 中國科協辦公廳關于開展促進科技類社會團體發揮學術自律自凈作用專項行動的通知

關于政協第十四屆全國委員會第一次會議第02948號(科學技術類135號)提案答復的函

科技部辦公廳 中國科學院辦公廳關于公布第六屆全國科學實驗展演匯演活動獲獎名單的通知

圖說外觀設計|一圖概覽制度新變化

《北京國際科技創新中心建設條例》

天平:哪里找白條店鋪套白條,親測五種秒到有效方法

如登春臺:寧波海曙代還信用卡取現,真實商戶積分,高效便捷服務

天平:京東白條的錢怎么借出來到微信(2025最新秒到提現介紹)

奮發圖強:美團月付怎么套出來?具體的6個操作方法

超快:國內可以使用visa卡的地方(今天三個方法分享給你們)

如登春臺:寧波慈溪代還信用卡墊還,放心的選擇,價格最低的地方

實體:京東白條里面額度怎么套出來(太好了終于找到了流程)

素箋: 羊小咩享花卡額度取現秒到的三種方法 我教你必成功的方法

花團錦簇:深圳代還信用卡口碑商戶流程簡單高效

眉清目秀:合肥墊還信用卡,怎么刷出來,5種常用方式

主站蜘蛛池模板: av天堂午夜精品一区二区三区| 亚洲国产成人精品女人久久久| 中文字幕色婷婷在线视频| 精品人人妻人人澡人人爽人人| 国产在线视频不卡| 18gay台湾男同亚洲男同| 天天天天做夜夜夜做| 三个人躁我一个| 无遮挡全彩口工h全彩| 久久精品资源站| 欧美人与物videos另类xxxxx| 亚洲综合免费视频| 真实的国产乱xxxx| 四虎精品1515hh| 贱妇汤如丽全篇小说| 国产成人免费福利网站| 男女下面一进一出视频在线观看| 国内精品一战二战| chinesefree国语对白| 少妇厨房愉情理9仑片视频| 中文字幕精品亚洲无线码一区 | 国产在线爱做人成小视频| jlzzjlzz亚洲jzjzjz| 国产美女视频网站| 99国产精品视频免费观看| 女老丝袜脚摩擦阳茎视频 | 3571色影院| 国模精品一区二区三区| japanese性暴力| 小受被多男摁住—灌浓精| 中文无码乱人伦中文视频在线V| 日韩v亚洲v欧美v精品综合| 亚欧日韩毛片在线看免费网站| 欧美军同性videosbest| 亚洲日韩激情无码一区| 波多野结衣伦理电影在线观看| 伊人久久大香线蕉亚洲五月天| 黄页网站在线免费观看| 国产福利短视频| 青青操视频在线免费观看| 国产综合精品一区二区三区|