看板 Stock
作者 LDPC (Channel Coding)
標題 Re: [新聞] 輝達傳再推中國特供AI晶片 最快「這時」
時間 Sat Nov 11 16:02:39 2023


老黃應該是有機會能繼續用黃家刀法 用高階價錢賣低階產物給中國

從美國的最大化利益角度來想 美國也會希望老黃賣次級的晶片給中國
這樣就某種程度能最大化阻滯中國發展 和弱化中國科技樹發展

比方說 中國最近的華為昇腾910B AI晶片號稱對標A100 已經賣給百度作為AI開發用途
如果說中國目前上面自製化晶片算力是10 那A100是30 H100是50 那老黃只要賣給中國晶片
效能是12~15 就可以變項阻礙中國發展 逼迫中國依賴使用老黃次級晶片 畢竟成本上開發
以及老黃eco system在大模型發展扮演很重要角色 完全自製耗時又花錢 且還不能隨插

即用現在世面上各種開源大模型 但完全斷貨又會逼的中國自己發展出自己科技樹
或找出其他一片天 就像最近韓國Naver買不到老黃H100 憤而跑去買I皇的AI晶片

美國之前禁令是用頻寬參數來擋 所以老黃就把A100坪寬匯流600GB/s降到400GB/s
搞了一個A800 但從單顆A800的算力(FP32/FP64 Tensor Core)和A100是等效同級


至於為何要搞用頻寬限流是因為 LLM大模型發展是靠多顆GPU算力高速互連算力NVLink

堆積起來(有興趣可看底下連結) 目前與論共識是1萬顆A100是要搞大模型的入場卷
以LLaMA 65B為例 訓練需要時間是1022362 GPUxHours 所以如果你只有1顆A100
你需要1022362小時  但是你如果有一萬顆你大概就需要~100小時 就能驗收結果

而通常AI算法開發需要很多的調整 你每做一次feature開發 最好訓練時間是座落在一週

到兩週 也就是為何一萬顆A100便成為入場卷 而NVLink4是採用100G PAM4 serdes架構
這玩意Marvell Broadcomm 都有在做類似產品 之前他們股價都有受惠

當你把頻寬限流搞上去後 那訓練開發時間都會加長
看到這裡 有沒有覺得啊 那A800單顆算力還是很強啊 是的 所以這次禁令
就是採用運算效能來當門檻 還提出性能密度參數(performance density parameter)
就是把性能連chiplet單顆下都考慮進去 然後你我都知道老黃最擅長的就是切效能
然後賣高價 最理想的結局就是中國還是大依賴老黃次級晶片放棄AI晶片發展

最後三天前的GPT4Turbo 已經瞄準取各種服務模式 加上Multimodal大模型這陣子
紛紛出爐 由於Scaling Law所造成的Emergent Ability 都意味者所有大公司都會

繼續花錢買算力而中小型公司會去租算力(e.g.,Mistral 7B模型 有在Hugging Face榜單上

就是用前陣子被板上宣稱是假公司的CoreWeave 租借算力平台開發的)

然後坐等11/21開獎 最後 有誰有紙箱嗎QQ 萬一我猜錯了
請推薦哪家公園好睡 沒郊狼和浣熊為佳

--
NVlink 在2016誕生時 沒人想過會成為大模型的一個基礎發展重要拼圖之一
https://zhuanlan.zhihu.com/p/639228770

A800規格 https://tinyurl.com/2p8nsv4f
美國禁令下,NVIDIA打造的這款中國特供版A800 GPU,規格如何? | T客邦
[圖]
隨著美政府對NVIDIA A100、H100兩款資料中心加速GPU實施出口禁令,不得銷售給中國之後,NVIDIA打造了定製版的A800,在規格上符合管制政策。 ...

 

※ 引述《qwe22992168 (蛋疼)》之銘言:
: 原文標題:輝達傳再推中國特供AI晶片 最快「這時」量產
: 原文連結:https://www.ctee.com.tw/news/20231110700081-439901
: 發布時間:2023.11.10  03:00
: 記者署名:工商時報 楊日興
: 原文內容:
: 美國10月中下旬擴大AI晶片輸中禁令,輝達等巨頭原本為中國市場而降低規格的多款特供
: 產品遭美政府禁止出口中國。新禁令公布不久,傳輝達與英特爾將再推出降規版晶片的計
: 畫,而輝達已為此打造三款晶片。
: 科創板日報9日引述產業鏈人士表示,輝達現已為中國市場開發出最新改良的三款晶片
: HGX H20、L20 PCle、L2 PCle。三款晶片從旗艦產品H100改良而來,輝達最快將在本月16
: 日之後公布,中國廠商最快能在近日拿到產品。
: 界面新聞引述網路文件表示,輝達為中國客戶專門研發的特供晶片HGX H20、L20 PCle、
: L2 PCle,分別針對雲端訓練、推理、邊緣場景,產品基於輝達Hopper和Ada Lovelace架
: 構。產品送樣時間在今年11~12月,量產時間為今年12月~明年1月。
: 從晶片命名邏輯來看,輝達應基於上述不同架構與應用推出多款產品。美國此次擴大的輝
: 達產品限制範圍,不但包含基於H100和A100所降規的H800和A800,還擴大禁止L40、L40S
: 、RTX4090等產品。
: 消息指出,輝達繼續改良晶片並將性能降低至新參數以下,以符合美國法規以供應中國市
: 場,供應鏈廠商和客戶近日還要與輝達繼續溝通,年底才會量產。
: 此外,消息人士指出,英特爾為與輝達抗衡、為中國市場打造的Gaudi2晶片,受美新禁令
: 影響,還會再推出調整與改良版本。
: 美國最新晶片禁令來勢洶洶,如大幅提前對輝達的禁令生效時間以防範中企囤貨應對,對
: 源頭的管制標準與參數進行諸多調整,本輪管制措施影響廣泛。市場關注,美企為此再次
: 降規的晶片是否還能在中國市場上具有吸引力,且傳百度採購華為晶片研究替代方案,新
: 禁令或許再給中國自研晶片替代提供突破口。
: 心得/評論:
: 拜登封殺中共AI晶片 符合美國法規才行
: 賣給中共的AI晶片 年底才會量產
: 黃勳仁:可惡 想賺!! 黃仁勳現在台灣逛夜市
: 新聞越多 AI股跌越多 輝達暴漲 AI股暴跌
: AI股早就和輝達脫勾 脫節了 真奇妙

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 67.169.111.72 (美國)
※ 作者: LDPC 2023-11-11 16:02:39
※ 文章代碼(AID): #1bJpKX18 (Stock)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1699689761.A.048.html
※ 同主題文章:
Re: [新聞] 輝達傳再推中國特供AI晶片 最快「這時」量產
11-11 16:02 LDPC
※ 編輯: LDPC (67.169.111.72 美國), 11/11/2023 16:07:08
turtle66: 專業給推1F 11/11 16:06
※ 編輯: LDPC (67.169.111.72 美國), 11/11/2023 16:07:32
jerrylin: 差不多是這樣2F 11/11 16:10
eemail: 你連選公園都專業@@3F 11/11 16:20
Jerry469 
Jerry469: 爸爸我好冷4F 11/11 16:21
aaaaaaaa9: 創作小說第一名了!5F 11/11 16:22
JOKIC: 如果中國真的依賴老黃而放棄Ai 晶片發展那滅亡剛好,但中國應該沒那麼低能才對6F 11/11 16:26
中國不會放棄AI發展 但是不優先AI晶片發展可以是個選項 AI開源模型在訓練端都是
吃老黃架構 不放棄AI晶片發展 意味者一堆開源模型不能直接套用 只能自己重新做起
這會在AI算法直接落後好幾年 這也是當年Google TPU困境
※ 編輯: LDPC (67.169.111.72 美國), 11/11/2023 16:29:57
※ 編輯: LDPC (67.169.111.72 美國), 11/11/2023 16:31:00
JKCCF: 以股票來說,確實有一派覺得可以在11/21前賣出
明年可能對NV營收影響不大,但第四季難免會有影響但我跟原PO一樣,坐等11/21開獎!8F 11/11 16:31
gn7722: 所以緯創禮拜一會漲嗎11F 11/11 16:43
zerro7: 等開獎+112F 11/11 16:46
ppuuppu: 推,但浣熊看起來很可愛呀!13F 11/11 16:46
decorum: 中國自家設計AI晶片 得找人製造 中芯只得含淚接單了14F 11/11 16:51
ru04hj4: 就是用五倍價格買一樣算力 可憐QQ15F 11/11 16:57
littenVenus: 浣熊在哪
原來原po在美國 郊狼浣熊很多齁XD16F 11/11 16:59
kamichu: 中國有錢還是會買帳 gg賺死了18F 11/11 17:02
[圖]
 
[圖]
a0808996: 郊狼:每天加餐 舒服!21F 11/11 17:06
Riesz: 樓上的動物  是狐科的臉耶...  照片確定??22F 11/11 17:10
littenVenus: https://i.imgur.com/I6IBp3P.jpg
第二張圖是維基的圖23F 11/11 17:12
[圖]
kensmile: 中國可能再吃第二次虧嗎
用你美國的東西,然後再禁止賣給你
美中貿易壁壘已經確定
中國現在策略就是以扶植本土企業為主
百度購買華為晶片,至於效能比輝達差,根本不是重點中國就是要以自己的企業做內循環,不再受美國控制25F 11/11 17:17
Riesz: 新的是郊狼  原本的介於南非狐跟貉之間的物種31F 11/11 17:24
kensmile: 中芯這次財報還有獲利,讓我很驚訝
賣給華為,良率差,但企業還是可以撐住
在等待技術突破,企業還是可以生存
所以有沒有美國,台灣供貨,已經沒那麼重要32F 11/11 17:25
blue7896: MRVL明年有機會大噴特噴嗎?36F 11/11 17:27
kensmile: 美企打什麼算盤,想阻止中國發展
都已經是不可能的
我認為華為在五年內會壯大37F 11/11 17:29
venusvirus: 浣熊很兇der40F 11/11 17:30
beagle2001: 支那不放棄 AI ,全部都要自己做(共匪相信過誰?)或者被迫自己做,一樣都是低能啊41F 11/11 17:31
littenVenus: 置之死地而後生咩43F 11/11 17:31
kensmile: 華為,從晶片,手機,Ai將吃下整個中國市場44F 11/11 17:31
JKCCF: 某個方面來說,中芯有沒有獲利也沒差了,中國不會讓他倒的45F 11/11 17:31
kensmile: 扶植周邊供應鏈
這個供應鏈都是中國企業47F 11/11 17:31
littenVenus: 中國政府鐵了心要救 而且中國人聰明勤奮49F 11/11 17:32
kensmile: 台灣,中國,同文同種,都是很努力的民族50F 11/11 17:33
littenVenus: 十年磨一劍51F 11/11 17:33
KrisNYC: 我相信NV寫給商業局的遊說帖大概內容也是這樣52F 11/11 17:33
kensmile: 不要小看中國53F 11/11 17:33
KrisNYC: 他不用給12~15 就算給10 實際使用上一定也是優54F 11/11 17:34
JKCCF: 但EUV技術沒辦法突破,中國半導體大概就到良率極低的五奈米55F 11/11 17:34
kensmile: 其實五奈米,就夠了57F 11/11 17:35
KrisNYC: 最主要是他要保持中國沒有整個生態 伸手就有windows伸手就有android 你看到現在純軟中國還是沒作業系統只要windows/android有後門 中國絕對不堪一擊
任何這種東西都不是硬體跑分多厲害就多厲害的東西AMD跑分比Intel高的時候 多少人多少商用還是用貴的Intel /NV ? 整個生態/指令集 加速掛件不支援
你作個效能13的也跑不贏NV的效能10 GPU58F 11/11 17:35
kensmile: 華為Ai晶片,絕對有競爭力
因為Ai目前只需到五奈米65F 11/11 17:39
moike22: 總之就是中或贏,講這麼多幹嘛67F 11/11 17:41
KrisNYC: 另外 DUV堆疊4層做7nm這個你說良率可以拉到7成68F 11/11 17:41

 
KrisNYC: 要做到5nm要堆幾層? 第一層99% 後3層9成良率連乘3次70F 11/11 17:42
meteor260: 笑死,貓抓老鼠71F 11/11 17:42
KrisNYC: 你可以做到70%+良率 堆疊8層你0.9連乘7次剩多少?72F 11/11 17:43
bj45566: 這篇專業73F 11/11 17:43
KrisNYC: DUV做7nm這是已知能做但是需要單一品項砸大錢的技術74F 11/11 17:43
mike7689: 簡單來說 如果一直靠買買買 就會跟印度一樣 中國不可能淪落到阿三那種德行75F 11/11 17:43
KrisNYC: 做5nm 一樣是單一品項砸大錢 但數學極限擺在那77F 11/11 17:44
mike7689: 這已經是國家戰略層級的決策78F 11/11 17:44
bj45566: 美中不足的是某 k 又在推文拉一堆妄想腦補的屎79F 11/11 17:44
kensmile: 樓上吃最多
還滿臉都是,大滿足
中國現在就是要自己做
我希望能夠做起來
有競爭才有戲80F 11/11 17:49
thbygn98: 中芯這感覺看起來市場不是很買單就是了85F 11/11 17:51
bj45566: 製造高階晶片所需的設備、材料、軟體,困難到需要美國、荷蘭、日本、德國這四個頂尖科技強國聯手才能成功,中國要以一敵四?做夢比較快 wwww86F 11/11 17:51
thbygn98: 股價有慘89F 11/11 17:51
kensmile: 有人會偷偷賣,緊張什麼
根本無法圍堵90F 11/11 17:53
bj45566: 唯一的可能是德國和北約、日韓翻臉,全力與中國合作,那才有一咪咪希望92F 11/11 17:54
JKCCF: 中國撐起自己的半導體供應鏈,不計盈虧花個5年10年或許可以,但短期要跟外面競爭,我覺得就想多了XD94F 11/11 17:55
kensmile: 中國應該沒有打算和其他競爭
他想的是自給自足
不受美國控制
撐個5~10年,彎道超車96F 11/11 17:56
jamie81416: 他講的蠻好笑的,明明大家都有認識的中國人。認識的是產業界的每個都在唱衰;認識在讀書沒出
社會的,每個都在吹,麻煩統一一下口徑好嗎358F 11/12 12:54
labell: 賣中共=害台灣361F 11/12 17:40
jamesho8743: kensmile 就是中國一直贏 不知道是不是幻想362F 11/12 20:03
pdh2230: 投資中國賠太多語無倫次了吧 哈哈哈哈哈363F 11/12 20:30

--
作者 LDPC 的最新發文:
點此顯示更多發文記錄