作者 lalacoa (lalacoa)
標題 Re: [討論] 群聯買不起三台nvdia dgx?
時間 Wed May 29 21:20:35 2024


我也看了這個訪談
所以故事應該是..

幾個工程師想在公司弄LLM fine tune去跟老闆要三台DGX
老闆一看跟公司業務八竿子打不著被拒絕
工程師拿自家SSD變成4090的VRAM自幹LLM
老闆知道後發現自家產品也能跟AI沾上邊,開始大量宣傳新發明

這故事是不是告訴我們...養閒人還是很重要的 (但不是普通的閒人)
夠閒才會激發創意
整天趕進度是不會有新發明的

※ 引述《myis8787 (white)》之銘言:
: 來源: https://www.youtube.com/watch?v=mD6IZBnfJWU
: 標題:市值從零到一千億的創業過程!群聯電子如何成為台灣晶片設計傳奇?協助台灣企業來打
: 國際盃?專訪群聯電子創辦人潘健成董事長!
: --------
: 訪談裡面提到群聯同事要求潘董購入三台NV
: 總價六千萬的DGX來訓練公司自己用的LLM
: 潘董直接回答最近市場不好 沒錢!
: 台灣一線IC廠真的買不起嗎?
: 還是潘董覺得沒那個價值呢?

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 185.213.82.243 (臺灣)
※ 作者: lalacoa 2024-05-29 21:20:35
※ 文章代碼(AID): #1cLokbDU (Tech_Job)
※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1716988837.A.35E.html
※ 編輯: lalacoa (185.213.82.243 臺灣), 05/29/2024 21:21:08
physicsdk: 這種故事真實性有多高XD1F 05/29 21:26
nikolas: 規模大一點的公司都會有 沒做產品 純研發的部門2F 05/29 21:26
jkl852: 像gg的pathfinding阿 上班就是看機票跟股票3F 05/29 21:46
havochuman: 這故事你會信?4F 05/29 22:00
joefaq: 可以跟董事長說得上話的都是長官了5F 05/29 22:09
a70327cow: 給潘蛇15分鐘6F 05/29 22:23
jtsu5223: gg PFD都在看機票和股票?笑死唬爛不打草稿7F 05/29 22:42
jecint1707: XD8F 05/29 23:11
ashyang: NV是有錢人的AI,這個是窮人版AI9F 05/30 00:40
iefast2004: 給潘蛇跟皮衣刀客講15分鐘,群聯就起飛了10F 05/30 01:53
qwe78971: SSD 當vram 還跑LLM ? 一個月內就報廢了 來搞笑11F 05/30 03:53
dildoe: 跑LLM當壓力測試新工具沒問題啦XD12F 05/30 05:51
doranako: 改成ssd慢很多13F 05/30 07:13
d58974: 先不談ssd當vram的真實性啦,但的確要夠閒才會開始搞事,如果每天忙到連睡覺都沒時間,累都累死了搞事只是在搞自己而已14F 05/30 07:56
flysonics: 很簡單的一個邏輯  假如是你自己當side proj作來玩的 沒資源時拿什麼理由開口跟你老闆要資源?
除非是你跟你老闆有私交 或是這side proj本身就是你老闆job assignment的一部分 不然我想不太到這種情況下能跟老闆開口要資源的合理性17F 05/30 08:55
shikemurajy: 其實好像很多IC設計這樣幹ㄏ22F 05/30 12:29
jeff85898: 群聯發明的?確定不是別人研究成果拿來用
https://tinyurl.com/3jxf7tn623F 05/30 13:03
[2403.06504] Adding NVMe SSDs to Enable and Accelerate 100B Model Fine-tuning on a Single GPU Recent advances in large language models have brought immense value to the world, with their superior capabilities stemming from the massive number of ...

 
tsairay: 他們手上ssd很多啊,拿一些來當消耗品還好啦25F 05/30 13:19
wcre: 問題是誰當閒人啊,給我爽,副總下去做?26F 05/30 15:37
baba1128: 這個故事是真的,因為開口要的是他們現任技術長27F 05/30 16:40

--
作者 lalacoa 的最新發文:
點此顯示更多發文記錄