PTT,  電腦硬體購買

[閒聊] M2Ultra在AI比intel+nVIDIA有架構優勢?

先說我不懂AI運算
只是看了林亦的新影片
https://youtu.be/UsfmqTb2NVY

不想點的,說個大概
意思是
由於M2 Ultra的記憶體是CPU與GPU共用
而且GPU調取記憶體沒啥限制(?
等於有著超大容量和高速頻寬的顯存

對比的是i9 12900+3080TI
中間跑什麼運算什麼訓練,我是不懂

但他的結論、標題
都表明Mac PRO具有極高性價比(他是說最高
可是這套方案要30萬欸
他更是呼籲老黃要出大容量的顯卡

如果蘋果是真的有這麼大優勢
會影響未來PC遊戲卡迭代速度嗎?

--
「我看不到」
「欸 我真的看不到」
「 」
「我還是什麼都看不到啊...」
「我看不到我看不到我看不到!」

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 111.253.194.31 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/PC_Shopping/M.1688203055.A.F59.html

kivan00: 沒生態你要用什麼跑?手刻API嗎 223.138.207.31 07/01 17:19
kalarotia: 又在吹蘋果,不累嗎 42.75.153.202 07/01 17:22
hugh509: 林亦當然是吹,我關心的是PC卡會不會影響 111.253.194.31 07/01 17:23
SunFox58: 不影響 end111.249.161.157 07/01 17:27
ducamao: 你如果連他吹的用途都看不懂的話,那換句 1.172.237.112 07/01 17:35
ducamao: 話說。兩個沒交集的領域要怎麼影響 1.172.237.112 07/01 17:35
raider01: 問題兩邊GPU性能差多少,花同樣的錢可以 42.72.191.32 07/01 17:37
raider01: 買到等級不低的運算卡了吧 42.72.191.32 07/01 17:37
raider01: 3080Ti一張也才多少怎麼會拿來比? 42.72.191.32 07/01 17:38
scarbywind: 只比硬體你拿AMD不是更便宜 223.141.96.189 07/01 17:39
E6300: 3080ti回血阿 61.227.209.144 07/01 17:41
as134679258: 互不影響 遊戲卡要的是運算 AI要的 125.228.131.13 07/01 17:46
as134679258: 是大容量跟傳輸帶寬 前面展示的大容 125.228.131.13 07/01 17:46
as134679258: 量帶來得訓練優勢 後面展示大語言模 125.228.131.13 07/01 17:46
as134679258: 型在local執行的能力 125.228.131.13 07/01 17:46
as134679258: 說可以抵8張主要是拿顯存放模型 125.228.131.13 07/01 17:47
as134679258: 跟需不需要那些算力沒直接關係 125.228.131.13 07/01 17:47
fishworm: 你花30萬都已經能買到a100了,好歹也拿 114.36.185.115 07/01 17:48
fishworm: 價格近似的東西來比吧 114.36.185.115 07/01 17:48
s78513221: 老黃的大顯存是資料中心的專業卡 114.136.113.95 07/01 17:50
s78513221: 民用想要的是大顯存的遊戲卡兼學習 114.136.113.95 07/01 17:50
aegis43210: 老黃又不是傻子,為什麼要出大容量的 123.204.13.213 07/01 17:52
aegis43210: 顯示卡,蘋果這個能算的模型又不多 123.204.13.213 07/01 17:52
s78513221: 但目前的務實之選是…接人家現成的 114.136.113.95 07/01 17:53
aegis43210: 能玩的遊戲也少,看不出有什麼競爭力 123.204.13.213 07/01 17:54
hugh509: 所以大容量並不是遊戲卡和計算卡共同方向 111.253.194.31 07/01 17:54
hugh509: 還以為計算卡被打擊,遊戲卡也會間接受益 111.253.194.31 07/01 17:55
hugh509: 因為看到這代頻寬開砍有點傻眼 111.253.194.31 07/01 17:56
hugh509: 價格漲上那麼多規格還有倒退嚕的喔 111.253.194.31 07/01 17:57
Arbin: SoC在記憶體頻寬上絕對有優勢 111.71.218.44 07/01 18:00
Arbin: 但Core ML的生態系太疲軟了 111.71.218.44 07/01 18:00
tony1768: 先要有人要支援 223.139.17.165 07/01 18:01
aegis43210: 繪圖卡的強項是渲染和成像,這塊才是 123.204.13.213 07/01 18:02
aegis43210: 老黃最大的護城河 123.204.13.213 07/01 18:02
spfy: 30萬比12900+3080ti?203.121.243.239 07/01 18:12
fishworm: 不過蘋果M2的確是workstation上cp好 114.36.185.115 07/01 18:14
fishworm: 如果有軟體支援,M2目前的確是性價比最 114.36.185.115 07/01 18:14
Alwen: 不過沒人會拿顯卡跑訓練吧= = 118.232.100.36 07/01 18:17
commandoEX: 一張3080不夠強你能上兩張啊118.171.101.225 07/01 18:19
kira925: 老黃跟蘇媽:歐 42.72.32.24 07/01 18:19
commandoEX: M2Ultra就沒有擴充性了118.171.101.225 07/01 18:19
Alwen: 然後一般用戶也買不起也拿不到Grace hopper 118.232.100.36 07/01 18:20
fishworm: 如果你的模型夠輕量就可以用消費級跑 114.36.185.115 07/01 18:22
fishworm: 通常在於概念驗證,或是edge端上使用 114.36.185.115 07/01 18:22
fishworm: 蘋果這格會影響的是小型工作站原本會買 114.36.185.115 07/01 18:28
fishworm: 1~2張消費級顯卡,現在改買M2 114.36.185.115 07/01 18:28
fishworm: 但要說動搖老黃AI霸權,或消費級PC 114.36.185.115 07/01 18:29
fishworm: 可以說幾乎沒有 114.36.185.115 07/01 18:29
Alwen: 其實真能幹翻老黃,新聞早就滿天飛惹= = 118.232.100.36 07/01 18:31
Alwen: 現在消費級PC端 老黃都快一統天下= = 118.232.100.36 07/01 18:32
Alwen: 影片測試AI繪圖...M2好慘.. 118.232.100.36 07/01 18:44
raider01: 可是拿a100打遊戲也不會弱到哪去,肯定 42.72.191.32 07/01 18:56
raider01: 比m2ultra好= = 42.72.191.32 07/01 18:56
raider01: 就上上面說的CP值真的那麼高那些搞資料 42.72.191.32 07/01 19:01
raider01: 中心的早就多買幾台插滿RAM就好了 42.72.191.32 07/01 19:01
raider01: 然後原本用N家的也幾乎不太可能轉,光是 42.72.191.32 07/01 19:03
raider01: 系統轉換就有問題了,運算程式還要重寫 42.72.191.32 07/01 19:03
iuytjhgf: 就特定用途而已啊 模型不夠大還沒優勢 111.252.228.72 07/01 19:03
qwe753951: mi300: hello 111.71.45.226 07/01 19:12
aegis43210: 工作站要拿RTX 6000 ada來比才能真的 123.204.13.213 07/01 19:12
aegis43210: 比較CP值 123.204.13.213 07/01 19:12
tututoto: https://i.imgur.com/12XEA01.jpg 122.118.14.68 07/01 19:28
comipa: 只能玩到沒有hopper的 哭哭~ 220.133.98.140 07/01 19:35
comipa: GraceHopper最大是480+96GB, NV:M2Ultra? 220.133.98.140 07/01 19:39
Rust: 有沒有可能NV轉身就推出MacPro的專用顯示卡 123.241.92.153 07/01 19:43

Leave a Reply

Your email address will not be published. Required fields are marked *