NPU還是很有用的，以後應用會越來越多。
我舉個遊戲應用的例子。
現在遊戲對話都是固定死的。但用現代ai可以活潑很多。我大概解釋一下技術流程。
玩家用語音跟遊戲角色對話。
用Whisper轉換語音到文字。
用bert/gpt來分析文字的情緒與關鍵字。
用RAG(embedding vector database)來取出遊戲設計的答案。
如果跑得動，用gpt+答案+情緒prompt來回答。這是最有變化的。
跑不動gpt，就用預先(gpt+答案+prompt)錄好的回答。這只要bert+vector database。
也可跑自然聲的TTS來說話，這個目前還有很大的(問題/發展空間)
這些是npu剛好可以實踐的東東。
------------------
以上是我在某個call center的案子得到的靈感。
現在國外很多公司辦公的流程也是在弄這些ai。重點是提高品質，並不是取代人。
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 219.70.128.119 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/PC_Shopping/M.1703803453.A.E0B.html
推 sheng76314: 是這樣嗎 那一張3060比npu有用多了吧 111.255.65.65 12/29 07:05
推 ltytw: GPU要有GPU的樣子 114.33.46.227 12/29 07:07
推 sheng76314: 內文說的 CPU+3060都跑的好好的 不覺 111.255.65.65 12/29 07:10
→ sheng76314: 得npu有特別優勢 111.255.65.65 12/29 07:10
推 wind183: 現在npu尷尬的地方在於它能做的事gpu也123.192.158.248 12/29 07:21
→ wind183: 做得來，gpu做的來npu做不到或是效能很123.192.158.248 12/29 07:21
→ wind183: 差123.192.158.248 12/29 07:21
→ wind183: 只能期望未來軟體能針對npu做優化然後np123.192.158.248 12/29 07:23
→ wind183: u晶片規模也能上去吧，但到時功耗又是一123.192.158.248 12/29 07:23
→ wind183: 個問題123.192.158.248 12/29 07:23
推 yenchieh1102: 推 42.71.215.17 12/29 07:35
推 widec: 第一個做出內建gpt的開放世界應該會紅很久 1.165.11.2 12/29 08:25
→ justicebb: 跑很久是真的，每次對話都要跑一次123.110.195.144 12/29 08:28
推 ltytw: 我不覺得這遊戲會紅 等對話生成要等好幾 114.33.46.227 12/29 08:30
→ ltytw: 秒吧？ 而且有時會跳針或跨服聊天？ 114.33.46.227 12/29 08:30
→ ltytw: skip流的speedrun玩家不會喜歡 114.33.46.227 12/29 08:31
→ justicebb: 而且頂多是用在罐頭任務之類的玩意，123.110.195.144 12/29 08:32
→ justicebb: 用在主框架上還要加一堆限制，會需要123.110.195.144 12/29 08:32
→ justicebb: 重跑N次123.110.195.144 12/29 08:32
→ Ceferino: 不懂一直在吹gup幹麻，跑4k時喊不夠跑118.231.145.189 12/29 08:38
→ Ceferino: 推論又說好好的，自助餐吃好吃滿118.231.145.189 12/29 08:38
→ widec: 遊戲不是把gpt弄進去就完事 1.165.11.2 12/29 08:47
→ widec: 還要寫出適合的遊戲類型 1.165.11.2 12/29 08:48
→ widec: 而NPU的目的不就是自己做AI演算嗎 1.165.11.2 12/29 08:48
→ widec: 比如像模擬市民這類就很容易整合AI 1.165.11.2 12/29 08:49
推 littlefish1: 不否認未來有用途，但現在買soc附帶220.141.152.105 12/29 09:01
→ littlefish1: 的npu等到應用成熟早就不堪使用了，220.141.152.105 12/29 09:01
→ littlefish1: 還得買最新一代，消費者不要過早為220.141.152.105 12/29 09:01
→ littlefish1: 它買單付出溢價是重點220.141.152.105 12/29 09:01
→ oopFoo: 剛開始模擬類型比較適合，如大逆轉裁判， 114.45.136.16 12/29 09:19
→ xxxx9999xxxx: 用在戀愛遊戲，攻略難度倍增。 223.138.49.99 12/29 09:19
→ oopFoo: avg遊戲，美少女夢工廠這類的。 114.45.136.16 12/29 09:21
→ Ceferino: 不爽可以去買AMD，如果每家都硬綁該想118.231.145.189 12/29 09:23
→ Ceferino: 的是你為什麼這麼抗拒118.231.145.189 12/29 09:23
推 xxxx9999xxxx: ai*少女dlc 「真」，npu即時口說互 223.138.49.99 12/29 09:31
→ xxxx9999xxxx: 動，滑鼠無用。 223.138.49.99 12/29 09:31
推 mayolane: 不是欸，AMD的Phoenix跟Hawk Point上面 223.137.209.74 12/29 09:33
→ mayolane: 也有NPU啊 223.137.209.74 12/29 09:33
→ BruceChang: 攻略難度不一定增加...沒擋好會直接被223.136.101.250 12/29 09:39
→ BruceChang: 話術催眠XD223.136.101.250 12/29 09:39
→ oopFoo: 被話術催眠也是玩點啊XD 114.45.136.16 12/29 09:55
→ oopFoo: 這個東東會越來越成熟越來越有趣 114.45.136.16 12/29 09:55
→ Makeinu: INTEL幾年前還有推出過的VPU，想拿來做邊 211.72.5.154 12/29 09:58
→ Makeinu: 緣運算，結果一下子就停產了 211.72.5.154 12/29 09:58
推 pcfox: 肥宅的春天 36.231.107.72 12/29 10:14
推 chchwy: 玩遊戲的時候 GPU 沒空算這種東西好不好 125.227.69.169 12/29 10:34
→ chchwy: ，一定要讓其他東西來做 125.227.69.169 12/29 10:34
推 RaiGend0519: 10年後KK園區都塞滿機房，連人都不 111.83.8.22 12/29 10:48
→ RaiGend0519: 要了 111.83.8.22 12/29 10:48
推 lolpklol0975: NPU 用在低功耗筆電, 伺服器電競電 49.217.113.142 12/29 11:10
→ lolpklol0975: 腦都馬用GPU 49.217.113.142 12/29 11:10
推 lolpklol0975: 而且NPU也沒辦法處理參數太大的模 49.217.113.142 12/29 11:18
→ lolpklol0975: 型 49.217.113.142 12/29 11:18
→ guanting886: 遊戲最終目的還是娛樂玩家 Ai 只是 42.78.108.181 12/29 11:23
→ guanting886: 輔助開發公司把一些非主線且繁瑣的 42.78.108.181 12/29 11:23
→ guanting886: 工作由他來補 42.78.108.181 12/29 11:23
→ guanting886: 而且生成的內容也不太能脫離主線或 42.78.108.181 12/29 11:25
→ guanting886: 意外劇透 42.78.108.181 12/29 11:25
→ guanting886: 一開始可能很新鮮 久了就跟手遊的每 42.78.108.181 12/29 11:26
→ guanting886: 日任務一樣無聊 42.78.108.181 12/29 11:26
推 kamichu: codemiko就正在開發結合chatgpt的 36.232.155.156 12/29 11:27
→ kamichu: 遊戲 36.232.155.156 12/29 11:27
推 guanting886: 那他的粉絲就要為這些token買單 42.78.108.181 12/29 11:30
→ guanting886: 預先處理好成本可以控制，動態產生 42.78.108.181 12/29 11:30
→ guanting886: 未來都要持續算錢 42.78.108.181 12/29 11:30
→ guanting886: 像模擬市民這個遊戲沒太高科技的輔 42.78.108.181 12/29 11:36
→ guanting886: 助下製作到現在相當成熟，如果還要 42.78.108.181 12/29 11:36
→ guanting886: 再導入現在的Ai…你就要問 你到底是 42.78.108.181 12/29 11:36
→ guanting886: 在做遊戲 還是在做專業社會科學模擬 42.78.108.181 12/29 11:36
→ guanting886: 軟體XD 42.78.108.181 12/29 11:36
→ oopFoo: 遊戲本身設計還是最重要的，AI真的只是輔 114.45.136.16 12/29 11:48
→ oopFoo: 助。變成每日任務，乾脆讓ai來掛著玩 114.45.136.16 12/29 11:49
→ oopFoo: AMD的問題是。npu有的有，有的沒有，也不 114.45.136.16 12/29 11:54
→ oopFoo: 了解它在client端的策略。也不自己開放sdk 114.45.136.16 12/29 11:54
→ oopFoo: 是掛在onnx下面。沒有很清楚的roadmap 114.45.136.16 12/29 11:56
推 roiop710: 可以瑟瑟對話了 27.52.196.154 12/29 12:04
→ sdbb: H-Game 112.104.66.116 12/29 12:33
→ ILike58: 怎麼覺得開發遊戲開始複雜了起來，有些決 223.136.36.133 12/29 13:01
→ ILike58: 策的部分套用AI是不錯，像棋手這類專競技 223.136.36.133 12/29 13:01
→ ILike58: 方面，可是一般人遊戲其實也就跑跑劇本， 223.136.36.133 12/29 13:01
→ ILike58: 套AI實際上遊戲的本質會提升多少是蠻值得 223.136.36.133 12/29 13:01
→ ILike58: 商榷的。 223.136.36.133 12/29 13:01
推 AmigoSin: 推，有趣的應用114.136.188.166 12/29 13:30
→ ehai0725: 感覺意義不大，你有大量生成需求就用顯 27.51.105.50 12/29 13:48
→ ehai0725: 卡，小量用cpu也能跑，npu一個食之無味 27.51.105.50 12/29 13:48
→ ehai0725: 棄之可惜 27.51.105.50 12/29 13:48
→ ehai0725: 啊你套用ai npc每個舉動要等他跑根本沒 27.51.105.50 12/29 13:48
→ ehai0725: 有人玩得下去 27.51.105.50 12/29 13:48
推 sdbb: 112.104.66.116 12/29 13:55
→ widec: 怎麼大家都預設十年後AI還是跑在server上 1.165.11.2 12/29 14:01
→ widec: AI這玩意兒就是要在客戶端並客戶化才能起飛 1.165.11.2 12/29 14:02
推 garlic1234: 一個遊戲叫你要等十年的話，哪會有人 42.71.44.40 12/29 14:11
→ garlic1234: 買單，這都還是研發端的部分，要到最 42.71.44.40 12/29 14:11
→ garlic1234: 終消費者端還要好幾年 42.71.44.40 12/29 14:11
推 Amulet1: 這東西如果能跟VR結合，那蘋果有救了 42.72.218.126 12/29 14:16
推 labbat: 從FPU到APU，從APU到NPU 27.247.226.61 12/29 14:44
推 Litfal: 玩家都很懶的，你讓玩家用語音指令，玩家 39.10.50.183 12/29 15:12
→ Litfal: 會說還不如我滑鼠點一下快 39.10.50.183 12/29 15:12
推 Litfal: 看看VR，視覺回饋那麼強，還不是懶得玩 39.10.50.183 12/29 15:23
推 xxxx9999xxxx: 你確定連續動作時，還是口說好，例 223.138.49.99 12/29 15:36
→ xxxx9999xxxx: 如：蜜雪兒換一下。 223.138.49.99 12/29 15:36
→ pxhome: 請給我木頭，請給我黃金 36.230.172.140 12/29 15:58
推 ziya: 你可以去看目前最強的Ai neuro-sama 觀察 59.126.199.180 12/29 16:43
→ ziya: 那個回話應對 真的是很可怕 59.126.199.180 12/29 16:43
→ ILike58: 蜜雪兒換一下.....是我想的那樣嗎XD。 223.136.36.133 12/29 17:10
推 WiLLSTW: PVE敵人AI不能用AI 會變糞game 這東西 49.216.185.197 12/29 18:02
→ WiLLSTW: 需要的是精巧的設計 更像是發條玩具 49.216.185.197 12/29 18:02
→ widec: 現在不是在聊NPU這玩意的用處嗎 1.165.11.2 12/29 18:45
→ scarbywind: npu便宜阿... nv卡東卡西還限東限西 114.46.94.199 12/29 20:24
→ chauan: 用在不是支線任務的路人NPC不錯啊 172.56.113.214 12/30 00:19
→ chauan: ，不會只有固定幾種罐頭訊息 172.56.113.214 12/30 00:19
推 a1e: 這還是第一代，不要奢望性能能多好，不如等 118.160.132.1 12/30 02:47
→ a1e: 個兩、三代算力提升後再看看 118.160.132.1 12/30 02:48