● LIVE中華民國 115 年 11 月 18 日 星期三

推論基礎設施

新研究質疑以 GPU 使用率衡量推論基礎設施效能
工商

新研究質疑以 GPU 使用率衡量推論基礎設施效能

NAND Research 最新報告強調,GPU 繁忙程度不能準確反映有效產出,並提出全新的「推論經濟效益評分卡」,按實際完成的有效工作量衡量推論基礎設施。這套框架已應用於與 Ne…