6月2日|針對AI推理算力逐步下沉至終端設備的行業趨勢,英偉達CEO黃仁勛提出,智能手機早已形成分佈式算力架構,部分運算在本機終端運行,剩餘算力交由雲端處理,該架構後續也會成為AI Agent的主流運行模式。他稱,能夠本地化處理的任務優先在終端設備運行,此舉可以壓縮成本、減少響應時延,同時實現更優質的定製化使用體驗;未來AI模型可在筆記本電腦、工作站乃至DGX Spark等硬件上常駐運行,搭建全天候在線的AI智能體。黃仁勛指出,人工智能時代將邁入解耦分佈式計算架構,未來 AI 算力負載會拆分部署在雲端、企業內網與各類終端設備中,並實現互聯互通、無縫協同。對於終端用户而言,無需知曉算力實際承載位置,只需享受最優的AI服務與使用體驗。
新聞來源 (不包括新聞圖片): 格隆匯