groq
科技
專家:Groq雖然快 現階段仍難以取代輝達的GPU
Groq 一夜爆紅,憑藉其響應速度和可能不需要 GPU 的新技術,在社群媒體引發轟動。不過有專家稱,現階段想用它取代輝達 (NVDA-US) 的 GPU 仍然太貴,並不划算。據報導,Groq 背後的團隊爲大型語言模型 (LLM) 開發了自己的定制專用整合電路 (ASIC) 晶片,使其每秒可以產生大約 500 個 tokens。
2024-02-21
科技
專家:Groq雖然快 現階段仍難以取代輝達的GPU
Groq 一夜爆紅,憑藉其響應速度和可能不需要 GPU 的新技術,在社群媒體引發轟動。不過有專家稱,現階段想用它取代輝達 (NVDA-US) 的 GPU 仍然太貴,並不划算。據報導,Groq 背後的團隊爲大型語言模型 (LLM) 開發了自己的定制專用整合電路 (ASIC) 晶片,使其每秒可以產生大約 500 個 tokens。