加拿大AI新興企業Cohere近日震撼發布了一款名為Command A的人工智能模型,該模型以其輕量級部署和高效性能為核心賣點,引起了業界的廣泛關注。據悉,Command A僅需兩塊英偉達A100或H100 GPU便能輕松運作,其表現被贊譽可與GPT-4o相抗衡,實現了硬件資源最小化與性能最大化的完美結合。
Cohere公司明確指出,Command A是專為中小企業量身打造。它不僅支持長達256k的上下文長度,還覆蓋了23種語言,相較于市場上其他同類模型需要高達32塊GPU的配置,Command A的部署成本顯然更為親民。
在性能測試環節,Command A展現出了驚人的速度,每秒最多可輸出156個Token,這一數據據稱比GPT-4o快了1.75倍。在指令追蹤、SQL處理、代理程序運行及工具任務等多個基準測試中,Command A同樣取得了優異的成績。
Cohere還指出,當前業內的一些大型語言模型由于規模過于龐大,在輸出結果時往往會出現嚴重的延遲問題。而對于那些追求快速、準確答案的用戶來說,Command A無疑是一個更為理想的選擇。
Cohere已將Command A模型發布至Hugging Face平臺,供學術界自由使用。未來,該模型還將登陸更多云服務平臺,進一步擴大其應用范圍和影響力。