Groq

超高速AI推理芯片和API服务,专注于低延迟推理

Groq开发了革命性的Language Processing Unit (LPU)芯片,专门为大语言模型推理优化,提供业界领先的推理速度。通过Groq Cloud API,开发者可以访问在LPU上运行的各种开源模型,享受极低延迟和高吞吐量的AI服务。