Groq API:可以免費用的AI語言模型API
編輯日期:2025-04-22
發布日期:2025-04-22
軟體開發
通用開發

打開Groq首頁,就能看到

Groq is Fast AI Inference

這樣一句口號、每秒500token的速度,這些特點讓Groq的討論度在語言模型AI之間有不小的熱度,但是…

我今天是來說一件事的,

你知道Groq有免費的語言模型API可以玩嗎?

雖然Chat-GPT也有人在github上面提供可用的api key,但官方自己提供免費的API額度這可是非常難得,更別說提供的額度也並不少。

充裕的使用限額 🔗

以我個人串接Discord機器人單句回答的經驗,和三兩好友測試一晚上也才花了一個模型的將近一天上限的1/10而已,以非商用來說非常充裕。

Groq API limits

兼容性 🔗

在使用上,基本上可以直接把GPT API的Request、Response無痛套用在Groq API上面,就算未來要換過去或換回來都不用改動太大量的程式,

Groq API Doc - Chat

速度 🔗

在使用groq Api之前我有玩過自架LLM Ollama,在效能不好的電腦上面架好Ollama並跑模型那速度真的是很明顯的慢,能跑到個位數的秒數基本都是奇蹟,但groq API在我單句使用上都能幾秒內回覆,就算是一般的免費額度高的小模型也還是有著不錯的速度。


以上,推薦給想要玩玩看AI語言模型API,但是不敢馬上付錢,也不敢去用網上github提供api key的你,試一試這個佛心提供免費API的Groq API吧!

Groq Home