Groq APIを使ってVSCodeで無料でLLMのアシスタンスを構築しよう！

update：2025/04/14

Category : エディタ

皆さんはGroqをご存知ですか？

GroqはLanguage Processing Unit(LPU)を作成するメーカーです。昨今進化が止まらぬLLMに特化したプロセッサーを提供しています。

そんなGroqがLPUの有意性を示すために無償でAPIを提供しています。(2025/04/13時点)

今回はGroq APIの導入からVSCodeへ導入する過程を紹介します。

ついでにcursorエディタへの導入もおまけで紹介します。どうぞお付き合いください。

Groq APIの導入

Groq APIを利用するにあたって、まずはこちらでユーザ登録をします。

ユーザー登録が済んだらAPIキーを発行します。発行したらコマンドラインを開いて

GROQ_API_KEY={発行したキー}
curl https://api.groq.com/openai/v1/chat/completions -s \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $GROQ_API_KEY" \
-d '{
"model": "llama-3.3-70b-versatile",
"messages": [{
    "role": "user",
    "content": "Explain the importance of fast language models"
}]
}'

を実行してみてください。LLMの高速化がなぜ重要なのかを説明してくれます。(LPU最高！)

当然ながら文章内容は変更でき、 "content": "Explain the importance of fast language models"の部分を好きな文章、例えば

"content": "黒田幸者はイケメンですよね。なぜイケメンなのでしょうか？"

などと書き込めば、それに対応した回答が返ってきます。

Groqで使用できるモデルの確認

curl -X GET "https://api.groq.com/openai/v1/models" \
     -H "Authorization: Bearer $GROQ_API_KEY" \
     -H "Content-Type: application/json" | jq

APIキーが正しく取得できていれば、現在Groq APIで使用できるLLMの種類が表示されます。

Continueの利用

VSCodeの拡張機能にcontinueなるものがあります。これはgithub copilotのようなLLMのコードアシスタント機能を提供する拡張機能で、好きなAPIを使用することができます。

もし潤沢な計算資源があるのなら、自分の手元でローカルLLMを構築して使用するなんてこともできるでしょうね。

話を戻します。

Continueをインストールしたら、/home/${USER}/.continue/config.yamlに

name: Local Assistant
version: 1.0.0
schema: v1
models:
  - name: llama-4-maverick-17b-128e-instruct #ここは何でも良い
    provider: groq
    model: meta-llama/llama-4-maverick-17b-128e-instruct #最新llama4を使ってみる
    apiKey: {APIキー} 
  #- name: Gemini 2.0 Flash # Google GeminiのAPIも追加できる
  #  provider: gemini
  #  model: gemini-2.0-flash
  #  apiKey: {GeminiのAPIキー}
context:
  - provider: code
  - provider: docs
  - provider: diff
  - provider: terminal
  - provider: problems
  - provider: folder
  - provider: codebase

と書き込みます。そうすればmodelが使用できるようになります。 ctrl+Lやctrl+Iなどと押せば、チャット欄が出てきます。コードを行選択してfixさせるなんてのもできます。便利ですね。

cursorほどきれいなアシスタントはできませんが、無料でいろいろなモデルを試したいという方にはよろしいかと思います。

おまけ：cursorへの導入

右上の設定ボタンから設定画面を開き、“Models”を選択してください。 “OpenAI API Key”の欄に”Override OpenAI Base URL”という欄があるのでhttps://api.groq.com/openai/v1 と書き込みます。 APIキーの欄はGroqのものをコピペしてください。

次に　+ Add modelの欄にGroqの公開しているモデルの名前を入力すれば使用できるようになります。