2023/04/28(金)朝、OpenAIから以下のメールが届きました。
既にGPT-3.5-turboを用いてAPIを使う方法については解説しているので、今回は、
- GPT-4が無料で使えるなら使ってみたい！
- 既にGPT-3.5を使ってるけど、何を変更したらいいの？
- 噂によると高いって聞いたんだけど、GPT-3.5とどのくらい違うの？
このへんを中心に、GPT-4 APIを利用する方法と注意点について解説します。
GPT-4の順番待ちがまだの方は
GPT-4 APIの利用には、順番待ち登録が必要です。登録がまだの方は、以下の記事に手順を載せていますのでご参照ください。GPT-4 APIの料金体系についてもあわせて解説しています。
料金・回数制限について
料金
料金は、プロンプトと応答メッセージの合計金額となります。参考：https://openai.com/pricing
| トークン長 | プロンプト (ユーザーからの質問文) | 応答メッセージ |
|---|---|---|
| 8K | 0.03ドル | 0.06ドル |
| 32K | 0.06ドル | 0.12ドル |
ユーザーには18ドル分の無料クレジットが付与されており、その範囲内であれば無料で使うことができます。
GPT-3.5よりかなり高め
GPT-3.5の料金は、0.002ドル / 1,000 トークンです。GPT-4は、その10倍以上のコストがかかります。ドルだといまいちピンときませんので、以下に具体的な例を載せます。
表は、ChatGPT APIを使用したチャットボットを使った際の使用トークン量の履歴を記録したものです。1回のやりとりにつき、大体10～200トークン消費しています。
GPT-4,GPT-3.5それぞれのコストを算出したところ、7回利用しただけでも日本円で3円程度の差がありました。もし、平均50トークンのチャットを1日に100回した場合、78日で無料クレジット分は尽きてしまいます。上記はチャットボットの使用履歴ですが、もし、ブログやソースコードなどの長い文章を出力させる場合にはさらに多くのトークンを消費しますので、この点には気を付けたいところです。
対策としては、APIを利用する際には応答メッセージの長さを必ず指定するようにします（先ほどのサンプルコードでは256に指定してあります）。
また、使用状況を定期的にチェックするのも有効です。詳細に料金を計算・管理したい場合は、以下の記事をご参照ください。
マイページからも確認可能
使用状況はOpenAIのマイページからも確認することができます。
言うてそんなに長いプロンプトにならなくない？
「32Kって・・・そんなに長いプロンプトにならなくない！？」と思うところですが、ChatGPTのAPIは会話履歴を保持しないので、過去の履歴も踏まえて質問したい場合には過去のやりとりも一緒にプロンプトに含める必要があります。
会話が長くなればなるほど、使用するトークン量は増加します。
トークン数をカウントするツール
OpenAIでは、「Tokenizer」というページで、プロンプトのトークン数を調べることができます。トークン数は、単純に形態素解析したものではなく、独自の数え方をしているため、公式で公開されているカウンターを使うのが一番正確です。
回数制限
ChatGPT Plus(Web版)では、GPT-4モデルに利用回数制限があり、4/28現在、3時間あたり25回までとなっています。
いっぽう、GPT-4 APIでは、レート制限はあるものの、1分あたり3リクエスト・40,000トークンまで(無料版)となっており、そうそう制限に引っかかることはないかと思います。
OpenAI APIの使い方
APIを使うには、以下の手順が必要です。
- OpenAIアカウント登録（既にChatGPTを使っている人は不要）
- APIキーの発行
- APIリクエスト処理の実装
詳しいやり方は以下記事をご参照ください。
記事内に、Google Apps Script(GAS)のサンプルコードを載せています。サンプルコードのうち、
const MODEL_NAME = 'gpt-3.5-turbo';を、
const MODEL_NAME = 'gpt-4';に変更すればOKです。
最大トークン数を指定しておく
先ほど料金の解説でもあったとおり、GPT-4はGPT-3.5に比べて高いです。ChatGPTからの応答文の長さは、デフォルトでは4,096となっています。これだと1回のやりとりに約30円程度かかってしまいますので、長さを制限しておきます。
サンプルコードではデフォルトを「256」に設定していますが、ご自身の環境に合わせて1～4096の範囲で指定してください。
const MAX_TOKENS = 256;LINE上でChatGPTが使えるBotのサンプルコード
ここまで、GPT-4について解説してきましたが、実際になにか作ってみたい！という方向けに、LINEでChatGPTを使えるチャットボットの作成方法を紹介します。
こちらはLINEの開発用ツール「LINE Developers」と、Google社が公開しているプログラミング言語「Google Apps Script(GAS)」で作成したボットです。どちらも無料で使うことができ、環境構築不要なのでプログラミングをしたことのない方にもおすすめです。
詳細は以下の記事をご参照ください。
こちら沢山の方に試していただき、実装できたというお声をいただいております！うれしいです！分からない箇所がありましたら気軽にご質問いただければと思います。
まとめ
GPT-4の順番待ち登録してから1ヶ月以上、「順番待ち」に1ヶ月もかかるとは・・・。もはや順番待ちとは何なのか分かりませんが、連休前にGPT-4が使えるようになるなんて、ナイスタイミングですね！
GPT-3.5がかなり低コストだったぶん、比較するとどうしても高いなと思ってしまいます。個人で使う分にはそこまで気にしなくても良いレベルかもしれませんが、ヘビーに使うならChatGPT Plusに課金しちゃったほうが良いパターンもありそうですね。
現時点ではテキストのみのチャットとなっていますが、GPT-4は画像での質問もできるようになると発表されています。画像で質問して、「冷蔵庫の中にあるものからレシピを考えて」なんてできたら主婦にとっては有難いんですが、画像質問だとどのくらいトークンを消費するんでしょうか。気になります。というか早く実装されないかな・・・
コメント