エンジニア大興奮のAPIアップデートが来ました!!
簡単に要点を紹介していくぜ!
OpenAI APIがアップデートされて開発に革命がおきました。
これで既存AIツールの性能が向上するので新しいサービスが続々出てくるはずです。
非エンジニアでも知ってた方がいい情報いる?
非エンジニアも知っておくべき内容は下記3点です!
- トークン量増加
→gpt-3.5-turboが4倍の16Kに - API価格の低下
→最大75%低下 - Function Call機能追加
→開発の幅が広がる
一番のポイントは3番だよ!!
①トークン量増加
gpt-3.5-turboが4K→16Kとトークン数が4倍に
16kだと処理できる情報が増えます。
1回のリクエストで20ページ程度のテキストを処理できると公式から言及あり
長文要約、出力ができるようになり可能性が無限大
トークンとは
テキストデータを分割する最小単位のこと
英語だと1単語が1トークンという換算だが、日本語だとひらがな、漢字どちらも1文字1トークン換算になる
■GPT-4
Model | Input | Output |
---|---|---|
8K context | $0.03/1K tokens | $0.06/1K tokens |
32K context | $0.06/1K tokens | $0.12/1K tokens |
■GPT-3.5-turbo
Model | Input | Output |
---|---|---|
4K context | $0.0015/1K tokens | $0.002/1K tokens |
16K context | $0.003/1K tokens | $0.004/1K tokens |
赤色が新しく出たAPIのプランだよ!
1回のリクエストで20ページ分も処理できるのはめちゃくちゃ熱い!!
②API価格の低下
一部の機能が低料金化されて、エンジニアは大歓喜だったねw
■まとめ
・gpt-3.5-turbo 4K:入力トークンは25%安くなった
・GPT-4は変わらず
・Embeddings APIであるtext-embedding-ada-002の料金は75%減
○ext-embedding-ada-002
アプデ前:$0.0004 / 1K tokens
アプデ後:$0.0001 / 1K tokens
■GPT-3.5-turbo 4K
入力トークン | 出力トークン | |
---|---|---|
アプデ前 | $0.002/1K tokens | $0.002/1K tokens |
アプデ後 | $0.0015/1K tokens | $0.002/1K tokens |
25%ダウンしました。
③Function Call機能追加
これが今回一番の大目玉!!
ChatGPT PluginのAPI解放を意味します。
既存のITツールと簡単に連携ができるのが激アツポイント!
これでChatGPTのカスタマイズの幅が大幅に広がりました!
○概要
・関数呼び出し
・GPTの機能を外部ツールやAPIと接続できる
○できること
・ChatGPTプラグインなどの外部ツールを呼び出して質問に答えるチャットbotを構築
・自然言語をAPI呼び出しやデータクエリに変換
まとめ
簡単にまとめると3点
・ChatGPTを安く使える。
・入力、出力の文字数が増えた。
・外部ツールと連携も簡単。
激アツ!!!!
チャットボットの精度がめちゃくちゃ上がるぞ!
このAIの大海原に俺も乗るぞ〜〜!