GPT-4 API 接口调用及价格分析

15日凌晨  
    
    
    
，OpenAI发布了万众期待的GPT-4！新模型支持多模态

     


     


     


   ，具备强大的识图能力 




 




 




 

，并且推理能力和回答准确性显著提高  
    
    
    
。在各种专业和学术基准测试上的表现都媲美甚至超过人类

     


     


     


   。难怪OpenAI CEO Sam Altman称GPT-4“是我们迄今为止功能最强大的模型！  
    
    
    
”

关于GPT-4的能力  

   

   

   

，我在发布当天就做了测试

     

     

     

  ，具体结果请阅读《OpenAI 发布GPT-4——全网抢先体验》 




 




 




 

。

对开发者来说  




  




  




  
，GPT-4最激动人心的是API接口同步发布  

   

   

   

。目前需要申请才能访问

     

     

     

  。我第一时间加入了waitlist  


  


  


  


，今天获得了访问权限
     
     
     
 ，本文将跟大家分享GPT-4 API接口的使用以及大家关心的价格分析  




  




  




  
。

GPT-4 API

GPT-4 API的接口和参数跟早前开放的GPT-3.5接口一致
   




   




   




   ，模型名称为:

模型名称 描述 最大token数 训练数据 gpt-4 比 GPT-3.5 模型更强大 



 



 



 



，能够执行更复杂的任务                ，并针对聊天场景进行了优化  


  


  


  


。 会不断迭代更新
     
     
     
 。 8,192 截至2021年6月 gpt-4-0314 gpt-4的2023年3月14日快照版本
   




   




   




   。此模型在接下来3个月内不会更新

    




    




    




    ，有效期截止2023年6月14日 



 



 



 



。 8,192 截至2019年10月 gpt-4-32k 与 gpt-4 功能相同


















，但上下文长度是gpt-4 的4 倍                。会不断迭代更新

    




    




    




    。 32,768 截至2021年6月 gpt-4-32k-0314 gpt-4-32k的2023年3月14日快照版本


















。此模型在接下来3个月内不会更新                 ，有效期截止2023年6月14日                 。 32,768 截至2019年10月

限制

由于还在beta阶段

     



     



     



    ，GPT-4 API的调用有频次限制：

40k tokens / 分钟 200 请求 / 分钟

这个频次对功能测试和概念验证来说已经足够了

     



     



     



    。

如果使用ChatGPT Plus体验GPT-4

















，有4小时100条消息的限制

















。

价格

GPT-4 API的定价策略与之前模型不同  
    
    
    
。在GPT-4之前  
    
    
    
，接口定价按照token数统一收费

     


     


     


   ，不区分是prompt的token还是生成响应的token

     


     


     


   。而GPT-4将prompt token和生成响应token分开计价 




 




 




 

，价格如下：

$0.03美元 / 1K prompt token $0.06美元 / 1K 生成响应 token

这个价格相比 gpt-3.5-turbo 的 $0.002 / 1K tokens来说贵了至少15倍起 




 




 




 

。

由于GPT-4接口价格太贵  

   

   

   

，且prompt和生成响应分开收费

     

     

     

  ，因此在大规模使用GPT-4 API之前  




  




  




  
，我们有必要对其价格进行细致的分析  

   

   

   

。

价格分析

token数评估

GPT+ 系列API最难评估的一点就是token数与单词（字数）的对应关系

     

     

     

  。因为我们能直观了解到的只有字数或单词数  


  


  


  


，而token数是tokenized后的标记数
     
     
     
 ，我们无法直接准确的估计  




  




  




  
。好在接口会返回每次请求promot和生成响应的token数
   




   




   




   ，我们可以通过统计手段大致获得一个token数和字数之间的对应关系  


  


  


  


。

我从短到长找了8篇文章输入GPT-4 API 



 



 



 



，为了结果稳定                ，模型我选择了稳定不更新的gpt-4–0314

    




    




    




    ，然后根据接口返回统计prompt token数


















，结果如下：

# 字数 token数 百分比 1 1,600 2,133 75.01% 2 2,000 2,667 74.99% 3 47,094 62,792 75.00% 4 90,000 120,000 75.00% 5 445,134 593,512 75.00% 6 783,134 1,044,183 75.00% 7 884,421 1,179,228 75.00% 8 1,084,170 1,445,560 75.00%

通过上面的测试结果                 ，我们可以得到一个重要结论：

大约每750字（单词）消耗1000 token

价格比较

我们首先横向比较一下几个模型的单价

$0.06 $0.03 $0.002 $0.02 $0.002 $0.0005 $0.0004 gpt-4(completion) gpt-4(prompt) gpt-3.5-turbo davinci curie babbage ada gpt-4(completion) 0 1 29 2 29 119 149 gpt-4(prompt) -0.5 0 14 0.5 14 59 74

从上表可以看到

     



     



     



    ，gpt-4 prompt 比 gpt-3.5-turbo贵了14倍

















，gpt-4 completion 比 gpt-3.5-turbo贵了29倍！假设prompt和completion的字数为1:4（实际中completion往往比prompt要长）  
    
    
    
，那么gpt-4接口的综合成本是gpt-3.5-turbo的27倍！

下面的表格更加直观地给出了各模型处理相应字数所需的花费：

从上表可见

     


     


     


   ，gpt-3.5-turbo $20美元能处理750万字 




 




 




 

，而相同金额在gpt-4中只能处理30万字左右
     
     
     
 。

那么问题来了  

   

   

   

，是否值得花20多倍的成本去使用gpt-4？换句话说

     

     

     

  ，gpt-4相对gpt-3.5-turbo的能力提升有没有20倍的效用？

GPT-4是否值得？

这个问题的答案很大程度上依赖你的场景
   




   




   




   。如果是对正确性要求较高的场景（比如法律  




  




  




  
，教育等）  


  


  


  


，那么GPT-4绝对是比GPT-3.5更好的选择 



 



 



 



。其他用例和场景我都建议进行深入测试
     
     
     
 ，以确定增加的成本是否会带来比 ChatGPT API 对等的好处                。

值得一提的是
   




   




   




   ，gpt-4 模型的最大token数是gpt-3.5-turbo的2倍 



 



 



 



，对于长文本生成的场景                ，如果gpt-3.5-turbo最大4,096 token不够用

    




    




    




    ，那么可以选择使用gpt-4

    




    




    




    。同时GPT-4还提供了32K版本


















，支持32,768 token                 ，不过价格也更贵


















。

$0.06美元 / 1K prompt token $0.12美元 / 1K 生成响应 token

总之

     



     



     



    ，ChatGPT API 和 GPT-4 API 之间的选择取决于项目的具体需求和约束                 。当你站在尖端技术的十字路口时

















，请认真考虑真正重要的因素：

预期的应用 期望的准确度 道德考量 财务影响 对未来发展的适应性

最终  
    
    
    
，你的决定将证明你的远见和拥抱人工智能变革带来的领先优势

     



     



     



    。