多模态内容层面（OpenAI GPT-4震撼发布：多模态大模型）

前言：

🏠个人主页：以山河作礼
  
  
  
  
  
  
  
 。

📝​📝:本文章是帮助大家更加了解GPT4               ，一起见证Al的成长！

🎈🎈欢迎大家一起学习
  
 
  
 
  
 
  
 
  
 
  
 
  
 
  ，一起成长！！

3 月 14 日晚间














，OpenAI 宣布发布 GPT-4  
  
  
  
  
  
  
 。

“我们创建了 GPT-4 
  
  
  
  
  
  
  
，这是 OpenAI 努力扩展深度学习的最新里程碑
 


 


 


 


 


 


 


 
。GPT-4 是一个大型多模态模型（接受图像和文本输入
  
  
  
  
  
  
  
 ，提供文本输出）
 


 


 


 


 


 


 


 ，虽然在许多现实世界场景中的能力不如人类 
 
 
 
 
 
 
 
，但在各种专业和学术基准上表现出人类水平               ”
   
   
   
   
   
   
   
 ，OpenAI 表示
 
 
 
 
 
 
 
。

发布要点

GPT-4可以接受图像和文本输入
 

 

 

 

 

 

 

 ，而GPT-3.5只接受文本   
   
   
   
   
   
   
  。 GPT-4在各种专业和学术基准上的表现达到 “人类水平
  
 
  
 
  
 
  
 
  
 
  
 
  
 
  ”
 

 

 

 

 

 

 

 
。例如 

 

 

 

 

 

 

 
，它通过了模拟的律师考试               ，分数约为应试者的前10%

 

 

 

 

 

 

 
。 OpenAI花了6个月的时间

 
 

 
 

 
 

 
 

 
 

 
 

 
 

 ，利用从对抗性测试项目以及ChatGPT中获得的经验














，反复调整GPT-4                       ，结果在事实性
  
  
  
  
  
  
  
 、可引导性和可控制方面取得了

“史上最佳结果














”                。 在简单的聊天中
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 ，GPT-3.5和GPT-4之间的区别可能微不足道






















，但是当任务的复杂性达到足够的阈值时               ，区别就出来了
  
 
  
 
  
 
  
 
  
 
  
 
  
 
  ，GPT-4比GPT-3.5更可靠














，更有创造力 
  
  
  
  
  
  
  
，能够处理更细微的指令
 
 

 
 

 
 

 
 

 
 

 
 

 
 

 
。 GPT-4能对相对复杂的图像进行说明和解释
  
  
  
  
  
  
  
 ，比如说
 


 


 


 


 


 


 


 ，从插入iPhone的图片中识别出一个Lightning

Cable适配器（下文有图片）














。 图像理解能力还没有向所有OpenAI的客户开发 
 
 
 
 
 
 
 
，OpenAI正在与合作伙伴Be My Eyes进行测试                       。 OpenAI承认
   
   
   
   
   
   
   
 ，GPT-4并不完美
 

 

 

 

 

 

 

 ，仍然会对事实验证的问题产生错乱感 

 

 

 

 

 

 

 
，也会犯一些推理错误               ，偶尔过度自信 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
。 开源OpenAI Evals,用于创建和运行评估GPT-4等模型的基准

 
 

 
 

 
 

 
 

 
 

 
 

 
 

 ，同时逐个样本检查其性能






















。

OpenAI 联合创始人 Sam Altman 表示














，它是“迄今为止功能最强大  
  
  
  
  
  
  
 、最一致的模型 
  
  
  
  
  
  
  
”                       ，能够使用图像和文本               。

GPT4的新功能

GPT-4:我能玩梗图

首先
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 ，看图能力可以用来解释表情包
 


 


 


 


 


 


 


 
、梗图  
 
  
 
  
 
  
 
  
 
  
 
  
 
  
。

提问这张图哪里好笑？GPT-4可以按顺序描述出每一格的内容






















，并总结出笑点：

为什么这张图片很可笑？GPT-4 回答道               ，VGA 线充 iPhone














。

GPT4:理解图片

当你给 GPT-4 发送下面这张图片
  
 
  
 
  
 
  
 
  
 
  
 
  
 
  ，并询问它














，该图片有哪些不寻常的地方？ GPT-4 回答：这张照片的不同寻常之处在于 
  
  
  
  
  
  
  
，一名男子正在行驶中的出租车车顶上的熨衣板上熨烫衣服
  
  
  
  
  
  
  
 。

(看图）手套掉下去会怎样?

GPT-4 回答道,它会掉到木板上
  
  
  
  
  
  
  
 ，并且球会被弹飞

拍一张照片上传给GPT-4
 


 


 


 


 


 


 


 ，它就可以立马生成网站的HTML代码！

GPT4:识别与解析图片内容

在性能表现上 
 
 
 
 
 
 
 
，OpenAI直接甩出一句话：

在各种专业和学术基准上和人类相当！

最近这几个月
   
   
   
   
   
   
   
 ，ChatGPT 的爆火
 

 

 

 

 

 

 

 ，让人们惊叹于人工智能强大的聊天能力  
  
  
  
  
  
  
 。GPT4 出来后 

 

 

 

 

 

 

 
，可以看到               ，在聊天之外

 
 

 
 

 
 

 
 

 
 

 
 

 
 

 ，人工智能的能力已不断扩展其外延
 


 


 


 


 


 


 


 
。

ChatGPT 用的语言模型是 GPT-3.5
 
 
 
 
 
 
 
。在谈到 GPT-4 比前一个版本强大在哪里时














，OpenAI

称                       ，虽然这两个版本在随意的谈话中看起来很相似
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 ，但“当任务的复杂性达到足够的阈值时






















，差异就会出现
  
  
  
  
  
  
  
 ”               ，GPT-4

更可靠
 
 
 
 
 
 
 
、更有创意
  
 
  
 
  
 
  
 
  
 
  
 
  
 
  ，并且能够处理更细微的指令   
   
   
   
   
   
   
  。该公司表示














，GPT-4 响应禁止内容请求的可能性比其前一个版本低 82%
 

 

 

 

 

 

 

 
。OpenAI

表示 
  
  
  
  
  
  
  
，在内部评估中
  
  
  
  
  
  
  
 ，GPT-4 产生正确回应的可能性要比 GPT-3.5 高出 40%

 

 

 

 

 

 

 
。

而且 GPT-4 是多模态的
 


 


 


 


 


 


 


 ，同时支持文本和图像输入功能                。此外 
 
 
 
 
 
 
 
，GPT-4 比以前的版本“更大
 


 


 


 


 


 


 


 ”
   
   
   
   
   
   
   
 ，这意味着其已经在更多的数据上进行了训练
 

 

 

 

 

 

 

 ，并且在模型文件中有更多的权重 

 

 

 

 

 

 

 
，这也使得它的运行成本更高
 
 

 
 

 
 

 
 

 
 

 
 

 
 

 
。

OpenAI 称它使用了微软 Azure 来训练模型               ，但没有公布有关具体模型大小或用于训练它的硬件的详细信息














。

史上最强大模型

正如之前传言

 
 

 
 

 
 

 
 

 
 

 
 

 
 

 ，GPT-4确实拥有多模态能力














，可以接受图像输入并理解图像内容                       。 并且可接受的文字输入长度也增加到3.2万个token（约2.4万单词） 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
。 升级之后                       ，GPT-4在各种职业和学术考试上表现和人类水平相当






















。 比如模拟律师考试
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 ，GPT-4取得了前10%的好成绩






















，相比之下GPT-3.5是倒数10%               。 做美国高考SAT试题               ，GPT-4也在阅读写作中拿下710分高分   
   
   
   
   
   
   
  、数学700分（满分800）  
 
  
 
  
 
  
 
  
 
  
 
  
 
  
。

怎样面对GPT4

GPT-4 再次给我们敲响了警钟：拥有如此强大的编程能力
  
 
  
 
  
 
  
 
  
 
  
 
  
 
  ，AI 真的会取代程序员？

前段时间














，前哈佛大学计算机科学教授
 

 

 

 

 

 

 

 
、谷歌工程主管 Matt Welsh 还曾对此发出断言 
  
  
  
  
  
  
  
，表示“生成式 AI 将在 3 年内终结编程 
 
 
 
 
 
 
 
”
  
  
  
  
  
  
  
 ，放在当下来看
 


 


 


 


 


 


 


 ，也许 Welsh 所言非虚














。

Welsh 认为 
 
 
 
 
 
 
 
，由于 ChatGPT 和 Copilot

等技术的出现
   
   
   
   
   
   
   
 ，编程正处于从人类工作转变为机器人工作的转折点
  
  
  
  
  
  
  
 。在他看来
 

 

 

 

 

 

 

 ，程序员需要演变成 AI

程序的“老师
   
   
   
   
   
   
   
 ”——或者产品经理 

 

 

 

 

 

 

 
，或者代码评审人员  
  
  
  
  
  
  
 。他认为这两个人类角色相对来说不那么受机器人的影响
 


 


 


 


 


 


 


 
。“不要指望你的程序员职业生涯会一直持续下去               ，因为机器正在取代这个角色
 
 
 
 
 
 
 
。
 

 

 

 

 

 

 

 ”Welsh说道   
   
   
   
   
   
   
  。

也许我们正处于一个动荡的周期之中

 
 

 
 

 
 

 
 

 
 

 
 

 
 

 ，现在的问题不是会不会被取代














，而是 AI 将在多大程度上改变软件行业                       ，而我们也需要为未来做好准备：现在就必须习惯人工智能
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 ，毕竟让 AI 帮助我们编程就在不远的未来
 

 

 

 

 

 

 

 
。

申请 GPT-4 API

目前






















，OpenAI 已面向开发者开放 GPT-4 API 的申请通道               ，大家想提前使用的话
  
 
  
 
  
 
  
 
  
 
  
 
  
 
  ，可以先提交申请














，进入 waitlist 中等待通过

 

 

 

 

 

 

 
。

申请通道：https://openai.com/waitlist/gpt-4-api

获得访问权限后 
  
  
  
  
  
  
  
，用户当前还是只能向 GPT-4 模型发出纯文本请求
  
  
  
  
  
  
  
 ，图像请求可能得等稍晚一些时间才对外开放                。