传媒教育网

 找回密码
 实名注册

QQ登录

只需一步,快速开始

搜索
做个试验
查看: 424|回复: 0
打印 上一主题 下一主题

GPT-4「变懒」bug被修复,价格暴降80%!OpenAI连更5款新模型,性能狂飙

[复制链接]
跳转到指定楼层
楼主
发表于 2024-1-26 21:52:32 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
【案例】
, i9 @1 S& Z  T# X2 P; T) H
0 f+ S& q7 {) p' C# P$ j  _
GPT-4「变懒」bug被修复,价格暴降80%!OpenAI连更5款新模型,性能狂飙
新智元   2024-01-26 12:18 发表于北京

+ [3 b+ `0 E# J: T6 F: A
新智元报道  
编辑:编辑部
9 ^, u, D6 h, M9 z0 U3 [
【新智元导读】昨夜,OpenAI一口气连更5款新模型。GPT-4 Turbo变懒问题修复,代码生成能力史诗级加强。另外,多款模型价格大幅暴降。5 t, X" T' n9 h8 ^8 K+ p+ y

( R+ {8 U- T8 N+ J% I0 |, a( n. J! T
+ ?* ^( U/ u: {- x
  GPT-4又双叒叕变强了!3 x0 g+ `" l1 g4 `3 ?! S& B

% g2 r9 t0 {4 w4 T, I/ V  今天,OpenAI正式发布了更新版的GPT-4 Turbo——gpt-4-0125-preview# I( O8 \/ l! i: F' I( r) u

8 J; y0 l! G* m( o) L7 I2 X  不仅大幅改善了模型「偷懒」的情况,而且还极大地提升了代码生成的能力。! m. ^/ i+ O$ m: d
. u- z4 V8 ^, F% O7 P

9 ~, D% Z1 I# ?; T
- n9 x+ ^# m$ q( k, i; B8 B  G2 L: l" G
  与此同时,OpenAI还发布了一系列模型和API更新,总体来说就是「更强的性能,更低的价格」。
4 i/ A( R* l1 i: ^4 [

- n; v/ }1 P  J% q& }  - GPT-3.5 Turbo更新——gpt-3.5-turbo-0125。输入价格大降50%,输出价格下降25%。性能上也有升级。7 }  _8 P7 ?9 O. b
4 p$ J# c- y/ @; \3 R$ U- G
  - 「迄今为止最强」的审核模型text-moderation-007,帮助开发者有效地识别有害文本。; J+ P" Q/ f! U5 m

2 [6 a# _/ A; J" c: t7 w1 Y: }  两个新一代embedding模型:# f$ c9 m0 t; q0 _

  N. H. o6 ^0 y, \$ R: V' b- @  - text-embedding-3-small,体积更小效率更高,价格直接砍到了原模型20%!支持512维和1536维两种大小。) K) r" m7 X) y2 l7 O3 x
  - text-embedding-3-large,性能相比之前模型大幅提升,高达3072维的嵌入向量,价格是小模型的6.5倍。
0 u; P) h" P* l/ W7 O  最后,OpenAI还强调称,用户通过API传送的数据,都不会被用于训练新的模型。2 M! s' E: _# S- B- x6 i3 ]! \% G
1 f3 ^2 b6 X  C6 C7 ~7 @
, \( i+ J5 E( H+ k: H8 m; z) V

; U5 K- d% J2 H. J1 R. x% V$ R
  GPT-4更强了,变懒bug修复
  自从去年11月份开发者大会发布GPT-4-Turbo以来,超过70%的GPT-4 API用户已经转用了GPT-4-Turbo预览版,从而能够享受最新的知识戒指日期、更大的128k上下文窗口和更低的价格。
$ }7 Z7 K0 Z" |, z7 t: M
8 b4 ~3 B8 w: K" p' X
  最新更新的GPT-4-Turbo 预览模型——gpt-4-0125-preview在执行任务(如代码生成)方面比之前的预览版要更强,能够减少模型有可能出现的「偷懒」现象。# Z- \5 r/ `, a0 c+ [
! D& |- z4 m* }9 m& s7 m6 ^: D! v
  新模型还修复了一个影响非英文UTF-8生成的漏洞。
0 J9 S* ^9 p& H( A+ [  对于那些希望自动升级到最新GPT-4-Turbo预览版的用户,OpenAI还推出了一个新的模型名别名gpt-4-turbo-preview,它将始终指向最新的GPT-4-Turbo预览版模型。& k1 Z# e6 A) H1 y- y) N
/ u) C; G' h! p, P
  在未来几个月内,OpenAI还会推出具备视觉功能的GPT-4-Turbo正式版。) a% ^+ N' c* U# X" U7 A6 q
2 W# n5 U  U+ m/ _/ u
1 J* R, z- ^, W5 f
  GPT-3.5-Turbo喜迎「降价增效」
  下周,OpenAI即将推出新版的GPT-3.5-Turbo,型号为gpt-3.5-turbo-0125。. O, N! E5 t- C; N4 g4 Z8 a
+ w( O3 O  w$ Y. ?2 J  Z
  在过去的一年里,OpenAI已经第三次下调GPT-3.5-Turbo的价格。
/ c: c" F. v' L) ?
2 D4 }! N* }( ^% ~, H! o; w
  新模型的输入价格下降了50%,现为0.0005美元/1k token;输出价格下降了 25%,现为0.0015美元/1k token。$ U' o2 }8 L5 v
  此外,模型还进行了多项改进,比如提高了按要求格式响应的准确性,并修复了一个导致非英文语言函数调用出现文本编码问题的漏洞。1 J& m$ v% R( X, f7 U- T

# Q7 v  z5 ]0 r& V9 g! Y8 U  在API中使用固定gpt-3.5-turbo模型名称的用户,将在这款新模型推出两周后,自动从gpt-3.5-turbo-0613升级至gpt-3.5-turbo-0125版本。
; M0 J; X8 b) y5 e0 w
* {2 }3 Y5 b: e6 s# ~

4 P% d* ~( [5 \/ n
  全新嵌入模型2连发:性能大涨价格狂降
  OpenAI推出了两款新的嵌入模型:体积更小、效率更高的text-embedding-3-small模型,以及更大、性能更强的text-embedding-3-large模型。
* W% _+ H8 V" }8 C5 Z; C0 K, R& o+ I  r2 i  B0 m5 M" R

- J' d3 I4 V: w5 r# m

' r% E2 K! B8 ^; Q" ~
  所谓嵌入(Embedding),就是将内容(如文字或代码)中的概念转化为一串数字序列。
' z) |1 L  [* K4 c9 E+ m  通过这种方式,机器学习模型和其他算法可以轻松理解不同内容之间的关系,执行聚类、检索等操作。$ }  @0 H( h- o) ~; V: K$ K$ F5 V/ o
: z/ b% E: j4 {1 f: y' _
  嵌入技术为 ChatGPT 和 Assistants API 中的知识检索功能,以及许多检索增强生成([color=var(--weui-LINK)][url=]RAG[/url])开发工具提供了强大动力。
9 _9 x# o" h+ b! \0 u" P  「小」文本嵌入模型:text-embedding-3-smalltext-embedding-3-small是OpenAI的新型高效嵌入模型,与2022年12月推出的前代产品text-embedding-ada-002相比,性能有了大幅提升。
; P* M/ r! q: {1 Y/ C% E, G/ t" C$ M, v- }8 N
6 C& L* t/ t/ U7 z0 g+ ?9 J
  - 性能更强. `" ^: D% T% `* p) E
& L. I- e% w9 V! H+ Z$ n: T
  在多语言检索(MIRACL)的常用基准测试中,text-embedding-3-small的平均得分从31.4%提高到44.0%,在英语任务(MTEB)的常用基准测试中,平均得分从61.0%提高到 62.3%。+ M5 \6 D) |7 [9 s
( P  z( ?6 ]6 E1 F! L
* c4 h9 H& s7 w5 D
  - 价格实惠, p/ I8 C2 f0 v! `' o& W+ c/ ^

0 Z" F! F* G9 ~# V  text-embedding-3-small远比OpenAI之前的text-embedding-ada-002模型效率高,因此价格也大幅降低了5倍,从每千token的0.0001美元降至0.00002美元。
7 d, c; I! I4 D( [

1 S& ^0 K" b5 c; n0 K7 u  OpenAI不会停用text-embedding-ada-002,尽管OpenAI更推荐用户使用新模型,客户仍可选择继续使用上一代产品。
2 \" B8 p1 e& j6 w" T  M" z  a# m8 z- [1 V% S! K4 t
, X2 m  k* H. o& d
「大」文本嵌入模型:text-embedding-3-large
  D7 K8 f' h# V/ x, b" v) n

/ a+ C% U( Z/ k4 q# I  text-embedding-3-large是OpenAI的新一代大型嵌入模型,能够生成高达3072维的嵌入向量。) l# ]5 Z! ^4 u0 S9 l3 J
  text-embedding-3-large是OpenAI目前性能最强的模型——
, ^5 ^, k: A, H+ @  R' H/ I
0 g3 S7 G0 }* P- j/ G% j6 e7 m
  与text-embedding-ada-002相比,它在MIRACL上的平均得分从31.4%提升至54.9%,在MTEB上的平均得分从61.0%提升至 64.6%。
4 u- |  x  v' Y3 O' \' H2 D7 s3 l7 Z
4 [4 o1 N5 ^7 z0 Q' b* ]
$ N# x& g" |. Z3 [" [! a) A" O

* U2 M  V% Y: v+ V$ j/ F% Y  text-embedding-3-large的价格定为0.00013美元/1k token。
6 D0 s9 l) ^& p8 H1 c2 D. q% z' E0 z# g0 x2 {5 ?) y( V6 m
/ v. `9 a1 b! Y

! p5 U) M/ ~- h4 |, y- K5 o, l6 ^' q/ y& f1 l5 R
  灵活调整嵌入向量
! u, t' Q  w! ^- q6 X4 P

+ @! J, p. m- K5 z: d+ @3 U  相比于小型嵌入,大型嵌入的存储和检索,如放置于向量存储库中,往往需要更高的成本,也消耗更多的计算资源、内存和存储空间。
8 V3 w2 v: e' L( M, `* O+ q

- O3 }$ `9 E8 S6 F  OpenAI的两款新嵌入模型均采用了一种特殊的训练技术,使得开发者可以在嵌入的使用成本和性能之间做出权衡。2 N3 G. |4 t) h/ C( d  A
  具体来说,开发者可以通过设定dimensions API参数来有效缩短嵌入向量的长度(也就是去掉数列末端的一些数字),而这样做不会影响嵌入向量代表概念的核心特性。
) o$ Y% S% @4 x/ n

4 {# P0 Q7 Y( G1 }  例如,在MTEB基准测试中,即使将text-embedding-3-large嵌入向量的长度缩减到 256,它的性能仍然超过了长度为1536的未经缩减的text-embedding-ada-002嵌入向量。/ t# W" [+ f$ X/ ]" T" W! g
  这种做法极大地增加了使用上的灵活性。
7 I' i4 T( T: {
5 ?1 E8 H3 ]  ?2 z  Q4 d
  比如说,当开发者需要使用一个只支持最大1024维度嵌入向量的向量数据存储时,可以选择OpenAI性能最佳的嵌入模型text-embedding-3-large,并通过设置dimensions API参数为1024,从而将原本3072维的嵌入向量缩减下来,以较小的向量尺寸为代价换取了准确度。3 B7 O' _! T# h, |7 ?
: T2 n+ Y5 A+ g7 Q8 _) C2 _0 d
! N# Y5 _8 h6 _5 E0 m3 H
* P. `1 O8 j& u" ?
  迄今最强的内容审核模型
  OpenAI提供的免费内容审核API可以帮助开发者识别可能有害的文本。
6 L% g5 l% f8 P. @3 V  Z9 {* U

7 d3 ~: X$ B/ d5 f7 ~: ?) M  作为OpenAI持续安全工作的一部分,OpenAI发布了迄今为止最强大的内容审核模型text-moderation-007。, K6 h7 O) q0 V7 h6 x

& \$ G+ t8 T( C6 \# A  此前的text-moderation-latest和text-moderation-stable,也将重新指向这个新模型。. p/ j6 F5 ]1 {- M4 Z: ^6 A" a
6 n. o) ]$ ~2 }# a( E2 K% v
: i! M# U: l+ B$ Y" ]
API后台更新,更好的API密钥管理
  OpenAI正在推出两项重要的平台升级,旨在为开发者提供对他们的API使用情况更清晰的洞察,并加强对API密钥的管理。
1 z# a& J, z- U$ L
1 m. ~5 G4 h' o; y4 D: ]$ R' n4 [
  首先,开发者可以直接在API密钥页面设置不同的密钥权限。5 A! L. w: m5 A7 n* B$ b+ y3 z6 m, I1 Z4 @
8 O2 {( ~4 j# b: U9 c: R3 U
  举个例子,用户可以为一个密钥配置只读权限,以便用于内部的跟踪数据面板,或者设置为仅限访问某些特定的接口。0 }4 B( l; ?# i, m8 o% @. Q% H8 \
  其次,一旦开启了密钥使用跟踪功能,使用仪表盘和数据导出功能就能够提供基于每个API 密钥的详细使用指标。这样一来,只需为不同的功能、团队、产品或项目分配独立的 API 密钥,就可以轻松地监控到各自的使用情况。+ Q9 w' c  u! N2 v/ i0 _4 J+ \: h$ X

0 n0 t- p. l; U" C  在接下来的几个月里,OpenAI计划为开发者提供更多便利,让他们能够更好地监控 API 使用情况并管理 API 密钥,这一点对于大型组织来说尤其重要。& I' e/ Q* B$ k- F: g' h9 S  M
+ t, \  e) @+ P

; G0 Z" Q# ~$ \- e

' e8 B7 J# u- _  E" U/ _
, ~/ n6 w: V4 g% K& o- Q: S
来源:新智元(公众号)
: W, G+ U" d1 \. o, J0 C- R链接:https://mp.weixin.qq.com/s/6deJkhCniZPCMdZdy1T2Yg
  B$ X+ F: w' i- ^3 j* m: T编辑:李梦瑶3 |, C, ^* {! [

9 b+ i8 F5 Z( D+ D& h' d; @0 Q3 p- [

8 `7 R. `+ K  Q0 ^7 x+ Q, @
分享到:  QQ好友和群QQ好友和群 QQ空间QQ空间 腾讯微博腾讯微博 腾讯朋友腾讯朋友
收藏收藏 支持支持 反对反对

发表回复

您需要登录后才可以回帖 登录 | 实名注册

本版积分规则

掌上论坛|小黑屋|传媒教育网 ( 蜀ICP备16019560号-1

Copyright 2013 小马版权所有 All Rights Reserved.

Powered by Discuz! X3.2

© 2016-2022 Comsenz Inc.

快速回复 返回顶部 返回列表