ChatGPT | Can001.com - 🇨🇦壹号站 2/2

我们的社交媒体

我们的合作伙伴

Mail

合法换汇，开户链接

关于GTP-4，这是14个被忽略的惊人细节！（上）

戴维李
Mar 15, 2023

文章来源: 華爾街見聞

最后两个细思恐极。

3月14日，OpenAI推发布了GPT-4。向科技界再次扔下了一枚“核弹”。根据OpenAI的演示，我们知道了GPT-4拥有着比GPT-3.5更强大的力量：总结文章、写代码、报税、写诗等等。但如果我们深入OpenAI所发布的技术报告，我们或许还能发现有关GPT-4更多的特点……

以及一些OpenAI没有点名和宣扬的，可能会令人背后一凉的细节。

1. 新Bing装载GPT-4

自然而然地，GPT-4发布之时，新Bing也已经装载了最新的版本。根据微软Bing副总裁Jordi Ribas在推特上所述，装载了GPT-4的新Bing已经将问答限制提升到了一次15个问题，一天最多提问150次。

2.文本长度扩大八倍在GPT-4上，文本长度被显著提高。

在此之前我们知道，调用GPT的API收费方式是按照“token”计费，一个token通常对应大约 4 个字符，而1个汉字大致是2~2.5个token。

在GPT-4之前，token的限制大约在4096左右，大约相当于3072个英文单词，一旦对话的长度超过这个限制，模型就会生成不连贯且无意义的内容。

然而，到了GPT-4，最大token数为32768个，大约相当于24576个单词，文本长度被扩大了八倍。

也就是说，GPT-4现在可以回答更长的文本了。

OpenAI在文档中表示，现在GPT-4限制的上下文长度限制为8192个token，允许32768个token的版本名为GPT-4-32K，目前暂时限制了访问权限。在不久的未来，这一功能可能会被开放。

3.模型参数成为秘密

我们知道，GPT-3.5模型的参数量为2000亿，GPT-3的参数量为1750亿，但这一情况在GPT-4被改变了。 OpenAI在报告中表示：考虑到竞争格局和大型模型(如GPT-4)的安全影响，本报告没有包含有关架构(包括模型大小)、硬件、训练计算、数据集构造、训练方法或类似内容的进一步细节。

这意味着OpenAI没有再披露GPT-4模型的大小、参数的数量以及使用的硬件。

OpenAI称此举是考虑到对竞争者的忧虑，这可能是在暗示其对于竞争者——谷歌Bard——所采取的策略。此外，OpenAI还提到“大型模型的安全影响”，尽管没有进一步解释，但这同样也暗指生成式人工智能所可能面对的更严肃的问题。

4.有选择地表达的“优秀”

GPT-4推出后，我们都看到了这一模型较上一代的优秀之处： GPT-4通过模拟律师考试，分数在应试者的前10% 左右；相比之下，GPT-3.5 的得分在倒数 10% 左右。

但这实际上是OpenAI的一个小把戏——它只展示给你GPT-4最优秀的那部分，而更多的秘密藏在报告中。下图显示的是GPT-4和GPT-3.5参加一些考试的成绩表现。可以看到，GPT-4并非在所有考试中的表现都那么优秀，GPT-3.5也并非一直都很差劲。

5.“预测”准确度提升

在ChatGPT推出以来，我们都知道这一模型在很多时候会“一本正经地胡说八道”，给出很多看似有理但实际上并不存在的论据。尤其是在预测某些事情的时候，由于模型掌握了过去的数据，这反而导致了一种名为“后见之明”的认知偏差，使得模型对于自己的预测相当自信。 OpenAI在报告中表示，随着模型规模的增加，模型的准确度本应逐渐下降，但GPT-4逆转了这一趋势，下图显示预测精确度提升到了100。

OpenAI表示，虽然GPT-4的准确度显著提高，但预测仍是一件困难的事，他们还将就这一方面继续训练模型。

6. 还有30%的人更认可GPT3.5

尽管GPT-4展现出了比GPT-3.5优秀得多的能力，但OpenAI的调查显示，有70%的人认可GPT-4输出的结果： GPT-4在遵循用户意图的能力方面比以前的模型有了大幅提高。在提交给ChatGPT和OpenAI API的5214个提示的数据集中，70.2%GPT-4生成的回答优于GPT3.5。

这意味着：仍有30%的人更认可GPT-3.5。

7.GPT-4语言能力更佳

尽管许多机器学习的测试都是用英文编写的，但OpenAI仍然用许多其他的语言对GPT-4进行了测试。测试结果显示，在测试26种语言中的24种中，GPT-4优于 GPT-3.5和其他 LLM（Chinchilla、PaLM）的英语语言性能，包括拉脱维亚语、威尔士语和斯瓦希里语等低资源语言：

2023股市面临巨大风险，关注“一级市场”投资机会

我们特别邀请了中国第一个私人银行（北京商业银行）的发起人 - John Wang为我们一对一解析一级市场投资机会和风险 “一级市场”投资研讨，不对公众开放，仅限“实名”认证的注册会员

加入方式： 1，微信： Vandave 2, WhatsApp: 604-7227628 3, 视频号：时空“资升堂”联系在线客服

风险提示及免责条款

市场有风险，投资需谨慎。本文不构成个人投资建议，也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资，责任自负。

https://www.can001.com/projects-2

每周五下午5：00（美加西部时间），点击报名获得安心投资社群的复盘直播链接

幻影溪酒庄体验之旅

https://phantomcreekestates.com/vando/

免责声明

文章内容不代表本网站立场。 如有争议，请随时联系我们！

扫码关注我们吧

微信公众号｜温渡传媒

资深媒体人｜华美嘉

社群运营 · 融媒制作

公关策划 · 活动推广

商务合作：1-778-707-5568

Email：vandomediacorp@gm

ail.com

YouTuBe:https://www.youtube.com/vandomedia

Instagram：VandoMedia

Facebook:https://www.facebook.com/reneezhao716VOA

ChatGPT升级！OpenAI推出GPT-4，准确性提高，支持微软新款必应

戴维李
Mar 14, 2023

文章来源: BBC

OpenAI称，GPT-4可接收图像和文本输入，输出文本，更具创造性和协作性，有更广泛的常识和解决问题的能力，可以更准确地解决难题；在内部评估中，它产生正确回应的可能性比GPT-3.5高40%。它将用于付费版ChatGPT Plus。

凭借ChatGPT掀起人工智能（AI）应用热潮的OpenAI发布了最新作品——GPT-4。得到这种新模型支持的ChatGPT将迎来升级。

美东时间3月14日周二，OpenAI宣布，推出大型的多模态模型GPT-4，称它可以接收图像和文本输入，输出文本，“比以往任何更具创造性和协作性”，并且“由于它有更广泛的常识和解决问题的能力，可以更准确地解决难题。”

OpenAI表示，已经与多家公司合作，要将GPT-4结合到他们的产品中，包括Duolingo、Stripe 和Khan Academy。GPT-4模型也将以API的形式，提供给付费版ChatGPT Plus的订阅用户。开发者可以注册，用它打造应用。

微软此后表示，新款的必应（Bing）搜索引擎将运行于GPT-4系统之上。

GPT-4全称生成式预训练转换器4。它的两位“前辈”GPT-3和GPT3.5分别用于创造Dall-E 和ChatGPT，都吸引了公众关注，刺激其他科技公司大力投入AI应用领域。

OpenAI介绍，相比支持ChatGPT的前代GPT-3.5，GPT-4和用户的对话只有微妙的差别，但在面对更复杂的任务时，两者的差异更为明显。

“在我们的内部评估中，它产生正确回应的可能性比GPT-3.5高40%。”

OpenAI还称，GPT-4参加了多种基准考试测试，包括美国律师资格考试Uniform Bar Exam、法学院入学考试LSAT、“美国高考”SAT数学部分和证据性阅读与写作部分的考试，在这些测试中，它的得分高于88%的应试者。上周，微软德国的首席技术官（CTO）Andreas Braun在德国出席一个AI活动时透露，本周将发布多模态的系统GPT-4，它“将提供截然不同的可能性，比如视频”。这让外界猜测，GPT-4应该能让用户将文本转换为视频，因为他说该系统将是多模态的，也就在暗示，不仅能生成文本，还会有其他媒介。

本周二OpenAI介绍的GPT-4的确是多模态的，但它能融合的媒介没有一些人预测的多。OpenAI表示，GPT-4能同时解析文本和图像，所以能解读更复杂的输入内容。

在下面的示例中，我们可以看到GPT-4系统如何应答图像输入内容，比如像以下截图那样解释图片的不同寻常之处、图片的幽默之处、一个搞怪图片的用意。

2023股市面临巨大风险，关注“一级市场”投资机会

加入方式： 1，微信： Vandave 2, WhatsApp: 604-7227628 3, 视频号：时空“资升堂”联系在线客服

风险提示及免责条款

https://www.can001.com/projects-2

每周五下午5：00（美加西部时间），点击报名获得安心投资社群的复盘直播链接

南欧垦娜根 36 小时

幻影溪酒庄体验之旅

报名链接

https://phantomcreekestates.com/vando/

免责声明

文章内容不代表本网站立场。 如有争议，请随时联系我们！

扫码关注我们吧

微信公众号｜温渡传媒

资深媒体人｜华美嘉

社群运营 · 融媒制作

公关策划 · 活动推广

商务合作：1-778-707-5568

Email：vandomediacorp@gm

ail.com

YouTuBe:https://www.youtube.com/vandomedia

Instagram：VandoMedia

Facebook:https://www.facebook.com/reneezhao716VOA

ChatGPT团队：名校多华人抢眼平均年龄32岁

戴维李
Feb 23, 2023

来源：澎湃新闻

墙内媒体澎湃新闻报道：ChatGPT项目做出贡献的人员不足百人（共87人），其显著特征是“年纪很轻”、“背景豪华”、“聚焦技术”、“积累深厚”、“崇尚创业”和“华人抢眼”。

ChatGPT爆火之后，AI相关领域的猎头陷入忙碌。猎聘大数据研究院的统计数据显示，当下的人工智能人才需求是五年前的近3倍，其中ChatGPT直接带动的AIGC（人工智能生成内容）领域，新发职位近一年同比增长了42.51%。甚至，有人开出千万年薪延揽ChatGPT开发机构OpenAI里的华人科学家。

OpenAI官网显示，为ChatGPT项目做出贡献的人员不足百人（共87人）。这样一个AI“梦之队”究竟有哪些特点？

经AMiner和智谱研究分析发现，其显著特征是“年纪很轻”、“背景豪华”、“聚焦技术”、“积累深厚”、“崇尚创业”和“华人抢眼”（AMiner是由清华大学计算机科学与技术系教授唐杰率领团队建立的科技情报大数据挖掘与服务系统平台）。

女性占10%

根据《ChatGPT团队背景研究报告》，该团队平均年龄为32岁（20~29岁的成员有28人；30~39岁的共50人，占61%；40~49岁的仅3人；无50~59岁年龄段的成员；60岁以上的有1人）。团队成员绝大多数拥有名校学历，且具有全球知名企业工作经历。

从成员毕业高校分布看，校友最多的前5大高校是斯坦福大学（14人）、加州大学伯克利分校（10人）、麻省理工学院（7人）、剑桥大学（5人）、哈佛大学（4人）和佐治亚理工学院（4人）。

ChatGPT团队成员毕业人数前10名高校。

从性别分布看，ChatGPT团队中有女性9人，仅占总数的10%；男性共78人，占90%。该9位女性成员中，有两位是华人。从成员职位构成看，该团队成员近九成为技术人员，未配备技术与产品之外的职能人员（如公共关系、市场营销等人员），而是高度聚焦于技术研发。

ChatGPT团队女性成员名单。

华人成员占10%

团队中共有华人9人，占团队总人数10%。其中5人本科就读于中国高校，3人本科教育经历在美国高校完成。梳理毕业于中国高校的ChatGPT华人成员成长路径发现，他们就读于中国顶尖高校的学习阶段均为本科，之后赴美深造，获得硕士或博士学位，然后加入美国诸如Dropbox、OpenAI等创新型公司。

ChatGPT团队中的华人成员。

ChatGPT团队中的华人成员。

其中，华人欧阳龙是InstructGPT论文的第一作者，是RLHF（Reinforcement Learning from Human Feedbac，人类反馈强化学习）论文的第二作者，可见他是这两个关键技术项目的核心人员。（与ChatGPT相关的先前关键技术项目有RLHF3、GPT14、GPT25、 GPT36、codex7、InstructGPT8、webGPT9等7项。）

人数来源最多的外部企业是谷歌

ChatGPT团队成员主要来自外部公司（81%）、高校应届毕业生（13%）、科研机构（4%）和高校教职人员（3%）等。其中人数来源最多的外部企业是谷歌，共10人跳槽加入，其他成员也大多来自Facebook、Stripe、Uber、 Quora、Nvidia、Microsoft、Dropbox、DeepMind、Apple、Intel等顶尖或知名科技公司。

ChatGPT团队成员流动示意图。

AMiner每年推出“AI 2000全球人工智能学者”名单，该名单评选全球人工智能 20个细分领域前100名最具影响力学者。统计发现，ChatGPT团队成员有5人入选今年“AI 2000 全球人工智能学者”，他们是OpenAI联合创始人Wojciech Zaremba（机器人，第10名）；ChatGPT研究员Lukasz Kaiser（机器学习，第10名）；OpenAI联合创始人、 ChatGPT研究科学家John Schulman（机器学习，第41名）；ChatGPT研发工程师Tomer Kaftan（数据库，第52名）；ChatGPT研究科学家Barret Zoph（机器学习，第95名）。

入选2023年“AI 2000学者”的ChatGPT团队成员。

入选2023年“AI 2000学者”的ChatGPT团队成员。

在ChatGPT不足百人的团队中，有5人属于全球人工智能各领域顶尖学者，其中两人为OpenAI联合创始人，两人分别被评为机器人（Wojciech Zaremba，OpenAI联合创始人）和机器学习（Lukasz Kaiser，ChatGPT研究员）领域最具影响力学者。

到目前为止，ChatGPT团队已离职员工有4人（离职率为4.6%），去向分别为Alignment Research Center、DeepMind、Github和Gretel.ai。据《ChatGPT团队背景研究报告》分析，从ChatGPT团队离职的人员，并非为外界想象的加入所谓“大厂”，而是仍然选择具有创新潜力的创业公司或机构。

2023股市面临巨大风险，关注“一级市场”投资机会

加入方式： 1，微信： Vandave 2, WhatsApp: 604-7227628 3, 视频号：时空“资升堂”联系在线客服

风险提示及免责条款