百度发布「文心一言」；OpenAI 推出 GPT-4；苹果工程师在开发类 ChatGPT AI

【蜂耘网  人工智能】百度发布「文心一言」

3月16日下午，百度于北京总部召开新闻发布会，主题围绕新一代大语言模型、生成式AI产品文心一言。百度创始人、董事长兼首席执行官李彦宏在发布会上展示了文心一言在五个使用场景的表现，包括文学创作、商业文案创作、数理推算、中文理解和多模态生成。

在文学创作场景中，文心一言根据对话问题将知名科幻小说《三体》的核心内容进行了总结，并提出了五个续写《三体》的建议角度，体现出对话问答、总结分析、内容创作生成的综合能力。此外，文心一言准确回答了《三体》作者、电视剧角色扮演者等事实性问题。

生成式AI在回答事实性问题时常常“胡编乱造”，而文心一言延续了百度知识增强的大模型理念，大幅度提升了事实性问题的准确率。面对“于和伟和张鲁一有哪些共同点”、“于和伟和张鲁一谁更高”这类问题，文心一言也基于推理能力得出了正确答案。在商业文案创作场景中，文心一言顺利完成了给公司起名、写公司标语、写新闻稿的创作任务。连续三次内容创作生成中，文心一言既能准确理解人类意图，又能清晰地表达，这是基于庞大数据规模而发生的“智能涌现”。

文心一言大模型的训练数据包括万亿级网页数据、数十亿的搜索数据和图片数据、百亿级的语音日均调用数据，以及5500亿事实的知识图谱等，这让百度在中文语言的处理上，能够处于独一无二的位置。此外，文心一言还具备了一定的思维能力，能够学会数学推演及逻辑推理等相对复杂任务。面对“鸡兔同笼”这类锻炼人类逻辑思维的经典题，文心一言能理解题意，并有正确的解题思路，进而像学生做题一样，按正确的步骤，一步步算出正确答案。

作为扎根于中国市场的大语言模型，文心一言具备中文领域较为先进的自然语言处理能力，在中文语言和中国文化上有较好的表现。在现场展示中，文心一言正确解释了成语“洛阳纸贵”的含义、“洛阳纸贵”对应的经济学理论，还用“洛阳纸贵”四个字创作了一首藏头诗。

多模态生成方面，李彦宏现场展示了文心一言生成文本、图片、音频和视频的能力。有趣的是，文心一言甚至能够生成四川话等方言语音；文心一言的视频生成能力则因成本较高，现阶段还未对所有用户开放，未来会逐步接入。“多模态是生成式AI一个明确的发展趋势。”李彦宏表示，“未来，随着百度多模态统一大模型的能力增强，文心一言的多模态生成能力也会不断提升。”

OpenAI 总裁：GPT-4 并不完美但却绝对与众不同

3 月 16 日消息，人工智能研究公司 OpenAI 于15日发布了备受期待的文本生成 AI 模型 GPT-4。OpenAI 联合创始人兼总裁格雷格・布罗克曼（Greg Brockman）在接受采访时表示，GPT-4 并不完美，但却绝对与众不同。

GPT-4 在其前身 GPT-3 的基础上，在许多关键方面进行了改进，例如提供了更多真实的陈述，并允许开发人员更容易控制其风格和行为。从某种意义上说，GPT-4 也是多模式的，因为它可以理解图像，能给照片添加注释，甚至详细描述照片中的内容。但 GPT-4 也有严重的缺陷。就像 GPT-3 一样，该模型会产生“幻觉”（即模型聚合的文本与源文本无关或不够准确），并会犯下基本的推理错误。OpenAI 在自己的博客上举了一个例子，GPT-4 将“猫王”埃尔维斯・普雷斯利（Elvis Presley）描述为“演员的儿子”，但实际上他的父母都不是演员。当被要求将 GPT-4 与 GPT-3 进行比较时，布罗克曼只给出了四个字回答：与众不同。他解释称：“GPT-4 绝对与众不同，尽管它还存在很多问题和错误。但你可以看到其在微积分或法律等学科技能方面的跃升。它在某些领域的表现曾很糟糕，现在却已经达到超越普通人的水准。”测试结果支持了布罗克曼的观点。在高考微积分考试中，GPT-4 得 4 分 (满分 5 分)，GPT-3 得 1 分，介于 GPT-3 和 GPT-4 之间的 GPT-3.5 也得 4 分。在模拟律师考试中，GPT-4 成绩进入了前 10% 行列，而 GPT-3.5 的分数在后 10% 左右徘徊。

与此同时，GPT-4 更受人关注的地方在于上面提到的多模式。与 GPT-3 和 GPT-3.5 不同，它们只能接受文本提示，例如可以要求“写一篇关于长颈鹿的文章”，而 GPT-4 可以同时接受图像和文本提示来执行某些操作，比如识别在塞伦盖蒂拍摄的长颈鹿图像，并给出基本的内容描述。这是因为 GPT-4 是针对图像和文本数据进行培训的，而它的前身只针对文本进行了培训。OpenAI 表示，培训数据来自“各种合法授权的、公开可用的数据源，其中可能包括公开可用的个人信息”，但当被要求提供细节时，布罗克曼表示拒绝。

训练数据以前也曾让 OpenAI 陷入法律纠纷。GPT-4 的图像理解能力给人留下了相当深刻的印象。例如，输入提示“这张图片有什么好笑的？GPT-4 会将整张图片分解，并正确地解释了这个笑话的笑点。目前，只有一个合作伙伴可以使用 GPT-4 的图像分析功能，这是一款针对视障人士的辅助应用程序，名为 Be My Eyes。布罗克曼说，在 OpenAI 评估风险和利弊的过程中，无论何时，更广泛的推广都将是“缓慢而有意的”。他还称：“有些政策问题也需要解决，比如面部识别和如何处理人的图像。我们需要找出危险区域在哪里，红线在哪里，然后随着时间的推移找到解决方案。”

OpenAI 在其文本到图像转换系统 Dall-E 2 上也遇到了类似伦理困境。在最初禁用该功能后，OpenAI 允许客户上传人脸，以使用 AI 支持的图像生成系统对其进行编辑。当时，OpenAI 声称，其安全系统的升级使面部编辑功能成为可能，因为它将深度造假以及试图创造敏感、政治和暴力内容的潜在危害降至最低。

另一个长期问题是防止 GPT-4 在无意中被用于可能造成伤害的方式使用。该模型发布几小时后，以色列网络安全初创公司 Adversa AI 发布了一篇博客文章，演示了绕过 OpenAI 的内容过滤器并让 GPT-4 生成钓鱼电子邮件、对同性恋者的攻击性描述以及其他令人反感文本的方法。这在语言模型领域并不是新问题。

Facebook 母公司 Meta 的聊天机器人 BlenderBot 和 OpenAI 的 ChatGPT 也曾被诱惑输出不恰当的内容，甚至透露了它们内部工作的敏感细节。但包括记者在内的许多人曾希望，GPT-4 可能会在这方面带来重大改进。当被问及 GPT-4 的健壮性时，布罗克曼强调，该模型已经经过了六个月的安全培训。在内部测试中，它对 OpenAI 使用政策不允许的内容请求做出响应的可能性比 GPT-3.5 低 82%，产生“事实”响应的可能性比 GPT-3.5 高 40%。布罗克曼说：“我们花了很多时间试图了解 GPT-4 的能力。我们正在不断更新，包括一系列改进，这样该模型就更具可扩展性，以适应人们希望它拥有的个性或模式。”坦率地说，早期的现实测试结果并不是那么让人满意。除了 Adversa AI 测试之外，微软的聊天机器人 Bing Chat 也被证明非常容易越狱。使用精心设计的输入，用户能够让该聊天机器人表达爱意，发出威胁伤害，为大屠杀辩护，并发明阴谋论。

布罗克曼并未否认 GPT-4 在这方面的不足，但他强调了该模型的新限制工具，包括被称为“系统”消息的 API 级功能。系统消息本质上是为 GPT-4 的交互设定基调并建立界限的指令。例如，一条系统消息可能是这样写的：“你是一位总是以苏格拉底风格回答问题的导师。你永远不会给学生答案，而是总是试着问正确的问题，帮助他们学会独立思考。”其思想是，系统消息充当护栏，防止 GPT-4 偏离轨道。布罗克曼说：“真正弄清楚 GPT-4 的语气、风格和实质一直是我们非常关注的问题。我认为我们开始更多地了解如何进行工程设计，如何拥有一个可重复的过程，让你得到对人们真正有用的可预测结果。”

消息称苹果工程师在开发类 ChatGPT AI，有望用于 Siri

 3 月 15 日消息，据《纽约时报》报道，苹果公司正在测试生成式人工智能（generative AI）技术，这些技术有朝一日可能用于 Siri 语音助手。据报道，苹果公司在上个月举行的内部 AI 峰会上，向员工介绍了自家的大型语言模型和其他 AI 工具。苹果 Siri 团队的成员，「每周」都在测试语言生成的概念，以应对像 ChatGPT 这样的聊天机器人的崛起。

但这样的尝试也面临着不小的阻力。据报道，曾在苹果公司工作、参与过 Siri 开发并于 2014 年负责改善 Siri 性能的前苹果工程师 John Burkey 表示，Siri 是建立在「笨拙的代码」之上的，即使是添加基本功能也需要花费较长时间。

（蜂耘人工智能网  责任编辑：似也）