Open AI 推出 GPT-4。发现最新人工智能模型的能力和局限性,该模型在各种专业和学术基准测试中具有人类水平的表现。
1.GPT-4 在可靠性、创造性和对细微指令的处理方面比之前的模型 GPT-3.5 有所改进。2.OpenAI 对 GPT-4 进行了许多更改,使其比 GPT-3.5 更安全,并一直致力于降低风险。3.GPT-4 不知道 2021 年 9 月之后的事件,这可能会导致它出现简单的推理错误。OpenAI 刚刚发布了其最新的人工智能模型 GPT-4,该模型在各种专业和学术基准测试中展现了人类水平的表现。GPT-4 是一个大型多模态模型,可以接受图像和文本输入并生成文本输出。在本文中,我们将了解 GPT-4 的功能、限制以及使用它所涉及的风险。到最后,您将更好地了解 GPT-4 的潜在影响以及它能做什么和不能做什么。
能力
GPT-4 的功能在可靠性、创造力和对细微指令的处理方面比之前的模型 GPT-3.5 有所改进。OpenAI 在各种基准测试中测试了该模型,包括为人类设计的模拟考试,发现 GPT-4 优于现有的大型语言模型。它在英语以外的语言中也表现良好,包括拉脱维亚语、威尔士语和斯瓦希里语等资源匮乏的语言。
视觉输入
GPT-4 可以接受文本和图像作为输入,使其能够根据包含文本和图像的输入生成文本输出。虽然该模型的视觉输入功能仍处于研究预览阶段,但它已显示出与纯文本输入类似的功能。
操纵性
OpenAI 一直在研究其关于定义 AI 行为的帖子中概述的计划的各个方面,包括可操纵性。开发人员现在可以通过描述“系统”消息中的方向来规定他们的 AI 的风格和任务。API 用户可以在一定范围内定制他们的用户体验,从而实现显着的个性化。限制
GPT-4 并不完美,与早期的 GPT 模型具有相似的局限性。它仍然可以“幻觉”事实并出现推理错误,因此在使用语言模型输出时应谨慎,尤其是在高风险上下文中。GPT-4 不知道 2021 年 9 月之后发生的事件,这可能会导致它做出简单的推理错误并将虚假陈述视为真实。它也可能无法像人类一样挑战问题,例如在其代码中引入安全问题。GPT-4 可以做出自信但不正确的预测,并且并不总是仔细检查其工作。有趣的是,基础模型擅长预测其答案的准确性,但这种能力在训练后会降低。风险与缓解措施
虽然 GPT-4 的功能很重要,但它带来了新的风险,例如生成有害建议、错误代码或不准确的信息。OpenAI 一直致力于降低这些风险,与 50 多位专家合作对模型进行对抗性测试并收集额外数据以提高 GPT-4 拒绝危险请求的能力。因此,OpenAI 对 GPT-4 进行了许多改进,使其比 GPT-3.5 更安全。GPT-4 提供不当内容的可能性比以前的版本低 82%,并且它更好地遵循有关医疗建议和自我伤害等敏感话题的政策。虽然 OpenAI 使模型更能抵抗不良行为,但生成违反使用规则的内容仍然是可能的。OpenAI 表示,GPT-4 可能对社会有益或有害,因此它正在与其他研究人员合作以了解潜在影响。训练过程
与之前的 GPT 模型一样,GPT-4 基础模型经过训练,可以使用公开可用的数据和 OpenAI 许可的数据来预测文档中的下一个单词。使用带有人类反馈的强化学习 (RLHF) 微调模型的行为,使其与护栏内的用户意图保持一致。
可预测的扩展
GPT-4 项目的一个重要重点是构建可预测扩展的深度学习堆栈。OpenAI 开发了具有跨多个尺度的可预测行为的基础架构和优化,可以准确预测 GPT-4 在训练期间的最终损失。可用性
微软确认新的 Bing 搜索体验现在可以在 GPT-4 上运行。虽然它有使用限制,但您也可以通过订阅 ChatGPT Plus 来访问 GPT-4。OpenAI 可能会根据需求和系统性能调整使用上限。该公司正在考虑添加另一个订阅层以允许更多的 GPT-4 使用。要访问 GPT-4 API,您必须注册候补信息(https://openai.com/waitlist/gpt-4-api)。结论
GPT-4 的创建标志着 OpenAI 努力扩大深度学习的一个重要里程碑。虽然不完美,但它在各种学术和专业基准测试中展示了人类水平的表现,使其成为一个强大的工具。翻译作品,原作者:Matt G. Southern
文章为作者独立观点,不代表DLZ123立场。如有侵权,请联系我们。( 版权为作者所有,如需转载,请联系作者 )
网站运营至今,离不开小伙伴们的支持。 为了给小伙伴们提供一个互相交流的平台和资源的对接,特地开通了独立站交流群。
群里有不少运营大神,不时会分享一些运营技巧,更有一些资源收藏爱好者不时分享一些优质的学习资料。
现在可以扫码进群,备注【加群】。 ( 群完全免费,不广告不卖课!)
发表评论 取消回复