教程

教程

提高OpenAI可靠性的技术

当GPT-3在任务中失败时，你该怎么办? 1. 寻找一个更好的提示，引出更可靠的答案? 2. 投资数千个示例来微调自定义模型? 3. 假设模型无法完成任务，然后继续? 没有简单的答案，要视情况而定。但是，如果您的任务涉及逻辑推理或复杂性，请考虑尝试本文中的技术来构建更可靠、高性能的提示。 为什么GPT-3在复杂任务中失败 如果让你用13乘以17，你会马上想到答案吗?对我们大多数人来说，可能不会。然而，这并不意味着人类不能做两位数的乘法。只需要几秒钟，一些笔和纸，就可以算出13 x 17 = 130 + 70

• 

Jeff

2 Jun 2023 · 21分钟阅读

教程

使用多步骤提示进行单元测试编写

复杂的任务，比如编写单元测试，可以从多步骤提示中受益。与单个提示不同，多步骤提示从GPT生成文本，然后将输出文本反馈给后续提示。如果您希望GPT在回答问题之前进行推理，或者在执行计划之前进行头脑风暴，这可以帮助您。 我们使用一个3步提示符，使用以下步骤在Python中编写单元测试: 1. 解释: 给定一个Python函数，我们要求GPT解释该函数在做什么以及为什么。 2. 计划: 我们要求GPT为功能计划一组单元测试。如果计划太短，我们要求GPT详细阐述单元测试的更多想法。 3. 执行: 最后，我们指示GPT编写涵盖计划用例的单元测试。 代码示例演示了对链式多步骤提示符的一些修饰: 1. 条件分支(例如，只有当第一个计划太短时才要求详细说明) 2.

• 

Jeff

2 Jun 2023 · 11分钟阅读

教程

DeepSpeed Chat: 一键式RLHF训练，让你的类ChatGPT千亿大模型提速省钱15倍

1. 概述 近日来，ChatGPT及类似模型引发了人工智能（AI）领域的一场风潮。 这场风潮对数字世界产生了革命性影响。ChatGPT类模型具有惊人的泛用性，能够执行归纳、编程、翻译等任务，其结果与人类专家相当甚至更优。为了使ChatGPT等模型的训练和部署更轻松，AI 开源社区进行了各种尝试（例如 ChatLLaMa、Alpaca、Vicuna、Databricks-Dolly等）。 然而，尽管开源社区付出了巨大的努力，目前仍缺乏一个支持端到端的基于人工反馈机制的强化学习（RLHF）的规模化系统，这使得训练强大的类ChatGPT模型十分困难。例如，使用现有的开源系统训练一个具有 67 亿参数的类ChatGPT模型通常需要昂贵的多卡至多节点的

• 

Jeff

9 May 2023 · 23分钟阅读

教程

ChatML简介

本文档是ChatGPT模型使用的底层格式的预览。作为一名开发人员，你可以使用我们的高级API，现在不需要直接与这种格式交互——但希望将来有这个选择! 传统上，GPT模型使用非结构化文本。ChatGPT模型期望一种结构化的格式，称为聊天标记语言(简称ChatML)。ChatML文档由一系列消息组成。每条消息都包含一个报头(现在由说这句话的人组成，但将来会包含其他元数据)和内容(现在是文本有效负载，但将来会包含其他数据类型)。我们仍在改进ChatML，但当前版本(ChatML v0)可以用我们即将推出的“字典列表”JSON格式表示如下: [ {"token": "<|im_

• 

Jeff

9 May 2023 · 3分钟阅读

教程

通过可视化编程链接大型语言模型LLM

在上图中，我列出了当前的提示工程工具和LLM API构建框架。LLM构建框架的复杂性和可用性各不相同，但大多数框架都基于相同的链、提示、无代码到低代码和任务分解原则。在这些工具中，我认为PromptChainer是最先进和最完整的。 考虑到PromptChainer开发接口 随着LLMs在生产和产品环境中的采用，出现了两个术语，第一个是提示链，第二个是模板。 有些人将模板称为实体注入或提示注入。 LLMs已经导致了自然语言应用程序的快速原型，但是当应用程序包括复杂的对话、决策制定等时，单个提示是不够的。 因此，在各种框架中有一种概念，将多个LLM运行或提示链接在一起。目标是利用LLM的灵活性，以及可编程性和可控制的复杂性来完成更复杂的任务。 为了在商业应用程序中快速扩展生产采用，需要有一个无代码到低代码的环境来普及LLM和ai注入的应用程序。 上图展示了迄今为止我见过的最完整、最全面的LLM应用程序开发gui之一。 A:链视图创建链，

• 

Jeff

9 May 2023 · 4分钟阅读

教程

如何防止ChatGPT胡说八道

随着聊天机器人在不同行业越来越受欢迎，保持准确和有趣的交互对于成功的用户体验至关重要。然而，聊天机器人经常胡说八道，随着时间的推移，它们的回答变得不那么相关和可理解。用户可能会觉得这很烦人，也可能会降低聊天机器人的效率。 一个简单直接的方法可以用来阻止ChatGPT胡说八道，保持聊天机器人的焦点。我们将在这篇文章中研究这种方法，并展示它是如何使用ChatGPT工作的，ChatGPT是一种高度健壮的大型语言模型(LLM)，最近在不同的专业领域得到了广泛的普及。本文将只讨论实际实现，因为已经有几篇文章介绍了ChatGPT的技术方面。 GPT-3与ChatGPT 为了清楚起见，ChatGPT与GPT-3并不完全相同，尽管它使用GPT-3模型作为其主干。ChatGPT的训练策略更进一步，融合了监督学习和强化学习的概念。特别是，OpenAI使用了来自人类反馈的强化学习(RLHF)，它利用人类AI训练器提供反馈，用于提高模型的性能。这种方法本质上允许模型对正确的反应进行“奖励”

• 

Jeff

5 May 2023 · 7分钟阅读

教程

微调OpenAI GPT-3构建聊天机器人

介绍 聊天机器人或数字助理是旨在通过互联网以文本或语音聊天的形式模拟与人类对话的应用程序。多年来，聊天机器人的发展进展迅速，从简单的基于逻辑的机器人到现在基于自然语言理解(NLU)的机器人。 关于后者，用于构建此类聊天机器人的一些最常用框架或库是RASA、Dialogflow和Amazon Lex，仅举几例。这些框架可以应用自然语言处理(NLP)和NLU来处理输入文本，对意图进行分类，并触发正确的操作来生成响应。 随着大型语言模型(LLM)的出现，我们可以使用这些模型直接构建功能齐全的聊天机器人。这种LLM的一个著名例子是OpenAI的生成预训练模型 (GPT-3)，它可以通过微调与模型的对话或对话数据来生成类似人类的文本。此功能使其成为构建自定义聊天机器人的合适选择，本文将探讨微调GPT-3模型以构建简单的会话聊天机器人所涉及的过程。 通常，我们希望在会话示例的数据集上对模型进行微调，例如来自客户服务交互的文本、聊天日志或电影的几个场景。

• 

Jeff

5 May 2023 · 7分钟阅读

教程

使用ChatGPT进行头脑风暴的6个技巧

OpenAI的聊天机器人以对话的语气回应文本提示，数百万用户继续尝试它。聊天机器人可以帮助软件开发人员编写代码，科学家进行研究，学生完成作业。通过一些重复和探索，ChatGPT值得作为头脑风暴过程的一部分来尝试。 商业领袖可以用它来考虑关键对话或长期决策的多种方法。爱冒险的情侣可以在ChatGPT上讨论他们的下一个浪漫冒险。书呆子记者可以浪费半个下午的时间来报道小众智能手机游戏。 请记住，这个工具有时会给出不正确的回答，所以要对聊天机器人的回答持健康的怀疑态度。一定要仔细检查它引用的任何来源，以确保它们实际上说的是人工智能认为它说的，或者它们是否存在。此外，ChatGPT是在不完全是最新的数据上训练的。最好把你关于体育比分、餐馆营业时间和电影的问题留给谷歌或百度。 你可以在OpenAI的网站上注册一个免费的ChatGPT账户，如果你不知道怎么注册，可以参考我的上一篇免费教程。想要最强大的版本响应你的头脑风暴提示?可以考虑每月支付20美元，使用带有GPT-4的ChatGPT Plus。和其他聊天机器人一起玩也很有趣，比如Jasper和谷歌的Bard，看看你的答案如何比较。

• 

Jeff

29 Apr 2023 · 5分钟阅读