当前位置: 首页 > news >正文

ChatGPT 简介


目录

  • 1 背景与发展历程


    • 1.1 背景

    • 1.2 发展历程

  • 2 技术原理


    • 2.1 第一阶段:训练监督策略模型

    • 2.2 第二阶段:训练奖励模型

    • 2.3 第三阶段:采用强化学习来增强模型的能力。

  • 3 国内使用情况及应用的领域

  • 4 面临的数据安全挑战与建议


    • 4.1.1 数据泄露问题

    • 4.1.2 删除权问题

    • 4.1.3 语料库获取合规问题

    • 4.1 ChatGPT获取数据产生的问题


    • 4.2 ChatGPT恶意利用产生的问题

  • 5 结语

  • 6 参考



团队博客: CSDN AI小组


1 背景与发展历程

1.1 背景

ChatGPT是由OpenAI开发的一个人工智能聊天机器人程序,于2022年11月推出。该程序使用基于GPT3.5架构的大型语言模型并通过强化学习进行训练。

ChatGPT以文字方式互动,除了可以透过人类自然对话方式进行交互,还可以用于相对复杂的语言工作,包括自动文本生成、自动问答、自动摘要等在内的多种任务。如:在自动文本生成方面,ChatGPT可以根据输入的文本自动生成类似的文本,在自动问答方面,ChatGPT可以根据输入的问题自动生成答案。还具有编写和调试计算机程序的能力。

ChatGPT因其在许多知识领域给出详细的回答和清晰的答案而迅速获得关注,但其事实准确性参差不齐被认为是一重大缺陷。ChatGPT于2022年11月发布后,OpenAI估值已涨至290亿美元。上线两个月后,用户数量达到1亿。

ChatGPT主要包含以下特点:

  • (1) OpenAI使用 RLHF(Reinforcement Learning from Human Feedback,人类反馈强化学习)技术对 ChatGPT 进行了训练,且加入了更多人工监督进行微调。

  • (2) 可以主动承认自身错误。若用户指出其错误,模型会听取意见并优化答案。

  • (3) ChatGPT 可以质疑不正确的问题。例如被询问 “哥伦布 2015 年来到美国的情景” 的问题时,机器人会说明哥伦布不属于这一时代并调整输出结果。

  • (4) ChatGPT 可以承认自身的无知,承认对专业技术的不了解。

  • (5) 支持连续多轮对话。

  • (6) ChatGPT可以通过分析语料库中的模式和敏感词或句子来识别敏感话题(种族,政治,人身攻击等)。它将会自动识别可能触发敏感问题的输入,并且可以自动过滤掉敏感内容,最大程度地确保用户的安全。此外,它也可以帮助用户识别出可能触发敏感问题的话题,从而避免他们无意中使用不当的语言破坏聊天气氛。

在这里插入图片描述

图1 示例:ChatGPT 写自我介绍

在这里插入图片描述

图2 示例:ChatGPT 改代码 Bug

在这里插入图片描述

图3 示例:ChatGPT 写代码

1.2 发展历程

在过去几年中,Google一直是NLP领域大规模预训练模型的引领者,而2022年11月ChatGPT的发布,其效果惊艳了众多专业以及非专业人士,虽然Google也紧接着发布了类似的Bard模型,但已经错失了先机。下图是这场旷日持久的AI暗战之下的关键技术时间线。
在这里插入图片描述

图4 Google与OpenAI在LLM领域的发展时间线

2 技术原理

在这里插入图片描述

图5 ChatGPT 模型的训练过程

在整体技术路线上,ChatGPT在效果强大的GPT 3.5大规模语言模型(LLM,Large Language Model)基础上,引入“人工标注数据+强化学习”(RLHF,Reinforcement Learning from Human Feedback)来不断微调(Fine-tune)预训练语言模型,主要目的是让LLM模型学会理解人类的命令指令的含义(比如给我写一段小作文生成类问题、知识回答类问题、头脑风暴类问题等不同类型的命令),以及让LLM学会判断对于用户给定的问题(也称prompt),什么样的答案是优质的(富含信息、内容丰富、对用户有帮助、无害、不包含歧视信息等多种标准)。

具体而言,ChatGPT的训练过程分为三个阶段:

2.1 第一阶段:训练监督策略模型

GPT 3.5本身很难理解人类不同类型指令中蕴含的不同意图&#xff0c;也很难判断生成内容是否是高质量的结果。为了让GPT 3.5初步具备理解指令的意图&#xff0c;首先会在数据集中随机抽取问题&#xff0c;由专业的人类标注人员&#xff0c;给出每个问题&#xff08;prompt&#xff09;的高质量答案&#xff0c;形成<prompt,answer>问答对&#xff0c;然后用这些人工标注好的数据来微调 GPT-3.5模型&#xff08;获得SFT模型, Supervised Fine-Tuning&#xff09;。

经过这个过程&#xff0c;可以认为SFT初步具备了理解人类问题中所包含意图&#xff0c;并根据这个意图给出相对高质量回答的能力&#xff0c;但是很明显&#xff0c;仅仅这样做是不够的&#xff0c;因为其回答不一定符合人类偏好。

2.2 第二阶段&#xff1a;训练奖励模型

这个阶段主要是通过人工标注训练数据&#xff0c;来训练奖励模型&#xff08;Reward Mode&#xff09;。在数据集中随机抽取问题&#xff0c;使用第一阶段训练得到的模型&#xff0c;对于每个问题&#xff0c;生成多个不同的回答。人类标注者对这些结果综合考虑&#xff08;例如&#xff1a;相关性、富含信息性、有害信息等诸多标准&#xff09;给出排名顺序。这一过程类似于教练或老师辅导。

接下来&#xff0c;使用这个排序结果数据来训练奖励模型。对多个排序结果&#xff0c;两两组合&#xff0c;形成多个训练数据对。奖励模型接受一个输入&#xff0c;给出评价回答质量的分数。这样&#xff0c;对于一对训练数据&#xff0c;调节参数使得高质量回答的打分比低质量的打分要高。

2.3 第三阶段&#xff1a;采用强化学习来增强模型的能力。

PPO&#xff08;Proximal Policy Optimization&#xff0c;近端策略优化&#xff09;强化学习模型的核心思路在于将Policy Gradient中On-policy的训练过程转化为Off-policy&#xff0c;即将在线学习转化为离线学习&#xff0c;这个转化过程被称之为Importance Sampling。PPO由第一阶段的监督策略模型来初始化模型的参数&#xff0c;这一阶段利用第二阶段训练好的奖励模型&#xff0c;靠奖励打分来更新预训练模型参数。具体而言&#xff0c;在数据集中随机抽取问题&#xff0c;使用PPO模型生成回答&#xff0c;并用上一阶段训练好的奖励模型给出质量分数。把奖励分数依次传递&#xff0c;由此产生策略梯度&#xff0c;通过强化学习的方式以更新PPO模型参数。

如果我们不断重复第二和第三阶段&#xff0c;通过迭代&#xff0c;会训练出更高质量的ChatGPT模型。

从上述原理可以看出&#xff0c;ChatGPT具有以下几个优势&#xff1a;(1) ChatGPT 的基模型GPT3.5使用了千亿级的数据进行了预训练&#xff0c;模型可谓是“见多识广”&#xff1b;(2) ChatGPT 在强化学习的框架下&#xff0c;可以不断学习和优化。

3 国内使用情况及应用的领域

ChatGPT 目前仍然处于体验和试用阶段&#xff0c;且未在国内进行开放注册&#xff0c;所以国内暂时还没有实际性的应用。不过在ChatGPT发布之后&#xff0c;国内开始出现平替产品&#xff0c;例如近期国内正式发布的首个功能对话大模型ChatYuan。

ChatGPT 由美国OpenAI公司于2022年11月发布&#xff0c;官网暂未对国内进行开放&#xff0c;但有其他方法可以使用&#xff0c;教程详见这里。

ChatYuan由中国初创公司元语智能2022年12月发布&#xff0c;在线体验网址为&#xff1a;www.clueai.cn/chat。

4 面临的数据安全挑战与建议

ChatGPT存在一些数据安全问题&#xff0c;这些问题分为两类&#xff0c;一类是ChatGPT获取数据产生的问题&#xff0c;一类是ChatGPT恶意利用产生的问题。

4.1 ChatGPT获取数据产生的问题

4.1.1 数据泄露问题

用户在使用ChatGPT时会输入信息&#xff0c;由于ChatGPT强大的功能&#xff0c;一些员工使用ChatGPT辅助其工作&#xff0c;这引起了公司对于商业秘密泄露的担忧。因为输入的信息可能会被用作ChatGPT进一步迭代的训练数据。

建议&#xff1a;ChatGPT可提升工作生产力&#xff0c;不建议完全禁用&#xff0c;公司可以制定相应的规则制度&#xff0c;并且开发相应的机密信息检测工具&#xff0c;指导并辅助员工更安全地使用ChatGPT。

4.1.2 删除权问题

ChatGPT用户必须同意公司可以使用用户和ChatGPT产生的所有输入和输出&#xff0c;同时承诺ChatGPT会从其使用的记录中删除所有个人身份信息。然而ChatGPT未说明其如何删除信息&#xff0c;而且由于被收集的数据将用于ChatGPT不断的学习中&#xff0c;很难保证完全擦除个人信息痕迹。

建议&#xff1a;要求ChatGPT给出明确的删除信息的流程&#xff0c;与使用的公司达成协议。

4.1.3 语料库获取合规问题

如果ChatGPT通过抓取互联网上的信息获得其训练数据&#xff0c;可能并不合法。网站上的隐私政策条款本身表明数据不能被第三方收集&#xff0c;ChatGPT抓取数据会涉及违反合同。在许多司法管辖区&#xff0c;合理使用原则在某些情况下允许未经所有者同意或版权使用信息&#xff0c;包括研究、引用、新闻报道、教学讽刺或批评目的。但是ChatGPT并不适用该原则&#xff0c;因为合理使用原则只允许访问有限信息&#xff0c;而不是获取整个网站的信息。在个人层面&#xff0c;ChatGPT需要解决未经用户同意大量数据抓取是否涉及侵犯个人信息的问题。

建议&#xff1a;要求ChatGPT公布数据的使用明细与脱敏流程&#xff0c;对于不符合规范的行为&#xff0c;要求其进行删除。在使用的过程中&#xff0c;如果发现有侵犯隐私信息的情况&#xff0c;也可以要求其进行改进。

4.2 ChatGPT恶意利用产生的问题

用户对ChatGPT的恶意利用也会带来很多数据安全问题&#xff0c;如&#xff1a;(1) 撞库&#xff1a;生成大量可用于对在线帐户进行自动攻击的潜在用户名和密码组合&#xff0c;进行撞库攻击&#xff1b;(2) 生成恶意软件&#xff1a;利用自然语言编写的能力&#xff0c;编写恶意软件&#xff0c;从而逃避防病毒软件的检测&#xff1b;(3) 诱骗信息&#xff1a;利用ChatGPT的编写功能&#xff0c;生成钓鱼电子邮件&#xff1b;利用对话功能&#xff0c;冒充真实的人或者组织骗取他人信息。

建议&#xff1a;对于使用ChatGPT的用户&#xff0c;需要要求其明确指出内容是使用ChatGPT生成的。也可以使用技术手段&#xff0c;自动检测ChatGPT生成的内容&#xff08;例如近期斯坦福大学推出DetectGPT&#xff0c;以应对学生通过ChatGPT生成论文&#xff09;&#xff0c;并进行进一步的干预。

5 结语

ChatGPT 现在还处于测试阶段&#xff0c;可以看出在未来它可以极大地提升人类的生产力。但由于这是一个新鲜事物&#xff0c;还没有完善的法规和政策对它进行约束和规范&#xff0c;所以可能会存在一些数据安全等问题。要想实现ChatGPT以及类似产品在国内的落地与商业化&#xff0c;还有很长的路要走。

6 参考

[1] ChatGPT官网
[2] ChatGPT会取代搜索引擎吗
[3] ChatGPT发展历程、原理、技术架构详解和产业未来
[4] ChatGPT面临的数据安全挑战
[5] ChatGPT维基百科
[6] AI 真要成精了&#xff1f;ChatGPT 上手体验
[7] OpenAI 何以掀翻 Google 布局多年的AI大棋&#xff1f;


http://www.taodudu.cc/news/show-4710670.html

相关文章:

  • ChatGPT功能介绍 ChatGPT都能做什么
  • 科普:什么是ChatGPT?
  • 又发现一个ChatGPT体验站,辅助写代码真方便
  • ChatGPT国内镜像站初体验:聊天、Python代码生成等
  • 微信、支付宝先后发布声明!
  • 微信小程序订单扫码结算的步骤
  • 微信小程序怎么样取代传统收款设备的流程
  • 企业运用人工智能的案例_如何打造企业私域流量及企业微信
  • 推荐一个 SpringBoot 2.x + vue 实现的个人支付宝、微信支付系统
  • 支付宝支持给微信好友转账?
  • 微信小程序智慧新零售
  • 谨防上当:3月1日微信支付宝个人收款码是可以继续使用的-附图
  • 关于0.2%费率的微信支付,你需要了解一下。
  • java基于微信小程序的加油服务系统 uniapp小程序
  • 微信小商店经验个人收集
  • 机械研究生自学python-年薪 30W 起,如何 4 个月拿下 AI 人工智能工程师 Offer?
  • 博士申请 | ​悉尼科技大学澳大利亚人工智能研究院招收联邦学习全奖博士生...
  • 汇总!【AI会议倒计时列表】“AI Conference Deadlines”
  • 2023年第五届人工智能与机器学习国际会议(FAIML 2023)
  • 【EI会议】2022年人工智能与统计学前沿国际会议(CFAIS 2022)
  • 2023年智能无人系统与人工智能国际会议(SIUSAI 2023)
  • 在OpenBSD上架设安全的小型网络
  • 每日一道leetcode(python)46. 全排列
  • 回溯-LeetCode77. 组合(Python)
  • leetcode 77. Combinations-排列|递归|非递归|Java|Python
  • leetcode 回溯算法 17. 电话号码的字母组合
  • LeetCode | 0017. Letter Combinations of a Phone Number电话号码的字母组合【Python】
  • LeetCode:17. Letter Combinations of a Phone Number - Python
  • leetcode2021年度刷题分类型总结(三)回溯法 (python)
  • LeetCode-Python-77. 组合