ChatGPT体验:AI 语言模型的强大功能与局限性

体验ChatGPT:强大的AI语言模型,在文本处理方面表现出色,但也存在局限性,尚不能取代搜索引擎。

原文标题:OpenAI模型ChatGPT体验

原文作者:牧羊人的方向

冷月清谈:

本文介绍了ChatGPT,一种基于GPT-3模型构建的聊天式自动回复生成技术,并分享了作者的使用体验和对ChatGPT原理的理解。

ChatGPT在文本语言处理方面表现出色,可以进行对话、情感分析、摘要提取和文本生成等任务。作者通过实际提问测试了ChatGPT的功能,发现其在知识储备、实时信息获取、诗词创作和图片处理等方面存在局限性,但其在主题创作和程序编写方面展现了很强的能力。

ChatGPT的原理基于“人工标注数据+强化学习”,通过三个阶段的训练,使模型理解人类指令的含义。作者认为,虽然ChatGPT功能强大,但目前还不能取代搜索引擎,因为它缺乏实时信息获取能力,且在某些领域(如诗词创作、图片处理)的表现还有待提高。此外,ChatGPT的回答也缺乏人类的个性理解,难以进行深入的思考和创作。

总的来说,ChatGPT作为一种AI工具,在生产力方面具有很大潜力,但仍需不断改进和完善。

怜星夜思:

1、ChatGPT的知识库是如何更新的?它能否像搜索引擎一样实时获取信息?
2、如果ChatGPT能理解古诗词的格律规则,它能否创作出比人类更好的诗词?
3、除了文本创作,ChatGPT还能应用于哪些领域?未来它会如何发展?

原文内容

1、ChatGPT简要介绍
ChatGPT是一种高效的语言模型,全称为"聊天式自动回复生成技术"(Chat-based Automatic Reply Generation Technology),用于预测人类语言的后续内容。它是基于OpenAI的GPT-3模型构建的,具有强大的自然语言处理能力。ChatGPT使用transformer模型进行训练,可以从大量的语料中学习语言之间的关系,并使用多层循环神经网络来捕捉语言的结构和语义。它可以应用于自动文本生成、语音识别、机器翻译等领域,为用户提供更好的人机交互体验。 ChatGPT有以下典型的经典应用案例:
  1. 对话系统:chatGPT可以用于构建聊天机器人和其它对话系统。它能够使用上下文理解语境,并生成与上下文相关的内容,这使得它在对话中自然的回应用户的输入,并且能够生成流畅、连贯、通顺的文本。

  2. 情感分析:chatGPT可以用来分析文本中的情感,例如确定一段文本是积极的还是消极的,这对于帮助企业监控社交媒体中的客户情绪,或者为用户提供基于情感的个性化推荐等应用非常有用。

  3. 摘要提取:chatGPT还可以用来提取文本的摘要。它能够通过分析文本的结构语义,来提取文本中最重要、最具代表性的内容。这对于快速浏览长篇文章或者从大量文本中提取关键信息等应用都非常有用。

  4. 文本生成:chatGPT还可以用来生成文本,它可以根据给定的模板和上下文,生成符合要求的文本,这对于自动生成报告、文章、广告语等应用都非常有用。

2、ChatGPT使用体验

1)登录使用

使用代理可以直接体验:https://gpt.chatapi.art/

备注:OpenAPI官网不在服务范围内,需要使用科学上网工具以及国外手机的验证码注册体验,某宝上已经有很多ChatGPT注册相关的内容。

2)先来个问题:ChatGPT会不会取代Google浏览器。ChatGPT的回答很谦虚,说自己只是一个聊天机器人,只会使用自然语言处理技术来回答问题。

3)问一个2022年世界杯冠军是谁。从回答中可以看到ChatGPT是基于内部的数据训练的,所有的知识是到2021年的,暂时还不能实时的去获取到知识。

4)问一个疫情有关的话题,回答的也比较官方。

5)写一首以“雪”为主题的宋词,这个结果就有些差强人意了,大白话没有一点宋词的韵律和美感。

6)擅长的主题,能够写数学表达式。写出傅里叶变换

7)甚至可以编写简单的程序,写一个冒泡排序算法。

3、ChatGPT原理介绍

ChatGPT在原理上是基于GPT 3.5大规模语言模型(LLM)引入“人工标注数据+强化学习”(RLHF)来不断Fine-tune预训练语言模型,主要目的是让LLM模型学会理解人类的命令指令的含义。具体而言分为以下三个阶段:

  1. 第一阶段:冷启动阶段的监督策略模型。从GPT-3的输入语句数据集中采样部分输入,基于这些输入,采用人工标注完成希望得到输出结果与行为,然后利用这些标注数据进行GPT-3有监督的训练。该模型即作为指令式GPT的冷启动模型。

  2. 第二阶段:训练回报模型。首先由冷启动后的监督策略模型为每个prompt产生K个结果,人工根据结果质量由高到低排序,以此作为训练数据,通过pair-wise learning to rank模式来训练回报模型。对于学好的RM模型来说,输入<prompt,answer>,输出结果的质量得分,得分越高说明产生的回答质量越高。

  3. 第三阶段:采用强化学习来增强预训练模型的能力。采样新的输入语句,policy策略网络生成输出结果,然后通过reward反馈模型计算反馈,该反馈回过头来作用于policy策略网络。以此反复,这里就是标准的reinforcement learning强化学习的训练框架了。

4、ChatGPT几点感受

体验了ChatGPT,只能感叹人工智能的发展已经非常强大,ChatGPT的优势在于对文本语言的处理能力,无论是主题文字的输出、一些问题的回答,都非常的有代表性。人机交互的过程中,又不同于Siri这样的对话机器人,它会根据提问者的语境进行动态的调整,相当于是一个大型的百科全书了,而且非常的考验提问者,需要学会提问题。体验过程中有以下几点感受:

1)ChatGPT能否取代Google或百度这样的搜索引擎

至少目前的技术是做不到的,ChatGPT是基于已有的知识数据进行的训练,这个训练的过程目前还做不到实时性。对旧有的知识系统进行线下的训练满足算法的最优结果,但是对于新的知识内容很难做到,所以有时候chatGPT给出的答案不一定是最佳答案。

2)非常善于主题类的创作,比如写个入党申请书,标准化模板。当然这个字数是没有500字的。

3)目前只适用于文本类的回答,图片类型的无法满足。比如画一个正方体或者找到相关的图片

4)对于古诗词这一类明显带有格律规则的创作不是非常友好,甚至无法理解七言律诗是什么。

5)对于主题理解性的话题,尚缺少一些人类的个性理解,比如这篇广东省2022年的高考作文“本手、妙手、俗手”。

全篇作文内容如下:

标题:扎实的基础是必不可少的
学习一项技能,我们必须从基础开始。围棋,这项神秘又古老的游戏,对于初学者来说,先要掌握“本手”。
“本手”是指合乎棋理的正规下法。它是一种经过深思熟虑,按照规则进行操作的方法。在学习围棋时,我们要深入理解“本手”,仔细研究它的精髓,并在实践中持之以恒地练习。只有在“本手”的基础上,我们才能进一步提高棋力。
然而,有些初学者却不愿意专注于“本手”。他们更喜欢挑战“妙手”,这种出人意料的精妙下法。“妙手”可能会带来惊喜和快乐,但是,它往往是“本手”的延伸。如果我们不扎实地掌握“本手”,就很难想象会出现什么“妙手”。
另外,如果不坚持“本手”,我们就很可能会走上一条不归路——“俗手”。“俗手”是指貌似合理,而从全局看通常会受损的下法。它看起来似乎有用,但实际上并不可取。如果我们不明确“本手”的价值,就容易掉入“俗手”的陷阱。这样,我们的棋力不仅不会提高,反而会下降。
因此,在学习围棋时,我们应该重视“本手”的功夫。“本手”是基础,它不仅能帮助我们在比赛中取得好成绩,而且还能为我们创造出“妙手”。只有扎实的基础,我们才能绽放出自己独特的光芒。
学习“本手”的过程中,我们需要专注、认真、耐心。这需要我们投入大量的时间和精力。同时,我们也需要严格按照“本手”的要求去操作,不断地练习、反复练习。通过不断练习,我们才能掌握“本手”,并将它融入我们的比赛。
“本手”也能为我们提供指导,让我们更好地理解围棋的规则和奥妙。它能帮助我们建立良好的棋风,让我们的棋艺更加优秀。
在实践中,我们可以通过多接触不同的“本手”,从中学习经验和技巧。例如,我们可以和更高水平的选手比赛,从他们身上学习“本手”的精髓。我们也可以阅读围棋教程,从中获取“本手”的相关知识。通过不断学习和实践,我们的“本手”水平一定会有所提高。
总之,“本手”是围棋学习中不可或缺的。我们要珍惜它,并努力掌握它。只有这样,我们才能真正成为一名优秀的围棋选手。

让它给作文评个分,回答的很有意思。

以上是ChatGPT的一些体验和感受,作为NLP自然语言处理领域的AI模型,ChatGPT已经非常强大。但个人感觉人工智能目前阶段还只能作为一种生产力输出,类似AI绘画等,没有人类的思想灵魂注入到作品中,只能称之为工艺品而非艺术品,这或许也是人和机器的本质区别。

参考资料:

  1. https://gpt.chatapi.art/

  2. ChatGPT会取代搜索引擎吗?https://zhuanlan.zhihu.com/p/589533490

  3. InstructGPT:https://arxiv.org/abs/2203.02155

引用一下问题:ChatGPT的知识库是如何更新的?它能否像搜索引擎一样实时获取信息?

我觉得它现在应该还是定期更新吧,估计是把一大堆数据打包进去训练。要做到实时更新难度太大了,成本也太高了,毕竟每次更新都要重新训练模型。

引用一下问题:如果ChatGPT能理解古诗词的格律规则,它能否创作出比人类更好的诗词?

我觉得有可能,你看现在AI都能画画作曲了,写诗应该也不远了。当然,要超越人类的顶级诗人,可能还需要很长时间。

引用一下问题:除了文本创作,ChatGPT还能应用于哪些领域?未来它会如何发展?

我觉得它在语音识别、机器翻译、数据分析等领域都有很大的潜力。未来可能会与其他AI技术结合,创造更多可能性。

对于“除了文本创作,ChatGPT还能应用于哪些领域?未来它会如何发展?”这个问题,我觉得它可以应用于客服、翻译、教育等很多领域。未来可能会更加智能,更像真人一样和我们交流。

引用一下问题:除了文本创作,ChatGPT还能应用于哪些领域?未来它会如何发展?

感觉未来可能会出现ChatGPT+虚拟人,想想以后和虚拟人谈恋爱,还挺刺激的,哈哈。

引用一下问题:如果ChatGPT能理解古诗词的格律规则,它能否创作出比人类更好的诗词?

我觉得不太可能。诗词不仅仅是格律,更重要的是情感和意境,这是AI很难模仿的。AI可以写出工整的诗,但未必能打动人心。

引用一下问题:ChatGPT的知识库是如何更新的?它能否像搜索引擎一样实时获取信息?

文章里提到了ChatGPT是基于2021年的数据训练的,所以实时获取信息应该还不行。至于知识库更新,我猜可能是定期更新,或者根据用户反馈进行调整?

关于“如果ChatGPT能理解古诗词的格律规则,它能否创作出比人类更好的诗词?”这个问题嘛,我觉得难说。它可以写出符合格律的诗,但要超越人类,还得看它能不能理解诗词的意境和情感。

引用一下问题:ChatGPT的知识库是如何更新的?它能否像搜索引擎一样实时获取信息?

实时获取肯定做不到,你想啊,搜索引擎的爬虫每天都在网上爬数据,ChatGPT总不能也这么干吧?技术上肯定有很大区别。至于更新频率,我估计不会太高,毕竟训练模型很费资源。