学校封杀,大厂禁用,ChatGPT争议丛生!


  新智元报道  

ChatGPT的诞生,改写了很多领域的游戏规则。现在,在很多地方,学校和大厂都下了ChatGPT封杀令。

12月,ChatGPT大红大紫之际,就有诸多学者和研究人员发出警告:ChatGPT很可能「杀死」大学论文。最近,纽约市教育局就正式对ChatGPT下了封杀令。

无独有偶,在很多互联网大厂,ChatGPT也遭到了封杀。很多已经习惯向ChatGPT咨询代码问题的码农们,原地爆哭……

纽约颁布禁令,师生全都禁用

就在1月3日,拥有全美最大公立学校系统的纽约市,正式颁布了「ChatGPT禁令」。

纽约市教育局发言人Jenna Lyle表示,虽然ChatGPT可以提供快速和简单的问题答案,但它不能培养学生批判性思维和解决问题的能力,而这些对于学术和终身成功来说至关重要。

当然,如果学校的目的是研究ChatGPT背后的技术,还是可以申请访问的。

目前,ChatGPT将对论文作弊的风险产生什么影响还有待观察,因为学生仍然可以在校外访问自己的设备和网络。

在她看来,教师们应该接受,AI是学生可以使用的一种工具,就像每个老师都教学生如何使用搜索引擎一样。

很多学生苦于无话可写,此时教师可以使用ChatGPT向学生展示如何生成提示,来刺激他们的写作。

Shields老师曾让ChatGPT以7年级生、10年级生和大学生的风格写同一个主题的文章,每个级别之间的句法差异程度令人震惊。因而,完全可以使用这种AI生成的反馈,来向学生展示如何改进他们的写作。

ICML发文澄清:主要为防止抄袭,不影响润色文章

要求一经提出,便引发了众多研究人员的不满:拼写检查和文本预测基于的就是语言模型,为啥不让我们用?

对此 ,图灵奖得主Yann LeCun评论道:「大型语言模型不能用,意思是换成中型和小型语言模型就行咯?」

由于引发的讨论太过激烈,ICML不得不单独发一条长文来解释这个规定。概括来说,有三个要点:

  • 政策禁止完全由LLM「生成」的文本,但这并影响作者使用LLM来编辑或润色自己写的文本。
  • 政策主要是防止使用LLM可能会出现的潜在问题,比如抄袭。
  • 目前,政策仅适用于ICML2023。随着我们对LLM及其对科学出版的影响有了更深入的了解,这一政策可能会在未来的会议中发生变化。

公告链接:https://icml.cc/Conferences/2023/llm-policy

大规模语言模型,争议丛生

在过去的几年里,大规模语言模型(LLM)的发展非常迅速。最近,这一进展不仅没有放缓,甚至还更快了。

正如大家看到的,过去几个月发布的LLM,如OpenAI的ChatGPT,已经能够生成难以与人类相区分的文本片段。毫无疑问,这是自然语言处理和生成方面令人兴奋的进展。
但这种快速的进展往往伴随着意想不到的后果以及无法解答的问题。比如,由模型生成的文本和图像是新颖的,还是现有工作的衍生品?
可以肯定的是,随着大规模生成模型被更广泛地应用,这些问题都将随着时间的推移得到解答,但现在还不行。尤其是距离ChatGPT的发布才过了不到2个月(2022年11月底)。
而对于ICML来说,他们并没有足够的时间来观察和调研ChatGPT将会对论文审稿和发表过程,产生何种影响。
考虑到针对这项新技术所采用的策略,会直接关系到研究人员的职业生涯。因此ICML表示,自己只能更加谨慎,甚至还会有些保守。
虽然ChatGPT写代码的能力被很多人诟病,但其实,用还是可以用的。
其实,ChatGPT最合适的定位,应该是编码辅助工具。在ChatGPT的发布方OpenAI看来,ChatGPT的重要用途之一,正是帮助程序员检查代码。
对于开发者而言,它就是日益丰富的工具板中的一个工具。而且,就像任何自学模型一样,ChatGPT也会随着时间的推移,不断学习,不断自我纠正和改进。
很多时候,与其在Stack OverFlow上为相对简单的问题(如何在Flutter中触发HookConsumerWidget的重建)等待几天,不如直接向ChatGPT提问。
因为在ChatGPT上,开发者们有很大概率,得到一个可以用于解决问题的起点——
参考资料:
https://www.businessinsider.com/nyc-schools-ban-chatgpt-cheating-concern-grows-2023-1
https://www.theregister.com/2023/01/06/ai_conference_nyc_ban/?td=rt-3a
https://www.reddit.com/r/ChatGPT/comments/104rp2j/my_company_blocked_chatgpt/

整理不易,三连