随着ChatGPT热度飙升,质疑和争议也随之而来,有分析指出,这种技术在教育和学术界可能引发滥用问题。
有调查显示,在美国,有不少大学生在用ChatGPT做作业。目前,纽约、洛杉矶等城市,已开始禁止在教室和任何学校设备上使用ChatGPT,理由是学生可以使用它轻松完成各类作业与测试。
ChatGPT的走红也引发了学术界的担忧,强大的语言理解和学习能力,使其产出的学术摘要可以骗过期刊审稿人。目前,已有多家知名学术期刊正在更新编辑规则,禁止将ChatGPT列为论文合著者,且不允许在论文中使用其所生产的文本。
此外,还有用户声称,已经找到了挖掘其所谓“黑暗面”的方法,可利用所谓“越狱”技巧迫使人工智能违反自己的规则,为用户提供任何他们想要的内容。
不过,也有部分学者表示,和许多新兴科技一样,人工智能不一定就是“洪水猛兽”。