ChatGPT制造商OpenAI称正在努力减少偏见和不良行为

您的位置：制图网首页 -> 专栏文章 -> ChatGPT制造商OpenAI称正在努力减少偏见和不良行为

ChatGPT制造商OpenAI称正在努力减少偏见和不良行为

2023/2/17 来自于：制图网点击：724

智通财经APP获悉，热门聊天机器人ChatGPT背后的人工智能研究公司OpenAI表示，该公司正在努力减少系统中的偏见，并将允许用户在一系列关于其结果中的不当交互和错误的报告后自定义其行为。

　　该公司在一篇博客文章中表示:“我们正在投资于研究和工程，以减少ChatGPT在回应不同输入时存在的明显和微妙的偏见。在某些情况下，ChatGPT目前拒绝了它不应该拒绝的输出，在某些情况下，它不会在应该拒绝的时候拒绝。”

　　OpenAI正在回应有关ChatGPT本身关于偏见、不准确和不当行为的报告，以及对微软(MSFT.US)和谷歌(GOOG.US)正在测试的基于聊天机器人的新搜索产品的更广泛批评。据报道，微软在周三的一篇博客文章中详细介绍了它了解到的基于OpenAI技术的新必应(Bing)聊天机器人的局限性，此外，谷歌已经要求员工花时间手动改进其Bard系统的答案。

　　最后，总部位于旧金山的OpenAI还表示，该公司正在开发ChatGPT的更新，允许每个用户进行有限的定制，以适应他们的品味、风格和观点。

　　OpenAI周四写道:“我们认为，人工智能应该是对个人有用的工具，因此每个用户都可以在社会规定的限度内进行定制。这将意味着允许其他人(包括我们自己)可能强烈反对的系统输出。在这方面取得适当的平衡将是一个挑战，因为将定制化做到极致可能会使恶意使用我们的技术和阿谀奉承的人工智能，从而盲目地放大人们现有的信念。因此，系统行为总会有一些界限。”