技术前沿与科研应用

OpenAI发布超级对话模型ChatGPT

日期:2023-01-18

|  来源:【字号:

 1130日,美国人工智能公司OpenAI正式推出超级对话模型ChatGPT。该模型可回答用户问题,能挑出问题的错误之处,面对不懂的问题,还会承认错误并拒绝回答。目前,OpenAIChatGPT免费开放给大众使用,以获取用户反馈,为后续改进做准备。

ChatGPT是在GPT3.5大型语言模型(LLM)的基础上,加入基于人类反馈的强化学习来不断微调预训练语言模型,使得大型语言模型学会理解不同类型的命令指令,并通过多重标准合理判断基于给定的输入指令,输出的是否为优质信息。判断的标准包括:富含信息、内容丰富、对用户有帮助、无害、不包含歧视信息等。ChatGPT能够结合行业特点和需求,构建自动应答系统,为客户提供快速、准确的问题解答,在传媒、娱乐、设计和影视领域,ChatGPT能够协助完成一些较低层次的任务,包括文稿生成、采访助手、摘要总结等。

ChatGPT相较于以前的模型已具备较强的自然语言处理能力,但在精准性、真实性、重复率和依赖性等问题上还尚待改善。如:由于技术实现,ChatGPT有时会给出听起来很有道理,但实则离谱的答案;在较长的会话中,由于训练数据的偏差和过度修正,会过度强调某些短语或者句子,导致重复性高的问题;ChatGPT的强大能力依赖语料库、数据量的抓取和复杂的训练过程;用户提出ChatGPT还不知道答案的问题,模型会崩溃。

信息来源:

https://openai.com/blog/chatgpt/

https://www.nbd.com.cn/articles/2022-12-13/2591827.html

附件: