近年来,随着人工智能算法不断迭代升级,尤其是机器学习赋予人工智能强大的学习能力,使其不再局限于只能依据事先指定的模板或者规则,进行简单的内容输出和制作,而是能够根据用户提出的指令即可生成灵活且真实的内容,甚至能够实现高质量的内容创作,这类技术也被称为人工智能生成内容(AIGC)。
近期爆火的ChatGPT就是AIGC的典型代表,该技术是基于语言模型GPT-3.5的聊天机器人,ChatGPT模型使用一种称为人类反馈强化学习(RLHF)的机器学习进行训练,可以模拟对话、回答后续问题、承认错误、挑战不正确的前提并拒绝不适当的请求。虽然,此前不乏能够与人进行互动对话的聊天机器人,但并没有像ChatGPT一样受到广泛关注,是因为与其他聊天机器人相比,ChatGPT具有更强大的功能,借助其核心技术之一“Transformer神经网络架构”,利用从大型文本语料库中所学到的内容,能够生成具有更丰富细节和更长篇幅的内容,可以完成包括写邮件、写代码、写新闻报道以及写论文等多种任务,且任何人都可以轻松地使用,具有开放性、跨领域及通用性的特征,其本身可以构成网络信息技术领域的终端,成为支撑人工智能技术和产业发展的一种关键基础设施。由此,ChatGPT也引发了全球各界的广泛关注甚或担忧。
潜在风险