生成式人工智能存在幻觉需定期清理_全国人大代表刘庆峰：大模型生成“AI幻觉数据”，应定期清理

生成式人工智能存在幻觉需定期清理_全国人大代表刘庆峰：大模型生成“AI幻觉数据”，应定期清理本期为大家整理了关于这个方面的内容，下面是小编为大家整理的生成式人工智能存在幻觉需定期清理_全国人大代表刘庆峰：大模型生成“AI幻觉数据”，应定期清理，欢迎大家的分享收藏哟!

全国人大代表刘庆峰：大模型生成“AI幻觉数据”，应定期清理

十四届全国人大三次会议将于3月5日在北京召开。全国人大代表、科大讯飞董事长刘庆峰在接受记者采访时表示，他将在会上提交一份关于《预防大模型生成“幻觉数据”充斥互联网带来的危害，从技术研发和管理机制上构建可信的信息环境》的建议。

根据中国互联网络信息中心（CNNIC）发布的《生成式人工智能应用发展报告（2024）》，我国生成式人工智能产品的用户规模已达2.49亿人。然而，生成式人工智能存在“幻觉”问题，特别是深度推理模型的逻辑自洽性提升，使得AI生成的内容真假难辨。带有算法偏差的虚假信息会被新一代AI系统循环学习，形成恶性循环，进而影响公众信任和社会稳定。

为应对这一挑战，刘庆峰提出了两项具体建议。首先，应构建安全可信的数据标签体系，以提升内容的可靠性。通过建立安全可信、动态更新的信源和数据知识库，对不同类型数据的可信度和危害程度进行标注，从而降低人工智能幻觉出现的概率，提高生成内容的可靠性。

其次，刘庆峰建议研发AIGC幻觉治理技术和平台，定期清理幻觉数据。这包括研究幻觉自动分析的技术和软件平台，开展幻觉自动分析、AIGC深度鉴伪、虚假信息检测、有害内容识别以及互联网传播溯源等工作。相关部门应定期清理幻觉数据，并为公众提供AIGC幻觉信息检测工具与服务。

值得注意的是，AI幻觉是指人工智能系统（如自然语言处理模型）生成的内容与真实数据不符或偏离用户指令的现象。对此，全国政协委员、360集团创始人周鸿祎也在近日接受媒体采访时表达了类似的看法，认为企业在应用相关技术时，应连接企业专有的知识库进行校正，以确保生成内容的准确性。

红星新闻记者 付垚 刘亚洲

编辑 杨

上述就是关于生成式人工智能存在幻觉需定期清理_全国人大代表刘庆峰：大模型生成“AI幻觉数据”，应定期清理的全部内容了，希望能够有所帮助。更多相关攻略和资讯可以关注我们多特资讯频道，之后将为大家带来更多精彩内容。

了解更多消息请关注收藏我们的网站(news.duote.com)。