AI“幻觉”困境如何破解？这些公司踊跃“出招”

AI技术正加速走进各行各业，不断推动新质生产力的发展。然而，AI“幻觉”问题也随之显露。对此，A股公司各出奇招，积极应对AI“幻觉”困境。

AI“幻觉”暗藏风险

AI技术正以前所未有的速度发展，然而，AI在为人们工作、生活带来便利的同时，AI“幻觉”问题随之显露。

AI“幻觉”是指人工智能系统（自然语言处理模型）生成的内容与真实数据不符，或偏离用户指令的现象。

世界经济论坛发布的《2025年全球风险报告》显示，错误和虚假信息是2025年全球面临的五大风险之一。

三六零（601360.SH）创始人周鸿祎指出，以DeepSeek为代表的大模型的出现，让大模型加速走进百行千业，成为推动我国科技进步、经济增长和国家强盛的关键力量。然而，包括DeepSeek在内的大模型都存在“幻觉”，偶尔会生成不太合理、与事实不符的情况。争议由此引发。“幻觉”是一把双刃剑，是大模型与生俱来的特点，不可消除，也决定其创造力和想象力，对于实现通用人工智能（AGI）极其重要。如果大模型没有“幻觉”，就失去了想象力和创造力。能力越强的大模型，一般“幻觉”也越多。

就不同领域而言，周鸿祎认为，在科研领域，大模型能“想象”新药分子结构、蛋白质的结构等，为新研究指引方向。在医疗、法律、金融等对准确性要求高的领域，“幻觉”虽然可能出错，但可以利用技术手段，如检索增强生成（RAG）技术，通过比对专业知识库、网络实时信息等方式予以矫正。

周鸿祎建议，对大模型以及相关的产品和服务实施柔性监管，适度包容大模型的“幻觉”，对于“幻觉”导致的一般性失误，避免直接关停下架，给予企业自我纠正的机会，促进企业大胆创新、放手竞争，争取让更多企业“复制”DeepSeek的成功。

科大讯飞（002230.SZ）董事长刘庆峰表示，为预防大模型生成“幻觉数据”充斥互联网带来的危害，可从技术研发和管理机制出发构建可信的信息环境。

第一，构建安全可信数据标签体系，提升内容可靠性。建立安全可信、动态更新的信源和数据知识库，对不同类型数据的可信度和危害程度建立标签体系，降低人工智能“幻觉”出现概率，提升所生成内容的可靠性。

第二，研发AIGC“幻觉”治理技术和平台，定期清理“幻觉数据”。研究“幻觉”自动分析的技术和软件平台，开展“幻觉”自动分析、AIGC深度鉴伪、虚假信息检测、有害内容识别以及互联网传播溯源，定期清理“幻觉数据”，为公众提供AIGC“幻觉”信息检测工具与服务。

上市公司各出奇招

针对AI“幻觉”问题，不少上市公司正踊跃提出相关应对策略。零点有数（301169.SZ）旗下知识图谱通过提供准确的知识基础、增强语义理解和推理能力、约束生成内容的范围等，结合检索增强生成等技术，为AI提供更强的知识支持，以减少其“幻觉”现象。

岩山科技（002195.SZ）为进一步推进AIGC业务发展，于2023年6月成立了上海岩芯数智人工智能科技有限公司。其完全自主研发设计了Yan架构，并于2024年1月发布了国内首个非Attention机制的通用大模型——Yan1.0模型。

在对比实验情况下，Ya n1.0模型拥有相较于同等参数Transformer架构Llama2模型更高的训练推理效率、吞吐量及记忆能力，更低的机器“幻觉”表达，同时支持CPU无损运行并100%支持私有化应用。公司正在开发Yan2.0，其具备可持续学习能力，可持续学习能力将缓解Transformer架构模型中缺乏记忆、存在“幻觉”、耗算力、数据强依赖等问题。

拓尔思（300229.SZ）专注于中文全文检索、自然语言处理（NLP）技术的自主研发与应用创新，是国内最早从事NLP研发的企业之一。公司已形成了完整的NLP技术布局，包括大模型、语言理解、AIGC、知识图谱等。

拓尔思表示，公司实现了图像、音频、视频与文本的多模态融合及深度语义匹配，可通过对文字、语音、图片进行光学字符识别、以图搜文、以文搜图、视频搜索、音频搜索、以文生图等功能应用，实现图像、声音与文本之间的跨模态语义识别、检索与生成。这些技术与行业大模型融合，有望解决大模型缺乏事实知识、存在“幻觉”等诸多问题，使行业大模型在应用场景中能够有效提升总体答案相关性、答案溯源性、可信度以及数据安全性。

科蓝软件（300663.SZ）积极进行模型集成和对接，并基于这些模型研发AI智能体，支持多模型聚合调用，以满足金融场景的复杂需求。同时，公司推出了数据精炼工厂和模型监控产品，解决大模型的二次训练、微调、AI“幻觉”和伦理问题，形成了一套完整的大模型基础能力体系。

公司的魔瞳平台（大模型运行监控系统）可实时监测模型的运行状态和性能表现，对模型的绩效、评分、准确度进行评估，并尝试抑制AI“幻觉”等问题，确保模型稳定可靠运行。

新开普（300248.SZ）在产品层面采取双轨并行策略，一方面由产品事业部主导，将AI能力融入现有产品中，如智能问答、智能办理和智能问数能力，有效解决客户痛点，将运维项目转化为创新项目，大幅提升项目价值；另一方面，AI团队从创新角度驱动，持续训练私有模型，重点提升语义理解精度、响应速度、数据安全性及减少大模型的“幻觉”，同时深化意图识别、推理、验证、引导等能力，以提高智能问答的准确率、提升业务办理的效率、增加智能问数辅助决策的有效性。