AI幻觉升级：潜在风险加剧，公众该如何应对？

在过去的几年中，生成式人工智能的快速发展引发了广泛的关注和应用。据统计，目前使用生成式人工智能产品的用户已达到2.49亿，占中国总人口的17.7%。这一技术的方便性和效率使得它迅速融入了人们的工作与生活，并且在社会治理和生产力提升方面发挥了积极的作用。伴随着这一亮眼成就的，隐藏着不容忽视的风险，尤其是“AI幻觉”这一现象，其对于公众的影响已经愈发显著。

所谓“AI幻觉”，是指人工智能在生成内容时偏离事实和逻辑，出现虚构或错误信息的现象。这种现象如同人类在梦境中的妄想，虽然有时看似合理，却与真实情况相去甚远。根据近期某公司的研究显示，某些大语言模型的幻觉率已上升了数个百分点，表明这一技术缺陷正在加剧，并危害着所应用的各个领域。

AI幻觉主要可以分为两种类型：事实性幻觉和忠实性幻觉。事实性幻觉是指生成内容与真实世界事实不符，例如，谷歌的Bard AI曾错误宣称某种图片是由特定望远镜拍摄的，而这是不真实的。忠实性幻觉则是指生成的内容与输入的指令或上下文缺乏关联，比如请求查询天气却得到的是往年的信息。这些问题导致AI在面对复杂或灵活的问题时，可能会给出毫无实际价值的答案，甚至造成严重后果。

AI幻觉所带来的潜在风险逐渐扩展至各个行业。比如，在医疗领域，AI可能给出错误的诊断，从而延误病人的治疗；在法律咨询中，虚假案例的引用可能导致律师失误；而在学术研究中，AI生成的虚假文献可能使研究失去真实性。在2023年，因使用ChatGPT生成虚构案例而受到制裁的法律事件便是鲜明的证明。

AI幻觉还可能被有心人利用，以传播虚假信息为目的。例如，某些网络文章利用AI生成的虚假统计数据来增加点击率，这种行为不仅误导了公众的认知，更可能引发社会恐慌。由此AI幻觉带来的“信息污染”正逐步侵袭社会，使得现实舆论环境受到严重干扰。

社会对于AI幻觉的危害愈发重视。为应对这一现象，各地已经相继建立了相关的法律规范和技术门槛，限制AI在某些关键领域的过度应用。例如，对于医疗机构，已明确禁止使用AI自动生成处方。这些措施旨在保障公众利益，避免技术滥用。

在面对AI幻觉时，公众应如何应对？人们应该提升自身的信息识别能力，保持必要的怀疑态度。在与AI互动时，不应盲目相信生成的内容，应主动核查信息真伪，从多个渠道进行验证。在利用AI技术的过程中，无法替代人类独立思考的重要性应被强调。技术应成为工具，而非我们思维的替代品。

技术公司和开发者也应当对AI的设计和应用负起更多责任。通过更精确的模型和系统架构，减少幻觉的出现是当务之急。目前，有研究者正在探索利用检索增强生成（RAG）技术，通过参考真实的文本来确保生成内容的真实性。虽然这项技术还不成熟，但它为减少AI幻觉开辟了新道路。

，在更宏观的层面上，社会也需要构建一个良好的信息生态系统，防止不实信息的扩散。各和应用应加速制定和落实AI生成内容的审核机制，以防止恶意使用引发的负面影响。如此，方能确保大众在数字时代不被错误信息所迷惑。

AI幻觉的出现不是偶然，而是人工智能在快速发展过程中所面临的一项重大挑战。只要我们意识到这一现象的存在，理性应对，加强技术责任和社会治理，AI技术最终将更好地服务于人类社会，助力我们的生活和工作的改善。无论未来技术如何演进，人类的独立思考和判断力始终是不可或缺的保障。