AI语言模型的事实核查能力遭质疑:世纪华通与DeepSeek股权关系的真相探讨
时间:2025-02-03 21:20
小编:小世评选
在人工智能飞速发展的今天,AI语言模型在信息提取与表达方面的能力不断增强。智能与智慧之间的差距愈发明显,尤其在涉及具体事实核查时,模型的回答却往往令人质疑。针对近期有关“世纪华通是否投资DeepSeek”的讨论,我们可以看到这一点的具体表现。
事件起因:AI模型的错误信息
豆包大模型在回答这个问题时,毫不犹豫地声称:“世纪华通确实投资了DeepSeek。”其后,它详细说明了相关情况,列出了一些(然而可疑的)信息来源,称在2023年11月,世纪华通通过旗下的盛趣科技与砾思集团联合成立的砾锋投资进行战略投资,成为DeepSeek的重要股东。可是,这一答案中的许多信息实际上源自于两个股股票社区的用户帖子,而其中部分内容时间久远甚至已经被删除。
对于一般用户而言,很难一眼辨别这些信息的真实性。更有甚者,模型并未提醒用户其信息核查的局限性,这显示了当前AI在知识验证进程中的不足。经过工商查询发现,DeepSeek的股东信息并未如豆包所言那样复杂,实际上,杭州市深度求索人工智能基础技术研究有限公司的唯一股东为其创始人梁文锋,而剩余的股份则由宁波程恩有限合伙企业所持。这样的信息在工商注册系统中可以清晰查到。
AI模型的核查能力缺乏
从更为广泛的角度来看,豆包大模型在对信息的筛选和核实上显得极为薄弱。这种现象并非个案,其他大型语言模型同样遭遇了较大的难题。例如,在被询问相同问题时,ChatGPT也给出了类似的确认,但其背后的数据来源与信息处理方式并不透明。虽然它未直接复制社区内容,但综合后的回答却依旧显得模糊。
另一方面,谷歌的Gemini在处理此类问题时显得更为谨慎,直接表示无法判断世纪华通和DeepSeek的股权关系,并提供了相关公司的背景介绍,展现出其在信息源的选择上更加严格的态度。作为信息搜索的领导者,谷歌在展示搜索结果时的原则与政策显然影响了Gemini的表现,使用者能够信任的信息也因此增强。
DeepSeek的回应与事实的错位
值得一提的是,DeepSeek在面对这一问题时的回应显得十分荒谬。其声称无法评估世纪华通与DeepSeek之间的股权联系时,错误地将创始人名义标记为其他人名,并将其归为另一位在AI领域内享有盛誉的人物。DeepSeek的回答不仅缺乏事实依据,甚至还延伸出对其自身信息的直接误解,这让人难以相信其可靠性。
DeepSeek试图关联其股东与世纪华通的关系时,引用了腾讯和红杉资本对DeepSeek的投资,然而这样的逻辑链条没有任何实质证据支持,堪称无稽之谈。公开的信息显示,腾讯及红杉并未参与DeepSeek创始人陈天奇新公司的投资,而他新成立的OctoML背后则有其他投资方支持,这一切都与DeepSeek的说法相悖。
:AI语言模型的未来挑战
当前的AI语言模型在信息生成与核查方面仍存在显著短板。尽管它们在文本生成能力上表现出色,但在实际的知识验证过程中,往往依赖于用户提供的信息,这直接影响了回答的准确性和准确性。面对复杂的事实核查需求,如何提高AI模型的核查能力,并提醒用户注意其存在的局限性,将是未来AI技术必须面对的重要挑战。只有当AI具备更强的判断力与智慧,才能真正完成信息服务的使命。