治理人工智能乱象成为两会代表焦点

时间：2025-03-05 16:10

小编：小世评选

在人工智能技术迅猛发展的当下，“人工智能”成为了各类讨论中的热词。随着人工智能在各行各业的广泛应用，其带来的便利和效率提升已深入到我们日常生活的方方面面。伴随而来的却是一些亟待解决的乱象和风险，特别是在第十四届全国人民代表大会第三次会议期间，如何有效治理人工智能乱象成为了各位代表和委员关注的焦点。

今年的工作报告中首次提到“人工智能+”行动，显示出国家对于AI技术推广应用的重视。无论是通过智能助手提高办公效率，还是在教育、医疗等领域推动智能化发展，人工智能的潜力都得到了充分释放。不过，正如全国人大新闻发言人娄勤俭在会议上所提到的，人工智能在给社会带来便利的同时，也可能引发诸如信息误导、网络谣言等严重问题。例如，某张关于地震儿童的AI生成图像，让许多网友信以为真，造成恐慌；而关于公共人物的AI假视频也可能导致不必要的信任危机。

在这样的背景下，如何防控人工智能所带来的潜在风险便成了各位代表必须面临的问题。李东生代表提出了建立AI深度合成内容标识管理规章制度的建议，他强调应从人工智能服务商、用户、监管等多个参与主体出发，探索具体实施方案。这一提议若能成行，将有助于在信息传播环节提前设立防线，有效减少误信息对公众的影响。

针对当前的一些事件，例如关于地震儿童的图像，审查机制的缺失显而易见。用户在发布AI生成内容时，若未主动标识，该内容有可能在长达数小时内缺乏必要的识别标记。这种事后审查的方式显然难以满足快速的信息传播需求，因此建议社交媒体采取事前审核机制，甚至可以引入AI审核员来分担审核任务。通过人工智能进行初步审查，疑难内容再交由人工进行复核，这样不仅能提高审核效率，还能节省人力资源。

实施这些改革措施并非易事。人工智能生成内容（AIGC）因其低成本和高效率的特性，迅速获得了市场的青睐。社交媒体、内容创作者以及受众三方均在这一过程中获益匪浅。方不仅通过广告分成、商业推广等方式获取了可观的利润，同时用户与创作者也能通过内容创作获得奖励。这种情况下，对内容的严格管理和审查的动力自然不足。

对此，雷军代表建议应加快人工智能相关单行法立法进程，力求在保障创新发展的同时，给予法律以充分的权威与威慑力。这种立法应注重精准打击与有效监管并行，确保提供给人工智能行业良好的发展生态，而能有效威慑不法行为，保护公众的合法权益。

当我们在享受人工智能带来的便利时，更需清醒地认识到其带来的潜在风险。正如娄勤俭所言，倘若对这些风险任其发展，不仅是对个人及企业利益的侵害，更可能导致公众对权威信息源的信任度下降，进而影响整个社会的信息秩序。因此，在这次两会中，关于人工智能治理的话题值得我们每个人的关注与深思。

如何从立法、监管和行业自律等多方面入手，有效治理人工智能乱象，是当前亟待解决的课题。只有构建立体、多层次的治理体系，才能在释放人工智能生产力的同时，确保其发展能够真正惠及每一个人。希望在不久的将来，相关措施能够落实到位，让我们享受到更安全、更可靠的人工智能应用。