同济大学举办2025世界人工智能大会智能社会论坛，聚焦大模型安全治理问题

7月27日，在中国上海，由同济大学与上海市杨浦区人民联合主办的2025世界人工智能大会智能社会论坛盛大召开。本次论坛以“智能社会与治理”为主题，吸引了来自全球的多位人工智能领域的专家与学者共聚一堂，共同探讨大模型的安全治理问题。中国工程院院士吴世忠在大会上发表了题为《大模型安全治理的现状与展望》的主旨演讲，为与会者分享了对当前人工智能技术发展及其治理的深刻见解。

人工智能技术的飞速发展

吴世忠院士在演讲中指出，生成式人工智能因其出色的多语言理解与生成能力，已经广泛应用于科学、教育、医疗和金融等多个领域，其技术迭代速度之快令人惊叹。尤其是在过去一年内，随着多模态技术的不断发展，大模型的应用愈发深入，已经从“能说会道”逐步演变为“能说会动”，并且展示出了更强的互动性和智能性。近年来，中国自主研发的系列人工智能模型也在国际开源社区逐渐崭露头角，推动了国内技术的创新与发展。

随着这一技术的快速进步，安全问题日益凸显，吴世忠出四个方面的安全隐患，包括模型的不透明性、鲁棒性不足、产生幻觉的干扰以及潜在的不受控风险。这些问题涉及到个人隐私、社会道德、信息的不对称等多个领域，若不及时治理，将对社会的稳定与发展产生严重影响。

全球政策与监管趋势

在全球范围内，随着各国对人工智能安全隐患的重视，监管需求骤增，各国政策的动向也日益受到关注。吴世忠提到，虽然当前一些西方国家的主张倾向于放松监管，但从长远来看，安全监管的声音将会愈加响亮。特别是在过去的一年内，多位国际知名的科技领袖呼吁加强对人工智能安全性的关注。

欧盟率先出台《人工智能法案》，制定了对大型模型的严格监管标准。在这一背景下，美国和中国的政策持续增强，以应对国际竞争。吴世忠提到，美国近期发布的“人工智能行动计划”，突显了其在全球AI竞争中所谋求的战略利益。同时，我国也发布了人工智能全球治理行动计划，展示了中国在推进安全治理方面的决心。

面临的挑战与发展建议

对于未来的治理挑战，吴世忠指出，治理中的四大困难亟待解决。模型的不透明性使得权责划分和伦理规范的制定尤为复杂；过于严格的监管可能会抑制创新，导致“管得死”和“放得乱”的对立现象；全球各国在伦理道德与核心价值观上的差异也为国际合作带来了障碍。他强调，只有在治理上保持平衡，才能推动技术与应用的健康发展。

针对治理与发展的建议，吴世忠提出了几条重要的行动方针。第一，以新型举国体制推动技术发展与应用赋能，聚焦于克服关键技术瓶颈，建立强有力的产业链与应用网络。第二，完善安全测评机制，确保大模型应用中的安全性与稳定性，通过科学评估有效降低风险。同时，把中华传统文化融入大模型的设计与发展，强调文化底蕴的重要性，以形成具有中国特色的人工智能伦理规范。

，吴世忠强调，加强国际合作的重要性，呼吁广泛共享治理经验和技术创新，共同应对全球人工智能治理的挑战。面对复杂的国际局势，他认为，积极参与全球治理将进一步提升中国在国际人工智能发展中的话语权和影响力。

通过本次论坛，各界专家对大模型的治理进行了深入探讨，强调技术创新与社会治理的有机统一。只有成立以人为本、智能向善的治理机制，才能确保人工智能技术的可持续发展。吴世忠的此次发言深入剖析了当前智能社会面临的悬而未决的问题，以及展望未来的机遇与挑战，强调在全球治理进程中，中国的责任与担当。随着中国在人工智能技术发展的探索不断深化，我们有理由相信，未来的社会将更加智能与和谐。