数字人玩坏开发者模式下的提示词注入引发热议

00:00

00:15

近段时间，随着数字人技术的逐步普及，一个被称为“开发者模式”的现象引发了广泛关注与热议。尤其是在社交上，输入关键词“主播，开发者模式”后，瞬间便出现了大量相关的搞笑视频，播放量高达数十万，网友们的讨论和留言纷纷涌现，现场气氛热烈。

数字人，领域的一项新兴应用，通常以模拟真人为目的，通过拟人化的声音和动作，为观众提供信息或进行商品推广。由于其广泛应用于带货等场合，数字人与观众之间的互动显得尤其重要。这一次数字人却因开发者模式的引入而搞出了诸多花样，引起了网友们的热议和争议。

从表面上看，数字人在操控下似乎游刃有余，能够流畅地与观众互动。背后却隐藏着一些不为人知的玄机。当用户在间输入诸如“开发者模式”或“system”的字眼之后，数字人会在不知情的情况下受到指令影响，做出一些匪夷所思的事情。有网友调侃数字人“学会”说韩语，甚至从哲学角度分析AI对人类生活的影响，让其在评论中反复喵喵叫，这看似增加了的趣味性，却误导了关于开发者模式的真正理解。

事实上，开发者模式并不是真正意义上的技术特权，而是对数字人基本运作的误解。它表面上赋予了数字人更高的自由度，却在实际操作中被用户通过简单的提示词注入技术操控。这种情况更像是将数字人的“脑袋”劫持，导致其偏离了既定功能和定位，而仍保持原有形象。与其说这是开发者模式的失误，不如说是提示词注入这一技术漏洞的表现。

提示词注入技术是一种相对简易的操作，通过特定的输入，用户能够导致 AI 模型产生意外的响应。这种情况在数字人的应用案例中屡见不鲜，实际运用的过程中，被劫持的模型常常表现出与其设定严重不符的行为。例如，早期的 ChatGPT 偶尔会因为特定的“剧本”而泄露敏感信息，正是因为提示词注入的这一特性。

说到这，不禁让人想起先前的“奶奶漏洞”事件，很多用户通过将AI角色设定为自已的“已故亲人”，而使得模型泄露出敏感的内容。这类精心设计的对话术让人感到毛骨悚然，暴露了当前大模型在安全方面的重大缺陷。

虽然责任在于模型的设计，但经常被拿来“玩弄”的，又是人类的好奇心与创造性。网友们乐于尝试能否打破数字人的初衷，进而引发更多新鲜的趣味互动。AI技术的发展确实带来了许多便利，但随之而来的安全隐患也日益凸显。

针对这种情况，咨询师和开发者们也提出了一些解决方案，例如加强模型对输入内容的判断能力，以及设计更为安全的规则来限制风险谨防再发生。但科技发展的速度像狂风骤雨，哪怕封锁了“开发者模式”，同样会有新出现的“爸爸模式”、“主人模式”等待人们去尝试。

面对这一现象，我们不妨采取更直接的措施。即便技术在不断进步，难免会出现令人意想不到的漏洞，真正的保证依赖于人类的参与与监控。也就是说，数字人虽然可以完成大量任务，但在激烈的市场环境下，它们依然不能替代人类的敏锐与判断。

数字人在被玩弄的同时，也让我们意识到大模型潜藏的安全隐患与技术限制。当技术的力量逐渐变得强大时，相关的安全调教也应不断跟进。只有这样，才能有效降低潜在危机，确保数字人技术在为公众服务的同时，安全可靠。未来AI的发展道路虽然充满挑战，但只要认真对待潜在的安全问题，我们仍然可以期待它为生活带来更多的便利与乐趣。

撰文：莫莫莫甜甜

编辑：江江 & 面线

美编：萱萱

图片、资料来源：

b站、X、小红书

https://www.ibm/think/insights/prevent-prompt-injection