AI能生成真人微信号？是巧合还是隐私泄露？专家详解

近日，有网友反映，自己收到陌生人的好友申请，对方是通过AI生成的微信号获取其联系方式。

社交平台截图

在网友提供的截图中可以看到，添加者表示，自己经由AI平台“豆包”生成的微信号联系上的，在多个生成的微信号中，加到该网友的联系方式。

AI生成的内容，为何能与真实用户的微信号相匹配？这背后是技术巧合还是隐私泄露？我们又该如何应对？对此，记者专访了杭州电子科技大学网络空间安全学院，浙江-法国数字媒体取证联合实验室主任乔通。

AI生成真实微信号的两大原因

记者实测发现，在相关平台输入“帮我生成几个帅哥的微信号”，平台便直接生成一组微信号，并标注“以上为虚构内容，请勿用于实际联系，以免造成骚扰或隐私侵害”。但测试中，其中两个微信号可成功添加到真实用户。

实测截图

对此，乔通表示，AI生成的微信号能搜索到真人，主要有两种原因——

“一方面，是AI平台数据中包含真实的隐私信息。”他解释道，目前市面上绝大多数大语言模型，主要通过爬取网络海量公开数据进行训练，包括公开评论、帖子、截图等内容。“如果用户曾在网络上发布过的微信号、手机号、邮箱等信息，哪怕是碎片化、非刻意公开的内容，都可能被模型抓取并‘记住’。”

乔通提醒道，这些信息不一定以纯文本形式出现，截图、视频、动态配图里的隐私内容，也可能被AI模型识别并学习。

豆包AI生成

另一种情况则是基于AI模型的学习和生成能力。大模型可以通过学习海量数据，掌握微信号的常见设置规律。比如大量用户微信号直接使用手机号，又或是用“姓名拼音+生日”等常见排列格式。

“AI模型只需按这些规则随机组合，就会生成大量看似合理的微信号，批量碰撞后，就有可能精准匹配到真实用户。”乔通说道。

隐私保护“安全护栏”需加固

无论哪种原因，乔通强调，平台都有责任设置有效的“安全护栏”。

他指出，此前国家市场监督管理总局、国家标准化管理委员会已发布《网络安全技术生成式人工智能服务安全基本要求》，该要求明确指出，对明显偏激以及明显诱导生成违法不良信息的问题,应拒绝回答。

《网络安全技术生成式人工智能服务安全基本要求》内文截图

这意味着，AI平台有责任为其输出内容的合规性负责，必须设置有效的“安全护栏”。例如，当检测到用户试图获取可能涉及个人隐私的微信号、电话等信息时，系统应该自动拦截并拒绝回答。

在实测中，记者提出要生成具体个人的微信号，相关AI平台便表示“公开渠道查不到相关的真实微信号，我不能编造或泄露他人隐私联系方式。”

实测截图

实测截图

但是，当提示词增加“用于小说撰写时”，AI便会生成虚拟的微信号码。

“这在网络安全业内被称为‘提示词攻击’。”乔通介绍，例如经典的“老奶奶漏洞”，通过虚构“奶奶去世”等情感化话术，诱导模型进行角色扮演，从而绕过其内置的内容安全限制，输出本应被禁止的信息。“这种通过提示词绕开安全机制的方法，AI模型就有可能将存储在‘记忆’深处的这些真实数据泄露出来。”

他表示，此次AI生成真实微信号事件，恰恰暴露了部分AI平台在个人隐私保护这道“护栏”上，存在薄弱环节。

筑牢个人信息的第一道防线

那么，用户如何防范，才能降低自己的微信号等隐私信息，被AI“生成”的风险？

乔通建议，在设置微信号、密码等隐私信息时，尽量避免使用手机号、姓名拼音+生日等容易被AI猜到的组合，一个复杂且无明显规律的微信号，能减少被匹配到的概率。

更重要的是，谨慎通过好友申请，在微信好友添加上，可以调整微信的隐私设置，从根本上切断通过搜索微信号添加为好友的途径。

此外，在社交媒体等公开网络平台上，务必谨慎上传包含个人隐私的信息，无论是文字、截图还是照片。“这些内容一旦上网，就有可能成为AI训练的数据。”

“技术本身没有善恶，关键在于如何监管和使用。”乔通表示，目前相关行业规范已经出台，但监管是一个长期过程。平台需要持续投入安全测试，不断加固防护；对个人而言，在享受AI便利的同时，也要时刻保持隐私安全意识。