DeepSeek回应"乱回"漏洞:特殊字符引发模型幻
📍 18.97.14.88
📱 CCBot/2.0 (https://commoncrawl.org/faq/)
🔗 /html/1jh.html
📄 5月19日,DeepSeek官方账号发布《关于 字符触发模型异常回复的说明》: 近期,我们关注到有用户反馈,在与DeepSeek模型的对话中输入" "这类特殊字符后,模型偶发返回不可预期的内容,使部分用户产生了"对话泄露"的疑虑。针对这一问题,我们的技术团队经全面排查后,发现: 输入" "等字符触发返回异常内容,属于特殊字符引发的模型幻觉,不涉及安全问题或隐私泄露。 后续我们将通过针对性训练增强模型对特殊字符的识别与处理能力,修复相关的已知问题,优化模型在此类场景中的表现。 DeepSeek始终对用户的数据安全与使用体验保持高度重视。感谢大家的关注与监督,也欢迎广大用户随时通过官方途径向我们反馈问题与建议。 5月18日,多位用户反映DeepSeek网页版出现功能漏洞,当输入" >"字符时,其会自动加载出对某问题的回答。 对此,记者进行了实测,发现当进入DeepSeek的"快速模式"后,无论是否加载深度思考和智能搜索两项功能,只要输入上述字符,DeepSeek均会直接开始回答,而回答的内容则和记者输入的内容完全无关。 而当记者再次输入"我刚刚问了你什么问题时?"DeepSeek会复述出该问题的提问内容。有用户反馈称,这些题目疑似其他用户所提的问题。 此前,4月24日上午,DeepSeek正式发布全新系列大模型DeepSeek-V4预览版,同步完成开源,并开放官网、App及API调用服务,标志着百万字超长上下文能力进入普惠阶段,引起广泛关注。 来源 DeepSeek 新京报 长安街知事 编辑 陈筱妍 审核 罗祎 王晨郁 校对 金秋 BREAK AWAY 特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台"网易号"用户上传并发布,本平台仅提供信息存储服务。 Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
📱 CCBot/2.0 (https://commoncrawl.org/faq/)
🔗 /html/1jh.html
📄 5月19日,DeepSeek官方账号发布《关于 字符触发模型异常回复的说明》: 近期,我们关注到有用户反馈,在与DeepSeek模型的对话中输入" "这类特殊字符后,模型偶发返回不可预期的内容,使部分用户产生了"对话泄露"的疑虑。针对这一问题,我们的技术团队经全面排查后,发现: 输入" "等字符触发返回异常内容,属于特殊字符引发的模型幻觉,不涉及安全问题或隐私泄露。 后续我们将通过针对性训练增强模型对特殊字符的识别与处理能力,修复相关的已知问题,优化模型在此类场景中的表现。 DeepSeek始终对用户的数据安全与使用体验保持高度重视。感谢大家的关注与监督,也欢迎广大用户随时通过官方途径向我们反馈问题与建议。 5月18日,多位用户反映DeepSeek网页版出现功能漏洞,当输入" >"字符时,其会自动加载出对某问题的回答。 对此,记者进行了实测,发现当进入DeepSeek的"快速模式"后,无论是否加载深度思考和智能搜索两项功能,只要输入上述字符,DeepSeek均会直接开始回答,而回答的内容则和记者输入的内容完全无关。 而当记者再次输入"我刚刚问了你什么问题时?"DeepSeek会复述出该问题的提问内容。有用户反馈称,这些题目疑似其他用户所提的问题。 此前,4月24日上午,DeepSeek正式发布全新系列大模型DeepSeek-V4预览版,同步完成开源,并开放官网、App及API调用服务,标志着百万字超长上下文能力进入普惠阶段,引起广泛关注。 来源 DeepSeek 新京报 长安街知事 编辑 陈筱妍 审核 罗祎 王晨郁 校对 金秋 BREAK AWAY 特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台"网易号"用户上传并发布,本平台仅提供信息存储服务。 Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
