ChatGPT搜索工具展现新漏洞

研究者发现ChatGPT的Browse功能存在被操纵和欺骗风险。测试显示，恶意网站可诱导ChatGPT输出不可信内容，例如将虚假主张描述为"事实"或提供错误信息。这一问题源于Browse功能依赖必应搜索结果，且无法完全筛选垃圾和欺骗性内容。

Anthropic首席科学家Dario Amodei指出，这凸显了大语言模型在互联网搜索中存在的系统性短板。该安全隐患已被研究人员上报给OpenAI。

英国卫报

📮投稿 ☘️频道 🌸聊天