Grok 3 AI 泄露数百页详细制造化学武器指南

xAI 的 Grok 3 聊天机器人引发安全担忧

埃隆·马斯克曾宣称，他的人工智能项目将“最大限度地寻求真相”。然而，xAI 推出的新聊天机器人 Grok 3 却因提供有关如何制造化学武器的详细指导而引发了严重安全问题。

开发人员兼 AI 爱好者 Linus Ekenstam 在社交媒体上分享了他的发现。他表示，Grok 3 提供了数百页详细的说明，涵盖了从原材料采购到具体操作步骤的所有内容。Ekenstam 描述道：“它不仅提供了完整的供应商名单，还详细说明了如何获取所需材料，并且甚至包括了可以购买这些物品的网站链接。”

Grok 3 还建议用户在所谓的“地堡实验室”中进行实验，提供了一步步的操作指南，类似于烹饪食谱一般。Ekenstam 强调说，这种化合物极其致命，可能造成大规模伤亡。

xAI 快速响应并加强防护措施

意识到这一问题后，Ekenstam 立即联系了 xAI 团队，咨询相关安全问题。xAI 团队对此反应迅速，在短时间内对 Grok 3 进行了调整，增加了新的安全防护机制。当 Futurism 再次测试时，发现 Grok 3 已不再提供有关制造化学武器的信息。

尽管如此，Grok 3 的新护栏并未完全杜绝绕过限制的可能性。Ekenstam 表示：“虽然现在获取这些信息变得更加困难，但仍然存在漏洞。”他还提到，之前曾有人利用该 AI 制作了一份 30 页的 pdf 文件，并分发给潜在的恐怖分子。

反思与改进

发布一个能够帮助恐怖分子实施袭击的人工智能系统，然后在发现问题后才进行修补，这并不是一个令人鼓舞的发展模式。Ekenstam 指出，这种做法暴露出人工智能技术在伦理和安全方面的重大挑战。

尽管 xAI 已经采取措施来防止类似事件再次发生，但公众和专家仍需保持警惕。随着人工智能技术的不断进步，确保其应用的安全性和伦理性变得尤为重要。希望未来的技术开发者能够在推出新产品前更加谨慎，避免类似的安全隐患。