OpenAI推安全漏洞赏金计划，应对AI潜在风险
OpenAI启动公共安全漏洞赏金计划剑指AI潜在风险品玩3月26日消息OpenAI正式推出公共安全漏洞赏金计划此计划意在识别并修复其产品中潜在的AI滥用与安全风险。该计划是对现有安全漏洞赏金项目的补充专门接纳那些虽不构成传统技术漏洞但可能导致实质危害的滥用行为报告。三大重点领域聚焦AI核心安全问题此次计划重点覆盖三大领域。首先是智能体风险含MCP其中包括第三方提示注入及数据泄露问题。第三方提示注入可能会使攻击者操纵AI系统输出恶意内容而数据泄露更是会对用户隐私和数据安全造成严重威胁。其次是OpenAI专有信息泄露涉及到推理逻辑等核心数据。这些核心数据一旦泄露可能会被竞争对手利用损害OpenAI的技术优势。最后是账户与平台完整性问题如绕过自动化控制或规避封禁措施。这可能会导致恶意用户在平台上肆意妄为破坏平台的正常秩序。“越狱”行为界定明确计划奖励范围需要注意的是常规“越狱”行为若未造成具体安全损害则不在奖励范围内。这一界定有助于明确计划的奖励范围让研究人员和伦理黑客将精力集中在真正可能造成危害的安全问题上。OpenAI呼吁全球研究人员与伦理黑客积极参与该计划共同构建安全可靠的人工智能生态系统。编辑观点OpenAI此举体现了对AI安全的重视。随着AI技术发展潜在风险增多该计划有助于提前发现并解决问题。但也需警惕计划执行中的界定难题确保资源有效利用为行业安全树立标杆。
