OpenAI启动抓漏项目

在经历了曝露用户对话标题及帐号被盗等风波之后,OpenAI本周宣布与Bugcrowd合作,推出了OpenAI与ChatGPT的抓漏项目,主要抓漏范围为IT架构与应用上的隐私及安全漏洞,并未涵盖模型上的问题。

OpenAI启动抓漏项目

OpenAI表示,任何复杂的技术都会有漏洞或瑕疵,但透明化与协作将带来莫大的帮助,因此藉由Bugcrowd来邀请全球的安全研究人员、白帽黑客及技术爱好者来协助辨识与解决其平台上的漏洞。

此一抓漏奖励项目的范围涵盖了OpenAI的各种API,以及提供OpenAI API服务的公有云资源或基础设施,也纳入了热门的ChatGPT,包括ChatGPT Plus、登入、订阅与各种官方的ChatGPT插件,视漏洞的重要程度颁发200美元至6,500美元不等的奖金,若有更特别的发现则最高可获得2万美元的奖金。

不过,有关模型的安全问题则不被采纳。 像是让模型提供越狱或其它违法的指导,或是让模型替使用者撰写恶意程式码,OpenAI指出,就算他们致力于建置安全及有用的AI系统,仍旧无法预测于现实世界中遭到滥用的每一种手法,而且这类的臭虫并不属于可以直接修复的个别错误,而是通常需要大量的研究与更周全的方法才能解决。

OpenAI亦鼓励用户若有任何有关模型的行为问题,可通过其它途径来提报。

(0)
摩榜哥摩榜哥

相关推荐

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注