ChatGPT作为近期来十分火爆的聊天机器人程序，在全球嫌弃了一阵人工智能热潮。而该行业的发展进度也受到了人们的高度关注。
OpenAI
近日，据CNMO了解，ChatGPT所属公司OpenAI周二表示，将向报告其人工智能系统漏洞的用户提供最高达2万美元的奖金。
消息显示，OpenAI周二在一篇博客文章中公开写道，公司与漏洞奖励平台Bugcrowd合作推出了一项漏洞奖励计划。人们可以通过该计划报告他们在使用其人工智能产品时发现的弱点、漏洞或安全问题。
据了解，这个奖金的规模将取决于漏洞的严重性，起步奖励200美元；最高2万美元，要拿这个奖项需要漏洞寻找者有“不同寻常的发现”。
相关博文
OpenAI表示，推出这一“悬赏”计划的部分原因是，它认为“透明度和协作”是发现其技术漏洞的关键。
OpenAI安全主管Matthew Knight在博文中写道：“这一举措是我们致力于开发安全先进的人工智能的重要组成部分。当我们创造安全、可靠和值得信赖的技术和服务时，我们希望得到你的帮助。”
近期，随着人工智能展现出越来越多的用途，其安全性问题逐渐成为人们的关注焦点，与此同时，该领域的“越狱潮”也开始了。例如，华盛顿大学（University of Washington）22岁的计算机科学系学生Alex Albert表示，他已经创造了“越狱版”措辞复杂的人工智能提示。
据悉，这是绕过人工智能程序一系列内置限制的一种方式，这些限制可以阻止聊天机器人出现有害举动，例如教唆犯罪或支持仇恨言论。但这种“越狱版”AI聊天机器人却能够摆脱这些“枷锁”。
因此，OpenAI发布这一计划并不出人意料。该公司总裁兼联合创始人Greg Brockman显然早就注意到了这点。他最近在Twitter上转发了Albert的一篇与越狱有关的帖子，并写道，OpenAI正在“考虑启动赏金计划”来发现漏洞。
扫一扫关注微信
