OpenAI宣布在全球公开招募“红队”网络 以挖掘AI系统潜在问题与风险

来源:网界网 | 2023-09-21 11:11:12

  OpenAI宣布将在全球地区招募红队演练团队成员,预计通过外部人才挖掘人工智能系统潜在问题与安全风险。 另一方面,相关消息更指称OpenAI计划推出其多模大型自然语言模型GPT-Vision,后续更准备推出代号Gobi的更大规模多模大型自然语言模型,借此与Google等业者计划推出的多模大型自然语言模型抗衡。

  如同许多安全机构会通过红队演练 (Red Teaming)找出系统潜在安全风险与漏洞问题,OpenAI同样也计划通过红队演练方式找出人工智能技术运作时的潜在问题,以及可能被用于恶意行为的情况。

  由于人工智能技术存在许多不确定性,因此必须确定人工智能基础运作安全,同时也必须确保人工智能在不同领域是否会有应用问题,其中包含知识认知、政治、人文社会、教育、法律、金融、数据隐私,以及道德方面是否有潜在影响。

  目前OpenAI已经针对不同领域招募专家,希望能通过更多人才技能与红队演练过程确保其人工智能服务安全无虑,并且降低应用潜在风险问题。

  而所有参与红队演练的团队成员均必须签署保密协议,或是在相关技术对外公布前禁止透露任何细节。

  实际上,OpenAI在先前公布的大型自然语言模型正式推出前,其实都曾进行一定程度的红队演练,借此确保模型使用安全。 此次扩大在全球地区招募红队演练,显然也是希望能让其人工智能技术有更多安全保障。

  此外,The Information网站取得消息指称,OpenAI可能会赶在Google正式推出其多模大型自然语言模型Gemini之前,公布其多模大型自然语言模型GPT-Vision,后续更可能推出规模更大的多模大型自然语言模型,代号为Gobi。

  在接下来的人工智能技术竞争,多模大型自然语言显然会成为关键,让人工智能能同时接受多种信息输入,并且自动生成不同信息内容输出,相较早期人工智能仅能单次针对单一内容进行回复,预期未来的人工智能技术将能同时进行多项内容运算响应。

相关阅读

每日精选