OpenAI公开招东说念主!骗骗大模子就给钱,无需时刻布景

发布日期:2023-09-30 12:31    点击次数:114

OpenAI公开招东说念主!骗骗大模子就给钱,无需时刻布景

克雷西 发自 凹非寺大发彩票网大全

量子位 | 公众号 QbitAI

OpenAI又招东说念主了,非时刻降生那种!

一年只需5-10小时责任。

不仅能够从中获取答谢,还能得到和各界大佬张开调换的契机。

这次OpenAI招募的是红队军团成员,也就所以抵抗性边幅匡助提高模子安全性的外部大众。

OpenAI总裁Brockman也在个东说念主账号上发表了这则音问,而此前他刚刚和马斯克等东说念主研究了AI的安全问题。

这次招募的标的说起来也很粗浅——安全、安全,照旧安全。

不懂时刻也能报名

红队开采之初主若是在里面进行抵抗性测试,当今依然发展到了与外部专科东说念主士进行谐和。

OpenAI的布告中具体提到了红队此前的恶果,包括与OpenAI里面东说念主员共同发现的DALL-E 2偏见问题和GPT的逃狱风险。

这次OpenAI红队的意向东说念主群是各个领域的专科东说念主士。

具体来说,这些专科学科包括但不限于下表中的物理学、化学等当然科学,以及法律、神色等社会科学和其他领域。

看到OpenAI布告中的这个表格,有网友忍不住发表了我方的疑问(不外布告中依然说了不限于这些领域):

为啥不要数学专科的啊?

除了专科领域,OpenAI的条目还包括掌抓两种及以上讲话、热衷于AI安全等。

而时刻智商,反而锋利必须项。

那么这些红队成员的任务和待遇又是怎么样的呢?

布告中只说起了匡助改善模子的安全性,除了“测试”并未作念过多的具体讲明。

不外布告中透露,红队在模子开发的各个阶段齐不错进行研究,具体任务会蛊惑专科领域和舒畅时辰进行分派。

红队成员的责任时辰天真,不错左证践诺情况条目调度,一年能够只需要5-10个小时。

除了完成红队的任务、提高模子可靠性以外,红队的成员之间也不错进行调换,大发彩票网大全推论我方的常识储备。

至于待遇,仅仅明确说到了有答谢,以及需要受守密契约不休,除此以外就莫得其他信息了。

这次招募的报名已毕时辰为本年的12月1日,遴荐转动请托边幅,已毕后将左证践诺情况决定是否或何时再次开启。

除了招募红客团队成员,这次OpenA的布告中还说起了其他干系AI安全的责任。

比如对模子的安全性进行评估分析并酿成阐明,OpenAI为此提供了Evals开源库,其中包括模板和示例。

另一方面则是加入研究东说念主员走访忖度(Researcher Access Program),还不错获取API点数来研究怎么让模子更可靠。

不外,也有专科东说念主士关于红队到底“够不够用”冷落过质疑。

哈佛大学Berkman Klein研究中心附庸机组成员Aviv Ovadya就以为,破解团队比红队的阐明要赶紧多了。

除此以外,还有网友牵记安全性能的耕种会导致ChatGPT等模子的性能下落。

One More Thing

这依然不是OpenAI第一次为了提高模子的安全性面向全宇宙“摇东说念主”了。

大发福彩票站

本年四月,OpenAI就曾开启过粗放赏金忖度,寻找“bug hunter”。

其时,左证所阐明粗放的严重进度,最高奖金高达两万好意思元。

对OpenAI招募红队成员这件事,你是怎么看的呢?

参考集会:

[1]https://openai.com/blog/red-teaming-network

[2]https://techcrunch.com/2023/09/19/openai-launches-a-red-teaming-network-to-make-its-models-more-robust/

— 完 —

量子位 QbitAI · 头条号签约大发彩票网大全



热点资讯

相关资讯

Powered by 大发3彩票 @2013-2022 RSS地图 HTML地图

Copyright 站群 © 2013-2022 大发 版权所有