奧特曼承諾的小作文,它來了,還一發發兩篇!
一篇短的,回應了離職霸王條款,也就是員工離職後說OpenAI壞話會被收回股權的事兒。
另一篇超長,講了OpenAI的整體安全戰略,回應了OpenAI前超級對齊負責人Jan Leike昨天的13條推文爆料:
OpenAI對AGI的安全治理,優先級不如推出“閃亮的產品”。
不過,這篇回應小作文不是從奧特曼自己發的,而是Greg Brockman發的。
明明是在Greg的賬號,署名確是Sam在前麵,“Sam and Greg”。
衝著奧特曼這個發回應小作文的速度,昨天麵對超級對齊團隊炮轟還顯得很淡定的奧特曼,看來也沒那麽淡定。
不過,這兩篇小作文發出後,很多網友並不買賬。
甚至有人這樣評論小作文的效果:
汗流浹背的CEO發了一條全力挽回聲譽的推文,從社區寵兒迅速跌落至聲譽崩塌。
奧特曼都說了啥?
不會收回股權
先來看第一篇,完整版如下。
關於最近有關OpenAI處理股權的問題:
我們從未收回任何人已有的股權,即便員工未簽署離職協議/不詆毀協議,我們也不會這麽做。你的股權就是你的股權,這一點毫無疑問。
在我們之前的離職文件中確實有一項關於潛在收回股權的條款;雖然我們從未實際執行過這一條款,但這種條款不應該出現在任何文件或溝通中。
這是我的責任,是我在管理OpenAI過程中為數不多的幾次真正尷尬的事情之一;我之前並不知道有這種情況,但我本應知道。
過去一個月左右,團隊一直在修訂標準離職文件。如果有任何前員工因簽署了這些舊協議而感到擔憂,可以聯係我,我們會解決這個問題。對此我深感抱歉。
一句話總結:這事兒我不知道,大家放心不會收回你已有的股權。
看起來奧特曼回應的挺誠懇的,但網友看了一眼就表示:Jan贏了。
為啥?
有網友擺出了不相信奧特曼的理由。
首先,有網友爆料奧特曼在之前的公司也讓員工簽過反詆毀協議。
YCR
HARC解散的時候,奧特曼讓每個人都簽署了一份保密和反詆毀協議,這樣才能保留自己使用的電腦。我覺得這很奇怪。我之前就買下了使用的那台iMac,所以我現在可以談論這件事。
其次,眾所周知,去年OpenAI內訌那會兒,有爆料稱奧特曼與當時的董事會其他成員私下談話,討論替換掉Helen
Toner(OpenAI原董事會成員),就是因為Helen和別人合寫了一篇隱晦批評OpenAI“煽動炒作AI的火焰”的文章。
所以,網友覺得讓員工簽不能說壞話的協議,不然就收回股權,這事兒奧特曼不可能不知道,這符合他的風格。
退一步來講,就算奧特曼本人不知道這個條款,OpenAI知道吧?這個條款又不會憑空出現。離職的員工肯定知道吧?
就沒有人跟奧特曼投訴過?
OpenAI的安全戰略
再來看關於安全問題的回應。
感謝Jan為OpenAI所做的一切貢獻,即使他離開了,我們也相信他還會繼續為我們的使命做出貢獻。鑒於他的離職引發了一些問題,我們希望澄清我們對整體戰略的看法。
首先,我們提高了對AGI風險和機遇的認識,幫助世界更好地為AGI的到來做好準備。我們多次展示了深度學習擴展帶來的巨大潛力,並分析了這些潛力的影響。在國際上,我們率先呼籲對AGI進行治理,並在AI係統災難性風險評估方麵開創了科學研究。
其次,我們正在建立安全部署愈發強大的AI係統所需要的基礎設施。確保一項新技術的安全並非易事。比如,我們的團隊為安全推出GPT-4付出了大量努力,自那以後,我們不斷改進模型行為和濫用監控,以應對部署中學到的經驗教訓。
第三,未來的挑戰將更勝以往。我們需要不斷提升安全工作,以應對每個新模型帶來的風險。去年,我們采用了Preparedness
Framework,用來係統化實現這一目標的方法。
是時候談談我們對未來的看法了。
隨著模型愈發強大,我們預計它們將更深入地融入現實世界。用戶將更多地與由多模態模型和工具組成的係統互動,這些係統不僅通過文本輸入輸出與用戶對話,還能代表用戶執行命令。
這些係統將對人們幫助巨大,並且可以安全地交付,但這需要大量基礎工作。包括在訓練過程中深入思考它們連接的內容,解決可擴展監督等難題,以及其他新型安全工作。我們尚不確定何時能達到我們的安全標準,推遲發布也是可能的。
我們無法預見未來每一個情景。因此,我們需要緊密的反饋循環、嚴格的測試,每一步都要謹慎考慮,保證世界級的安全性以及安全和能力的平衡。我們將繼續進行不同時間尺度的安全研究,並與政府和利益相關者就安全問題合作。
目前還沒有已驗證的科學手冊可以指導我們走向AGI。我們相信基於經驗的理解可以指引前進的道路。我們努力實現AI係統巨大的潛力,同時減輕帶來的嚴重風險;我們認真審視我們扮演的角色,並仔細權衡反饋。
——Sam和Greg
看完後,網友一致認為雖然是Greg發的,但絕對是奧特曼寫的。因為看起來一大篇,但實質性的東西啥也沒說。
為啥要讓Greg發,有網友猜大概是因為……奧特曼現在特別脆弱,覺得有必要發出“Greg和我在一起,我發誓”這樣的信息,來表明自己並不孤單。
不過也有網友從中分析出,OpenAI的策略是通過測試、不斷的反饋來改進模型確保AI安全性,這其實和超級對齊團隊主張的預先給出證明的方法相悖,也難怪他們會分道揚鑣。
對於這兩篇回應,大夥兒怎麽看?
-->
`,
"script":[{"type":"text/javascript","src":"//widgets.outbrain.com/outbrain.js","async":"async"}]
}
, "gg_rightside": {
"html":`
`,
"script":[{"type":"text/javascript","src":"//widgets.outbrain.com/outbrain.js","async":"async"}]
}
, "gg_duturandom": {
"html":`
`,
"script":[]
}
, "gg_square": {
"html":`
`,
"script":[]
}
, "gg_topbanner": {
"html":`
`,
"script":[]
}
, "gg_middlesquare": {
"html":`
`,
"script":[]
}
, "gg_dutu": {
"html":`
`,
"script":[]
}
, "gg_botline": {
"html":``,
"script":[]
}
, "gg_dututop": {
"html":`
`,
"script":[]
}
, "gg_shipintop": {
"html":`
`,
"script":[]
}
, "gg_inContent": {
"html":`
`,
"script":[]
}
, "gg_shipinrandom": {
"html":``,
"script":[]
}
, "gg_sideSticky": {
"html":`
`,
"script":[]
}
, "gg_bottombanner": {
"html":`
`,
"script":[{"type":"text/javascript","src":"//widgets.outbrain.com/outbrain.js","async":"async"}]
}
, "gg_marquee": {
"html":`
`,
"script":[]
}
}
const adEnv={
"gg_header": {
"html":``,
"script":[{"type":"text/javascript","exec":` var googletag = googletag || {}; googletag.cmd = googletag.cmd || []; var pbjs = pbjs || {}; pbjs.que = pbjs.que || []; `},{"type":"text/javascript","src":"https://adncdnend.azureedge.net/adn-hb/adn.wnx2.js","async":""},{"type":"text/javascript","src":"https://adncdnend.azureedge.net/adn-video/WenxuecityPlayer.js","async":"async"}]
}
}
const wxcEnv = {
"base":{
"exe":[],
"src":[
{"src": "/news/js/recommendednews.js","defer":"true"},
{"src":"/js/wxcFunc.js","defer":"true"}
]
},
"func":{
"exe":[
//展示評論
'function showMoreComments(){let n = 2;for(let i=0;i
2){dom.hide();}}$("#showallcomment").show();$("#showlesscomment").hide();};',
],
"src":[
//圖片,搜索,QR code
{"src": "/news/js/view.js?v=05132024"},
//計數器
{"src":"//count.wenxuecity.com/service/count/script/do.php?type=news&id=125574078&n=0&out=jsval","defer":"true"},
]
}
}
function wxcCode(){
wxcEnv.base.exe.forEach(x=>{
let tag = buildAdcode(x);
document.head.append(tag);
})
wxcEnv.base.src.forEach(src => {
let tag = buildSrc(src)
document.head.append(tag);
});
wxcEnv.func.exe.forEach(x=>{
let tag = buildAdcode(x);
document.body.append(tag);
})
wxcEnv.func.src.forEach(src => {
let tag = buildSrc(src)
document.body.append(tag);
});
}
function adcode(){
let adkey = Object.keys(ads);
adkey.forEach(x=>{
let code = ads[x].html;
let div = document.getElementById(x);
if(div)div.innerHTML = code;
ads[x].script.forEach(s=>{
if(Object.keys(s).indexOf('src')===-1){
let tag = buildAdcode(s.exec);
document.body.append(tag);
}else{
let tag = buildSrc(s);
document.body.append(tag);
}
})
})
}
function baseCode(){
let baseKeys = Object.keys(adEnv);
baseKeys.forEach(x=>{
adEnv[x].script.forEach(s=>{
if(Object.keys(s).indexOf('src')===-1){
let tag = buildAdcode(s.exec);
document.head.append(tag);
}else{
let tag = buildSrc(s);
document.head.append(tag);
}
})
})
}
function buildAdcode(script){
let tag = document.createElement('script');
tag.innerHTML = script;
return tag;
}
function buildSrc(obj){
let keys = Object.keys(obj);
let tag = document.createElement("script");
keys.forEach(key=>{
tag.setAttribute(key, obj[key]);
})
return tag ;
}