財(cái)聯(lián)社6月5日訊（編輯 馬蘭）人工智能行業(yè)發(fā)展迅速，但技術(shù)發(fā)展與秩序重新規(guī)劃的速度不匹配，持續(xù)引發(fā)人們對(duì)于該行業(yè)的安全擔(dān)憂，就連深度參與人工智能研發(fā)的工程師們也站出來(lái)公開(kāi)警告。
13名來(lái)自O(shè)penAI、谷歌DeepMind和甲骨文的前員工和現(xiàn)員工在一封公開(kāi)信中表示，人工智能行業(yè)缺乏安全監(jiān)督，且該行業(yè)對(duì)舉報(bào)人的保護(hù)并不充分。
信中指出，人工智能公司掌握著大量非公開(kāi)信息，包括其系統(tǒng)的能力和局限性、保護(hù)措施的充分性以及不同類(lèi)型傷害的風(fēng)險(xiǎn)水平。然而，公司目前只有很弱的義務(wù)向政府分享部分信息，而對(duì)民間社會(huì)則沒(méi)有任何義務(wù)。
這些內(nèi)部人士認(rèn)為，人們不能指望人工智能企業(yè)會(huì)自愿分享這些信息。
內(nèi)部發(fā)聲渠道被阻斷
公開(kāi)信中寫(xiě)道，由于廣泛的保密協(xié)議，內(nèi)部員工被阻止表達(dá)自己的擔(dān)憂。他們希望先進(jìn)的人工智能公司可以承諾遵守幾項(xiàng)原則，包括不對(duì)批評(píng)公司的員工進(jìn)行報(bào)復(fù)等。
公開(kāi)信強(qiáng)調(diào)，普通的保護(hù)舉報(bào)人措施對(duì)人工智能行業(yè)來(lái)說(shuō)是不夠的，因?yàn)橐话愦胧┦怯糜诒Ｗo(hù)舉報(bào)非法活動(dòng)的內(nèi)部人士，但人工智能行業(yè)的舉報(bào)人更多是公開(kāi)指出許多未受到監(jiān)管的風(fēng)險(xiǎn)。
OpenAI則在一份聲明中為自己的做法進(jìn)行了辯護(hù)，稱(chēng)公司有舉報(bào)熱線等渠道來(lái)報(bào)告公司內(nèi)部問(wèn)題，并且在采取保障措施之前不會(huì)發(fā)布新技術(shù)。谷歌則沒(méi)有立即回應(yīng)置評(píng)請(qǐng)求。
然而，這封信出現(xiàn)的時(shí)間點(diǎn)頗為微妙。OpenAI上月剛剛有兩名高級(jí)員工離職——聯(lián)合創(chuàng)始人兼首席技術(shù)官I(mǎi)lya Sutskever和關(guān)鍵安全研究員Jan Leike。Leike在辭職后還直言不諱地批評(píng)OpenAI已經(jīng)放棄了安全文化，轉(zhuǎn)向商業(yè)利潤(rùn)。
此外，OpenAI等公司也確實(shí)存在較為激進(jìn)的策略，來(lái)阻止員工自由發(fā)聲。據(jù)報(bào)道，OpenAI要求離職員工簽署極其嚴(yán)格的保密文件，否則就將失去所有既得股權(quán)。OpenAI首席執(zhí)行官奧爾特曼在該報(bào)道后發(fā)布道歉聲明，并聲稱(chēng)將改革公司離職程序。