22日從智譜AI獲悉,第二屆人工智能安全峰會(huì)在韓國首爾召開,會(huì)上,智譜AI、亞馬遜、谷歌、微軟、OpenAI、Meta、IBM、Anthropic、xAI等來自北美、亞洲、歐洲和中東地區(qū)的 15 家頂級(jí)人工智能公司一道就AI開發(fā)安全承諾達(dá)成一致,簽署前沿人工智能安全承諾(Frontier AI Safety Commitments)。
前沿人工智能安全承諾包括以下要點(diǎn):確保前沿人工智能安全的負(fù)責(zé)任治理結(jié)構(gòu)和透明度;基于人工智能安全框架,負(fù)責(zé)任地說明將如何衡量前沿人工智能模型的風(fēng)險(xiǎn);建立前沿人工智能安全模型風(fēng)險(xiǎn)緩解機(jī)制的明確流程。
智譜AI首席執(zhí)行官張鵬表示,伴隨著先進(jìn)技術(shù)而來的,是確保AI安全的重要責(zé)任。圖靈獎(jiǎng)得主、世界人工智能領(lǐng)域頂級(jí)學(xué)者Yoshua Bengio 表示,前沿人工智能安全承諾的簽署在建立促進(jìn)人工智能安全的國際治理制度方面向前邁出了重要一步。
智譜AI相關(guān)負(fù)責(zé)人表示,未來將繼續(xù)通過創(chuàng)新推動(dòng)人工智能技術(shù)發(fā)展,基于超級(jí)認(rèn)知與超級(jí)對(duì)齊技術(shù),提升前沿人工智能模型的魯棒性和可靠性,打造安全、可控、強(qiáng)大的人工智能系統(tǒng),推動(dòng)構(gòu)建公平、公正、安全的人工智能發(fā)展環(huán)境。