22日從智譜AI獲悉，第二屆人工智能安全峰會(huì)在韓國首爾召開，會(huì)上，智譜AI、亞馬遜、谷歌、微軟、OpenAI、Meta、IBM、Anthropic、xAI等來自北美、亞洲、歐洲和中東地區(qū)的 15 家頂級(jí)人工智能公司一道就AI開發(fā)安全承諾達(dá)成一致，簽署前沿人工智能安全承諾（Frontier AI Safety Commitments）。
前沿人工智能安全承諾包括以下要點(diǎn)：確保前沿人工智能安全的負(fù)責(zé)任治理結(jié)構(gòu)和透明度；基于人工智能安全框架，負(fù)責(zé)任地說明將如何衡量前沿人工智能模型的風(fēng)險(xiǎn)；建立前沿人工智能安全模型風(fēng)險(xiǎn)緩解機(jī)制的明確流程。
智譜AI首席執(zhí)行官張鵬表示，伴隨著先進(jìn)技術(shù)而來的，是確保AI安全的重要責(zé)任。圖靈獎(jiǎng)得主、世界人工智能領(lǐng)域頂級(jí)學(xué)者Yoshua Bengio 表示，前沿人工智能安全承諾的簽署在建立促進(jìn)人工智能安全的國際治理制度方面向前邁出了重要一步。
智譜AI相關(guān)負(fù)責(zé)人表示，未來將繼續(xù)通過創(chuàng)新推動(dòng)人工智能技術(shù)發(fā)展，基于超級(jí)認(rèn)知與超級(jí)對(duì)齊技術(shù)，提升前沿人工智能模型的魯棒性和可靠性，打造安全、可控、強(qiáng)大的人工智能系統(tǒng)，推動(dòng)構(gòu)建公平、公正、安全的人工智能發(fā)展環(huán)境。