AI系統(tǒng)變得越來(lái)越強(qiáng)大、通用，且已經(jīng)融入到社會(huì)中。像ChatGPT和文心一言這樣的聊天機(jī)器人能夠在許多不同的領(lǐng)域中理解并解決問(wèn)題，包括數(shù)學(xué)、物理、醫(yī)學(xué)、法律等等。
鑒于這些AI系統(tǒng)的強(qiáng)大威力，國(guó)際領(lǐng)先的工業(yè)實(shí)驗(yàn)室已經(jīng)建立了安全研究團(tuán)隊(duì)，并于近期陸續(xù)發(fā)布了關(guān)于安全的聲明，多位知名學(xué)者也都表達(dá)了對(duì)AI安全性的擔(dān)憂。
中國(guó)對(duì)于AI安全性的關(guān)注也是日漸上升。尤其在過(guò)去的一年里，涉及AI安全性的出版物數(shù)量急劇上漲。由于技術(shù)越來(lái)越被廣泛應(yīng)用，不僅是研究人員，中國(guó)各大公司也開(kāi)始研究AI的安全性。中國(guó)最近制定的有關(guān)生成式AI的規(guī)定也表明了政府對(duì)AI安全性的重視。
2023年世界人工智能大會(huì)(WAIC 2023)將于2023年7月6日至8日在上海舉行。7日上午，在WAIC 2023北美分會(huì)場(chǎng)，Center for AI Safety (人工智能安全中心)將通過(guò)線上舉辦人工智能安全和風(fēng)險(xiǎn)論壇。論壇的重點(diǎn)在于討論人工智能可能帶來(lái)哪些社會(huì)風(fēng)險(xiǎn)，以及我們?cè)撊绾螠p小這些風(fēng)險(xiǎn)。
活動(dòng)將聚焦諸多AI安全領(lǐng)域的新熱點(diǎn)，集結(jié)來(lái)自西方頂尖高校的的著名教授以及全球領(lǐng)先AI實(shí)驗(yàn)室的研究人員，旨在希望能夠從國(guó)際視角提供一些如何對(duì)待AI安全和倫理的見(jiàn)解。我們希望建立一個(gè)促進(jìn)西方和中國(guó)之間交流的溝通渠道，并促進(jìn)全球關(guān)于AI安全的討論。
亮點(diǎn)
亮點(diǎn)1：峰會(huì)集齊學(xué)界與業(yè)界最頂尖的AI安全研究者。重磅嘉賓包括加州大學(xué)伯克利分校、劍橋大學(xué)的知名教授、人工智能安全中心的專(zhuān)家、谷歌DeepMind的研究科學(xué)家等將對(duì)人工智能風(fēng)險(xiǎn)與安全問(wèn)題發(fā)表主題演講并進(jìn)行圓桌討論。
亮點(diǎn)2：人工智能安全中心將重磅發(fā)布《災(zāi)難性人工智能風(fēng)險(xiǎn)概述》白皮書(shū)，涵蓋西方對(duì)AI風(fēng)險(xiǎn)最前沿的思考。該文件旨在提供人工智能風(fēng)險(xiǎn)最前沿的案例和分析，并探討改善人工智能安全研究及治理的方法。
亮點(diǎn)3：峰會(huì)將涵蓋AI安全領(lǐng)域的最新研究進(jìn)展，包括人工智能災(zāi)難性風(fēng)險(xiǎn)的分析，大語(yǔ)言模型及擴(kuò)散模型的社會(huì)風(fēng)險(xiǎn)，智能體的道德學(xué)習(xí)等。我們聚集哲學(xué)、生物和機(jī)器學(xué)習(xí)領(lǐng)域的專(zhuān)家進(jìn)行深度跨學(xué)科討論。
此論壇將于7月7日上午9點(diǎn)至12點(diǎn)在線舉行。我們邀請(qǐng)所有相關(guān)人員參與這一關(guān)鍵性討論，為了安全和有益的人工智能未來(lái)共同努力。
（世界人工智能大會(huì)）
