1月23日上午，由北京大學(xué)中外人文交流研究基地與啟明創(chuàng)投聯(lián)合主辦的“構(gòu)建人工智能護(hù)欄的全球共識(shí)”課題項(xiàng)目啟動(dòng)儀式在北京大學(xué)英杰會(huì)議中心星光廳以線上線下相結(jié)合形式舉辦。各國(guó)專(zhuān)家學(xué)者與媒體代表齊聚一堂，共商人工智能領(lǐng)域全球規(guī)則構(gòu)建，探尋國(guó)際治理共識(shí)。
北京大學(xué)國(guó)際關(guān)系學(xué)院教授、中外人文交流研究基地執(zhí)行主任王棟主持活動(dòng)。
全國(guó)政協(xié)常委，北京大學(xué)國(guó)際關(guān)系學(xué)院教授、中外人文交流研究基地主任賈慶國(guó)通過(guò)視頻發(fā)表開(kāi)幕致辭。賈慶國(guó)表示，相較于人類(lèi)發(fā)展至今的任何一次科技突破，人工智能為人類(lèi)帶來(lái)了的機(jī)遇與挑戰(zhàn)也許更大更多。一方面，人工智能的應(yīng)用在信息處理、知識(shí)創(chuàng)新、健康保障、經(jīng)濟(jì)提質(zhì)增效、廉潔政務(wù)建設(shè)等諸多領(lǐng)域取得了顯著進(jìn)展；另一方面，其引發(fā)的就業(yè)崗位沖擊、隱私信息泄露、直接社會(huì)交往減少、致命性武器研發(fā)、超級(jí)智能誕生等風(fēng)險(xiǎn)與挑戰(zhàn)也已初見(jiàn)端倪、可預(yù)可察。作為全球性現(xiàn)象，人工智能風(fēng)險(xiǎn)的有效治理是全人類(lèi)共同面臨的重大課題，亟需國(guó)際社會(huì)攜手合作、協(xié)同應(yīng)對(duì)。本次項(xiàng)目正是對(duì)這一人類(lèi)迫切需求的直接回應(yīng)，對(duì)中國(guó)參與全球人工智能風(fēng)險(xiǎn)治理、貢獻(xiàn)中國(guó)方案與中國(guó)力量具有重要意義。
啟明創(chuàng)投創(chuàng)始主管合伙人鄺子平發(fā)表開(kāi)幕致辭。鄺子平表示，過(guò)去20年啟明創(chuàng)投一直在中國(guó)投資，啟明創(chuàng)投堅(jiān)信技術(shù)創(chuàng)新能夠融入社會(huì)、造福人類(lèi)。正因如此，啟明創(chuàng)投近年來(lái)將大量精力集中在人工智能領(lǐng)域的投資，目前已在該領(lǐng)域進(jìn)行了多項(xiàng)投資，許多啟明創(chuàng)投的投資企業(yè)為經(jīng)濟(jì)和社會(huì)帶來(lái)雙重效益。鄺子平表示，“我們深信AI是一項(xiàng)變革性技術(shù)，它將帶來(lái)改變甚至是顛覆，并且在多數(shù)情況下提升效率、提升生活品質(zhì)，乃至改變社會(huì)的運(yùn)行方式?！迸c此同時(shí)，啟明創(chuàng)投也意識(shí)到，AI也帶來(lái)很多風(fēng)險(xiǎn)和挑戰(zhàn)，且這些挑戰(zhàn)是全球性的，是人類(lèi)共同的挑戰(zhàn)。啟明創(chuàng)投希望通過(guò)支持國(guó)際頂尖研究機(jī)構(gòu)IGCU的“構(gòu)建人工智能護(hù)欄的全球共識(shí)”課題項(xiàng)目，為產(chǎn)業(yè)界、專(zhuān)業(yè)界乃至政策制定者搭建一個(gè)基于共同認(rèn)知的對(duì)話框架，推動(dòng)形成基本的國(guó)際行為規(guī)范。
在項(xiàng)目啟動(dòng)儀式環(huán)節(jié)，北京大學(xué)國(guó)際關(guān)系學(xué)院教授、中外人文交流研究基地執(zhí)行主任王棟介紹項(xiàng)目總體計(jì)劃及報(bào)告發(fā)布安排。王棟表示，本課題項(xiàng)目致力于建立清晰、可操作、可持續(xù)的共識(shí)達(dá)成與落實(shí)機(jī)制，作為破解AI治理分歧的核心抓手。項(xiàng)目通過(guò)“全景繪制”，梳理各國(guó)AI治理框架，明確共識(shí)、分歧與空白領(lǐng)域；依托“共研協(xié)調(diào)”，建立分歧動(dòng)態(tài)追蹤機(jī)制，識(shí)別全球AI治理安全紅線與共同基礎(chǔ)；落實(shí)AI治理共識(shí)的“機(jī)制落地”，構(gòu)建“對(duì)話—共研—轉(zhuǎn)化—追蹤”全流程機(jī)制，推動(dòng)AI治理共識(shí)凝聚及技術(shù)可持續(xù)發(fā)展。王棟重點(diǎn)介紹了項(xiàng)目的第一份報(bào)告《人工智能治理的國(guó)際圖景》，報(bào)告旨在系統(tǒng)梳理各國(guó)政府、國(guó)際組織、企業(yè)與學(xué)界提出或采用的人工智能護(hù)欄框架，全景展現(xiàn)當(dāng)前全球治理格局。
在主題研討環(huán)節(jié)，參會(huì)嘉賓分別針對(duì)項(xiàng)目設(shè)計(jì)提出指導(dǎo)性意見(jiàn)。
北京大學(xué)武漢人工智能研究院執(zhí)行院長(zhǎng)吳志強(qiáng)表示，應(yīng)借鑒核安全治理的二分框架，區(qū)分人工智能的“存在性風(fēng)險(xiǎn)”與“系統(tǒng)性風(fēng)險(xiǎn)”。他強(qiáng)調(diào)，當(dāng)前政策應(yīng)聚焦于現(xiàn)實(shí)、可解決的系統(tǒng)性風(fēng)險(xiǎn)，避免資源被過(guò)度集中于遠(yuǎn)期的假想威脅，并呼吁加大對(duì)AI安全研究的投入比例，使其成為基礎(chǔ)設(shè)計(jì)的核心。
信息技術(shù)與創(chuàng)新基金會(huì)副主席丹尼爾·卡斯特羅（Daniel Castro）以食品安全類(lèi)比，表示不同國(guó)家在AI治理上會(huì)有不同選擇，關(guān)鍵在于確保基本安全標(biāo)準(zhǔn)。他強(qiáng)調(diào)護(hù)欄設(shè)計(jì)需考慮內(nèi)在權(quán)衡，并指出開(kāi)放科學(xué)與研究共享對(duì)于全球共同學(xué)習(xí)、避免重復(fù)錯(cuò)誤至關(guān)重要。
中國(guó)信息通信研究院人工智能研究所所長(zhǎng)、中國(guó)人工智能產(chǎn)業(yè)聯(lián)盟總體組組長(zhǎng)魏凱闡述了AI風(fēng)險(xiǎn)的多層次性，并強(qiáng)調(diào)了“動(dòng)態(tài)安全觀”與“敏捷治理”理念。他建議建立從企業(yè)到國(guó)家的“PDCA”（即計(jì)劃、執(zhí)行、檢查、處理四個(gè)階段）閉環(huán)管理機(jī)制，形成多方協(xié)同的治理生態(tài)，以應(yīng)對(duì)技術(shù)快速迭代帶來(lái)的不確定性。
耶魯大學(xué)法學(xué)院蔡中曾中國(guó)中心高級(jí)研究員陸凱（Karman Lucero）表示，全球AI治理面臨技術(shù)、機(jī)構(gòu)與政治三重挑戰(zhàn)。他建議研究應(yīng)正視并深入分析其中的政治差異與制度能力建設(shè)問(wèn)題，在承認(rèn)分歧的基礎(chǔ)上尋求可操作的共識(shí)與架構(gòu)。
北京大學(xué)法學(xué)院副院長(zhǎng)戴昕表示，任何技術(shù)或制度性護(hù)欄的效力最終都依賴(lài)于其所嵌入的法律與社會(huì)規(guī)范體系。他認(rèn)為，對(duì)護(hù)欄乃至治理的合理期待不是其能確保安全，而是其在人工智能發(fā)展存在重大不確定性的背景下有助于維護(hù)公眾安全感知和社會(huì)信任。在國(guó)際合作維度，他建議應(yīng)從識(shí)別若干無(wú)爭(zhēng)議的共識(shí)性治理課題入手，從而盡快突破當(dāng)前各類(lèi)人工智能治理對(duì)話受困于話語(yǔ)分歧、無(wú)法實(shí)現(xiàn)具體行動(dòng)的局面。
安遠(yuǎn)AI國(guó)際AI治理高級(jí)研究經(jīng)理周杰晟（Jason ZHOU）介紹了基于“誤用、故障、系統(tǒng)”的三類(lèi)風(fēng)險(xiǎn)框架，以及“黃線”與“紅線”的操作化思路。他提出可通過(guò)具體的風(fēng)險(xiǎn)評(píng)估與模型測(cè)試將治理原則落地，并呼吁加強(qiáng)跨國(guó)危機(jī)管理協(xié)作，共同提升應(yīng)對(duì)AI突發(fā)事件的能力。
活動(dòng)最后，北京大學(xué)國(guó)際關(guān)系學(xué)院教授、中外人文交流研究基地執(zhí)行主任王棟作總結(jié)發(fā)言。王棟表示，各位專(zhuān)家學(xué)者在會(huì)上發(fā)表的真知灼見(jiàn)，將為項(xiàng)目下一步推進(jìn)提供重要指導(dǎo)。課題組將認(rèn)真梳理、吸收這些寶貴建議，全力做好首份報(bào)告的撰寫(xiě)工作。未來(lái)，項(xiàng)目將持續(xù)聚焦人工智能安全護(hù)欄這一全球性命題，通過(guò)扎實(shí)研究，推動(dòng)國(guó)際共識(shí)的凝聚與落實(shí)。他衷心感謝啟明創(chuàng)投的鼎力支持、各位嘉賓的深入分享以及團(tuán)隊(duì)成員的辛勤工作，并期待與各方攜手，共同助力人工智能的全球治理與可持續(xù)發(fā)展。
