自2023年起，被外界譽為“人工智能教父”的杰弗里·辛頓每年都會在公開場合發(fā)出關于AI的警告。

　　那一年，他提醒人們，AI的發(fā)展將帶來越來越大的風險。

　　2024年，他聲稱，AI將操控人類。

　　2025年，他在上海舉辦的世界人工智能大會上，將人類與AI的關系形容為“把小老虎當寵物”——當幼虎長大后，很可能傷人。

　　如今，在AI帶來的蓬勃機遇面前，越來越多的人并非害怕技術本身，而是擔心自己無法掌握方向盤。

　　人工智能的發(fā)展正以難以預測的速度推進，而治理機制和國際共識仍然滯后。

　　面對這場技術變革，中國正在給出自己的方案——不僅考慮如何發(fā)展，更著眼于如何在發(fā)展中確保安全、在競爭中尋求合作。

　　其一是保證人工智能健康有序發(fā)展。

　　“不發(fā)展是最大的不安全?！睅字芮暗闹袊ヂ?lián)網(wǎng)大會上，清華大學智能法治研究院院長申衛(wèi)星的這句話，引起了業(yè)內(nèi)共鳴。

　　他認為，當前在人工智能領域，不能因為治理或立法，扼殺掉產(chǎn)業(yè)發(fā)展的機會?！暗斯ぶ悄芤泊_實必須保證健康有序發(fā)展，這個底線是應該明確的?！?/p>

　　業(yè)內(nèi)普遍認為，人工智能領域的治理，應在設定明確底線的前提下，為發(fā)展留出充足的空間。而鼓勵創(chuàng)新應該作為人工智能治理的第一原則。

　　近期召開的國務院常務會議明確指出，當前人工智能技術加速迭代演進，要深入實施“人工智能+”行動，大力推進人工智能規(guī)模化商業(yè)化應用，推動人工智能在經(jīng)濟社會發(fā)展各領域加快普及、深度融合，形成以創(chuàng)新帶應用、以應用促創(chuàng)新的良性循環(huán)。

　　其二是加快形成多元協(xié)同治理格局。

　　治理的目標不僅是防范風險，更要讓技術在可控范圍內(nèi)釋放最大價值。國務院常務會議提出，要提升安全能力水平，加快形成動態(tài)敏捷、多元協(xié)同的人工智能治理格局。

　　中國社會科學院法學研究所網(wǎng)絡與信息法研究室副主任周輝對三里河表示，人工智能技術屬于顛覆性技術，在治理過程中，需要將一致性評估、合規(guī)性審查等引入人工智能監(jiān)管機制。同時，考慮到人工智能發(fā)展速度不斷加快，應適應性地構建敏捷治理機制。

　　此外，由于人工智能技術在全球各領域都會產(chǎn)生深遠影響，其發(fā)展和應用帶來的風險與挑戰(zhàn)往往是跨越國界的，治理更需國際合作。對此，中國是倡導者也是積極實踐者。

　　中國工程院院士鄔賀銓在2025互聯(lián)網(wǎng)安全大會上指出，數(shù)字空間是人類共同的新家園，人工智能與數(shù)字安全的挑戰(zhàn)是全球性的，單打獨斗無法應對。

　　復旦大學中國研究院副研究員劉典認為，中國應摒棄個別國家的“小院高墻”政策，通過“一帶一路”等多雙邊框架，推動AI技術務實合作。

　　中國社會科學院法學研究所教授姚佳表示，打造一個全方位、多層次、匯聚廣泛共識，具有包容性、平等性和多元性的人工智能治理框架，應是各國未來合作的重要方向。

　　其三是讓技術解決技術的挑戰(zhàn)。

　　面對人工智能帶來的新挑戰(zhàn)，傳統(tǒng)、被動、碎片化的安全防護已力不從心，亟須變革。

　　鄔賀銓曾多次表示，要創(chuàng)新升級數(shù)字安全防護體系，構建AI驅(qū)動的主動免疫。

　　2025世界人工智能大會期間，辛頓呼吁人類探索通用AI訓練方法，使人工智能向善。

　　上海人工智能實驗室主任周伯文指出，在面對長期風險，特別是管理可能超越人類智能的智能體時，要轉向“內(nèi)生安全”的新思路，即從“讓人工智能變得安全”(Make AI Safe)邁向“打造安全的人工智能”(Make Safe AI)。前者是后置性的安全補丁，缺乏敏捷性和韌性；后者則強調(diào)安全的內(nèi)生性和原生性。

　　人工智能的未來，并不只是關于算力的競賽。更重要的是，誰能在技術創(chuàng)新與規(guī)則之間找到平衡，誰就有可能贏得真正的主動。

　　中國正在給出的答案，是一條兼顧發(fā)展、治理與技術安全的道路。

　　(“三里河”工作室)