龍衛(wèi)球（北京航空航天大學(xué)法學(xué)院教授、博士生導(dǎo)師）

目次

一、正確認(rèn)識作為當(dāng)代科技發(fā)展新表征的人工智能

二、科技法在工業(yè)革命背景下的興起與演化

三、人工智能的科技法規(guī)范路徑

四、科技法視野下的人工智能規(guī)范問題

五、結(jié)語：加快制定人工智能科技特別法

摘要 人工智能以機(jī)器學(xué)習(xí)方法為支持取得突破，成為引燃第四次工業(yè)革命的表征科技，促生巨大的社會生產(chǎn)生活迭代發(fā)展態(tài)勢，也帶來巨大的法律挑戰(zhàn)。人工智能的立法基礎(chǔ)和路徑，應(yīng)當(dāng)深入到科技法及其迭代發(fā)展的語境之中加以認(rèn)識，并且自覺體現(xiàn)“歷史-發(fā)展”“社會-技術(shù)”的連接性。一方面，人工智能具有科技事物的本質(zhì)，屬于科技法的規(guī)范對象，同時它作為一種具有巨大驅(qū)動力且尚具有上升空間的新興科技，給科技市場、生產(chǎn)安全、科技風(fēng)險、科技政策等領(lǐng)域均帶來大量的新的具體問題；另一方面，人工智能因具有認(rèn)知能力而與人類智慧相通，導(dǎo)致復(fù)雜的倫理問題。這些問題都亟待深入研究，并形成相關(guān)法律規(guī)范。

關(guān)鍵詞 人工智能 科技法 規(guī)范 立法路徑

人工智能科技及其應(yīng)用近年來呈勃興之勢，引發(fā)當(dāng)今信息科技革命大背景下的又一波新浪潮。2018年歐盟委員會的一份人工智能戰(zhàn)略報告指出，采取認(rèn)知系統(tǒng)與人工智能技術(shù)，將使全球商業(yè)收入從2016年的64億歐元增長到2020年的378億歐元，預(yù)計到2030年，人工智能將為全球經(jīng)濟(jì)貢獻(xiàn)12.8萬億歐元，相當(dāng)于今天全球國內(nèi)生產(chǎn)總值（GDP）增長了14%。目前中國和美國相關(guān)產(chǎn)業(yè)布局走在世界前列。據(jù)統(tǒng)計，2018年全球人工智能企業(yè)共計15 916家，其中中國3 341家，合計融資規(guī)模達(dá)165.54億美元，占全球人工智能企業(yè)融資數(shù)額的46.94%；美國4 567家，合計融資規(guī)模為135.93億美元，占全球人工智能企業(yè)融資數(shù)額的38%。與此同時，相應(yīng)的規(guī)范問題接踵而至，關(guān)于人工智能規(guī)范的討論成為熱點(diǎn)：有從法理學(xué)法哲學(xué)角度來討論的，如思考人工智能時代的法律代際問題、人工智能的法倫理發(fā)展、現(xiàn)行法在人工智能應(yīng)用下的治理危機(jī)等；有對某些特定問題展開討論的，如機(jī)器人或人工智能的法律地位、自動駕駛的刑民事責(zé)任、人工智能生成物的權(quán)屬、智能合約或某種程度商業(yè)自主化決策的法律后果等；也有從人工智能的技術(shù)架構(gòu)探究特殊規(guī)范方法或者機(jī)理的，如智能算法的規(guī)范研究；等等。但筆者認(rèn)為還有重要角度需要關(guān)注。人工智能是燃爆新一輪工業(yè)革命的表征科技之一，具備科技事物的本質(zhì)屬性，既有科技法對人工智能的規(guī)范因循不可忽視。因此，筆者擬立足科技法及其迭代發(fā)展的語境，結(jié)合人工智能在當(dāng)下的重要特質(zhì)，對人工智能立法的基礎(chǔ)、路徑及相關(guān)具體規(guī)范問題進(jìn)行思考和分析。

一、正確認(rèn)識作為當(dāng)代科技發(fā)展新表征的人工智能

第四次工業(yè)革命正在發(fā)生是已經(jīng)被廣泛認(rèn)可的事實。第四次工業(yè)革命因信息科技和生物科技的迭代發(fā)展而勃發(fā)。世界經(jīng)濟(jì)論壇創(chuàng)始人德國學(xué)者克勞斯·施瓦布指出：“從人工智能到生物技術(shù)，從先進(jìn)材料到量子計算，一系列強(qiáng)大的新興技術(shù)帶來了大量的機(jī)會與挑戰(zhàn)，并且將根本上改變我們的生活方式。我們將這一過程稱為第四次工業(yè)革命。”施瓦布特別強(qiáng)調(diào)，對于第四次工業(yè)革命，要關(guān)注其與第三次工業(yè)革命的緊密聯(lián)系，因為“推動第四次工業(yè)革命的新興技術(shù)建基于以往工業(yè)革命的知識和系統(tǒng)，特別是第三次工業(yè)革命的數(shù)字技術(shù)”。其中，信息科技革命就是跨越兩次工業(yè)革命的科技革命，并經(jīng)歷了三個階段：

（1）第三次工業(yè)革命末期即20世紀(jì)90年代開始形成第一波信息科技革新浪潮，即世界互聯(lián)網(wǎng)化。最初，由互聯(lián)網(wǎng)推廣應(yīng)用作為牽引，逐漸進(jìn)行瀏覽器、電子郵件、信息門戶網(wǎng)站等開發(fā)，然后到21世紀(jì)初前后形成全球互聯(lián)網(wǎng)體系，并且從社區(qū)交流發(fā)展到廣泛的經(jīng)濟(jì)、社會和政治的信息交互應(yīng)用。其特點(diǎn)是世界信息互通，使人們之間的信息交往瞬間扁平化。有識之士稱，此時我們進(jìn)入“世界是平的”時代。

（2）大約在2010年前后，信息科技革命出現(xiàn)第二波浪潮，移動互聯(lián)網(wǎng)、云計算等的出現(xiàn)直接導(dǎo)致大數(shù)據(jù)及其應(yīng)用的強(qiáng)勢蔓延，迎來“大數(shù)據(jù)時代”。這次大數(shù)據(jù)化的信息科技突變昭示著第四次工業(yè)革命的到來。

（3）人工智能科技在機(jī)器學(xué)習(xí)技術(shù)創(chuàng)新下以一種強(qiáng)勢的新表征方式出現(xiàn)，成為信息科技的新寵兒，直接引發(fā)信息科技革命的第三波浪潮，并使第四次工業(yè)革命的開啟更加明顯。人工智能最早可以追溯到圖靈測試。20世紀(jì)60年代，機(jī)器人移動技術(shù)曾經(jīng)成為一次里程碑事件，但意義有限。但是現(xiàn)在，通過大數(shù)據(jù)和深度學(xué)習(xí)等新技術(shù)的結(jié)合，人工智能脫胎換骨，與既往的技術(shù)版本具有質(zhì)的不同。在大數(shù)據(jù)的促動下，人們通過發(fā)現(xiàn)和改進(jìn)一種機(jī)器的深度學(xué)習(xí)方法，特別是開發(fā)語音識別、圖像識別等新技術(shù)和新方法，使得人工智能發(fā)展到具有極高認(rèn)知能力的新階段，同時不斷嵌入各種應(yīng)用領(lǐng)域，成為引領(lǐng)新一輪信息科技產(chǎn)業(yè)化的表征科技。2012年，谷歌（Google）發(fā)布人腦模擬軟件，這是一種劃時代的具備自我學(xué)習(xí)功能的軟件，可以模擬腦細(xì)胞的相互交流，可以通過看優(yōu)兔（Youtube）視頻學(xué)習(xí)識別貓、人和其他事物，從而引發(fā)人工智能新興技術(shù)新想象。2016年，谷歌旗下的深度思考（Deep Mind）出品的阿爾法圍棋（AlphaGo）大戰(zhàn)韓國職業(yè)圍棋手李世石并連勝三局等事件，再次引起人們對人工智能的關(guān)注。此后，谷歌、臉譜（Facebook）、微軟（Microsoft）等互聯(lián)網(wǎng)巨型公司紛紛表示未來將更加重視人工智能，除開源機(jī)器學(xué)習(xí)框架，還投入巨資收購研發(fā)人工智能的公司和人才，使得2016年成為人工智能元年，麥肯錫報告稱“人工智能進(jìn)入突破階段”。人工智能應(yīng)用的后果是，“徹底改造數(shù)字經(jīng)濟(jì)，很快也將重塑實體經(jīng)濟(jì)。人工智能在21世紀(jì)早期的目標(biāo)包括讓自動化機(jī)械引領(lǐng)物理世界的發(fā)展，以及實現(xiàn)人類與計算機(jī)之間的互聯(lián)”。換言之，我們的生產(chǎn)和生活模式正快速通過機(jī)器學(xué)習(xí)系統(tǒng)植入或者應(yīng)用智能化且不斷升級。這種智能化，從商業(yè)智能模式到工業(yè)智能系統(tǒng)，從企業(yè)智能到政務(wù)智能乃至軍事智能，無所不在。機(jī)器學(xué)習(xí)方法本身還在不斷發(fā)展，在不久的將來，許多領(lǐng)域會由智能輔助變?yōu)橹悄芑旌夏酥林悄芙庸堋Ｒ詸C(jī)器學(xué)習(xí)為支持的人工智能技術(shù)，在當(dāng)下直接促成一個所謂“弱人工智能”時代的到來，并且繼續(xù)前行。

就人工智能今后到底會經(jīng)過哪些技術(shù)突破和應(yīng)用階段，目前存在不少的預(yù)測研究。有人認(rèn)為，人工智能軟件架構(gòu)可能突然出現(xiàn)重大革新，從而使得人工智能很快達(dá)到人類智慧水平。例如，美國未來學(xué)家雷·庫茲韋爾就認(rèn)為，在2045年前后人工智能將發(fā)展到一個“奇點(diǎn)”，跨過這個點(diǎn)人工智能就將超越人類智慧。但是，也有人工智能研發(fā)專家認(rèn)為，人工智能大概需要幾個世紀(jì)才能完成。長期從事人工智能研發(fā)項目的美國著名未來學(xué)家羅賓·漢森就認(rèn)為大概需要200~400年才會出現(xiàn)真正的人工智能，基于機(jī)器學(xué)習(xí)（圖像識別、語音識別）的人工智能技術(shù)在硬件和軟件上不久都會遇到瓶頸，下一個階段應(yīng)該是以仿真人（大腦仿真）為基礎(chǔ)的人工智能的發(fā)展，這個過程大概需要一個世紀(jì)，然后進(jìn)入仿真人時代，提出仿真人規(guī)范需求，之后才進(jìn)入不以仿真為基礎(chǔ)的人類智慧水平的人工智能開發(fā)期。

不管怎樣，今天出現(xiàn)的人工智能科技及其應(yīng)用是科技史上一次石破天驚的事件，應(yīng)當(dāng)作為當(dāng)代科技發(fā)展的新表征加以認(rèn)識和對待。作為人類歷史上爆發(fā)性科技革命背景下的一種塑形技術(shù)，人工智能與第四次工業(yè)革命的開啟息息相關(guān)，是導(dǎo)致第四次工業(yè)革命發(fā)生的關(guān)鍵科技之一。第四次工業(yè)革命的表征科技，目前公認(rèn)包括工業(yè)物聯(lián)網(wǎng)、云計算、工業(yè)大數(shù)據(jù)、工業(yè)機(jī)器人、3D打印、知識工作自動化、工業(yè)網(wǎng)絡(luò)安全、虛擬現(xiàn)實和人工智能9種。其中，工業(yè)互聯(lián)網(wǎng)、云計算和工業(yè)大數(shù)據(jù)是三大底層基礎(chǔ)設(shè)施，工業(yè)機(jī)器人和3D打印是兩大硬件技術(shù)，知識工作自動化和工業(yè)網(wǎng)絡(luò)安全是兩大軟件支持，虛擬現(xiàn)實和人工智能是面向未來的兩大終極技術(shù)。人工智能，一方面作為面向未來的爆發(fā)性終極科技之一，在科技成為第一生產(chǎn)力的當(dāng)下，對于人類生產(chǎn)生活的影響必定是重大的甚至是顛覆性的。人工智能帶來的積極影響，主要體現(xiàn)為新興科技帶來全新的創(chuàng)造、福利和便利；但也可能有消極的影響，主要體現(xiàn)為新興科技導(dǎo)致新風(fēng)險和“適應(yīng)不良癥”。另一方面，人工智能本身依舊是一種科技，具有自身生產(chǎn)、發(fā)展的條件性和過程性，目前還處于以特定識別技術(shù)為支持的機(jī)器學(xué)習(xí)的階段，盡管可以預(yù)期其會不斷提升直至達(dá)到或者超越人類智能水平，但是主流觀點(diǎn)認(rèn)為還有足夠長的時間跨度，由此存在階段區(qū)分的必要。這是當(dāng)前人工智能技術(shù)的時代背景和現(xiàn)實表達(dá)，也是其規(guī)范問題產(chǎn)生的時代條件和現(xiàn)實基礎(chǔ)。

二、科技法在工業(yè)革命背景下的興起與演化

（一）三次工業(yè)革命背景下科技法的迭代演化

回顧人類法律的發(fā)展，可以發(fā)現(xiàn)，自進(jìn)入工業(yè)革命以來，除普通法或通用法的發(fā)展之外，法律體系中出現(xiàn)了專門的科技法，并呈現(xiàn)不斷擴(kuò)張發(fā)展的態(tài)勢，占據(jù)越來越重要的位置。第一次工業(yè)革命之前，并無科技法這樣一個專門領(lǐng)域，但是自第一次工業(yè)革命開始，科技法作為一個專門領(lǐng)域誕生了，并且以某種特定的方式影響和聯(lián)系著普通法律。此后，科技法隨著科技發(fā)展和工業(yè)革命迭代，呈現(xiàn)不斷擴(kuò)張、不斷升級的趨勢，其與三次工業(yè)革命發(fā)展同軌，大致也經(jīng)歷了三個發(fā)展階段。

1.第一次工業(yè)革命時期：鼓勵科技發(fā)明之科技法

在工業(yè)革命的背景下，近代法律體系誕生并基于經(jīng)濟(jì)、政治和社會思想的根本變化以個人理性和自由為基礎(chǔ)出現(xiàn)根本轉(zhuǎn)型，且與科學(xué)主義結(jié)合，在一般法律范疇的意義上產(chǎn)生了近代意義的憲法、民法、刑法、訴訟法等法律部門。與此同時，基于工業(yè)革命背景下科技發(fā)明具有的不同尋常意義，首次把科技問題納入立法，產(chǎn)生了全新的科技法部門。最早出現(xiàn)的科技法，主要是以具體立法形式呈現(xiàn)的科技市場法：包括具有賦權(quán)意義的專利法和其他知識產(chǎn)權(quán)法，具有鼓勵交易價值的技術(shù)合同法和技術(shù)中介法等；也包括最早的科技風(fēng)險法，主要體現(xiàn)為科技應(yīng)用于工業(yè)生產(chǎn)的語境下為應(yīng)對生產(chǎn)安全需要的工廠法，以及工業(yè)事故災(zāi)害的管理和責(zé)任立法。

首先，這一時期科技市場法得到創(chuàng)制。在第一次工業(yè)革命時期，不僅發(fā)明了蒸汽機(jī)等新科技，更重要的是通過法律創(chuàng)設(shè)了專利權(quán)等新型財產(chǎn)權(quán)，賦予科技發(fā)明人以專利權(quán)的刺激方式，鼓勵科技發(fā)明和創(chuàng)造，從而在制度上為工業(yè)革命提供激勵和保障。專利法的出現(xiàn)，產(chǎn)生將科技、法律、經(jīng)濟(jì)協(xié)調(diào)起來巨大功效，這在歷史上是前所未有的。過去科技創(chuàng)造完全出自個人興趣，發(fā)明出來的成果自動納入公共領(lǐng)域。專利法出現(xiàn)之后，這種局面得以改變，具有財產(chǎn)意義的專利權(quán)變成一種全新的利益驅(qū)動機(jī)制，科技發(fā)明成為更多個人和工廠企業(yè)積極的法律利益追求。這一時期專利法發(fā)展最重要的表現(xiàn)是1623年英國議會通過壟斷法，明確規(guī)定專利制度的基本理念和具體形式，被認(rèn)為是“發(fā)明人權(quán)利的大憲章”。此后，美國于1790年頒布實施聯(lián)邦專利法，德國于1877年頒布實施專利法。這一時期，得到發(fā)展的還有專利交易制度和技術(shù)合同制度，并成為科技市場法不可或缺的一部分，專利權(quán)或科技發(fā)明只有置于自由交易之中，才能獲得更加充分的價值實現(xiàn)和轉(zhuǎn)化的機(jī)會。

其次，這一時期也開始關(guān)注工業(yè)革命帶來的生產(chǎn)安全問題，這是早期科技應(yīng)用導(dǎo)致風(fēng)險的基本表現(xiàn)形態(tài)。科技發(fā)明在工廠條件下得到應(yīng)用后，在帶來規(guī)模效益的同時，也容易帶來規(guī)模安全和災(zāi)害問題即工廠安全和災(zāi)害問題，其中特別是對工人的生產(chǎn)安全威脅和事故損害。在社會壓力下，最早開展工業(yè)革命的國家逐漸關(guān)注工廠安全和事故，發(fā)展出最初的工廠安全法則和勞動安全法則。1802年，英國政府制定《保護(hù)學(xué)徒的身心健康法》，建立最初的工廠勞動保護(hù)規(guī)則，旨在保護(hù)工廠勞動者的健康，確立學(xué)徒的勞動時間、礦工的勞動保護(hù)以及工廠的室溫、照明、通風(fēng)換氣等工業(yè)衛(wèi)生標(biāo)準(zhǔn)。1833年，英國頒布世界上第一部系統(tǒng)的《工廠法》，對工廠條件下的工人的安全、衛(wèi)生、福利作出規(guī)定。

2.第二次工業(yè)革命時期：鼓勵科技發(fā)明和防治工業(yè)災(zāi)害并舉之科技法

這一時期，專利法和反壟斷法的存在，從正反兩面鼓勵了科技發(fā)明的自覺，工業(yè)研究實驗室不斷涌現(xiàn)并且走向成熟，在大量新興科技發(fā)明和發(fā)明方法的支持下，除傳統(tǒng)紡織、工礦等領(lǐng)域外，電訊、電氣、有機(jī)化工等領(lǐng)域也得到發(fā)展，促進(jìn)了產(chǎn)業(yè)化的極大發(fā)展。科技法也因此需要在進(jìn)一步提升鼓勵科技發(fā)明和應(yīng)用的同時，直面產(chǎn)業(yè)化帶來的生產(chǎn)安全和事故頻發(fā)的威脅。

首先，從科技市場法來說，這一時期是專利法等知識產(chǎn)權(quán)法不斷擴(kuò)展的時期，國際專利關(guān)系出現(xiàn)前所未有的發(fā)展，國際社會締結(jié)《保護(hù)工業(yè)產(chǎn)權(quán)巴黎公約》。這一時期，技術(shù)交易更加頻繁和多樣化，技術(shù)合同也得到豐富和廣泛應(yīng)用，因此技術(shù)合同制度更加發(fā)達(dá)，相關(guān)規(guī)范除單行規(guī)定之外，也散見于民法、商法、反壟斷法（反不正當(dāng)競爭法）等法律之中。

其次，工業(yè)產(chǎn)業(yè)的急劇擴(kuò)張，使得新老領(lǐng)域均面臨更加嚴(yán)峻的工業(yè)生產(chǎn)安全和災(zāi)害問題。工人安全和健康陷入困境，工廠事故不斷，產(chǎn)品事故、交通事故等損害頻發(fā)，環(huán)境污染日趨嚴(yán)重。這些不僅引發(fā)嚴(yán)重的社會矛盾，而且加劇階層對立和社會動蕩。有關(guān)國家在幾次社會矛盾大爆發(fā)之后，開始強(qiáng)化管控工業(yè)安全和災(zāi)害、減緩社會矛盾，制定一系列應(yīng)對工業(yè)安全和災(zāi)害的法律。隨著高尖端科技應(yīng)用和產(chǎn)業(yè)化擴(kuò)展，原先零星分布的職業(yè)安全法規(guī)已經(jīng)無法適應(yīng)需要，各國紛紛完善工廠法并制定統(tǒng)一的勞動安全法。此外，產(chǎn)品責(zé)任法、交通事故責(zé)任法、災(zāi)害保險法等也得到發(fā)展。這些立法許多是事后規(guī)則，但通過嚴(yán)格責(zé)任、懲罰性賠償?shù)仁沟闷渚哂蓄A(yù)防功能；但也有許多是事先和事中規(guī)則，如產(chǎn)品質(zhì)量管理制度、交通安全管理制度、災(zāi)害保險制度等。這些立法極大地促成工業(yè)災(zāi)害和事故治理體系的確立及完善。

3.第三次工業(yè)革命時期：突出科技政策作用之科技法

這一時期，科技立法鼓勵科技發(fā)明的立場并沒有變化。工業(yè)化國家繼續(xù)完善專利法等知識產(chǎn)權(quán)法，并且在20世紀(jì)晚期明顯出現(xiàn)“強(qiáng)專利（知識產(chǎn)權(quán)）”趨勢；工業(yè)化國家特別是美國在全球推行知識產(chǎn)權(quán)保護(hù)，國際社會締結(jié)《與貿(mào)易有關(guān)的知識產(chǎn)權(quán)協(xié)定》，專利的國際申請不斷增加，專利戰(zhàn)略成為國家之間、跨國企業(yè)之間的核心競爭戰(zhàn)略之一。這一時期的科技立法還繼續(xù)提升工業(yè)安全和災(zāi)害治理。工業(yè)安全和災(zāi)害治理法律得到進(jìn)一步強(qiáng)化，新興的生態(tài)環(huán)境問題得到關(guān)注，環(huán)境法得到極大發(fā)展。此外，這一時期的科技立法開始關(guān)注特殊科技安全和風(fēng)險，不斷制定相關(guān)特殊管控規(guī)范。針對生化科技、核科技、生物科技、信息科技等新科技的發(fā)展和應(yīng)用，人們發(fā)現(xiàn)這些特殊新科技在帶來巨大福利可能的同時，也帶來前所未有的特殊風(fēng)險，食品藥品安全、生化安全、核安全、生物安全、網(wǎng)絡(luò)信息安全等不斷凸顯出規(guī)范急迫性，激發(fā)管控特殊科技風(fēng)險的強(qiáng)烈要求，導(dǎo)致相關(guān)技術(shù)安全和風(fēng)險管控法律的出臺。“9·11事件”之后，恐怖主義帶來的不確定性因素增加，特殊科技風(fēng)險管控的問題也顯得更加迫切。

這一時期，科技立法最突出的擴(kuò)展是強(qiáng)化科技政策作用，更加注重政策導(dǎo)向和機(jī)制作用，從而發(fā)展出一套旨在促進(jìn)科技進(jìn)步、轉(zhuǎn)化和創(chuàng)新的特殊法律制度，可以簡稱為科技政策法。20世紀(jì)40年代，各國動員科技資源備戰(zhàn)，導(dǎo)致科技進(jìn)步與國家組織緊密結(jié)合。例如，美國便成立國防研究委員會組織科技資源增強(qiáng)國防能力，1941年建立科學(xué)研究和發(fā)展局，1945年又以“科學(xué)：沒有止境的前沿”為理由建立國家研究基金會。此后各國競相以提升國家競爭力和促進(jìn)產(chǎn)業(yè)升級為目標(biāo)，引入科技政策機(jī)制，干預(yù)科技發(fā)展，促進(jìn)科技進(jìn)步、轉(zhuǎn)化和創(chuàng)新。20世紀(jì)50年代，各國科技政策致力于戰(zhàn)后恢復(fù)和重建，大力投資基礎(chǔ)研究和高等教育，為重建和發(fā)展打造知識資源和人力資源的基礎(chǔ)，并在經(jīng)濟(jì)擴(kuò)張領(lǐng)域，促進(jìn)電子、石化、原子能科技創(chuàng)新，力推新興科技的經(jīng)濟(jì)轉(zhuǎn)化，逐漸形成“技術(shù)-經(jīng)濟(jì)”范式。20世紀(jì)60年代，隨著經(jīng)濟(jì)復(fù)蘇，市場需求成為科技政策的關(guān)注點(diǎn)，各國政府由簡單的大力支持基礎(chǔ)研究轉(zhuǎn)為更加注重“成本—效率”比以及項目效益評估，科技立法也進(jìn)行了許多調(diào)整。20世紀(jì)80年代開始，各國更加強(qiáng)調(diào)科技資源供應(yīng)和市場需求的結(jié)合，在微電子、生物技術(shù)和新材料等新領(lǐng)域?qū)嵤凹夹g(shù)-經(jīng)濟(jì)”范式，后來調(diào)整為“技術(shù)-經(jīng)濟(jì)-環(huán)境-安全”范式，在“技術(shù)-經(jīng)濟(jì)”發(fā)展的價值追求中，同時引入生態(tài)環(huán)境保護(hù)和特殊技術(shù)風(fēng)險防范。

與此同時，各國啟動創(chuàng)新政策，推進(jìn)科技發(fā)展與產(chǎn)業(yè)化提升的緊密融合。所謂創(chuàng)新政策，按照英國著名學(xué)者羅斯韋爾的界定，是科技政策與產(chǎn)業(yè)政策協(xié)調(diào)的結(jié)合。20世紀(jì)初，面對新一輪科技大發(fā)展的機(jī)遇，各國注重快速提升和確保國家競爭力，大力推進(jìn)科技創(chuàng)新政策，甚至上升到科技創(chuàng)新戰(zhàn)略的高度。20世紀(jì)末、21世紀(jì)初歐盟相繼公布《創(chuàng)新綠皮書》（1995年）、《歐洲創(chuàng)新行動計劃》（1996年）、《歐洲創(chuàng)新趨勢圖》（2000年）、《研究與創(chuàng)新戰(zhàn)略》（2005年）、《2020戰(zhàn)略創(chuàng)新計劃》（2011年）。奧巴馬執(zhí)政時期，美國發(fā)布了兩份《美國創(chuàng)新戰(zhàn)略》（2009年，2011年）, 明確提出美國加速創(chuàng)新的戰(zhàn)略規(guī)劃和措施。特朗普執(zhí)政后，美國對內(nèi)重視自下而上的科技創(chuàng)新, 發(fā)布2018年財年預(yù)算藍(lán)圖, 對原有科技投入結(jié)構(gòu)作出重要調(diào)整, 廢除《清潔能源計劃》《全球氣候變化計劃》等, 支持油氣和煤炭行業(yè)發(fā)展，對外則強(qiáng)推美國優(yōu)先, 用力打壓其他國家特別是中國的科技創(chuàng)新, 以確保自己的優(yōu)勢。

（二）中國科技法的興起和跨越式發(fā)展

中國科技法的發(fā)展沒有體現(xiàn)出上述三個階段的過程性。中國在前兩次工業(yè)革命中處于邊緣，某種程度上可以說是旁觀者。第三次工業(yè)革命興起之時，中國開始緊追，三步變成一步走。20世紀(jì)50-70年代，中國按照蘇聯(lián)模式建立科技體制，實行計劃管理，集中力量動員有限科技資源，解決一些戰(zhàn)略優(yōu)先目標(biāo)，成功發(fā)展核武器、空間技術(shù)和某些基礎(chǔ)科學(xué)領(lǐng)域。20世紀(jì)70年代末開始，中國啟動經(jīng)濟(jì)體制改革，基于“科技是第一生產(chǎn)力”的認(rèn)識，確立新時期“面向依靠”發(fā)展科學(xué)技術(shù)的新方針，即“經(jīng)濟(jì)建設(shè)必須依靠科學(xué)技術(shù)、科學(xué)技術(shù)工作必須面向經(jīng)濟(jì)建設(shè)”，并以此啟動科技體制改革，全面助力經(jīng)濟(jì)體制改革。之后，科技政策又經(jīng)歷了1995年實施“科教興國”戰(zhàn)略、加強(qiáng)國家創(chuàng)新體系建設(shè)和2006年“自主創(chuàng)新戰(zhàn)略”、增強(qiáng)自主創(chuàng)新能力的兩次提升。

中國科技法從改革開放開始得到重視和發(fā)展。20世紀(jì)80年代，中國開始積極制定《中華人民共和國專利法》（1982年）等知識產(chǎn)權(quán)法律，出臺《中華人民共和國技術(shù)合同法》（1987年）等技術(shù)交易法，建立旨在鼓勵、刺激科技發(fā)明和進(jìn)步的科技財產(chǎn)權(quán)制度、交易制度，這些法律制度隨著改革開放的深入不斷修改和提升。自20世紀(jì)90年代 ，中國基于現(xiàn)代科技應(yīng)用的工業(yè)化背景，制定和完善工業(yè)安全、勞動安全、事故管理、產(chǎn)品責(zé)任等法律制度，先后出臺《中華人民共和國礦山安全法》（1992年）、《中華人民共和國勞動法》（1994年制定，其中一章專門規(guī)定勞動安全衛(wèi)生）、《中華人民共和國安全生產(chǎn)法》（2002年制定，2009年和2014年修訂）等。同時，中國也注意到與科技工業(yè)應(yīng)用相關(guān)的環(huán)境保護(hù)、特殊技術(shù)安全等問題，出臺一系列的環(huán)境保護(hù)法和特種技術(shù)安全法。除交通安全、產(chǎn)品質(zhì)量安全、食品藥品安全方面的法律之外，還包括《民用核設(shè)施安全監(jiān)督管理條例》（1986年）、《中華人民共和國特種設(shè)備安全法》（2013年）、《中華人民共和國網(wǎng)絡(luò)安全法》（2016年）、《中華人民共和國核安全法》（2017年）和正在起草的《中華人民共和國生物安全法》等。中國科技法從20世紀(jì)80年代確立“面向依靠”發(fā)展科學(xué)技術(shù)方針以來，特別強(qiáng)調(diào)國家政策對科技進(jìn)步、轉(zhuǎn)化、創(chuàng)新的作用，先后制定《中華人民共和國科學(xué)技術(shù)進(jìn)步法》（以下簡稱《科學(xué)技術(shù)進(jìn)步法》）（1993年制定，2007年修改）、《中華人民共和國促進(jìn)科技成果轉(zhuǎn)化法》（以下簡稱《促進(jìn)科技成果轉(zhuǎn)化法》）（1996年制定，2015年修改）等科技政策法，以國家政策支持、激勵引導(dǎo)的方式，促進(jìn)科技研發(fā)、轉(zhuǎn)化、創(chuàng)新。面對新一輪科技革命，為提高科技創(chuàng)新的力度和強(qiáng)度，中國將提升科技創(chuàng)新能力定為基本國策，出臺系列政策文件或戰(zhàn)略綱要。

三、人工智能的科技法規(guī)范路徑

人工智能在本質(zhì)上屬于科技事物，應(yīng)當(dāng)將其作為科技事物加以審視。一方面，人工智能通過機(jī)器學(xué)習(xí)技術(shù)具有認(rèn)知能力。現(xiàn)在機(jī)器學(xué)習(xí)依托的方法，包括線形回歸模型、決策樹、貝葉斯網(wǎng)絡(luò)、人工神經(jīng)網(wǎng)絡(luò)以及進(jìn)化算法，加上傳感器與材料科學(xué)的不斷突破，人工智能的感知、移動和認(rèn)知能力發(fā)展迅速。這種認(rèn)知能力與人類獨(dú)有的綜合學(xué)習(xí)和高級推理能力具有相通性，并且有超越人類的趨勢。例如，2014年聊天機(jī)器人通過簡單的圖靈測試，2016年阿爾法圍棋擊敗世界圍棋冠軍。另外一方面，這種機(jī)器學(xué)習(xí)技術(shù)能夠形成的能力目前還只是“弱人工智能”，距離通用人工智能或者超級人工智能仍有相當(dāng)一段距離。基于機(jī)器學(xué)習(xí)的人工智能缺乏人類具有的大背景和常識，尚達(dá)不到通用人工智能的高度，只適宜用于完成具體明確任務(wù)，如谷歌的搜索算法、蘋果的語音會話、智能手機(jī)的文字輸入預(yù)測、選擇性呈現(xiàn)網(wǎng)絡(luò)廣告、強(qiáng)化網(wǎng)絡(luò)安全、控制工業(yè)機(jī)器人、自動駕駛汽車、歸納文本信息以及診斷某些疾病等。

對于人工智能的規(guī)范思考，從回溯事物本源的意義上說，需要盯緊其作為第四次工業(yè)革命新興科技具有的科技本質(zhì)屬性以及當(dāng)前依靠機(jī)器學(xué)習(xí)發(fā)展認(rèn)知能力的特殊性。首先，對于人工智能的規(guī)范，應(yīng)當(dāng)自覺遵循人類既有的科技規(guī)范路徑，充分利用現(xiàn)有的科技法加以規(guī)范評價。換言之，現(xiàn)在的科技法體系應(yīng)該成為規(guī)范當(dāng)前人工智能的規(guī)范體系。這是法治主義應(yīng)該秉持的基本立場，“法治”從字面意思看就是法律的統(tǒng)治，即人們應(yīng)當(dāng)遵守法律。美國法學(xué)家哈耶克認(rèn)為，堅持法治意義在于“規(guī)則的相當(dāng)確定性使我們又可能預(yù)見權(quán)威在特定情況下將如何行使其強(qiáng)制性權(quán)力，從而根據(jù)這種常識安排個人事務(wù)”。現(xiàn)在的科技法體系，包含鼓勵科技發(fā)明和應(yīng)用的科技市場法，如專利法和其他知識產(chǎn)權(quán)法、技術(shù)合同法、技術(shù)中介法等，包含管控工業(yè)和科技風(fēng)險的法律，范圍涉及工業(yè)生產(chǎn)安全、勞動保護(hù)、事故責(zé)任、環(huán)境保護(hù)和特殊技術(shù)風(fēng)險等，以及科技政策法即旨在促進(jìn)科技進(jìn)步、轉(zhuǎn)化和創(chuàng)新的法律政策。其次，對于人工智能的規(guī)范，又要注意科技事物的發(fā)展性和特殊性，由此對現(xiàn)有規(guī)范進(jìn)行更新調(diào)整和特殊變化，以達(dá)到合乎時宜和具體合理。一方面，要體現(xiàn)人工智能的發(fā)展性，認(rèn)識人工智能是當(dāng)下的新科技，具有作為正在引領(lǐng)第四次工業(yè)革命的一種表征科技的定位，在與過去加以充分比較、對未來加以合理預(yù)測的基礎(chǔ)上，對其帶來的新發(fā)展、新問題加以規(guī)范。正如英國法理學(xué)家哈特所說：“人類的法律創(chuàng)制者們，不能夠預(yù)見到所有未來可能發(fā)生的相關(guān)情形。這意味著，所有的法律規(guī)則與概念都是‘開放的’，并且當(dāng)一種未曾預(yù)見到的情形發(fā)生時，我們必須進(jìn)行一個全新的選擇，并且以此改進(jìn)我們的法律概念，使它們更符合社會所預(yù)期的目的。”另一方面，要體現(xiàn)人工智能的特殊性，在將既有科技法制度加以一般適用的同時，要善于認(rèn)識人工智能的具體性規(guī)范要求，就此進(jìn)行具體立法或者適用。這種具體性還體現(xiàn)在人工智能開發(fā)和應(yīng)用功能的多樣性上，因此還應(yīng)當(dāng)做好基于功能區(qū)分的規(guī)范細(xì)分。人工智能新功能問世的速度日益加快，其不僅被用來分析和識別信息、物體，獲取數(shù)據(jù)，輔助決策，而且被應(yīng)用于服務(wù)領(lǐng)域，如新聞、醫(yī)療、護(hù)理、會計、教學(xué)、法律、交通領(lǐng)域，或者被應(yīng)用于工業(yè)領(lǐng)域，如獨(dú)立裝配汽車的工業(yè)機(jī)器人，甚至可能應(yīng)用于警務(wù)和自動武器領(lǐng)域。這些基于應(yīng)用領(lǐng)域和功能的不同，導(dǎo)致了合理規(guī)范需求的差異性。

四、科技法視野下的人工智能規(guī)范問題

（一）科技市場法語境下的人工智能規(guī)范問題

科技市場法，特別是專利權(quán)等知識產(chǎn)權(quán)制度以及技術(shù)合同、技術(shù)中介等技術(shù)市場交易制度等，對于人工智能具有基礎(chǔ)適用性，應(yīng)該成為驅(qū)動人工智能技術(shù)進(jìn)步和應(yīng)用的基本制度。人工智能作為一種發(fā)展中的科技，是決定第四次工業(yè)革命的關(guān)鍵因素之一，具有為行業(yè)和社會創(chuàng)造巨大效益的潛能，因此有必要積極推動其發(fā)展，對此最有效的方式就是運(yùn)用科技市場法的賦權(quán)、交易和轉(zhuǎn)化激勵機(jī)制。目前人工智能需要不斷完善，處于亟待著力開發(fā)和提升的時期，預(yù)計全球?qū)τ谌斯ぶ悄軝C(jī)器人的投入在2019年超過1 350億元。基于人工智能將對經(jīng)濟(jì)、社會帶來巨大價值的認(rèn)識，包括微軟、亞馬遜、臉譜、谷歌、阿里、騰訊、百度等在內(nèi)的巨型互聯(lián)網(wǎng)企業(yè)，都在開發(fā)和研究相關(guān)的人工智能，研發(fā)投資不斷增加。其背后的動力，取決于法律對于這種投入及回報提供的支持和保障。

然而，具有特殊性和發(fā)展性的人工智能與現(xiàn)行科技市場法的有關(guān)規(guī)定難以完全契合。人工智能的研發(fā)和應(yīng)用產(chǎn)生許多新的規(guī)范問題，需要及時研究和跟進(jìn)立法。首先，關(guān)于人工智能的技術(shù)改進(jìn)往往體現(xiàn)為學(xué)習(xí)方法、進(jìn)化算法等方面，這些方面在現(xiàn)在的專利體系下很難獲得專利授權(quán)。其次，現(xiàn)行的技術(shù)交易主要是通過合同交易來完成，而人工智能價值實現(xiàn)的方式更多依賴于合作、協(xié)同應(yīng)用，通過動態(tài)的系統(tǒng)嵌入運(yùn)行來實現(xiàn)其價值功能。再次，人工智能技術(shù)專業(yè)性極強(qiáng)，需要促進(jìn)相關(guān)專業(yè)技術(shù)市場的發(fā)展來重點(diǎn)引導(dǎo)不同類型的創(chuàng)新型技術(shù)市場的發(fā)展，如美國國家技術(shù)轉(zhuǎn)移中心、英國技術(shù)集團(tuán)、德國弗朗霍夫?qū)W會、日本技術(shù)研究所等實體技術(shù)市場以及歐洲的創(chuàng)新驛站等網(wǎng)上技術(shù)市場。最后，也是最重要的，人工智能的開發(fā)和應(yīng)用依賴于數(shù)據(jù)資源。例如，歐共體委員會發(fā)布的《關(guān)于歐洲合作智能交通系統(tǒng)戰(zhàn)略協(xié)作、連接和自動移動性的決議》就提出：“個人數(shù)據(jù)和隱私保護(hù)是自動駕駛汽車成功部署的決定性因素，必須使用戶確信他們的個人數(shù)據(jù)并非商品，用戶能夠有效控制數(shù)據(jù)的使用方式和目的”。目前，很多具有創(chuàng)新力的機(jī)器學(xué)習(xí)研發(fā)工作主要由著名大學(xué)研究機(jī)構(gòu)或大企業(yè)承擔(dān)，它們的優(yōu)勢在于能夠獲得數(shù)據(jù)資源，其中很大一部分是可公開數(shù)據(jù)資源，當(dāng)然這也是目前許多人工智能可驗證和可確保透明度的前提。但是，這顯然是不夠的。那么，如何確保人工智能創(chuàng)新中的合理、充沛的數(shù)據(jù)資源來源呢？此外，人工智能應(yīng)用也要求用戶使其數(shù)據(jù)處于有序狀態(tài)，確保人工智能應(yīng)用中的相關(guān)專有數(shù)據(jù)得到適當(dāng)?shù)恼砗捅Ｗo(hù)，那么如何做好這些數(shù)據(jù)的管理工作呢，其法律依據(jù)何在？實踐表明，目前應(yīng)用者主要依靠開發(fā)特定的人工智能系統(tǒng)來協(xié)助檢索、挖掘并整理公司系統(tǒng)和服務(wù)器的數(shù)據(jù)，從而達(dá)成機(jī)器學(xué)習(xí)的先決條件。現(xiàn)在的科技產(chǎn)權(quán)制度并沒有解決這些問題，亟待從人工智能研發(fā)和應(yīng)用的合理需要的具體角度做出相應(yīng)完善。

（二）科技風(fēng)險管控法語境下的人工智能規(guī)范問題

現(xiàn)有管控工業(yè)風(fēng)險、勞動保護(hù)、事故責(zé)任、環(huán)境保護(hù)和特殊科技風(fēng)險的科技風(fēng)險法律制度，對于人工智能同樣具有可適用性。人工智能作為科技，無論其開發(fā)還是應(yīng)用，同樣存在安全、災(zāi)害和特殊技術(shù)風(fēng)險問題。同時，人工智能還具有獨(dú)特的科技安全和風(fēng)險問題，因此需要特殊應(yīng)對。第四次工業(yè)革命及其科技挑戰(zhàn)，至少面臨以下幾個問題：（1）如何確保合理分配第四次工業(yè)革命的效益；（2）如何管理第四次工業(yè)革命的外部性效應(yīng)特別是控制風(fēng)險和傷害，包括針對弱勢群體、自然環(huán)境和未來世代的保護(hù)措施，以防范意外后果、變革成本、次生影響或蓄意濫用新技術(shù)等問題；（3）如何確保第四次工業(yè)革命及其科技開發(fā)和應(yīng)用由人主導(dǎo)、以人為本。這些是前三次工業(yè)革命時代科技立法考慮不多的。筆者認(rèn)為，就人工智能科技的特殊研發(fā)和應(yīng)用而言，目前至少面臨5項特殊安全或風(fēng)險問題。

第一，人工智能不確定的技術(shù)風(fēng)險。目前人工智能的方法在結(jié)構(gòu)上還不夠完善，今后也不可能百分之百完善，可見技術(shù)風(fēng)險不能避免。因此，在人工智能運(yùn)用中，要特別注意防范這種不確定的技術(shù)風(fēng)險。應(yīng)當(dāng)在設(shè)計和應(yīng)用人工智能時，同時配套安全保障；在重要領(lǐng)域部署人工智能時，要做到確保其具有支持業(yè)務(wù)穩(wěn)定、持續(xù)運(yùn)行的性能，并保證安全技術(shù)措施同步規(guī)劃、同步建設(shè)、同步使用。鑒于人工智能技術(shù)的特殊技術(shù)風(fēng)險，尤其要避免技術(shù)誤用，因為一旦出現(xiàn)錯誤的匹配、錯誤的輸入，可能產(chǎn)生難以預(yù)計的后果。例如，在一次德國的人機(jī)互動中，協(xié)同工人因誤用而導(dǎo)致被工業(yè)機(jī)器人打死，這既有誤用的因素，恐怕也有技術(shù)安全設(shè)計的問題。

第二，人工智能偏離設(shè)計應(yīng)用的風(fēng)險。人工智能的行動、決策是否保證其與設(shè)計者的目標(biāo)一致，或者保證始終與控制者合作，都需要依靠技術(shù)本身，但現(xiàn)在的技術(shù)并不能保證萬無一失，尤其目前機(jī)器學(xué)習(xí)技術(shù)并不能確保人機(jī)協(xié)同的絕對可預(yù)定性，更不能保證人機(jī)價值觀的一致。如果不加以風(fēng)險管控，一旦偏離目標(biāo)，后果不堪設(shè)想。例如，如果警務(wù)機(jī)器人的設(shè)計者發(fā)生偏離，可能錯誤擊斃可疑人員。越是讓人工智能執(zhí)行復(fù)雜系統(tǒng)的工作，如管理交通、監(jiān)控安全，就越要注意這樣的風(fēng)險。目前的一種策略是，在設(shè)計時強(qiáng)化安全倫理，即所謂的機(jī)器人原則，但問題是這仍然只是一種設(shè)計而已，其在正常情況下固然可以更好地指導(dǎo)機(jī)器人行動，但并不能真正解決運(yùn)行中的偏移。因此，正確的方法還應(yīng)該包括增加對運(yùn)行中的人工智能訓(xùn)練，通過訓(xùn)練和及時調(diào)整使技術(shù)設(shè)計的可行性轉(zhuǎn)化為行動的一致性。此外，還應(yīng)該引入可檢驗、可修正、可控制的人工智能應(yīng)用模式。

第三，人工智能被非法使用的風(fēng)險。例如，企業(yè)通過人工智能運(yùn)用進(jìn)行歧視、不公平交易、竊取他人數(shù)據(jù)或者暗箱操作。歐盟數(shù)據(jù)保護(hù)委員會2015年11月發(fā)布《應(yīng)對大數(shù)據(jù)挑戰(zhàn)：呼吁通過設(shè)計和可責(zé)性實現(xiàn)透明性、用戶控制及數(shù)據(jù)保護(hù)》，提出要重視大數(shù)據(jù)對窮人或者弱勢群體的歧視，并提出是否可以讓機(jī)器代替人類來做道德、法律等判斷的問題；美國聯(lián)邦貿(mào)易委員會2017年1月發(fā)布《大數(shù)據(jù)：包容性工具抑或排斥性工具？》，要求關(guān)注大數(shù)據(jù)中對于消費(fèi)者的歧視和偏見問題，確保關(guān)于消費(fèi)者公平機(jī)會的法律得到有效執(zhí)行，同時防止大數(shù)據(jù)分析中采取歧視等不公平行為。又如，犯罪分子或恐怖主義使用人工智能或者欺騙、入侵、操縱、修改別人的人工智能。人工智能的非法使用，也可能體現(xiàn)在國際層面，如國家或個人開發(fā)不可信任或不加區(qū)別的人工智能武器。人工智能安全漏洞的嚴(yán)峻性也在不斷升級，一部分是因為人工智能使用者自身違規(guī)設(shè)計或應(yīng)用導(dǎo)致的，也有相當(dāng)一部分來自外部的不法行為。

第四，人工智能的社會風(fēng)險。在經(jīng)濟(jì)、管理和社會服務(wù)的許多領(lǐng)域，人工智能淘汰了一些工作崗位，給勞動力市場帶來影響和挑戰(zhàn)。例如，富士康在近年來有約6萬工人被機(jī)器人取代。這種風(fēng)險還在擴(kuò)大。人工智能的社會風(fēng)險，廣義上還包括技術(shù)迭代導(dǎo)致的各種社會不適應(yīng)。我們是簡單奉行物競生存論，還是應(yīng)當(dāng)也重視社會和諧價值？每一次工業(yè)革命都會導(dǎo)致劇烈的社會變化，有些人能夠適應(yīng)變化，但也有很多人并不容易適應(yīng)變化。而且，“我們并不能保證所有適應(yīng)性行為都對世界或宇宙有益，有時這些行為也可能有害于我們的生活”。人工智能的社會風(fēng)險，也包括新科技應(yīng)用可能導(dǎo)致的社會分配公平問題。新的財富和福祉分配很可能并不公平，特別是財富和機(jī)會向少數(shù)人集中，導(dǎo)致新一輪贏者通吃效應(yīng)。這種現(xiàn)象不僅存在于國內(nèi)社會，也存在于國際社會。從國際社會而言，人工智能可能加大國家之間的極差。發(fā)達(dá)國家在享受人工智能發(fā)展福利的同時，應(yīng)負(fù)有在維持和構(gòu)建良好國際秩序的基礎(chǔ)上做好人工智能國際利益協(xié)調(diào)的責(zé)任。

第五，人工智能的倫理風(fēng)險。人工智能是一種具有認(rèn)知能力的技術(shù)，與人具有相通性。目前，人工智能技術(shù)雖然離通用智能特別是全智能還有差距，但在一些場景互動方面（包括游戲、客服查詢、醫(yī)療診斷、自動駕駛汽車導(dǎo)航）的表現(xiàn)已經(jīng)接近人類甚至超過人類。認(rèn)知能力原本是人類獨(dú)有，現(xiàn)在可以為人工智能所有，這種情況勢必導(dǎo)致出現(xiàn)與其他科技不一樣的倫理風(fēng)險。人類倫理的一個根本追求是種的保全或者說的人自身的保全。如果下一波開發(fā)出仿真人或者超級智能，這個特殊的倫理問題就會更加嚴(yán)峻。這是人工智能特殊的技術(shù)風(fēng)險之一。那么，我們可以在多大程度開發(fā)和應(yīng)用這種具有認(rèn)知能力的機(jī)器或軟件？假設(shè)目前還可以實施允許開發(fā)和應(yīng)用的通用政策，我們是否需要就倫理風(fēng)險達(dá)到某種級別的人工智能開發(fā)、應(yīng)用和運(yùn)行區(qū)別不同層次進(jìn)行嚴(yán)格管控？是否可以賦予具有接近或超越人類認(rèn)知能力的人工智能以完全自主決策的權(quán)力，因而也具有與人同等的刑法、行政法、民法主體地位？是否應(yīng)當(dāng)確保人類對于人工智能的可信任與合理期待？是否需要對人工智能植入某些必要原則、倫理標(biāo)準(zhǔn)并確保有效的運(yùn)行監(jiān)管？是否可以開發(fā)和部署負(fù)有特殊職能的警務(wù)機(jī)器人以及如何管控？是否可以開發(fā)和部署致命自動化武器或戰(zhàn)爭機(jī)器人以及如何管控？如何應(yīng)對和救濟(jì)人工智能對倫理安全的威脅或損害？是否可以懲罰甚至“殺死”所謂“不法”或者“犯罪”的人工智能以及如何執(zhí)行？現(xiàn)實中的人應(yīng)該如何對待智能機(jī)器人？等等。這些倫理風(fēng)險問題歸結(jié)起來，就是如何處理人類與人工智能的關(guān)系，應(yīng)當(dāng)建立何種人類與人工智能相處的基本規(guī)則，特別是與其中的機(jī)器人相處的基礎(chǔ)規(guī)則。這些問題越來越受到關(guān)注，不斷促成階段性的人工智能倫理政策或規(guī)則的形成。當(dāng)前一種人本的、普惠的新科技思想正在興起，認(rèn)為包括人工智能在內(nèi)的第四次工業(yè)革命的技術(shù)應(yīng)該具有價值取向，技術(shù)應(yīng)當(dāng)“賦能而非支配”，未來應(yīng)當(dāng)“由人類設(shè)計，造福于人類”，技術(shù)應(yīng)當(dāng)“使價值成為特點(diǎn)而非漏洞”，主張人工智能技術(shù)應(yīng)該包含一整套假設(shè)、價值觀和原則，應(yīng)當(dāng)優(yōu)先考慮社會價值觀，兼及利益相關(guān)者，服務(wù)于人民和社會制度。

美國科幻作家艾薩克·阿西莫夫早在1950年就提出用“機(jī)器人三定律”來防止機(jī)器人失控：機(jī)器人不能傷害人類；它們必須服從于人類；它們必須保護(hù)自己。可見，最早的關(guān)于機(jī)器人的倫理考慮只是希望機(jī)器人不給人類帶來傷害或威脅而已。后來，還加入了“第零定律”：機(jī)器人不得傷害人類整體，不得因不作為使人類整體受到傷害。今天，隨著人工智能的新一輪發(fā)展，關(guān)于人工智能的倫理問題，有了更進(jìn)一步的認(rèn)識。但是總體上，國際社會尚未形成適用于人工智能開發(fā)和應(yīng)用的全球倫理規(guī)范。

2016年，美國電氣和電子工程師協(xié)會發(fā)布人工智能倫理報告——《利用人工智能和自主系統(tǒng)最大化人類福祉的愿景》，將人工智能定性為“社會-技術(shù)系統(tǒng)”，倡導(dǎo)深化價值觀。該報告提出發(fā)展人工智能的4項原則，即人類利益原則、責(zé)任原則、透明原則、教育和意識原則。2019年2月，美國總統(tǒng)特朗普發(fā)布第13859號《關(guān)于啟動“美國人工智能行動倡議”的行政令》，隨即美國國家標(biāo)準(zhǔn)與技術(shù)研究院在2019年8月發(fā)布《美國如何領(lǐng)導(dǎo)人工智能：聯(lián)邦參與制定技術(shù)標(biāo)準(zhǔn)及相關(guān)工作的計劃》，提出要確保使用人工智能技術(shù)的系統(tǒng)可靠、穩(wěn)健、值得信賴。其中也明顯包含一些最低倫理標(biāo)準(zhǔn)，但主要還是集中在可安全信任的技術(shù)倫理問題，對于相關(guān)人文倫理關(guān)切尚欠明確。

為提升人們對人工智能產(chǎn)業(yè)的信任，在人工智能高級別專家組起草的支持下，2019年4月8日歐盟委員會發(fā)布《可信人工智能倫理指南》，明確可信賴的人工智能倫理準(zhǔn)則，同時宣布啟動試行階段，并邀請多方面對該準(zhǔn)則進(jìn)行測試。根據(jù)歐盟委員會的解釋，人工智能的倫理問題有兩個必要的組成部分：一是應(yīng)尊重基本人權(quán)、規(guī)章制度、核心原則及價值觀；二是應(yīng)在技術(shù)上安全可靠，避免因技術(shù)不足而造成無意的傷害。“可信賴的人工智能”包括7個關(guān)鍵條件：人類的自主性和監(jiān)督，技術(shù)的健全性和安全性，隱私和數(shù)據(jù)管理，透明度，多樣性、非歧視和公平性，社會福祉，問責(zé)機(jī)制。

2017年我國國務(wù)院發(fā)布《新一代人工智能發(fā)展規(guī)劃》（以下簡稱《規(guī)劃》），國家開始認(rèn)識到人工智能發(fā)展可能引發(fā)方方面面的問題，其中包括倫理問題，提出要重視人工智能法律倫理的基礎(chǔ)性研究。2019年6月17日，我國國家新一代人工智能治理專業(yè)委員會發(fā)布《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》（以下簡稱《新一代人工智能治理原則》），提出人工智能治理的框架和行動指南，強(qiáng)調(diào)和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔(dān)責(zé)任、開發(fā)協(xié)作、敏捷治理8個原則，其中涉及倫理治理要求，重點(diǎn)在負(fù)責(zé)任。我國不少機(jī)構(gòu)和企業(yè)做出響應(yīng)，自動提出其倡導(dǎo)的人工智能倫理要求。但這些還遠(yuǎn)遠(yuǎn)不夠，距離真正倫理規(guī)范的明確性和合理性還有很大距離。

（三）科技政策法語境下的人工智能規(guī)范問題

科技政策法對于當(dāng)前人工智能的開發(fā)和應(yīng)用更加具有可適用性，這不僅僅是因為人工智能科技的發(fā)展與科技進(jìn)步、科技轉(zhuǎn)化政策契合，更是因為其發(fā)展代表當(dāng)前科技創(chuàng)新的重要領(lǐng)域和方向。在我國，《科學(xué)技術(shù)進(jìn)步法》和《促進(jìn)科技成果轉(zhuǎn)化法》提供的諸多進(jìn)步機(jī)制、轉(zhuǎn)化機(jī)制固然對人工智能科技的開發(fā)和轉(zhuǎn)化具有支持意義，但由于尚存在許多體制障礙，特別是國有企業(yè)、事業(yè)單位科技成果的嚴(yán)格國有體制和國有資產(chǎn)管理體制，加上市場培育不夠，導(dǎo)致科技主體、動力、程序、保障等多方面的局限，嚴(yán)重影響科技進(jìn)步和轉(zhuǎn)化，目前相關(guān)法律面臨修改、調(diào)整和完善。

人工智能科技政策所面臨的更重要的挑戰(zhàn)還是特殊化問題。人工智能作為一種全新的具有巨大應(yīng)用價值同時又具有與人相通的認(rèn)知能力的科技，應(yīng)該采取何種科技政策加以促進(jìn)和管控是一個復(fù)雜的問題；加上其本身還在不斷的動態(tài)發(fā)展之中，可以說充滿變數(shù)。鑒于人工智能獨(dú)特的發(fā)展態(tài)勢，可以考慮階段式立法和不成熟時授權(quán)政策試點(diǎn)的方式：一個階段之內(nèi)已經(jīng)達(dá)成共識的做法，可以通過修法加以確定；一個階段之內(nèi)還難以明確但又急需明確的做法，可以通過授權(quán)專門部門采取出臺政策的方式進(jìn)行探索。例如，美國學(xué)者雷恩·卡羅等認(rèn)為，人工智能政策的核心問題應(yīng)該包括：（1）正義和公平。包括應(yīng)用中的不平等，如搜索引擎將工程師自動關(guān)聯(lián)為男性，將護(hù)士自動關(guān)聯(lián)為女性。（2）武力的運(yùn)用。例如，如何決策人工智能武力的使用，誰為機(jī)器的決定負(fù)責(zé)等。（3）安全和資質(zhì)。包括設(shè)置和確定安全門檻、上崗資質(zhì)要求、網(wǎng)絡(luò)安全標(biāo)準(zhǔn)。（4）隱私和權(quán)力。人工智能基于模式識別能力、高度精細(xì)信息的部署方式等導(dǎo)致更復(fù)雜的隱私問題，企業(yè)和用戶不對稱關(guān)系導(dǎo)致數(shù)據(jù)不對稱或不平等隱患。（5）稅收和勞動力替代。（6）其他問題，如機(jī)構(gòu)建設(shè)和專業(yè)知識、投資和采購、消除責(zé)任的障礙、人工智能的心理模型等。2016年美國發(fā)布的《為人工智能未來做準(zhǔn)備》提出23項政策建議，包括鼓勵私立和公共機(jī)構(gòu)研究是否以及如何以有利于社會的方式負(fù)責(zé)任地利用人工智能和機(jī)器學(xué)習(xí)，聯(lián)邦機(jī)構(gòu)應(yīng)優(yōu)先考慮人工智能中的開放式訓(xùn)練數(shù)據(jù)和開放數(shù)據(jù)標(biāo)準(zhǔn)，聯(lián)邦政府應(yīng)探索提高關(guān)鍵機(jī)構(gòu)將人工智能應(yīng)用于其任務(wù)的能力和方法，美國國家科學(xué)技術(shù)委員會機(jī)器學(xué)習(xí)和人工智能小組委員會應(yīng)為政府內(nèi)的人工智能從業(yè)者建立一個實踐社區(qū)，在為使用人工智能的產(chǎn)品制定監(jiān)管政策時各機(jī)構(gòu)應(yīng)利用適當(dāng)?shù)母呒墑e技術(shù)專家、各機(jī)構(gòu)應(yīng)使用全方位的人事分配和交換模式（如雇用機(jī)構(gòu)）來培養(yǎng)聯(lián)邦勞動力并使其對當(dāng)前的技術(shù)狀況有更多不同的看法等。

人工智能對全球當(dāng)下和未來的影響巨大，特別是形成較大的技術(shù)和社會風(fēng)險，因此相關(guān)政策的考量更加復(fù)雜，也有必要提升層次。目前，發(fā)達(dá)國家無一例外都將人工智能的研究和發(fā)展提到發(fā)展戰(zhàn)略的高度，進(jìn)行系統(tǒng)化的政策引導(dǎo)。一方面，人工智能被確立為科技創(chuàng)新的重點(diǎn)，并賦予其優(yōu)先發(fā)展的戰(zhàn)略地位；另一方面，針對人工智能引發(fā)的技術(shù)、社會、國家安全和人類倫理等問題，引入風(fēng)險規(guī)制政策，積極防范其負(fù)效應(yīng)，趨利避害。隨著人工智能研發(fā)浪潮在全球興起，美國、英國、德國和日本紛紛將人工智能的研究和發(fā)展上升為國家戰(zhàn)略，相繼出臺相關(guān)戰(zhàn)略規(guī)劃，旨在爭奪人工智能產(chǎn)業(yè)技術(shù)制高點(diǎn)。2016年以后，各國人工智能研究和發(fā)展的戰(zhàn)略化推進(jìn)更加明顯。

美國早在奧巴馬執(zhí)政時期就開始研究人工智能的研究和發(fā)展戰(zhàn)略。2016年10月，美國發(fā)布《國家人工智能研究和發(fā)展戰(zhàn)略計劃》（號稱新的“阿波羅登月計劃”），旨在運(yùn)用聯(lián)邦基金資助不斷深化對人工智能的認(rèn)識和研究，從而使得該技術(shù)對社會發(fā)揮更加積極的影響，減少其消極影響，同時還發(fā)布《為人工智能的未來做準(zhǔn)備》；2016年12月，又發(fā)布《人工智能、自動化與經(jīng)濟(jì)》，提出應(yīng)對人工智能驅(qū)動的自動化經(jīng)濟(jì)是后續(xù)政府面臨的重大政策挑戰(zhàn)，下一屆政府應(yīng)該制定政策，推動人工智能發(fā)展并釋放企業(yè)和工人的創(chuàng)造潛力，確保美國在人工智能的創(chuàng)造和使用中的領(lǐng)導(dǎo)地位。2019年2月11日，美國總統(tǒng)特朗普簽署《維護(hù)美國在人工智能時代的領(lǐng)導(dǎo)地位的行政令》，啟動“美國人工智能倡議”，旨在從國家戰(zhàn)略層面調(diào)動更多聯(lián)邦資金和資源用于人工智能研發(fā)，應(yīng)對來自戰(zhàn)略競爭者和外國對手的挑戰(zhàn)。2019年2月12日，美國國防部發(fā)布《2018國防部人工智能戰(zhàn)略概要：利用人工智能促進(jìn)安全與繁榮》。2019年6月，美國白宮更新《國家人工智能研究和發(fā)展戰(zhàn)略計劃》，將政府人工智能研發(fā)戰(zhàn)略重點(diǎn)擴(kuò)展至8個。

2018年3月27日，歐盟委員會下屬歐洲政治戰(zhàn)略中心發(fā)布《人工智能時代：確立以人為本的歐洲戰(zhàn)略》，介紹歐洲人工智能發(fā)展，提出歐洲應(yīng)采取的對策；2018年4月25日，歐盟委員會向歐洲議會、歐盟理事會等提交《歐盟人工智能報告》，描述歐盟人工智能在國際競爭中的地位，制定2018-2020年以及未來10年歐盟人工智能行動計劃，提出三大目標(biāo)，即“加強(qiáng)公共部門和私營部門人工智能投資，增強(qiáng)歐盟的技術(shù)與產(chǎn)業(yè)能力，推進(jìn)人工智能應(yīng)用”“為迎接社會經(jīng)濟(jì)變革做好準(zhǔn)備”“確立合適的倫理和法律框架”。英國在2016年先后發(fā)布《人工智能對未來決策的機(jī)會和影響》和《機(jī)器人技術(shù)和人工智能》。2017年11月，英國發(fā)布《產(chǎn)業(yè)戰(zhàn)略》，提到“人工智能與數(shù)據(jù)經(jīng)濟(jì)”的挑戰(zhàn)；2018年4月26日，美國發(fā)布《產(chǎn)業(yè)戰(zhàn)略：人工智能領(lǐng)域行動》，并就生產(chǎn)力基礎(chǔ)領(lǐng)域制定具體行動措施。2018年11月15日，德國發(fā)布人工智能戰(zhàn)略，提出“人工智能德國制造”，全面思考人工智能對社會各領(lǐng)域的影響，定量分析人工智能給制造業(yè)帶來的經(jīng)濟(jì)效益，重視人工智能在中小企業(yè)中的應(yīng)用，并計劃2025年前在聯(lián)邦層面投入30億歐元用于發(fā)展人工智能。

我國自2015年以來就開始出臺政策支持人工智能發(fā)展。例如，《規(guī)劃》旨在搶抓人工智能發(fā)展的重大戰(zhàn)略機(jī)遇，構(gòu)筑我國人工智能發(fā)展的先發(fā)優(yōu)勢，加快建設(shè)創(chuàng)新型國家和世界科技強(qiáng)國。《規(guī)劃》提出面向2030年我國新一代人工智能發(fā)展的指導(dǎo)思想、戰(zhàn)略目標(biāo)、重點(diǎn)任務(wù)和保障措施，提出“三步走”戰(zhàn)略目標(biāo)：即2020年實現(xiàn)“人工智能總體技術(shù)和應(yīng)用與世界先進(jìn)水平同步”，初步建成人工智能技術(shù)標(biāo)準(zhǔn)、服務(wù)體系和產(chǎn)業(yè)生態(tài)鏈，人工智能核心產(chǎn)業(yè)規(guī)模超過1 500億元，帶動相關(guān)產(chǎn)業(yè)規(guī)模超過1萬億元；2025年，人工智能產(chǎn)業(yè)進(jìn)入全球價值鏈高端，人工智能核心產(chǎn)業(yè)規(guī)模超過4 000億元，帶動相關(guān)產(chǎn)業(yè)規(guī)模超過5萬億元；2030年，人工智能產(chǎn)業(yè)競爭力達(dá)到國際領(lǐng)先水平，人工智能核心產(chǎn)業(yè)規(guī)模超過1萬億元，帶動相關(guān)產(chǎn)業(yè)規(guī)模超過10萬億元。《規(guī)劃》要求應(yīng)對挑戰(zhàn)，確保人工智能安全、可靠、可控發(fā)展，提出要重視人工智能法律倫理的基礎(chǔ)性研究。《新一代人工智能治理原則》則提出人工智能治理的框架和行動指南，積極推動人工智能全球治理。

五、結(jié)語：加快制定人工智能科技特別法

人類社會總是在向前發(fā)展，特別是基于科技革命而進(jìn)入工業(yè)文明之后形成迭代發(fā)展態(tài)勢，到今天則呈現(xiàn)加速迭代發(fā)展之勢。在這種情況下，法律本身也出現(xiàn)不斷發(fā)展、迭代發(fā)展和加速迭代發(fā)展的特點(diǎn)。但是，值得注意的是，法律的每個階段發(fā)展，或者是每個方面的發(fā)展，始終以一種維護(hù)法律穩(wěn)定性的方式進(jìn)行并遵循自身的體系軌跡，不到萬不得已，通常不會也不該完全打破既有體系進(jìn)行重構(gòu)。舊法與新法的關(guān)系，就好比維特根斯坦所提出的“繩索論”，每一截新的繩索與前一截可能并不相同，但卻相互聯(lián)系著，構(gòu)成一種“家族相似”性。

當(dāng)前的人工智能立法也是如此，我們應(yīng)該以一種歷史與當(dāng)下聯(lián)系的發(fā)展思維加以對待。人工智能今天已發(fā)展到機(jī)器學(xué)習(xí)階段，正在發(fā)揮著作為第四次工業(yè)革命表征科技的巨大作用，同時因其具有與人類相通的認(rèn)知能力的特點(diǎn)，產(chǎn)生了與人類命運(yùn)的特殊倫理關(guān)聯(lián)。在這種意義上，人工智能發(fā)展勢必引發(fā)如何跟進(jìn)合理規(guī)范的問題。人類自工業(yè)革命開始，就在普通法律之外注意到科技作為特殊規(guī)范事項的獨(dú)特意義，并發(fā)展出專門的科技法，這體現(xiàn)為從科技市場法到工業(yè)生產(chǎn)安全法、事故責(zé)任法、特殊科技風(fēng)險法再到科技政策法的不斷疊加，多次迭代發(fā)展形成具有穩(wěn)定價值和內(nèi)容的規(guī)范體系。基于人工智能作為科技事物的本質(zhì)，應(yīng)當(dāng)將其納入科技法范疇加以評價，在因循現(xiàn)行科技法的基礎(chǔ)上，以正確的發(fā)展思維合理探索具體的發(fā)展路徑。

人工智能作為新興重大科技，正在以其非同尋常的發(fā)展?jié)摿吞攸c(diǎn)，重新塑造社會生產(chǎn)和生活方式，改變財富分配和社會組織方式，挑戰(zhàn)人與人造物的既有關(guān)系。這種改變和挑戰(zhàn)，隨著人工智能技術(shù)和人工智能認(rèn)識能力的不斷提升也在不斷升級，進(jìn)而導(dǎo)致規(guī)范發(fā)展和應(yīng)對的迫切性。人工智能需要規(guī)范的新問題可謂巨量，而且還在不斷增加。筆者建議盡早制定專門的人工智能法，以人工智能科技作為特殊規(guī)范對象，并將其作為科技法的特別法而定位，從人工智能的科技市場、科技風(fēng)險和科技政策等具體問題入手，通過對既有科技法價值的繼承和發(fā)展，對既有科技法規(guī)則進(jìn)行優(yōu)化和調(diào)整，形成一套專門適用于人工智能研發(fā)和應(yīng)用的具體規(guī)范體系，以備現(xiàn)實人工智能法律實踐所需。其中，人工智能立法的倫理性具有前所未有的復(fù)雜性，具體表現(xiàn)為如何確保人類自身不受危害和威脅的需要。我國目前已經(jīng)將人工智能立法項目納入立法規(guī)劃，值得拭目以待。

作者：龍衛(wèi)球

來源：法商研究雜志

本文章僅代表作者個人觀點(diǎn)，不代表本賬號的觀點(diǎn)與看法。

免責(zé)聲明：文字僅供學(xué)習(xí)、交流使用，不具有任何商業(yè)用途，版權(quán)歸原作者所有，如有問題請及時聯(lián)系我們以作處理。本聲明未涉及的問題參見國家有關(guān)法律法規(guī)，當(dāng)本聲明與國家法律法規(guī)沖突時，以國家法律法規(guī)為準(zhǔn)。

更多法律資訊和優(yōu)質(zhì)課程的獲取，歡迎關(guān)注法寶學(xué)堂公眾號（ID：PKUFBXT）！