“馴服”AI何以可能？

——人工智能時代的展望與對策

　　作者：上海社會科學院軟實力研究中心主任、研究員　胡鍵

　　隨著第四次工業革命的到來，人類社會正式進入全新的人工智能時代。作為一種技術，人工智能將會給人類社會帶來什么樣的影響？圍繞這個問題，社會各界有不同的看法，例如“發展論”“被控制論”“毀滅論”“馴服論”等，這些觀點顯然都是從某一方面對人工智能的影響進行認識。但從科技發展史來看，任何新技術的發明都會產生正反兩方面結果，樂觀主義者很容易看到技術的積極一面，而悲觀主義者往往專注于其消極影響。但無論如何，由于人工智能對人類社會具有顛覆性的影響，這個時代人類社會很可能處于一個最好的時代，也可能是一個最壞的時代；有可能是一個智慧的時代，也有可能是一個愚蠢的時代。

　　一、“我”是誰？AI是誰？

　　我們可以想象這樣的一天：“我”被一群人工智能（AI）“人”包圍，被他們叫醒起床，他們負責做早餐、打掃衛生、整理草坪等等。與此同時，我們也就輸在那一天——我們被人工智能“人”完全包圍，成為人工智能時代的少數派；而他們卻是時代的多數派。不僅如此，而且“我”的一切生活都被AI精確安排。例如，“我”計劃會見一位朋友，AI馬上精確運算出朋友今天的安排，空閑時間等，也許還會建議“我”改天拜訪；“我”計劃去看醫生，同樣AI也能夠測算出“我”病情的嚴重程度、醫生的忙碌程度、去往醫院的交通情況等，然后建議“我”是否去看醫生和哪天去看醫生，等等。

　　這一切表明，“我”已經完全處于確定性之下，不再面臨具有不確定性的社會。但這也并不意味著沒有風險，相反風險更大了。

　　人類追求幸福并不只關注最終的結果，更享受追求幸福的過程，只有在過程中才能體會到真正的幸福。然而進入人工智能未來時代，“我”的生活變成了簡單的起點和終點，沒有了過程。這個時代，確定性取代不確定性，人類成為沒有幸福體驗的物種，這也就是最大的風險。甚至，我們要思考長久下去這種沒有幸福體驗的人類在智商方面是否會出現“返祖現象”？

　　二、AI可以做什么？“我”能做什么？

　　汽車是無人汽車、下棋是與AI的對弈、工作也完全是AI完成……這一切真的讓“我”倍感幸福，“我”根本不需要勞動，似乎來到這個世界就僅僅是為享受人生。就像撰寫論文，“我”只要提出理念，AI圍繞理念在瞬間就可以完成論文寫作；又如文學創作，“我”只要提出主題，AI就可以完成相關主題的文學作品。“我”過去所遵從的“十年磨一劍”將會成為人工智能時代的笑話。

　　這樣的情形將使一切工作被人工智能“人”所替代，“我”只是掌控開關，“我”存在的價值逐漸變低。眾所周知，人們通過勞動創造了人類生活，也創造了一切價值和社會關系，也就是說“勞動創造了人本身”。未來人工智能時代，勞動逐漸被AI替代，對于人類的“我”來說，勞動也就成為了奢侈品。當今社會，一個人若犯了罪，也許會被判處“勞動改造”，而將來很可能會出現這樣一種情形，同樣一個人若犯罪，也許被判處“不允許勞動”。如果是這樣，人類在肢體活動方面是否也會出現某種“返祖現象”？

　　三、“我”與AI到底是什么關系？

　　“我”掌控人工智能，還是人工智能掌控“我”？人類掌控人工智能“人”，還是人工智能“人”掌控人類？

　　2016年3月的人機大戰，阿爾法圍棋程序（AlphaGo）以4比1的總比分戰勝職業九段棋手李世石。2016年末2017年初，該程序在中國棋類網站上以“大師”（Master）為注冊帳號與中日韓數十位圍棋高手進行快棋對決，連續60局無一敗績；2017年5月，在中國烏鎮圍棋峰會上，它與排名世界第一的世界圍棋冠軍柯潔對戰，以3比0的總比分獲勝。面對這一切，我們不得不產生這樣的憂慮：既然機器人能夠戰勝棋手，那么AI就有可能在其他方面代替人類，從而成為控制人類的“智能人”或者叫“數據生命體”。這就是技術的異化現象。所謂“異化”，是指人的物質生產與精神生產及其產品變成異己力量，反過來統治人的一種社會現象。技術是人類創造發明的，但技術卻成為人類的控制者。為什么會出現技術異化現象呢？原因有三：

　　第一，公利倫理與私利倫理的矛盾。技術發明最初是源于某種公利性質的倫理，即人類不能停留在野蠻時代，人們在勞動中逐漸學會制造工具、更新工具。但人類是分族群、分國家，分為不同的“想象共同體”，而不同的人群、不同的共同體、不同的國家都是有私利的，技術發明與創新最終也就淪為私利的工具，公利倫理最終被私利倫理取代。同時，先進的技術往往被少數人壟斷，并用來控制其他弱小的人群、弱小的共同體和弱小的國家。這就會導致技術的異化。

　　第二，制度創新與技術創新之間的矛盾。制度是調整人與人之間關系的契約，技術是處理人與自然之間關系的工具。人類很容易解決改造自然和征服自然的工具即技術創新，但人類卻很難設計一套調節人類自身關系的制度。原因之一就在于，制度設計往往受制于設計者的私利，制度最終也會成為私利倫理下的契約關系。但問題的關鍵是，制度創新與技術創新不是同一群人，也就導致了制度的私利倫理與技術的私利倫理之間的矛盾。技術的異化因制度的缺失而更為嚴重。

　　第三，社會科學思想創新速度與技術創新速度之間的矛盾。通過比較社會科學思想發展史與科學技術發展史，我們可以發現，科學技術的發展速度遠高于社會科學思想的創新速度。

　　例如從18世紀中葉英國工業革命以來的200多年時間里，技術發展不斷推陳出新：第一次工業革命使人類進入“蒸汽時代”，英國成為“世界工廠”；第二次工業革命生產力高度發展，人類進入“電氣時代”；第三次科技革命以原子能、電子計算機、空間技術和生物工程的發明和應用為主要標志，人類進入“微電子時代”；以人工智能、清潔能源、機器人技術、量子信息技術、虛擬現實以及生物技術為主的全新技術革命即第四次工業革命浪潮，技術的發展更是一日千里、日新月異。相比之下，社會科學思想的創新卻嚴重滯后。我們把鏡頭拉到公元前500年前后，也就是所謂的“軸心時代”。這個時代在中國、西方和印度等地區均出現了文化突破現象，產生了一批偉大的思想家如東方的老子、孔子等，印度的佛陀（釋迦摩尼），古希臘的蘇格拉底、柏拉圖等。他們對宇宙的本質產生的理性認識所達到的層次之高前無古人，而再看他們以后的2000多年，這些認識也算得上是后無來者。即使是歐洲的“文藝復興”也不過是在文化長河中激起一陣浪濤，根本就無法達到“軸心時代”的思想高峰。

　　同時，正是缺乏思想的整合發展，技術的發展創新一定程度上也給人類帶來了極其悲慘的后果。從第一次工業革命到第三次工業革命，世界大戰爆發，人類進行了從未有過的自我殺戮，而技術在其中扮演了非常重要的角色。人類進入第四次工業革命時期，由于沒有哲學思想的統合，人與人之間的戰爭依然存在。而未來更為悲慘的戰爭可能是人與人工智能“人”之間的戰爭，技術對人的戰爭。

　　四、如何協調“我”與人工智能的關系？

　　人類發明某種技術絕對不是要讓技術反過來控制人類。

　　技術是由人創造發明的，是人類改造社會和改造自然的產物，客觀上來說人類是完全能夠駕馭技術的。同時，人工智能AI無論多么先進，但畢竟不可能完全成為肉體的、富有感情的人類。也就是說，AI的先進性完全受控于人類。不過，人類不是用一種技術的“善”去控制另一種技術的“惡”，技術也不可能區分為“善”與“惡”，如果某種技術被賦予了“善”與“惡”的價值，那一定是因為人類自身的價值決定。因此，處理人與人工智能的關系歸根到底在于處理人與人之間的關系，也就是要通過制度來進行規訓。如果真的是“馴服”“賽維坦”的話，也只能用制度來“馴服”，除此之外沒有其他。

　　制度也是人類活動的產物。誠然，制度會因設計者的各種主觀因素包括知識水平、環境認知甚至私利等而很難進行頂層設計，尤其是不可變的受到私利倫理的制約，導致制度成為設計者私利的維護工具。但人類是智慧型動物，總會有辦法進行糾錯，包括制度設計也是一樣。在制度創新的過程中，創新型的利益集團最終會占據上風，成為創新性制度的設計者，從而在一定時期內會克服私利并從公利倫理出發進行制度設計。也就是說，制度的私利倫理被有效克服，從而使制度在公利倫理下正常運轉。因此，不用過分擔心人工智能會摧毀人類。當人工智能在規范制度下正常工作時，那種克服了私利倫理的制度，一定能夠帶領人類在人工智能的技術條件下重建智慧陽光。

　　（本文為作者在“人工智能與社會影響暨百千萬人才工程創新大講壇”的演講）