時論廣場》AI與人的憲法對話（李念祖）

（shutterstock）

7月9日《中國時報》頭版頭條的標題是「AI全球峰會：機器人稱不會背叛人類」。報導的場景在瑞士，似乎遙遠，但人類的問題其實也迫在眉睫。AI稱爲人工智慧或人工智能，習見的定義是「透過普通電腦程式來呈現人類智慧的技術」或是「智慧主體（intelligent agent）的研究與設計」（摘自維基百科）。近來發展一日千里，法律難於捉摸，追趕不及，遑論及時提供對應的規範。憲法是控制公權力的規範，從憲法學的觀點觀察，AI也會有些可供思考的基本問題，不妨來一場憲法對話。

一、機器人。用電腦程式呈現人類智慧的結果，就是以人形呈現的機器人。機器人是人嗎？爲什麼要將機器稱作人，爲什麼要用人作爲模型製造機器？

憲法控制政府，是因爲人是憲法保障的主體，以免受到公權力不該有的侵犯。機器是物，是商品，稱做機器人，並不能變成法律主體，享受權利、負擔義務。但是機器人越來越像真人，會引起混淆，也會引起許多問題。討論機器人會不會背叛人類的問題，就是一例；將人工智慧稱爲智慧主體，則是另外一例。當機器人說我不會背叛人類時，背後有無將「我是機器人，我也是人」的意念植入機器人的智慧系統，是個應該正視的問題。

製造能爲人類服務的機器是一回事，製造自以爲是人的機器來爲人類服務，則是另一回事。有朝一日，機器人會不會主張自己像人類一樣是權利義務的主體，而不是客體呢？創造機器人的人類，沒有庸人自擾的盲點呢？還是有意爲之？如爲後者，爲何有意爲之？值得一問。

二、複製人。將機器造成人，是不是在複製人呢？人類研究胚胎幹細胞，也就是人類生殖的秘密來複制人類，聯合國2005年曾經通過宣言，呼籲各國採取必要行動，限制以不符合人性尊嚴及人類生存權保障的方法克隆或複製人類。我國的《人工生殖法》第16條即禁止以無性生殖方式實施人工生殖。因爲人複製人會發生嚴重的社會倫理難題。透過胚胎幹細胞有此顧慮，透過人工智慧的途徑來複制人，豈無同樣或類似的麻煩出現？

三、替代人。用機器爲人類做工，也許不會發生人類整體遭到替代的問題。但是，複製人的行爲的機器人，替代人類的企圖明顯。和其他的機器不同，它的目標是勝過人類，也就必然直接挑戰、替代甚至否定人類的存在價值。

四、機器人奴隸。用機器爲人類作工，不是新鮮事。用機器人爲人類作工，則有不同。在意識形態上，是創造機器人做人類的奴隸；重燃了人可以用人爲奴工的思想，單是此點，已經十分危險。更危險的是，人類發明、設計必須加以控制的奴工，目標卻是要奴工機器人擁有遠勝過人類的能力。奴工機器人向人類學習，指令是勝過人類；人類如何控制奴工，機器人也會學到。終有一天，強過人類的機器人學會了控制人，以更高明的方法控制人類，必不可免。「我不會背叛」，只能是空話一句。

五、政府的AI與AI政府。在機器人控制人類之前，政府會不會也想要利用AI來增加施政效能呢？肯定會。政府可以奴役機器人爲子民服務，政府就是奴隸主；名正言順地控制人形奴工。然後，終有一天，奴工學會了控制人類的政府，也就取代了控制政府的憲法。

這些無一不會演成憲法的問題，人類有無對策？思之不寒而慄！

（作者爲東吳大學法律研究所教授）