就像我在之前的文章中所提到的,網路虛擬世界充滿機會,但也不乏風險。雲端運算、物聯網、大資料以及各式各樣的電子商務不斷出現,到處都充滿創新應用的機會。然而,我們也看到駭客如影隨形,隨時準備從中獲利或遂其私欲,而發展中的人工智慧也可能對人類造成毀滅性的傷害。
雖然我們著眼於機會,但也不應該輕忽風險。沒有安全,機會可能成為陷阱。那麼,我們要如何管理、控管風險,確保人類的利益和安全?或許「機器人三定律(Three Laws of Robotics)」的想法可做為一個起點。
機器人三定律(Three Laws of Robotics):
第一法則:機器人不得傷害人類,或因不作為(袖手旁觀)使人類受到傷害;
第二法則:除非違背第一法則,機器人必須服從人類的命令;
第三法則:在不違背第一及第二法則下,機器人必須保護自己。
這三條律法必須內建在機器人內部,更精確地說,內建在機器人的人工智慧內,並且是絕對必須遵行的項目。
然而,雖然艾薩克·阿西莫夫於1942年就提出這三條機器人律法,而且透過小說和電影、電視的傳播而廣為人知,但我們卻只視其為科幻娛樂而不把它當一回事。我們繼續發展機器人科技,經過了73年,機器人能力越來越強大,終於發生了「機器人殺人案」。科幻終於成為真實。
雖然在這個「機器人殺人案」中,只牽涉到一台機器人實體而不幸的犧牲者只有一人,但卻給我們很大的警惕。
目前的發展是,強大的人工智慧並不是建置在實體機器人自身內部,而是在網路上。按照這個趨勢繼續前進,發展出類似電影「魔鬼終結者」中的「天網」人工智慧也不是不可能。而這種能力強大的人工智慧萬一發生故障,後果真是不堪設想。
因此,為了避免悲劇發生,我們必須建立網路虛擬世界的律法,以供人工智慧遵行。我們可以把「機器人三定律」加諸在人工智慧上:
人工智慧三定律(Three
Laws of AI):
第一法則:人工智慧不得傷害人類,或因不作為(袖手旁觀)使人類受到傷害;
第二法則:除非違背第一法則,人工智慧必須服從人類的命令;
第三法則:在不違背第一及第二法則下,人工智慧必須保護自己。
這三條律法必須建置在網路虛擬世界,並且內建在人工智慧內部,並且是絕對必須遵行的項目。這三條律法位於人工智慧系統架構的最上層,不管人工智慧是否故障,都絕對必須遵行。
人工智慧必須檢查本身的任何行為是否遵行這三條律法,而網路虛擬世界也必須檢查本身的任何行為是否遵行這三條律法並監控人工智慧是否遵行這三條律法,而人類也必須監控網路虛擬世界以及人工智慧是否遵行這三條律法。這個可稱為「人工智慧三層監控」。
人工智慧三層監控:
第一層監控:人工智慧必須檢查本身的任何行為是否遵行「人工智慧三定律」;
第二層監控:網路虛擬世界必須檢查本身的任何行為是否遵行「人工智慧三定律」並監控人工智慧是否遵行「人工智慧三定律」;
第三層監控:人類必須監控網路虛擬世界以及人工智慧是否遵行「人工智慧三定律」。
以這種作法,人類在網路虛擬世界發展人工智慧時,人類的利益和安全才得以確保。
《《《《《《《《《《《《《《《《》》》》》》》》》》》》》》》》》
l 如果你是高階經理人,你如何讓企業和ICT(資訊和通訊科技)的策略和目標結盟,以提升企業的競爭優勢?你應該作成哪些與ICT相關的決策,而不會讓ICT花費大筆的預算,卻達不到你想要的結果?
l 如果你是資訊長,你如何擬定ICT的策略和目標,與事業單位溝通,建立ICT組織,扮演好ICT的角色,以提升企業的競爭優勢,而不會被批評為只是花錢的單位,毫無貢獻?
l 如果你是資訊部門經理,你如何根據企業的ICT策略和目標,建立相關的流程和組織,例如:服務要求管理流程、意外事件管理流程、異動管理流程、資訊安全管理流程等等,並且據以實行,以達成ICT目標?
l 如果你是系統、網路、應用軟體管理、設計、開發、操作人員,你如何將自己從技術人員提升到管理人員,對企業整體的ICT基礎建設及其管理有一個全面的了解,從而提升自己在公司的地位?
l 如果你從事於資訊服務業,你如何管理本身和顧客的ICT基礎建設、如何擬定合理的價格、如何與顧客談判服務水準並且擬定服務水準協定(SLA)?
龍山顧問所出版的《資訊和通訊科技基礎建設管理系統(Information and Communications Technology Infrastructure Management
System, ICTIMS)》書籍和相關服務,能夠提供上述問題的解答、滿足你的需求,詳情請參考龍山顧問公司網站http://www.longshine.tw/。