2017.07.17 【上課筆記】AI人工智慧與機器人倫理

機器人倫理可以分成三大類:機器人(主動)需要遵守的倫理人們和機器人(機器人是被動的)互動時的倫理,以及人們研發、利用機器人時,人們需要遵守的倫理

機器人(主動)需要遵守的倫理

在探討「機器人需要主動遵守」的倫理,就是將機器人視為「道德行動者」(moral agent)。然而,「道德行動者」必須要有自律性(autonomy),很明顯地機器人本身並不具有康德(Immanuel Kant)道德哲學當中的自律性。

雖然機器人本身並沒有自律性,但透過人們在設計機器人時加裝在機器人身上的道德價值觀,可以讓機器人依據人們的道德價值觀做出反應。例如,2014年麻省理工學院(MIT)的「道德機器」(Moral Machine),就是為了設計自動駕駛系統的道德判斷準則,而設計的實驗。

自動駕駛車該撞誰? 各國道德標準比一比 | DQ 地球圖輯隊

如果今天你看到一輛煞不住的火車在軌道上行駛,即將撞上軌道前方的5個人。這時,你手上剛好有一個拉桿可以更改火車行進方向,一旦你拉下拉桿可以救軌道上的5個人,但卻會讓另一條軌道上的人死亡,你會怎麼選擇呢?最近,美國麻省理工學院發現,不同國家的人…

dq.yam.com

科幻小說家以撒·艾西莫夫(Isaac Asimov),在 1950年代提出了《機器人三定律》(Three Laws of Robotics)

之於機器人(被動)的倫理

一樣從哲學的角度來看,之於機器人的倫理談的是機器人的道德感受性(sensitivity),也就是能感受到快樂、痛苦⋯⋯的感知(sentience)能力。

從這個角度出發,所以機器人沒有情感就可以欺負它嗎(案例:加拿大團隊研發的搭便車機器人hitchBOT,在橫跨美國的旅途中遭人蓄意破壞)?人類又該如何判斷機器人有沒有感知能力?

這是搭便車機器人hitchBOT。

機器人「無頭屍」引發的爭議:殺死機器是否可能

2015年,美國費城發生了一起「謀殺案」,一個靠搭便車隻身周遊世界的旅行者在途中遇害。 此案引起轟動,因為曝屍街頭的受害者不是人,是一個機器人,叫希區波特(Hitchbot,搭便車機器人)。它的遇害引發的爭議核心是人機關係。…

www.bbc.com

研發、利用機器人時的倫理

講者(吳羽真)舉了兩個例子,一個是國際政治學者彼得·沃倫·辛格(Peter Warren Singer)在 2010年提出的軍用機器人問題(軍用ロボット問題),一個是溝通型機器人(コミュニケーションロボット)問題。

辛格談軍用機器人與未來戰爭型態的問題,這一篇TED已經有繁體中文字幕。

軍用機器人的問題在於,遠距操作型的無人機和致命自主武器系統lethal autonomous weapons, LAWs)。辛格指出,遠隔操作無人機的駕駛員比起實在伊拉克作戰的軍人更容易得到創傷後壓力症候群(post-traumatic stress disorder, PTSD)。

AI武器未來戰(上):「殺手機器人」的禁令謬誤? | 轉角國際 udn Global

「致命自主武器系統」(LAWS)亦有人將之稱為「殺手機器人」,但不限於有雙手雙腳、可進行攻擊防禦的人形機器。事實上國際法或條約目前仍沒有對LAWS的確切定義,唯一比較接近各國共識的主張為:「若一種武器系統可『自主』選擇與攻擊目標,便可稱為L…

global.udn.com

而溝通型機器人問題,又可以分成單純的陪伴型機器人(コンパニオン),以及以看護為目的的陪伴型機器人(下述)。

左邊這個就是Softbank的pepper,常見於各大賣場。Photo by Andy Kelly on Unsplash

Softbank的pepper和SONY的機器狗aibo,都屬於有形的溝通型機器人。而 2013年電影《雲端情人》(Her,香港譯為《觸不到的她》)則提供了大家對於無形的「溝通型機器人」的想像。

這是SONY推出的機器狗aibo。

日本看護現場的溝通型機器人

目前實際應用在日本看護機構的陪伴型機器人有海豹造型的療癒系機器人パロ(PALO),和遠距操作型的テレノイド(Telenoid)。パロ(PALO)屬於自律型(不需要人類操控)的機器人,會隨著人和它的互動(聲音、撫摸等)做出反應。而テレノイド(Telenoid)則是一種媒介,需要背後有工作人員操控之外,實際上當人們和テレノイド(Telenoid)對話時,其實和負責操控テレノイド(Telenoid)的工作人員對話。

這是海豹造型的療癒系機器人パロ(PALO)。

不敢和真人說話,卻能向テレノイド說出銀行帳密

據說,實際在テレノイド(Telenoid)應用現場上,真的有原本不太和看護機構的其他人互動、說話的阿嬤,有了テレノイド(Telenoid)之後敞開心房,不只會和テレノイド(Telenoid)說話、擁抱,甚至把不該說出來的秘密(銀行帳密)都告訴了テレノイド(Telenoid)。

然而,テレノイド(Telenoid)需要有人操控,以看護現場來說,透過テレノイド(Telenoid)可以讓需要照顧的老人家(或患者)敞開心房,對於看護人員來說,透過テレノイド(Telenoid)可以了解當事人的狀況是一件好事。但以說出不該說出來的秘密(講出銀行帳密應該是一般連家人都未必會說出口的秘密)來看,究竟當事人知不知道テレノイド(Telenoid)背後其實有人操控?還是即使當事人知道テレノイド(Telenoid)背後其實就是看護人員,但還是願意把秘密說出來?就是溝通型機器人應用在看護現場的倫理問題。

這是テレノイド(Telenoid)。

看護人員將テレノイド(Telenoid)遞給需要看護照顧的老人家(或患者)之前,是否有先向當事人說明テレノイド(Telenoid)的操作方式?據說看護人員是有先向當事人解釋的,接下來的問題就會變成:

  1. 所以當事人理解到什麼樣的程度?是否能全盤理解看護人員所說明的テレノイド(Telenoid)運作模式?
  2. 看護人員和當事人解釋到什麼樣的程度?是否有提到テレノイド(Telenoid)背後需要工作人員操控?如果真的和當事人提到這一點,是否會讓當事人對於テレノイド(Telenoid)的信賴程度降低?還是當事人明明知道テレノイド(Telenoid)背後有真人操控,還是願意和テレノイド(Telenoid)敞開心房,講出心中的秘密?

這也是テレノイド(Telenoid)。

有連線,卻孤單

雪莉‧特克(Sherry Turkle)認為,社交型機器人(social robot)、網路或社群媒體對於人際關係或人類的社交能力有負面影響。當人們對於科技(例如:機器人)有更多期待,人們就會對人際關係越來越不抱希望、對人類越失望。

雪莉‧特克談網路與孤單,這一篇TED已經有繁體中文字幕。

在一起孤獨:科技拉近了彼此距離,卻讓我們害怕親密交流?

書名:在一起孤獨:科技拉近了彼此距離,卻讓我們害怕親密交流?,原文名稱:Alone Together: Why We Expect More from Technology and Less from Each…

www.books.com.tw

然而,以看護為目的溝通型機器人對於老人家(或患者)有負面的影響嗎?使用這些溝通型機器人會損害到使用者的尊嚴嗎?是目前外界對於雪莉‧特克論點的反論。

這是Softbank的pepper。Photo by Alex Knight on Unsplash

溝通型機器人延伸出來的問題

對於以看護為目的溝通型機器人問題,有三個問題值得思考。

  1. 為什麼在看護現場不能使用機器人?
    目前看起來,多數老人家(或患者)很喜歡和這些機器人對話
  2. 到底是誰在騙(蒙蔽)誰?
    舉例來說,Softbank的pepper廣告詞是「有愛的機器人」(愛のあるロボット),但機器人要如何有愛?
    有一假說認為,人們是「不信の宙づり」(Suspension of Disbelief),即使是人型娃娃或機器人,也可以將之視為有生命、有心智的個體。所以,當老人家(或患者)在面對這些機器人時,是將機器人視為機器人,還是將機器人視為人類來對待呢?
  3. 在看護現場使用機器人,是看護/照顧不可或缺的手段嗎?
    重點在於,我們在看護現場使用這些機器人,是要讓機器人「取代」人類的工作,還是單純使用這些機器人來「協助」看護工作?

講者(吳羽真)認為,也許最根本的問題要回歸到人和人面對面的溝通為何如此重要?是因為人們喜歡和他人對話嗎?那如果是透過科技(如社群媒體、聊天軟體或機器人等)進行對話,就沒有辦法達到目的了嗎?

我認為,人和人面對面的溝通之所以重要,就是因為當我們在面對他人的時候,才能看到對方的表情、肢體動作及語調,感受對方的情緒及文字之外的訊息。畢竟有的時候單靠文字訊息,即使加上貼圖或表情符號,總有時候會錯意對方的意思,可能對方沒有在生氣,卻因為對方平鋪直述的文字,而覺得事有蹊蹺等。所以,換成視訊這種以科技當作媒介,但仍看得到對方表情、動作和聲音的溝通方式,問題就解決了嗎?當代科技(包含機器、軟體、機器人⋯⋯)在人際互動中所扮演的角色,可能不是只有「媒介」一詞,就能概括解釋清楚了。


read original article at https://medium.com/yuchieh-osaka/2017-07-17-%E4%B8%8A%E8%AA%B2%E7%AD%86%E8%A8%98-ai%E4%BA%BA%E5%B7%A5%E6%99%BA%E6%85%A7%E8%88%87%E6%A9%9F%E5%99%A8%E4%BA%BA%E5%80%AB%E7%90%86-699c4f28598b?source=rss——artificial_intelligence-5

Share
Do NOT follow this link or you will be banned from the site!