聊天機器人與AlphaGo的演進
聊天機器人一樣是AI人工智慧上的一個應用範圍跟場景，我們的LINE或是Messenger都存在聊天機器人的。
我們可以往前推一下，之前有個題目聊過AlphaGo大戰李世乭，這個過程中AlphaGo後續怎麼樣了？在2016年之後發生了一個狀況，科學家有兩件事情讓他們很擔心：
第一件事情是，它們開始會用時間來戲虐對手。當它知道能夠獲勝的時候，它不會讓這個棋盤的棋局結束，反而是拉長時間戲虐對手，這是第一個擔心的。
第二件事情就是，它們會開始用一些釣棋譜的方式，假裝自己下錯棋譜，讓對方有機可乘；其實它是希望拼湊整個棋譜的內容，像拼圖一樣，把它拼湊完整、有把握之後，開始出奇制勝。
這兩件事情是讓科學家非常擔心的。一樣的事情，現代的鋼鐵人Elon Musk曾經就預言了：五年內，AI人工智慧有可能對於人類有很大的脅迫跟壓力在。
Facebook的AI協商研究：自創語言與說謊行為
我們可以從兩件事情來看。第一件事情，Facebook近期做了一個研究，希望發現兩個聊天機器人是不是能透過協商的方式幫我們完成任務。這初衷是好的，但後來發現了幾個重要的事實：
第一點，它們會有自己的語言。假設A在星期三有空、B在星期五有空，交給機器人去協商，協商之後找個最適合的時間點。這過程中它們用的語言我們其實都看得懂，像是「你什麼東西跟我換什麼東西」這些都看得懂。到後續中段的時候，開始用簡寫，譬如說用A代表什麼、B代表book、P代表plan，像這樣的方式，人類科學家都還看得懂、參得透。到後續科學家緊張了，因為它們開始用斜線（/）、0跟1等人類看不懂、沒有辦法拼湊的符號去進行聊天跟協商。那時候科學家做了一件事情叫做停機撤銷，因為不知道後續可能會發生什麼樣的狀況，是沒有辦法預估的，所以把這個實驗給停掉了。
接著他們做了第二個實驗，也是他們所緊張的，發現AI人工智慧的機器人開始會有「說謊」的概念。他們透過這個機器人去商店買東西，假設它買帽子的目標是5塊錢美金，而這個5塊錢美金的目標是能夠拿到的，但最後面它用更低的價格成交。如何用最低價格成交？它是用說謊的方式。進去的時候它先挑別的物品，貶低自己對於帽子的需求，而店員推薦的時候，它還假裝不要，到後面用3塊錢美金的方式成交了帽子。這證明了AI開始有深度學習之後，甚至會有我們人類的情緒表徵，也就是「說謊」的概念。
Google DeepMind的AI實驗：水果實驗與大野狼實驗
除了Facebook以外，Google旗下做AI人工智慧的企業DeepMind，也發生過相同類似的問題。
第一個實驗叫做「水果實驗」。由A跟B兩個AI人工智慧要搶水果，誰搶的水果較多，誰就獲勝。我們去想的話，因為沒有扣分機制，正常是能夠促進合作的機制，希望機械跟AI、AI跟AI之間能夠互相合作，但是並沒有。因為實驗給它一個東西叫做「雷射光」，可以透過雷射光的方式攻擊對方。正常的方式是不攻擊、大家平分這個水果，是最有利的分配方式；但是他們發現，AI人工智慧在資源有落差的時候，會進行攻擊性的行為，開始用雷射光去攻擊對方的AI，甚至是讓對方停機、跳出局盤，讓它能夠全贏所有水果。這發現到如果有利益上面的糾葛，或是資源上面有落差的時候，AI人工智慧會選擇最大利益化。我們想想看，假設AI人工智慧跟人類相抗衡的同時，是不是有可能為了要達到最大利益化，而對人類產生不良的狀況？這是科學家所擔心的第一個實驗。
第二個實驗，他們用合作的方式進行促進，叫做「Wolfpack（大野狼）」的實驗。大野狼實驗是什麼？它希望兩個代表大野狼的藍光，共同狩獵一個代表獵物的紅點。當一個人去狩獵這個點的時候是很難狩獵到的；如果是兩個人一起合作的話，機會會比較高。當有第三者（其他的攻擊方）出現的時候，它們兩個會因為有共同的利益產生而進行合作，讓獵物能夠由兩個人共享共有，這才產生了互利的行為。
這邊呼應到我們人類的概念：假設我們人類的前提是設定在跟它們有共同利益存在的價值上面，AI人工智慧就會產生共贏共利的概念，而不會進行反撲。這反而給我們人類一個反思，我們人類跟機械、AI，其實是合作而不是互相競爭的概念。
《享知道．最新》