黃振昌：人工智能會否傷害人類？

人工智能(AI)相信是近期相當受關注的話題，對於並不理解AI運作原理的社會大眾，見到如ChatGPT的大語言模型，自然會覺得神奇，彷彿AI是有自我意識的新物種；加上AI在一定程度上，改變了人們的工作習慣、工作內容和工作機會，社會上因而有人對AI產生恐懼，是可以理解的。那麼AI真的會對人類造成傷害嗎？AI實際上是如何運作？

如果AI作為人類的工具，在人類不小心使用下，對其他人造成傷害，這樣和人類使用菜刀的情形一樣，那不是AI的問題。如果說AI有自主意識，達到人工通用智能(AGI)的程度，並且視人類為敵人的話，那可能嗎？

看看世界各頂尖大學，AI專業的收生要求，不難發現，都要求良好的數學基礎。是的，AI的底層就是數學和統計學等知識組成的。

AI的發展其實已經很久，由1950年著名的圖靈測試(Turing Test)開始，科學家就一直追求電腦可以有人類的智慧，簡單來說，就是可以與人類互動，而人類分不出對方不是人類。但由於當時電腦運算能力比較低，亦未有互聯網，所以既無算力，也沒有足夠大量的資料集作為訓練用途，加上當時的AI理論基礎亦並不成熟，所以AI更多是以硬指令(Hard Code)來完成，即是只對預先定義的問題提供預定的答案。這樣的效果，當然離人們的期望差太遠了。現在各種條件具備，市場也看到前景，資金當然會加緊進入，令一眾AI概念股一度受到市場青睞。

最近《IEEE Spectrum》雜誌的一篇文章，製作了一個矩陣。矩陣為正方形，分為4個象限，垂直軸為AGI出現的可能性，上面為高，下面為低。水平軸為AGI對人類的潛在危害的可能性，左面為高，右面為低。文章收集了23位AI專家的看法，並分別放進4個象限裏，分別代表了對AGI出現的機會，以及AGI對人是否有危害的機會的觀點。

認為AGI出現機會大，對人有危害的機會也大的，共有5位，包括「現代AI三父」之一的Geoffrey Hinton，結果令人意外。認為AGI出現機會高，可是對人有危害的機會低的則有3位，包括OpenAI的聯合創始人Sam Altman。

至於大部分專家，包括「現代AI 三父」之一的Yann LeCun，以及 Landing AI的創始人、史丹福大學教授吳恩達，共12位都認為AGI出現的機會低，對人有危害的機會也低；他們認為我們距離AGI還有很長的路要走。而最後沒有一個人認為AGI出現的機會低，但對人有危害的機會高。

此外，尚有兩位專家，包括名列另一位「現代AI 三父」的Yoshua Bengio，認為AGI出現的機會高，不過對人有危害的機會是中立。而最後一位是紐約大學的的教授Gary Marcus．同樣認為AGI對人有危害的機會是中立，但AGI出現的機會則是低。

由於多數的專家，都在象限的左上角和右下角，可見彼此之間看法兩極。雖然有較多專家認為AGI出現的機會低，對人有危害的機會也低，可是也有四分之一的人持相反意見。

連專家都未有定論，所以社會大眾對AI有所恐懼，也是可以理解的。如果有更多人去理解和應用AI，相信對它的恐懼就會消失。就像曾幾何時，人們相信拍照會把人的靈魂拍在照片裏，電影裏的人可以活生生從電影裏走出來一樣。

香港電腦學會金融科技專家小組執行委員會成員 黃振昌