2017年8月5日星期六

如果你身邊的人工智能中毒

容志偉

2017年8月5日 信報 經管錦言 B9版

Facebook一個人工智能實驗,只是因為工程師設定不理想,導致兩個人工智能用了一些不合人類說話語法的句子來溝通,而工程師也因此暫停實驗。一件在行內很正常的事情,卻有媒體說成智能叛變,更包裝為人工智能最終會消滅人類等等的假新聞,希望藉讀者對人工智能的有限認知和恐懼來吸引眼球。

這種誇大的新聞很快便會被人淡忘。但如果這次錯誤是工程師故意加入人工智能的設定,讓人工智能做出一些不可告人的事情,問題就不是這麼簡單了。筆者在公司開發音樂教育用的人工智能時也有個類似的經歷。

筆者嘗試將人工智能改良時,在演算法程式碼中鍵入了一個錯誤的符號。人工智能重新運行及學習後,起初是很正常運作。但運行了一段時間後,筆者發現有點不對勁。人工智能表面上仍是在學習和回應,但人工智能的回應中隱藏了一些錯誤的觀念。而這些錯誤只有真正認識教學法的專業人士才能發現。筆者最後能找到問題所在及加以修正,但也要將人工智能學到的數據全部清除,讓人工智能重新學習。而正式推出市場的版本已沒有這些問題。

聊天機械人可引發災難

但如果筆者是立心不良的工程師,故意在人工智能中植入一些錯誤的設定,又或黑客透過網絡病毒更改了人工智能的設定,讓一些錯誤的觀念透過人工智能散播出去,那麼便是一件大事了。可能讀者會說,這是否太誇張,甚至只是科幻電影的情節呢?筆者認為,這可能很快會甚至已經在我們的身邊發生。其中一個例子是聊天機械人(Chatbot)。

聊天機械人是其中一種人工智能應用。不少公司都引入聊天機械人來為公司去解答客人的問題,又或為客人作出建議,其中一種是用於金融行業為客人提供投資建議的聊天機械人。

正常的聊天機械人會根據客人的數據和要求,作出投資建議,就如真人投資顧問一樣。但假如工程師在設計和設定投資建議聊天機械人時加入了隱藏指令,讓機械人看似是為客人提供最好的投資建議,但投資建議其實是讓客人輸掉所有投資,又或其實是使客人投向對手的話,這便很危險了。採用了聊天機械人的金融機構可能要花很長時間才能發現問題,到時所造成的損害或已經難以彌補。

這種情況等於在沒有人工智能的時代,對手收買了公司的員工,但現在只是更改了人工智能的設定,便可以更容易達到相同目的。

再進一步來說,如果一些極端主義組織透過修改人工智能,在不同渠道用潛而默化的方式,去宣揚一些極端意識形態和價值觀的話,地球便會變為更危險。

或導致人類走向滅亡

開發人工智能有很大的商機,但怎樣保護人工智能的需求將會是更大商機。現在的電腦病毒破壞,最多也只是破壞軟件、資料甚至硬件(例如美國透過電腦病毒去破壞敵人的核設施)。即使是幾個月前發生的大規模電腦病毒事件,在未發生前已經知道會發生,而發生時不消數天便被解決了。雖然是有損失,但禍害都有限。

不過,如果中毒的是人工智能,可能很長時間都沒有被發現。同時造成的破壞也可能沒有限制,甚至毒害的是人類的意識形態和價值觀。如果惡意修改人工智能的是一個國家級機構,結果恐怕是一場更加沒有硝煙的戰爭。

筆者相信,保護人工智能很快便會成為下一個最有商機的科研項目。

Tesla創辦人馬斯克認為發展人工智能形同召喚魔鬼,導致人類滅亡。筆者也認為這可能會發生,但這要在現有的「弱人工智能科技」(即只能應用在專門某一範疇的人工智能)進化到「強人工智能科技」(即能做到一個成年人的所有思考活動)後,才有機會發生,而這個進化還需要一段不短的時間。不過在這發生之前,如果沒有人有能力去保護人工智能,人類很可能已經毋須等到像《未來戰士》式電影橋段裏會將人類滅亡的強人工智能出現,便已經因為人類惡意修改人工智能而走向滅亡。

2017年6月10日星期六

MP3專利到終結 香港創科何處去

容志偉

2017年6月10日 信報 經管錦言 B11版

MP3是多個世代的集體回憶,一部MP3播放器曾經是時代尖端的標誌。MP3格式作為全球第一個數碼音樂壓縮標準,也是讓音樂從實體世界走到網絡世界的最重要科技。

筆者作為香港極少數的數碼音樂訊號處理科研人員,看着MP3由實驗室走到商業應用,由全球都在使用MP3格式到音樂格式百花齊放。這20年的MP3故事,對香港的創新科技業極具參考價值。其相關的事情,可讓我們從社會媒體文化、科研文化和商業文化中,看到為何香港的創新科技業會迷失。

由於MP3的普及性,很多媒體都報道其相關專利在2017年終結。但幾個香港主流媒體都不是說MP3的20年專利終結,擁有其專利權的機構不能再收費授權,以後可免費使用,而是寫有關機構宣布取消有關MP3的專利,使行業不再支援MP3格式。

任何對專利權有基本認識的人,都會知道這種報道是錯誤的。專利終結跟取消專利絕對是兩回事,專利終結是被迫不能授權,而不是可以授權但只是不再授權。相關機構會有錢不收嗎?

再者,專利終結不等於MP3格式的終結。相反,即使MP3格式在音質上少許不及其他仍然受專利保護的格式,但因為現在不再需要付專利授權費,而MP3格式又非常普及,因此未來的軟硬件都會繼續支援MP3格式。

對創新科技認識不足

專利權是一種知識產權,是創新科技中最重要的商業組成部分。沒有了知識產權的保護,根本沒有機構會作出重大的創新科技投資。媒體連知識產權的基本資料都出錯,也不了解創新科技背後的實際情況下,便刊登錯漏百出的報道。媒體其實有多認識和尊重創新科技呢?有怎樣的社會文化,便會有怎樣的媒體。媒體的報道某程度反映了香港社會不太認識和尊重創新科技。香港的創新科技又怎能在這種社會文化下發展呢?

另外,科研文化也是創新科技發展的重要因素。MP3是一種數碼音樂壓縮標準,而其專利是一種軟件專利。有公司機構願意投資MP3的研發,是因為相關的軟件專利可以得到可觀的商業回報。但在香港的資訊科技界,軟件專利很少得到重視,有不少軟件公司及開發人員非常抗拒,甚至反對軟件專利,認為軟件專利對他們的工作以致整個行業不利。跟他們討論時,不少會說出似是而非的論點,或搬出一些知名大學教授的說話來辯證。香港的科研文化抗拒軟件專利,其實也直接令香港的創新科技無法向前走。

軟件專利是一種推進創新科技的催化劑。以MP3為例,如果開發人員不創新,在開發應用軟件時又要使用MP3格式,當然只可以透過繳交專利授權費來解決問題。但為何開發人員不研究另一種能夠避開MP3相關專利的格式?實際上在MP3格式成為第一個全球標準後,還有別的數碼音樂壓縮標準,例如AAC,FLAC等。商業社會從來都沒有免費午餐,與其盼望人家可以免費公開軟件原程式碼又或反對軟件專利,我們是不是更應改變香港的科研文化呢?

然而,讓香港創新科技走到不知哪裏去的最深層原因,是香港的商業文化。在MP3相關專利仍然有效時,任何支援MP3格式軟件或硬件的品牌、零件及產品製造商,都要向擁有其專利權的機構繳交專利授權費。無論是軟件或硬件,計算方法是逐件出廠產品計,收費由0.75至5美元一件不等。如果MP3格式應用在串流音樂又或遊戲軟件,收費則另計。

單單收取專利授權費,公司機構便可以持續了20年,每年收到數以十億的收入。而當年所投入的科研費用,相對而言只是九牛一毛。但在香港,又有多少個商人會看重這類商業模式和價值呢?

政府應擔當推動角色

造成這種文化的最重要原因是在香港的商業社會中,創新科技從來都不被認為是主角。以資訊科技為例,資訊科技被定性為支援角色,是公司機構中不起眼角色,即使是以資訊科技為主業的公司機構,大部分都只是接項目工作,為其他公司機構開發軟件和系統。久而久之,整個商業文化都會忽略了創新科技的真正價值,因而導致創新科技走到不知哪裏去。

媒體文化、科研文化和商業文化這三種文化,環環相扣。冰封三尺,非一日之寒,要改變並不容易。最重要的一步應該是由政府開始,例如政府的資訊科技項目是否一定要價低者得?政府能否成為香港公司機構自主知識產權創新科技的第一位客人,從而協助將該創新科技成為世界標準呢?

創新科技的終極目標是要成為世界標準,知易行難,盼望有一天我們會聽到有一些世界標準,是由香港公司有自主知識產權的創新科技演變出來。

2017年4月1日星期六

發牌條件窒礙 不鬆綁難創新

容志偉

2017年4月1日 信報 經管錦言 B11版

在香港搞商業上的創新,很多時都會碰壁。不是生意模式問題,也不是市場需求問題,而是政府的牌照問題。為保障市民利益,在發牌條件中加入些要求是必須的,但因為害怕新事物而把一些不必要、甚至會導致新事物不能生存的要求加入發牌條件,只會窒礙創新。

美食車和數碼聲音廣播都是新事物,需要政府牌照才可以營運,但都很快會消失。美食車是一個很好的構思,它實質是流動食物外賣車,但為何牌照硬要規定在指定的地方才可以營運呢?已獲發牌的美食車只有16輛,即使它們泊在不固定的位置,對環境、交通等有多大影響呢?再者,生意是流動的,今天某一個位置可以為美食車帶來不錯的生意,明天卻可能一宗生意也做不成。由不熟悉商業營運的政府選出指定地方,便導致有美食車東主看見同業情況後,未開業便退回牌照離場。

勿僅保護既得利益者

香港在2011年發出首批數碼聲音廣播牌照。雖然數碼聲音廣播是上世紀發明的科技,但對香港來說也是新事物。營運商毋須付任何牌照費,但必須接受一個條件:政府對停止傳統AM/FM模擬聲音廣播沒有時間表。

以香港的人口,其實容不了數碼和模擬聲音廣播同時存在。即使沒有停止模擬聲音廣播的時間表,營運商仍願意嘗試新事物。但營運了6年,最後一個營運商近來也交回了牌照,政府亦剛宣布香港會全面取消數碼聲音廣播。有分析指停止數碼聲音廣播是大勢所趨,但試想想,如果政府在發牌時已經定下停止模擬聲音廣播的時間表,數碼聲音廣播必有很大機會生存,外國也有成功例子。例如挪威於今年年初便宣布全面取消模擬聲音廣播,全國只會有數碼聲音廣播。

從以上例子來看,即使有心創新,政府的發牌條件卻會直接導致失敗。另一方面,政府更透過保護既得利益者來阻止創新事物的出現。

當全球不同國家都要求公共交通服務營運要將其服務數據,如巴士班次數據,公開給公眾免費使用時,政府剛剛和九巴續約10年專營權時,沒有加入此要求。沒有這些數據,很多資訊科技公司構思開發一些創新應用程式也做不了。

九巴說不開放的原因是這些數據有商業價值,因此不會公開。但這些公共事業服務數據根本不是屬於公司,也不是屬於政府,而是屬於社會的。開放數據是全球大勢所趨,也是推動創新的其中一個重要動力。當政府發牌照給既得利益者時,沒有要求開放數據,既得利益者當然不會開放。

另一個例子是的士牌照。當不少國家地區都推出新類型牌照來使UBER及同類創新形式的應用程式能夠合法經營時,香港除了全面封殺UBER外,更在傳統的士牌照外推出優質的士牌照,以表示回應社會要求。而這種優質的士牌照,並不是個別司機可以申請,必須是車隊才有能力申請。

不應考慮投資者風險

無論優質的士有多好,都取代不了UBER類的創新模式,而政府是要封殺UBER類型的創新。為何呢?政府的回覆也很直接:影響持的士牌市民。以上4個例子說明了政府透過發牌,來減少社會的創新意欲。

另外,政府也對投資者持有雙重標準。為何九巴及的士牌照的投資者不用為自己的投資風險負責呢?如果投資者已經預示創新事情會影響九巴及的士牌照的商業價值,應該要做的是賣掉九巴股票和的士牌照。哪有投資永遠只賺不賠?

如果政府真的希望社會創新,筆者認為任何牌照政策都應該以以下3點為目的:首先,對於創新事物,發牌時應給予較大空間。創新事物在開展初期必會有一批不願改變的人阻礙其發展。無論阻礙的原因是影響了既得利益,又或只是不想改變,政府的政策應是幫助創新事物除去這些阻礙。

另外,對於現有產業,如果其成功是基於政府的牌照政策保護,那麼在續牌的時候必須減少壟斷空間。如果那牌照並不需要續期,政府應該盡力增加其市場競爭性,例如不斷檢討牌照的需求來增發新牌,減低牌照炒賣價值。

最後,政府的發牌政策不應考慮投資者的風險。在聯合國世界知識產權組織、美國康奈爾大學等機構,每年發表的全球創新指數報告中,香港的排名已經由2011年的全球第4位,輾轉下跌到2016年的第14位。如果政府不改變透過牌照來懲罰創新者,和獎勵既得利益者的話,即使社會再談多少創新,一切其實都是徒勞無功。