隨著人工智慧技術發展，除了便捷我們的生活外，亦有許多人擔心AI傳播「假新聞」的能力是否會超越人類。根據美國消費者新聞與商業頻道報導指稱， AI已經可以用於在視頻中向對方創建虛假的疊加圖像，人們開始擔心這一技術可能被用來傳播錯誤資訊和假新聞。
對此，軟體公司Salesforce的首席科學家索赫爾在訪問新加坡期間接受採訪表示，關於AI可能借此製造假新聞訊息的擔憂「有些被過度炒作了」，在製造假新聞方面，人類要比AI強太多了，AI需要花非常長的時間才能趕上。目前人類已經擅長在沒有演算法情況下製造假新聞，而且，假新聞背後往往有特定的意圖，包括很多心理和文化因素，是AI難以用演算法相比的。
然而微博、微信、今日頭條等App逐漸成為現代人獲取即時且碎片化新聞知識的平臺，但這些消息有真有假，用戶很難去辨別。往往導致了使用者在不知真假的情況下，對謠言進行了二次傳播。
“近日韓國網友號召為螺螄粉申請「非物質文化遺產」。韓國網友認為螺螄粉兼具拉麵的韌性、泡菜的鮮香酸甜和火雞面的辣味，有大韓民國流淌在血液裡的傳統口味。所以，想為螺螄粉申請世界非物質文化遺產。”
比如上段為「韓國要給螺螄粉申非遺」，引起了無數網友的熱議，一時之間，侵占各大網站頭條。但事實上，韓國網友根本不知道什麼是螺螄粉，網傳截圖上的韓文語法也有很多毛病，並不像出自韓國人之手。
為此新浪微博聯合公安部推出了國內首個「全國闢謠平臺」，用戶可以自行在這個平臺上舉報微博、甚至其他網站上出現的造謠內容，一起向「謠」言惑眾說不。
在今年4月1日愚人節之際，阿里巴巴發佈了一項旨在粉碎網路謠言和假新聞的AI技術——「AI謠言粉碎機」，希望讓深受網路謠言之害的父母們，不再每天都過愚人節。
打擊網路謠言正在成為全球性問題。人民網發佈《中老年人上網狀況及風險網路調查報告》顯示，六成中老年曾遭受過網路謠言的危害。在社交網站上，謠言屢見不鮮，如「國外研究出一種新藥，可讓人的壽命延長30%」、「未來一半的藥品都將由保健品替代」、「專家稱適當抽煙有利於防霧霾」等等，在沒有辨別的情況下，不少中老年人對此深信不疑。
「AI謠言粉碎機」的演算法模型由阿里巴巴達摩院機器智慧實驗室研發，目前在特定場景中的準確率已經達到81%。依靠深度學習和神經網路技術，通過對資訊的多維度和多角度分析，設計了一整套包含發佈資訊、社交畫像、回覆者立場、回覆資訊、傳播路徑在內的綜合判定系統，首次把謠言識別和社交用戶觀點識別打通，並做交叉分析，最快能夠在1秒內判定新聞的真實性。
阿里巴巴在AI謠言識別技術領域處於世界領先地位。在2019年年初的全球SemEval語義測試大賽中，「AI謠言粉碎機」創造了假新聞識別準確率的新紀錄。本次比賽中，主辦方向參賽機構提供了過去兩年社交媒體Twitter和Reddit上包括政治、商業、科技、娛樂、體育、健康等領域的近500個真實言論和1萬多條針對這些言論的相關回饋資料。本次大賽中，阿里AI得分超過哥倫比亞大學、華盛頓大學、艾倫·圖靈研究所等20多所研究機構，排名第一。
未來，「AI謠言粉碎機」有望幫助社交平臺和新聞網站在假新聞尚未造成大面積傷害時就快速識別出來，遏制其傳播。在資訊被證實為謠言後，AI還可通過虛假資訊的傳播路徑，定向給閱讀過此資訊的使用者進行闢謠，解決「造謠張張嘴，闢謠跑斷腿」的問題。達摩院語言技術實驗室首席科學家司羅表示，「AI謠言粉碎機」未來有望幫助社交媒體的審核機構承擔60%的工作量。
(本文摘錄自環球Tech、IT 168資訊、環球網、快科技 )
更多有關人工智慧的專欄，可參考以下連結