CONNECT WITH US

Subscribe our monthly newsletter, receive latest news and event information

News & Events

deepfake
Deepfake - AI的兩面效應

在2017年,Reddit這個知名的娛樂、社交及新聞網站中的一位名為"deepfakes"的會員發佈了一個由AI合成的名人偽造視頻,從此開始這種AI合成技術被稱為Deepfake。Deepfake一詞由"Deep Learning"和"Fake"組合而成,它是一種利用人工智能深度學習模型的技術。其原理是通過兩個神經網絡相互對抗,經過交替優化訓練後,生成的內容可以與真實人物難以區分。 

最初,Deepfake技術主要用於宣傳和創意用途,並且在大多數影片中,作者都會聲明其影片是假的。此外,Deepfake甚至被用於彌補原本無法實現的事情,其中最著名的應用是在好萊塢電影《玩命關頭7》和《星際大戰》中的主角保羅·沃克。沃克在拍攝期間意外身亡,他的角色由他的弟弟代替完成,然後使用Deepfake技術連接電影中的場景,最終使電影完成並上映。 

然而,儘管這種技術表面上看起來無害且有著良好的意圖,但它卻帶來了許多法律問題和信息風險。隨著技術的發展,任何人都可以輕易製作假影片或假聲音,其中可能包含不良意圖。由於Deepfake可以模仿任何人的外貌和聲音,這意味著任何人,尤其是知名人士,都可能被放置在虛假的情境中,從而造成名譽損害。此外,Deepfake技術可能被濫用於政治操作、偽造新聞和商業領域,這些都可能成為其負面影響的例子。而最接近普通人的可能就是由Deepfake技術產生的詐騙。 

由Deepfake產生的詐騙主要可以分為三種。首先是電話詐騙,主要是模仿親朋好友的聲音,以此來騙取金錢和個人信息。詐騙者不僅模仿聲音,還能模仿說話的語調、斷句和口音。其次是視訊詐騙,由於Deepfake技術可以合成影片和語音,這意味著你可能會接到看似是你認識的人打來的視訊通話。第三種是恐嚇詐騙,主要是通過合成不雅照片或影片來恐嚇並勒索當事人。 

在接下來難辦真相的網絡世界中,Deepfake只是當今科技社會所面臨的一個問題,法律和社會規範應該如何跟上這一步?如何解決其中涉及的著作權和倫理問題?這些都是需要進行深入討論和驗證的重要課題。 



尹展軒 
Senior IT Consultant

Posted: 2024-01-18 | By Ringus Full Article

A cross boarder toy firm with head-offi

A financial institute in Hong Kong

互聯網的無邊界令企業與顧客的關係日趨緊密,當網絡世界中的商戶、服務、產品及交易不勝其數,而虛假

Ringus delivers a mobile application to Maxim's

Our ISO project team is glad to see the establi

Collaboration between Ringus and BSI in privacy