Member-only story
生成式AI加劇假廣告泛濫 網路安全面臨新挑戰
在社群平台的投資詐騙當中，經常看到使用名人圖片以及名字的假廣告在包括 Facebook,Twitter 各種社群平台上刊登，台灣的財經名人謝金河、台積電的張忠謀，或是日本的前澤友作以及堀江貴文都是被冒名的受害者，在這假借他們的名義，誘騙群眾參加講座或投資業務的手法層出不窮。根據統計，日本光是 2024 年 1–3 月的受害金額超過前一年同期的 6 倍，約達 219 億日圓。另一方面，SNS 上充斥著生成 AI 創造的巧妙假視頻和圖片，災害時虛假信息擴散引發混亂的問題也屢見不鮮，AI 的發達使得辨別真偽變得更加困難。
日本政府考慮強制社群平台制定廣告審查標準
面對大量的廣告，社群平台的審查顯然存在問題。日本政府正在考慮強制社群平台業者制定並公佈網路廣告的事前審查標準。尤其是針對如美國Meta這些大型企業，並考慮將其法制化。在總務省最近召開的專家會議中，工作小組提出了相關討論點。未來將討論業者制定廣告審查標準、設立廣告停刊標準並公開，以及建立廣告停刊申請窗口等義務化措施。討論對象為「符合一定要求的大型業者」，例如用戶數或廣告瀏覽量達到一定標準的企業。不過也有一派反對的聲音認為，必須要防止對表達自由造成限制。專家會議將繼續討論新制度的建立，並計劃在今夏前完成報告書。日本廣告主協會的董事山口有希子說：「生成AI出現後，網路廣告詐騙行為迅速蔓延。企業必須更加了解危機的嚴重性。」網路廣告主要分為兩類。就像電視或報紙一樣，廣告主購買特定媒體廣告版位的「預約型」以及由Google等自動投放系統決定投放網站的「運營型」。主要的問題出現在自動投放系統上。由於這類廣告價格低廉且能大規模觸及到受眾，所以自2000年代起迅速普及，在日本，運營型廣告市場已佔據網路廣告市場的九成。然而，惡意分子掌握了生成AI這一武器，自2023年起開始濫用這套系統。
生成AI助長MFA網站迅速擴散
這些惡意的業者會利用生成AI製作出包含低可信度資訊或盜用文章的網站。以極低的成本和時間完成。然後將這些內容加入Google等廣告投放程序，設置廣告位之後，就算準備完成。這些廣告位可能小到人眼難以察覺，並且會每幾秒更新一次，以增加顯示次數。如此一來，每名瀏覽者通常0.2日圓的廣告收入被提高到20日圓，達到100倍。此外，利用稱為「網路機器人」的自動化程序冒充瀏覽者訪問網站，虛增瀏覽量以騙取廣告…
