（5月29日，新加坡）随着人工智能（AI）技术的飞速发展，深度伪造技术（Deepfake）正成为全球网络安全的一大挑战。通过利用AI生成技术，犯罪分子可以深度伪造公司高管或明星的照片、电话、视频以及演讲来进行欺诈。网安公司Netskope首席信息和安全官费尔曼表示，自从2022年OpenAI所推出的ChatGPT使得生成式AI技术变得触手可及，网络犯罪分子不再一定需要具备相应的网络技术，降低了实施网络犯罪的门槛。
新加坡方面，社交媒体巨头Meta（脸书的母公司）面临着加强打击网络诈骗的压力。根据《联合早报》3月初的报道，新加坡艺人如欧萱、杨志龙和李国煌等成为虚假新闻和诈骗活动的目标。结合人工生成的假照片和各大主流媒体的标志，这些诈骗活动通常以赞助内容的形式在脸书上出现，即使用户未关注相关账户，也可能在浏览过程中遭遇这些内容。如若点击了其中的链接，多数情况下用户会被引导到加密货币投资骗局的页面，以高回报吸引注册并骗取金钱。
Meta曾与新加坡政府合作，迅速删除含有儿童性剥削内容的页面和群组，显示出与政府合作的意愿。但对于当前脸书上盛行的诈骗模式，即使有用户对贴文和链接的举报， Meta对于这类网络诈骗和犯罪活动的打击力度还是不够大。
在全球范围内，深度伪造技术带来的诈骗威胁更为严峻。英国工程公司奥雅纳（Arup）证实，其员工成为了深度伪造诈骗的受害者，尽管调查仍在进行中，但此事件凸显了企业对高管深度伪造内容的担忧。Great Hill Partners网络安全专家霍格指出，这些伪造的照片、视频或演讲有可能会被用来散播假新闻、操纵股价、诋毁公司品牌和销售业绩。
美国消费者新闻与商业频道（CNBC）报道了今年涉及金额最大的深度伪造诈骗案，一名香港财务人员在视频通话中被伪装成同事的诈骗者骗走了2500多万美元（约3371万新元）。霍格表示，生成式AI可根据大量数码信息，如社交媒体和其他媒体平台上的公开内容来创建深度伪造内容。因此，有一些公司的高管已经开始删除或减少他们在网络上的影像资料，以免被网络犯罪分子所利用。从技术防御层面，网安专家建议企业加强员工教育、网络安全测试，同时应当对所有交易要求使用密码和多层审批流程。
而对于平台而言，电商平台的安全性是其商业模式健康运转的前提条件，但Meta的主要收入来源是社交媒体平台的广告投放，这可能导致其在打击网络诈骗方面的紧迫感和责任感相对较低。不过，法律专家认为，新加坡新出台的网络犯罪危害法令（Online Criminal Harms Act，简称OCHA）可能能够促使Meta加强与政府的合作，更有效地打击诈骗活动。
赢必胜法律事务所的黄国彦律师表示，政府可以通过新法令对Meta发出指示，包括禁止新加坡人访问Meta平台上的某些内容，禁止或限制Meta上任何户头与新加坡人的互动，甚至在必要时终止、暂停或限制Meta平台的任何功能。正气律师事务所创办人萧锦耀对新法令也持积极态度，他说这种法令在国外早有先例，例如英国在2023年通过的《线上安全法》，就指示各大网络服务供应商有义务以及责任防止在其服务中出现付费的欺诈性广告。
