暗网提供工具及服务，骗子利用人工智能工具进行深度伪造 早在2021年，暗网市场就在售卖用于人脸识别的伪造护照、身份证件，而且出现了早期的深度伪造。如今，恶意使用深度伪造技术对企业构成的威胁与日俱增。 网络安全公司卡巴斯基（Kaspersky）警告说，由于人工智能工具的广泛使用，威胁行为者在攻击中使用深度伪造（Deepfake）技术变得越来越容易安全。 卡巴斯基非洲企业客户负责人Bethwel Opil 表示：“虽然发起这些攻击所需的时间和精力往往超过了其潜在的‘回报’，但卡巴斯基警告说，非洲各地的公司和消费者仍然必须意识到，深度伪造在未来可能会成为一个更令人担忧的问题。深度伪造的恶意使用潜力是显而易见的。“ “从勒索到实施金融欺诈，再到通过社交媒体传播错误信息，潜在的连锁反应可能会很严重。网络犯罪分子始终在寻找更便宜、更快捷的方法来传播他们的活动。不过，我们预计在未来几年内，使用深度伪造的定向攻击将会增加，尤其是针对有影响力的人士和高净值个人或组织的攻击，这将证明攻击者创建深度伪造所花费的时间和精力是值得的。” 暗网上的深度伪造服务 卡巴斯基研究发现，暗网市场上存在深度伪造制作工具和服务。这些服务为各种目的提供GenAI视频创建服务，包括欺诈、勒索和窃取机密数据。据卡巴斯基专家估算，一分钟深度伪造视频的价格约为300美元。 人类的行为、数字素养的缺乏以及无法区分虚假与合法材料，都给本已困难重重的局面增添了压力。 2023年卡巴斯基的商业数字化调查收集了中东、土耳其和非洲地区2000名受访者的意见，调查结果显示，51%的员工认为他们能够区分深度伪造图像和真实图像。然而，在一项测试中，只有25%的人能够区分真实图像和人工智能生成的图像。 卡巴斯基表示，鉴于企业员工往往是网络钓鱼和其他社会工程学攻击的主要目标，这给企业带来了严重的风险。 深度伪造被恶意利用的可能性是显而易见的。 例如，网络犯罪分子可以制作首席执行官请求电汇或授权付款的虚假视频，这可用于窃取公司资金。此外，犯罪分子可以创建具有危害性的个人视频或图像，用于向他们勒索钱财或信息。 Opil补充说：“尽管创建高质量深度伪造的技术尚未广泛应用，但最有可能的用例之一是实时生成声音来模仿某人。例如，一家跨国公司的一名财务人员最近就因为在一次电话视频会议上冒充公司首席财务官的深度伪造技术而被骗向诈骗分子转账2500万美元。非洲也不能幸免于这种威胁，重要的是要记住，深度伪造不仅对企业构成威胁，而且对个人用户也构成威胁——它们传播错误信息、被用于诈骗或未经同意冒充他人，是一种日益严重的网络威胁，必须加以防范。” 卡巴斯基建议通过以下方式加强防范：员工意识教育 公司建议通过教育员工了解深度伪造、其工作原理及其带来的风险，来加强防范。这涉及持续的意识和教育，努力教导员工如何识别深度伪造。...

卡巴斯基数字足迹情报专家在影子互联网——暗网上发现了一系列似乎在出售对恶意人工智能工具“WormGPT”的虚假访问权限的网站。这些网站具有类似网络钓鱼的特征，包括不同的设计、定价、支付货币，有些网站需要预付款才能访问试用版。这一趋势虽然不会对用户构成直接威胁，但凸显了GPT模型的黑帽替代品的日益流行，并强调了对强大网络安全解决方案的需求。 网络犯罪社区已经开始利用人工智能功能来帮助他们的业务，暗网目前提供了一系列专为黑客目的而设计的语言模型，例如BEC（商业电子邮件泄露）、恶意软件创建、网络钓鱼攻击等。其中一个模型是“WormGPT”，它是“ChatGPT”的一个版本，与合法版本的“ChatGPT”不同，它缺乏特定的限制，使其成为网络犯罪分子实施攻击（例如BEC商业电子邮件泄露）的有效工具。 网络钓鱼者和诈骗者经常利用某些产品和品牌的知名度进行诈骗，“WormGPT”也不例外。在暗网论坛和非法的Telegram频道中，卡巴斯基专家发现了一些网站和广告，这些网站和广告号称提供对这个恶意AI工具的访问权限，并以其他网络犯罪分子为目标，但是这些网站和广告显然是钓鱼网站。 这些网站在多个方面存在显着差异，并且被设计为典型的网络钓鱼页面。他们有不同的设计和定价。支付方式也各不相同，从WormGPT作者最初提出的加密货币，到信用卡和银行转账。 “在暗网中，不可能绝对肯定地分辨出恶意资源还是靠谱资源。然而，有许多间接证据表明，所发现的网站确实是网络钓鱼网页。众所周知，网络犯罪分子经常互相欺骗。然而，最近的网络钓鱼尝试可能表明这些恶意人工智能工具在网络犯罪社区中的流行程度。卡巴斯基公司数字足迹分析师Alisa Kulishenko解释说：“这些模型在一定程度上促进了攻击的自动化，从而强调了可信网络安全解决方案的日益重要性。” 自“WormGPT”以来，许多类似的产品已在暗网社区中传播，其中包括“FraudGPT”，该威胁行为者声称自己是经过验证的供应商，将其宣传为“没有限制、规则和边界的机器人”。地下暗网市场，包括Empire、WHM、Torrez、World、AlphaBay和Versus。8月，基于Google Bard的DarkBART和DarkBERT网络犯罪聊天机器人出现，当时的研究人员表示，这代表了对抗性人工智能的重大飞跃，包括用于图像的Google Lens集成以及对整个网络地下网络的即时访问知识库。 为了避免与网络犯罪分子在暗网这个互联网阴影部分的活动相关的威胁，值得实施以下安全措施： 使用威胁情报产品，例如卡巴斯基数字足迹智能，以帮助安全分析人员探索对手对其公司资源的看法，并及时发现其潜在的攻击载体。这还有助于提高对网络犯罪分子现有威胁的认识，以便相应地调整防御措施或及时采取应对和消除措施。 选择可靠的端点安全解决方案，例如卡巴斯基网络安全解决方案企业版，它配备了基于行为的检测和异常控制功能，可有效防范已知和未知威胁。 使用安全响应的专用服务，可以帮助抵御引人注目的网络攻击，例如卡巴斯基托管检测和响应服务可以在入侵者达到目的之前，帮助在入侵的早期阶段识别并阻止入侵。如果遇到事件，卡巴斯基事件响应服务将帮助您做出响应并将后果降到最低，例如识别被入侵的节点并保护基础设施在未来免受类似攻击。...