网络安全中的现实AI威胁不是科幻小说

 
对于某些人来说，对AI的恐惧在于机器人霸主和自我意识的恶意软件的图像-这些都是科幻小说。在未来几年我们将要应对的众多威胁中，有情有义的AI接管世界并不是其中之一。但是，即使某些人拥护人工智能在网络安全领域的优势，赋予网络犯罪分子权力的人工智能也是非常严肃的现实。
在过去的十年中，技术的进步减少了犯罪分子修改恶意软件样本或识别漏洞的时间。这些工具已经很容易获得，从而导致“常规”威胁(如广告软件，特洛伊木马和勒索软件)的开发和分发有所增加。
结果，我们将看到更多(更复杂)的AI威胁。问题是，当前保护网络的安全控制措施是否可以扩展以匹配大量攻击?
微软和谷歌只是开发应用程序模糊工具(基本上是自动漏洞发现)的两家公司，它们使用机器学习先于犯罪分子找到软件中的错误。但是，无法假定具有AI功能的系统可以识别何时检测到其恶意软件变体中的一种，以及如何然后将该信息推送至另一个可以泵出恶意软件新版本的系统，并进行了修改以使其无法被检测到。 。
这不是科幻小说;这就是当今恶意软件作者的运作方式。尽管通常是手动完成恶意软件可执行文件的初始开发，但是您可以使一个系统自动化，该系统可以快速识别如何修改恶意软件以最好地逃避检测。结果是出现了无法阻止的恶意软件系列。对于检测到的每个恶意软件变体，都会迅速部署另一个替换它，并进行修改以逃避先前的检测。
针对用户的AI，而不仅仅是系统
支持AI的攻击的最软目标不一定是易受攻击的系统，而是这些系统背后的人类用户。例如，可以窃取个人身份信息(PII)并收集有关潜在受害者的社交媒体信息的AI技术可以帮助罪犯进行社会工程方面的工作，这些工作比我们通常从人类攻击者那里看到的任何东西都更详细，更令人信服。
数据抓取工具是一种可导航到网站并找到该页面上托管的所有相关数据的软件。然后将数据存储在数据库中，可以由人员(或人工指导的软件)对其进行分类，组织和分析，以满足数据收集者的需求。从情报分析师到广告客户，这都是每个人的通用策略。攻击者可以使用工具来自动关联这些数据(电子邮件地址，电话号码，姓名等)，以创建潜在目标的配置文件。有了该配置文件，他们就可以使用AI编写特殊的电子邮件，从而增加用户被感染或成为攻击受害者的机会。
恶意电子邮件活动主要由两种技术控制：网络钓鱼和鱼叉式网络钓鱼。 “网络钓鱼”是指攻击者计划使用任何人都可能投掷的电子邮件主题诱饵(例如银行对帐单或包裹寄送通知)计划感染活动。 “鱼叉式网络钓鱼”涉及收集目标上的数据并制作更个性化的电子邮件，以最大程度地使目标与邮件交互。
近年来，鱼叉式网络钓鱼已主要用于打击政府和企业。过去，大多数消费者电子邮件攻击都没有使用鱼叉式网络钓鱼，因为在任何给定目标上获取足够的数据都非常耗时，而且此类攻击对普通个人的潜在收益还不够丰厚。随着AI工具可以从违规，非私有社交媒体帐户和其他任何公开可用信息中抓取数据转储，鱼叉式网络钓鱼变得更加容易，这将改变。这意味着在未来几年中部署的大多数网络钓鱼电子邮件将成为鱼叉式网络钓鱼，这实际上保证了这种攻击将比以往更加有效。
但是，使用具有AI功能的数据收集系统进行攻击并非万无一失。有一些方法可以减轻鱼叉式网络钓鱼攻击。例如，智能电子邮件过滤器或精明的员工可能会在电子邮件感染网络之前就对其进行识别和隔离。
但是，这些经过改进的收集工具还可以发现有关目标的个人信息，例如婚外约会服务上的帐户或使该主题看起来很糟的旧社交媒体帖子。攻击者甚至可以使用此信息手动安装后门恶意软件，也可以使用此信息勒索目标，以获取访问权限或凭据。
自动骚扰
除了数据盗窃，勒索和大量未检测到的恶意软件外，巨魔和缠扰者也将从这项技术中受益。
网络犯罪分子(甚至只是生气，自以为是的用户，例如那些认为驱散或破坏服务将使世界变得更美好的人)可以使用AI技术发起骚扰活动，从而导致服务中断或被拒绝，声誉受损或仅仅是人们每天都会在互联网上遇到这种老式的骚扰。这种攻击的受害者可能是企业，私人或公众人物，攻击可能采取复仇色情，欺凌或伪造传播谎言的社交媒体帐户的形式。
策略还可以包括使用IP语音(VoIP)服务进行电话呼叫，并扩展到朋友，亲人和雇主。我们正在谈论的骚扰不是一种新方法;只是使受害者已经经历的事情自动化。巨魔和跟踪者经常花费大量时间来收集信息以用于攻击目标并进行骚扰工作。如果整个过程可以自动化，它将为受害者创造一个地狱般的场景。
“黑客主义者”和其他人也可能对商业竞争对手，政府和政治对手发动这种攻击。将其与在网上隐藏您的身份的轻松程度相结合，我们可以看到，针对性的骚扰活动激增，这种骚扰是无情的，而且很可能是无法追踪的。
轻松访问AI平台
恶意开发人员正在尝试使用AI技术来发现新的攻击方法并增强现有的攻击方法。同时，全球的大学，独立开发人员和组织都在使AI技术对任何需要它的人都更容易使用。因此，一旦使用AI技术来增强攻击活动的能力，几乎就可以保证进行类似的后续攻击。
Hidden Tear是一个由土耳其研究人员Utku Sen创建的用于“教育”目的的开源勒索软件项目。多年来，新手勒索软件开发人员使用Sen发行的代码作为许多新的勒索软件家族(例如FSociety勒索软件)的框架。
勒索软件系列CryptoLocker(使用专业级加密的同类中的第一个)在2013年10月标志着新勒索软件的开发。在此之前，许多勒索软件系列的程序设计不佳，因此可以创建工具来解密受感染受害者的文件。
不幸的是，CryptoLocker开创了其他勒索软件开发人员复制的趋势。如今，现代勒索软件使用的大多数算法都无法解密，因为它们是通过非对称加密构建的，该加密需要使用不同的密钥来加密和解密数据。安全研究人员为现代勒索软件系列创建解密器的唯一方法是，如果代码实施得很差，以致加密无法正常工作，或者他们能够从违规的命令或控制服务器中获取密钥。
一个犯罪分子对新技术的了解足够充分，可以将其塑造为攻击工具，然后进行共享。从那里，模仿者的恶意软件作者将能够建立该初始模型，并将其发展为更加专业和强大的功能。
在AI时代，我们犯了几十次相同的错误-开发和发布可以轻松脱离我们控制范围的技术，而无需首先保护我们现有的基础架构。不幸的是，此类错误的后果只会逐步升级。