为了在（zài）新时代（dài）蓬勃发（fā）展，企业安全需要减少人工（gōng）智能带来（lái）的（de）风险，并（bìng）充分（fèn）利用它提供（gòng）的机（jī）会（huì）。

portant;" />

人工智能(AI)正在（zài）创造信息安全的新领域（yù）。能够独立学（xué）习、推（tuī）理和行动的（de）系统将越来越多地复制人类的行为。就像人类一样（yàng），他们也会有缺（quē）陷，但也有能（néng）力取得伟大的成就。

人工智能带来（lái）了新的信息风险（xiǎn），并使一些现有风险更（gèng）加危险。但是，它也可以永久使用，并且（qiě）应该成（chéng）为每个组织（zhī）防御性（xìng）武器库（kù）中的关键（jiàn）部分（fèn）。业务和信（xìn）息安全领导者都必须在接受即将成为日常业务中至关重要（yào）的技术之前，先（xiān）了解风（fēng）险和机遇。

人工智能已（yǐ）经在许（xǔ）多主流业务（wù）用例中找（zhǎo）到了（le）自己的方式。组织（zhī）使用AI的变体来支持客户服务（wù），人力资源和（hé）银（yín）行欺（qī）诈检（jiǎn）测等领域的流程。但是，这种炒作可能导（dǎo）致人（rén）们对AI的真正含义（yì）及其（qí）对业务（wù）和安全（quán）的真（zhēn）正含义感到困惑和怀（huái）疑。很难（nán）将一厢情愿的想法（fǎ）与现实分开。

人工智能（néng）带来的信息风（fēng）险是什么？

随着组织采用AI系统，它们（men）对于日常业务运营将变（biàn）得越来越重要。一些组织已经拥有或将拥（yōng）有完全（quán）依赖AI技术的业（yè）务（wù）模型。无（wú）论组织使（shǐ）用了AI的哪些功能（néng），这样的系统和支持AI的（de）信息都会存在固有的漏洞，并（bìng）且受到意外和（hé）对抗性风险的（de）威（wēi）胁。受损的AI系统将（jiāng）做出（chū）错误的决策并产生意外的（de）结果。

同时，组织开始面临复杂的基于AI的攻击，这些攻击有可能以前（qián）所未有的速度和规（guī）模破坏信息并造成严重（chóng）的业务影响。采取措（cuò）施保护（hù）内（nèi）部AI系统并防御外部AI威胁，对于降低（dī）信（xìn）息（xī）风险至关重要（yào）。

尽管（guǎn）组织（zhī）采（cǎi）用的AI系统提（tí）供了诱人的目标（biāo），但（dàn）对抗性攻击者也开始（shǐ）将AI用于自己的攻击。AI是一种功能强大的工（gōng）具，可用来增（zēng）强攻击技术，甚至（zhì）创建全新（xīn）的攻击技术。组（zǔ）织必（bì）须准备好（hǎo）调整防御措（cuò）施，以应（yīng）对基于AI的网络（luò）攻击的（de）规模和复杂性。

人（rén）工智能提供的防（fáng）御（yù）性机会

安全从业者总是在努力（lì）跟上攻击（jī）者使用的方法，而AI系统至少可以通过显著增强各种（zhǒng）防御（yù）机制（zhì）来提供短期的能力提升。AI可以将（jiāng）大量任（rèn）务自（zì）动化，帮助人手不足的安全部（bù）门填补专业技能缺口，提高从业人员的效（xiào）率。

为了保护自己免受现有（yǒu）威胁，AI可以让防御者领先一步（bù）。然而，对手并（bìng）不（bú）是静止不动的（de）——随着支持AI的威胁（xié）变得越来越复杂，安（ān）全从业（yè）者将需要使用（yòng）AI支持的防（fáng）御（yù）来跟上形势。

在（zài）应对威胁方面，AI的好（hǎo）处在于，它可以独（dú）立行动（dòng），在（zài）不需要人类监督（dū）的（de）情况（kuàng）下采（cǎi）取相应措施，而且速度（dù）比人类快得多。考虑到恶意软件（jiàn）的存（cún）在（zài）几乎可以在瞬间危害整个系统，这是一个非（fēi）常有价值的（de）能力。

人工智能可（kě）以显著增强防御机制的方式有很（hěn）多，这为我们提供了乐观的理由，但与任何（hé）一种新（xīn）技术一样，人工智能也不是灵丹妙药。安全从业人员应该意识到部署防御（yù）性AI所涉及的实（shí）际挑（tiāo）战。

在（zài）部署（shǔ）防御（yù）性AI系（xì）统之（zhī）前，需要考虑的问题和考虑（lǜ）的范围很（hěn）窄，而且是（shì）为了（le）完（wán）成一种任（rèn）务而设计的。他们需要足够的数（shù）据和（hé）输入来完（wán）成这项任（rèn）务。一个单（dān）一（yī）的防御性AI系（xì）统将不能（néng）增强之前概（gài）述的所有（yǒu）防御机（jī）制——一个组织可能采用多个系统。在购买和部署防御性AI系（xì）统（tǒng）之前，安全领导应（yīng）该考虑是否需要（yào）一个AI系统来解决问题，或者更传统（tǒng）的（de）选择（zé）是否会起到类似或更好的作用（yòng）。

要问的问题包括（kuò）：

●问（wèn）题有局限吗?(例如，它是否可以（yǐ）用一（yī）个数（shù）据集或（huò）一种输（shū）入类型来处理，或者（zhě）它是（shì）否需要高度理解上下（xià）文，通（tōng）常哪些人（rén）更（gèng）擅长提供（gòng）？)

●组织是否有运行和优化AI系统所需的（de）数据?

安全领导者还需要考虑围（wéi）绕防御（yù）AI的治理（lǐ）问题，比如:

●防（fáng）御（yù）性（xìng）AI系统如何适应组织的安（ān）全治（zhì）理架构?

●组织如何为防御（yù）AI系统提供安全保障（zhàng）?

●如何维护、备份、测试和修补（bǔ）防御性AI系（xì）统?

●组织（zhī）是否有足够（gòu）的（de）技术人员来为防御AI系统提供监（jiān）督?

人工智能不会用技术（shù）专长和对风（fēng）险的直觉来取代对熟练安全从（cóng）业人员的需求。这些（xiē）安全从业人（rén）员需要在（zài）人（rén）工监视的（de）需要和允许人工（gōng）智能支（zhī）持的控制自动有效地工作的（de）信心之（zhī）间取得平衡。这种信心需要时（shí）间来（lái）培养，尤（yóu）其是（shì）在人工智能被证明不可靠、或（huò）做出糟糕（gāo）或意外（wài）决定的故事不（bú）断涌（yǒng）现的情况下。

人工智能（néng）系（xì）统会犯错误，人类监督的（de）一（yī）个有益方面是（shì），当事情出错时，从（cóng）业人员可（kě）以提供反馈，并将其（qí）纳入人（rén）工智（zhì）能的决策过程。当然，人类也会犯错，采用防御性（xìng）AI的组织需要投（tóu）入时间、培训和支持（chí）来帮助安全从业人员学（xué）习如何使用智能（néng）系统。

如果（guǒ）有时间一起发展和学习，人类和AI的结合应该成为组织网（wǎng）络防御的一个有价值的组成部（bù）分。

现在开始准备：

能够独立学（xué）习（xí）、推理和行动的计算机系统预示着一个充满风险和机遇（yù）的新技术时代（dài）的到来。已经出（chū）现（xiàn）的进（jìn）展只是（shì）冰山一角,未来还将出现更多的进展。AI系统（tǒng）“思考”的速度（dù）和规模将（jiāng）随着（zhe）大数据访问的增加、计算能力的增（zēng）强和（hé）编程技术的不断改进（jìn）而提高。这种力量这（zhè）种权（quán）力将有可（kě）能创造和摧毁一（yī）家企业。

可（kě）用于防御的AI工具和技（jì）术（shù）也可用（yòng）于犯罪（zuì）分子、黑客活动分子和政府支持的组（zǔ）织等（děng）恶意行（háng）为者（zhě）。这些对手很快就（jiù）会发（fā）现使用AI来（lái）创建（jiàn）诸如智能恶意软（ruǎn）件之（zhī）类的全（quán）新威（wēi）胁（xié）的方法，比如智（zhì）能恶意软（ruǎn）件。使用传统控件的（de）安全从业人员将无法应对攻（gōng）击的（de）速度、数（shù）量和复杂性。

为了在新时代蓬勃发展，组织需要减（jiǎn）少AI带来的（de）风险，并充分利用（yòng）AI提供的机（jī）会。这（zhè）意味着要保护自（zì）己的智能系统并部署自己的智能防御。人工智能不再是对遥远（yuǎn）未（wèi）来的（de）憧憬（jǐng）:现在是（shì）开始准备的时（shí）候了（le）！