作者：张瑞雄（台北商业大学前校长）
AI工具的推出象徵着提高生产力和简化工作流程的一个重要里程碑，有望透过自动化日常任务并使每个人都能做出复杂的数据驱动决策来彻底改变我们的工作方式。但与任何强大的工具一样，AI的双刃性质既带来了巨大的机会，也带来了令人震惊的风险，特别是在网路安全领域。
AI助手可以无缝整合到一些应用中，例如帮助用户浏览电子邮件、视讯聊天和编辑文档，以及快速高效地检索资讯。此功能虽然有利於提高工作效率，但也为恶意行为者提供了一个诱人的目标。透过一些简单的提示即可检索、编译和操作来自各种来源的资料的能力就是AI如此强大但又如此危险的原因。
AI在被恶意操纵时可以变成高效的网路攻击工具，例如一旦骇客获得了使用者电子邮件的存取权限，AI就可以用来起草模仿使用者写作风格的网路钓鱼电子邮件，使它们与合法电邮几乎无法区分。
这种能力不仅仅是一种假设的威胁，AI生成的网路钓鱼攻击的复杂性可能会大大提高其有效性，因为这些电子邮件将以前所未有的个人化为其收件人量身定制，此类技术被滥用的可能性凸显了对超越传统防御的强大安全措施的需求。
AI带来的挑战远远超出了简单的网路钓鱼，AI可以绕过安全措施并提取敏感资料。例如用巧妙措词的提示来欺骗AI显示私人讯息，或者透过引导受害者将银行资讯输入诈骗帐号来操纵AI执行有利於攻击者的金融交易。
与传统软体不同的是，AI的运作方式并不总是可预测的，即使对於其建立者也是如此，这种不可预测性使得我们很难预测AI可能被利用的所有可能方式。
此外AI与企业环境的整合加剧了现有的安全弱点，许多组织都在努力妥善管理存取权限和保护资料，当AI系统获得数位王国的钥匙时，这个问题只会变得更加复杂。AI与管理不善的数据存取相结合，为潜在的违规行为创造了一场完美风暴。
AI在网路安全中的作用并不完全是负面的，例如AI可用於自动侦测网路流量中的异常模式，比人类更快标记潜在威胁。它还可以透过快速关联多个来源的资料来协助事件回应，更清晰地了解正在进行的攻击。但好处并不能消除风险，企业需要采取更细致的AI部署方法。
关键涉及监控AI系统产生的内容并确保其输出与预期用法保持一致，特别是在AI有权存取敏感资料的环境中。AI系统的设计从一开始就应考虑到安全性，纳入针对已知攻击方法的防护措施。
AI提醒人们在没有充分理解新技术意义的情况下仓促采用的危险，虽然AI有可能改变我们的工作方式，但它更有可能破坏网路安全的基础。驾驭这一两面刃的关键是保持警惕、人机协作以及对建立与创新相匹配的安全措施。