先探/资安 AI变现不可或缺的防护网

生成式AI即将大举落地,并逐步带来变现力,成为企业重要生产力工具,相关资安需求水涨船高,资安软体股长多列车才刚启动。

【文/林丽雪】

AI伺服器如火如荼建置中,紧接着就是生成式AI将大举落地,并逐步带来变现力的时候,随着企业开始将AI应用在工作环境中,并成为重要生产力工具,软体及资安将是AI为企业带来变现不可或缺的安全防护网,产业的成长爆发力正要接棒而起,成为AI趋势下不可忽视的重点产业。

AI的资安建置门槛更高

AI应用时代来临,对企业或个人,都将产生无远弗届的影响,如何备战AI,成了重要课题。AI对人类的影响一体二面,尤其是生成式AI,虽可提高资料分析能力及加强企业资安防护体系,进而有效节省企业成本并提升企业运作效率,但于此同时,AI也降低了网路犯罪的进入门槛,增加现行资安风险。

正向来看,企业导入AI,提升人机协作,可自动化执行资安维护常规任务,并减少人为操作产生的错误,威胁就是攻击者会把AI系统当作攻击目标,犯罪门槛降低;再者,生成式AI能对未知来源展开模糊资讯推理,同时为企业评估风险及异常检测,但于此同时的威胁就是,企业的设定、弱点、合作伙伴、供应链及员工资料容易被快速撷取。

更有甚者,有别于传统的资安防护演算法,生成式AI对演算法与模型可以做更多优化,提升了工作效率,并能针对不同客户及不同设备进行多面向分析,而虽然在AI的世代,资安规则看似更为简化,但攻击威胁也跟着增加,如大型语言模型(LLM)可从自然语言数据集产生恶意程式码,或利用自然语言生成或深伪技术,进行诈骗通话或视讯,并使网路钓鱼电子邮件更具可信度和说服力,这让AI时代下的资安技术建构门槛将大幅拉高,产业也将大者恒大。

即便潜藏着庞大的威胁,AI已是不可逆的趋势,全球已有愈来愈多的企业开始将AI应用在工作环境中,各种安全解决方案需求也不断攀升,而随着生成式AI的快速发展,骇客手法也愈来愈复杂及迅速,稍有不慎,资安问题不仅仅是国安问题,也可能系乎企业的永续发展。

企业IT支出比重将跃进

对于资安,企业已有不得不加大投资的必要,尤其受惠于生成式AI带动产品整合创新,IDC预估,全球AI支出预计将于二○二八年达六三○○亿美元,五年期间的复合成长率高达二九%,其中,又以银行、资讯服务业和零售业的AI支出占比将达四五%,随着企业将逐年拉高生成式AI支出,来自软体的AI投资将占总体AI投资的五成以上。(全文未完)

全文及图表请见《先探投资周刊2332期精彩当期内文转载》