| huozm32831 |
2023-10-16 20:07 |
技术创新是一把“双刃剑”，人工智能带来的不仅是百年不遇的新机遇，还有无法预测的安全问题和潜在的风险。
当AIGC以及大模型在各个垂直领域生根发芽、重塑新产业，相关的安全问题如影相随。比如：出现数据隐私、信息误判以及偏见问题，甚至由于人工智能系统可能存在的漏洞和安全问题，让黑客有可乘之机，利用漏洞入侵系统，获取机密信息、控制系统。
那么，领先AI企业如何构建更全面的安全体系，利用AI和自动化技术创新把好“安全大门”？领创集团以数据为核心、以云为基石构建安全体系的做法，为我们带来了AI安全新范式。
安全威胁全新升级
人类正由信息时代迈向人工智能时代，这点已经达成了业界共识。2023年，是生成式AI以及大模型爆发元年，人们用人工智能技术写文本、编代码、解答数学题、进行角色扮演……这在过去是无法想象的。
当量变上升到质变，自然语言大模型训练的数据量、参数规模达到一定程度后，出现了一系列新的行为，甚至出现了类似于人类的思考、推理和语言表达能力，我们称之为智能涌现，即通用人工智能（AGI）时代正式到来。
在人工智能变革中，有一个不容忽视的问题是，人类在由狭义人工智能时代向通用人工智能时代跨越过程中，可以利用新技术进行业务变革，但也会面临新的安全威胁。
首先，AI让扫描器更加智能。原来的扫描器可能只能扫描一些标准的安全漏洞、弱口令和一些错误配置等，经过与AI的融合，扫描器可以进一步更深入地分析业务逻辑，比如：把黑客的攻击手段通过AI训练，就可以对业务发动更复杂的攻击，绕过很多安全防护措施。这代表一个初级的黑客，就可以拿新的扫描器对一个企业进行更深入的攻击，让网络攻击的门槛进一步降低。
其次，大语言模型的兴起，为黑客创造了新的机会。通过大语言模型，黑客在攻击初期的信息收集阶段，可以去收集社交平台上很多公司的员工感兴趣的话题，然后生成有针对性的钓鱼邮件。同时，大语言模型还可以生成特定的木马和恶意程序，使钓鱼的成功率进一步增强。
其三，Deep Fake让人们防不胜防。Deep Fake（深度伪造技术）现在非常成熟，不法分子仅通过一张图或者一个十秒钟的音频，就可以伪造一个人的人脸或声音，这给很多使用人脸识别和声音识别的业务带来很大的威胁。
以云为基石构建五层防护体系
面对各种威胁，领创集团以亚马逊云科技为技术底座，构建了五层防护体系：
具体包括：
1、 核心业务：以数据为本，做到可感、可控、可溯源、可打击。
2、 机制：人、流程、技术的配合，正确的人按照正确的流程去使用技术。
3、 风险域层面，涉及四块内容。一是云平台；二是应用；三是办公网和外包职场；四是SaaS和供应链。
4、 操作层，主要是一些安全控制，包括很多框架，比如：ISO27000认证（信息安全管理体系标准）和CIS（互联网安全中心），都提供了一些参考价值。
5、 模块层分四块：一识别风险；二保护资产；三检测攻击；四是应急响应。
值得一提的是，云平台是整个防护体系的重中之中，为全面安全体系构建，起到保驾护航的作用。至于，为什么要选亚马逊云科技进行合作？领创集团信息安全总监赵海旭，说出了选型初衷。
“在构建集团安全体系中，亚马逊云科技作为一个安全、开放的云平台，为我们提供了很多接口；此外，亚马逊云科技有一个完善的生态体系，也为我们提供了很多合作伙伴的选择。” 赵海旭对云平台的支撑能力给与了高度评价。他特别提到亚马逊云科技在产品层面的支持，尤其是亚马逊云科技威胁检测服务Amazon GuardDuty，可以在云环境中给企业带来很高的安全性提升，还有完全托管的机器学习服务Amazon SageMaker，可以进一步帮助企业为AI安全全面赋能。
领创集团成立于2016年，是一家在AI浪潮下成长起来的科技独角兽公司，总部位于新加坡。
具体包括三大业务线：一、ADVANCE.AI，业务覆盖亚、非、拉三大洲9个国家和地区，帮助企业搭建全球业务合规安全体系，目前每天API的调用次数超过400万次，人脸识别准确率超过99%。二、Atome Financial，是亚太地区知名的金融科技公司，服务包括“先享后付”(Buy Now, Pay Later) 的时尚消费解决方案和数字金融服务，并已成功在东南亚和大中华等市场地区服务超过4,000万用户。三、Ginee（聚灵），这是一个亚太地区的电商商户服务技术平台，可以为电子商务和零售领域的品牌商户、零售商户和分销商户提供全面的AI+SaaS产品和数字营销解决方案，目前服务超过20万商户。
随着企业业务的不断发展，以及新攻击手段的花样翻新，原来基于规则和特征的检测攻击和应急响应方式已经不满足现代化业务需求。领创集团每天都会收集到海量的网络日志和攻击日志，所以把AI融入到检测攻击模块当中，已成为企业唯一选择。
只不过，在AI升级过程中，也遇到了很多挑战，最重要的问题就是模型的选择。企业在传统的SVM（向量机）和新的XGBoost（极端梯度提升）两种模型中做了很深入的对比，最终选择了基于XGBoost去做检测攻击的模型，因为XGBoost未来可以更好地去并行扩展，并且可以与亚马逊云科技平台有更好的契合度。
“领创集团从2016年成立之初开始，就跟亚马逊云科技进行合作。最早，是将整个集团的基础设施部署在亚马逊云科技之上。随着企业在东南亚业务的开展，开始考虑通过亚马逊云科技覆盖全球的基础设施和稳定合规的云服务，提升整体业务的可用性。更重要的是，以安全合规、灵活可靠的服务，提升终端用户和企业用户的整体体验，推动业务的持续增长。” 领创集团运维总监杨东祥介绍道，企业所有核心业务都部署在亚马逊云科技平台上，可一站式满足各个国家、各个业务线的安全合规能力，不再担心监管审计的问题。
全球业务快速拓展
通过与亚马逊云科技进行合作，领创集团有效支撑全球业务的快速拓展，让一切可管可控。
“ADVANCE.AI 是专有的人工智能引擎，为企业提供数字转型、反欺诈和流程自动化等解决方案。我们的平台是基于亚马逊云科技搭建，深度使用了亚马逊云科技的存储、弹性计算、大数据处理等服务，比如：行业领先的云大数据平台Amazon EMR等，让我们能够为客户来提供稳定、高效、成本可控的服务，以帮助他们解决欺诈问题，更好的在东南亚市场去开展业务。” ADVANCE.AI工程副总裁张云乐，介绍了双方的合作成果。
除了ADVANCE.AI，领创集团的其他业务也取得不错的效果。基于亚马逊云科技遍布全球的云基础设施，领创集团的Atome Financial在向东南亚国家和地区扩张的过程中，基础资源预置时间缩短到了1周，成功把领创集团业务快速触达至其他国家。
除了覆盖全球的基础设施，支撑业务快速拓展，企业在业务容灾策略层面，也实现了高成本效益。其中，Atome Financial在前端利用Amazon EKS灵活扩缩容，快速拉起服务；在底层运用Amazon MSK Serverless、Amazon OpenSearch Service等Serverless产品，自动预置和管理所需资源，使用按量付费极大地节省了灾备成本。在短短2个月内，领创集团便在亚马逊云科技平台上成功构建了跨区域的业务容灾系统，大幅增强了其业务稳定性和抗风险能力。
而在瞬时流量激增、大流量和高并发场景，亚马逊云科技高可用、可扩展且安全的Amazon EKS为领创提供了弹性运维解决方案。同时，领创采用了Amazon EC2 Spot实例，实现快速且低成本的资源扩充。基于此，领创成功应对了高达平时流量20倍的瞬时峰值流量，满足Atome Financial在电商大促时的业务需求，无需预置大量资源。
在数据分析方面，亚马逊云科技智能湖仓架构为领创带来了高效且灵活的大数据处理和分析方案。在数据存储方面，领创选用Amazon S3作为核心数据存储，同时采用智能分层策略来管理数据，有效地确保了数据的安全性，同时降低了存储成本。
另外，领创采用行业领先的云大数据平台Amazon EMR分析海量用户数据，应对各种类型和复杂度的数据处理任务，提升了数据处理效率。而针对实时数据处理，领创选择使用完全托管的Amazon MSK，轻松构建并运行Apache Kafka 处理流数据，以实现对交易支付实时数据的及时处理。
最令人惊讶的是，企业构建的安全合规能力，已经可以满足金融行业需求。亚马逊云科技在全球业务范围内支持众多安全标准并获得多项合规认证，这大大降低了领创集团在全球化发展过程中应对不同国家监管的安全合规成本。领创使用Amazon VPC、Amazon Certificate Manager等一系列的亚马逊云科技安全工具和服务，实现数据保护、安全检测和事件响应，极大地缩短业务合规流程，提高客户的认可度和信任度，为领创在全球范围内提供安全、合规的金融服务奠定了坚实的基础。
最后，面对新技术升级的场景，领创集团也走上了时代前沿，通过人工智能提升风控模型响应速度。在风控领域OCR场景，领创运用AI/ML技术进行人脸识别和证照检测。领创利用机器学习引擎Amazon SageMaker，在特定环境中快速验证风控AI模型，并根据需要灵活调整资源，大大提高其内部测试效率和模型迭代速度。此外，领创也正在积极尝试运用Amazon Bedrock Preview预览版本进行模型优化，全面拥抱人工智能和机器学习的潜力来提升服务效率以及决策精确度。 |
|