为什么产业数字化需要可信AI的助力？-希知网

如果在中国制造的基础上叠加现代数字科技，那会带来多大的提升？降低成本、提高效率、规模增长、灵活生产等等，这就是现在最热的赛道之一：产业数字化升级。

当传统产业走向数字世界，沟通环境、表达方式发生了颠覆性变化，产业间协同方式也随之改变，如何建立“数字信任”成为了新的命题。

比如传统企业将数据从线下搬到线上之后，如何保证这些分散在不同系统、不同环节的数据，拥有统一的格式标准，能够直接被用在数据驱动的AI模型中；如何避免多个组织协作时，因为数据共享产生的隐私风险。再比如金融、电商行业经常会遇到的，“你是谁”的数字身份识别问题、合作资质评估问题等等。这些现实难题成了传统行业走向数字世界的阻碍。

不过近几年情况有所改变，随着科技厂商对数字化工具的研发落地和可信AI的研究实践，这些问题也有了对应的解决方案。

一、在数字化升级中建立“数字信任”的痛点

传统行业数字化转型，需要克服很大的障碍。

比如某国内大型钢企需要数字化转型，打造全流程的智慧化钢厂。面临的首要问题，就是基础数据来源多且质量参差不齐。生产过程中所产生的数据，分散在多个控制系统、执行系统当中；不同系统内的数据，还被记录在了不同的CRM、ERP系统当中；同时还有大量线下记录的数据需要转移到线上。但要想充分利用数字化带来的实际效果、提高企业的生产和管理效率，就必须保证这些数据，拥有统一的数据管理标准，格式规整。否则就会导致以数据为基础的人工智能、区块链等技术难以被充分利用，同时也阻碍了产业协作中数据流通的需求。

以上问题可以总结为传统企业IT化起步晚、“数据化程度低”的问题，目前市场上有很多商业智能系统给出了解决方案，可以对各个信息系统进行数据打通、数据清洗和整合，在统一的平台上完成全流程数据分析。

数据标准化的问题之后，紧接着就是协同中带来的数据隐私问题。

依旧拿转型期的钢企举例，在评估上下游协作风险时，需要用到多方数据，才能判断一家即将合作的企业是否可信。一个典型的场景就是协作方A拥有部分客商的发票数据，B拥有部分客商资产负债数据，C和D分别拥有部分客商信用履约数据。这种情况下，要想准确得到该客商的风评结果，就需要同时综合ABCD四方数据。如果数据不流通、信息不对称，各机构之间的信任度难以建立，产业协作就无法实现。

以AI为代表的数字技术存在一个“黑盒”的问题。

比如系统说甲的企业风险评级是50分，乙是90分，但形成这个结论的原因是什么，AI解释不了。那么，这就很难让使用者信服。

在金融、电商等行业，数字化运营及线上协作还面临着数字身份识别问题。

例如个人办理金融业务、企业入驻互联网平台，都需要明确“你是谁”，和如何证明“你是谁”。然而，用户端的摄像头种类繁多、画面质量参差不齐。只有在这种苛刻的条件下，保障AI模型的稳定决策能力，才能在真的遇到数据篡改等欺诈风险时，准确识别攻击并抵御攻击。这就对模型的鲁棒性（也就是我们俗话说的皮实健壮）提出了很高的要求，模型必须走出实验室，经得起现实的拷打。

此外，老年人、残障人士等与主流人群有生理差异的人在做身份验证时，AI技术是能否让他们更方便，弥合他们与数字时代的鸿沟，这又涉及AI公平性的问题。

二、可信AI的落地应用提供了一种解决的可能性

所以，“数字信任”需要解决的第二大问题就是从隐私性、可解释性、鲁棒性、公平性等角度，发展可信AI，抵御数字时代的安全风险。

冲在一线的产业界，需要直接应对数字化升级带来的风险，也因此走在了可信AI落地的前沿。根据IPRdaily最新发布的《AI安全可信关键技术专利分析简要报告》中，专利授权数排名前三的分别是：蚂蚁集团支付宝、IBM、NTT。“安全风控”作为AI安全可信主要应用领域，专利量占比超26%。

AI安全可信技术德温特专利家族授权数Top 10（图片来源：IPRdaily中文网）

比如蚂蚁集团早在2015年，就开始投入可信AI技术的探索。除用于自身业务，蚂蚁集团还打造基于可信AI的安全科技商业化产品“蚁盾（ZOLOZ）”，已服务金融、出行、电商等十多个行业的数字化升级。

蚁盾旗下的“可信身份认证”服务，要求模型在不同设备、不同网速、不同画面背景、不同画质下，都能准确识别 “你是谁”。还要求它能看出是否是人脸照片/视频攻击、是否是拍屏、截屏，或是从网上下载的水印图像，是否冒用其他凭证重复提交，是否用PS篡改等。工程师为了把AI打磨得更加皮实，故意模仿黑产的操作手法，制作虚假人脸照片视频，自己攻击自己。将金庸小说里“左右手互搏”纳入日常AI演练，让系统在对抗和错误中学习成长。在对手“魔高一尺”的时候，让自己的AI“道高一丈”。

除了对鲁棒性的苛刻要求，公平性方面也不能松懈。因为蚁盾（ZOLOZ）不仅要服务国内互联网、金融等机构，还要服务海外机构的数字化升级，面临不同肤色、不同文化背景的人种差异，以及不同国籍、不同类型的证件识别挑战。作为业界率先落地的金融级全人种无偏见方案，其全人种识别平均通过率超过99%。除此之外，还针对视障人群提出了“挥一挥”行为验证码方案，提升产品包容性。

在产业协作的场景下，蚁盾-产业风控平台专注于防范上下游协作风险。算法工程师深入了解大宗贸易、金融、政务等传统行业的业务特点，运用自动化手段进行数据清洗和标准化处理，保障数据稳定性。同时，运用区块链+隐私计算等技术，让各方数据在安全加密的环境里联合建模，促成数据价值的可信流转。

此外，算法工程师将行业知识、专家经验等融入到模型中。行业知识问题，就像铝合金一样，既是一种金属材料，又属于制造业；数据权重问题，如哪类数据的风险权重高，哪些数据意义不大；业务逻辑问题，如高危司法案件多且资产负债率高，则风险高……吸收行业法则的AI系统，不仅准确给出企业风险评级，还能用人话来解释为什么？比如告诉使用者，它发现这家合作伙伴存在年利润同比下滑、重要股东失信这些负面因素。

从“蚁盾（ZOLOZ）”对可信AI的探索我们不难看出，产业数字化升级，既离不开AI技术的助推，也需要面对AI落地应用的现实挑战。这要求技术研究人员与实践者具备从数据到模型训练、部署、应用全链路的风险发现与防御能力。

只有让“可信”成为AI的内在属性之一，才能让AI实现大规模的工业级应用，成为产业数字化发展的基础设施与核心动力。

本文地址：https://www.cknow.cn/archives/20064

以上内容源自互联网，由百科助手整理汇总，其目的在于收集传播生活技巧，行业技能，本网站不对其真实性、可靠性承担任何法律责任。特此声明！

如发现本站文章存在版权问题，烦请提供版权疑问、侵权链接、联系方式等信息发邮件至candieraddenipc92@gmail.com，我们将及时沟通与处理。

为什么产业数字化需要可信AI的助力？

相关推荐