【乌镇声音】周鸿祎:没有攻不破的系统,未来要做到安全先行******
近日,2022年世界互联网大会乌镇峰会在浙江乌镇举行。峰会期间,360集团创始人周鸿祎接受记者采访时表示,随着数字化发展,未来基本上所有问题都是基于数字化发展,软件里漏洞不能全部消除,必然导致“没有攻不破的系统”。“这种情况下,发展与安全应该并重。未来随着数字化发展,原来安全可以忽视或延迟一步,但未来安全要先行。”
记者:工信部数据显示,截至9月末,三家基础电信企业发展蜂窝物联网终端用户17.45亿户,已超移动电话用户数6586万户。怎么看待物联网用户超过了移动用户而产生的安全问题?
周鸿祎:这个趋势一点都不惊讶。物联网设备不仅数目众多,而且都是无人值守的设备,可能是7×24小时在用。所以,物联网的数目可能是手机、电脑等加起来的一百倍以上。这个时代一定会来到,只不过是快和慢的问题。
物联网时代带来的安全挑战非常大:第一,每个物联网设备都是基于软件定义,所以物联网设备里也有很多漏洞;第二,物联网设备万物互联,可以把虚拟世界和物理世界连在一起,但反过来使得所有在虚拟世界里的攻击都会变成物理世界的伤害;第三,物联网设备数目众多,而且很多物联网设备都是通过5G链接、没有边界,过去想通过边界防护的方法也不可能了。
事实上,传统网络安全行业缺乏主动设计的碎片化思路已不再适用。因为总不能再给每一台物联网设备都配防火墙、装杀毒软件,这是典型的刻舟求剑的思路。所以,这就需要用新的顶层设计、新的方法来解决。其实,在物联网时代,只要通过足够多的数据探针,把在物联网设备上产生的安全流量、安全事件都汇总到一个中央大数据平台,从全网的维度进行集中研判、分析。在某个物联网设备被攻破之后,能够快速地看到,而且能够快速地应对。
记者:前段时间,西北工业大学遭遇黑客攻击。类似情况应该如何应对?
周鸿祎:这种国家级攻击主要危害有两种:一是偷窃情报和数据,导致很多老百姓个人隐私泄露,又卖到暗网上,导致很多欺诈集团利用这些数据,给老百姓带来“切肤之痛”;二是国家级攻击瞄准对象是国家关键基础设施,比如,水电气、城市交通、能源、金融、教育、医疗等。
记者:后疫情时代,互联网发展前景如何?
周鸿祎:数字经济和实体经济并不矛盾。它是要用数字化对实体经济进行改造,改造完以后实体经济也可以称为数字经济。这就意味着,传统的行业不要老去内卷或过度竞争、躺平,而是想一想如何用数字化进行流程再造、商业链条再造,从而产生创新的业务模式,这就意味着所有行业都值得用数字化再做一遍,这里就有巨大的机会。
记者:现在全国很多地方都在发展信创产业。如何避免同质化竞争?
周鸿祎:信创产业非常重要,它是要把很多IT技术架构,从底层CPU主板内存硬件,到操作系统以及各种应用办公软件,都能实现国产化,防止将来在供应链上被其他国家“卡脖子”。所以,现在各地都在做不同的信创平台,这是非常有必要的。信创本身解决了一部分安全问题,至少解决了别人在供应链里利用给操作系统布设后门的问题。但信创同样面临着数字安全挑战,因为里面代码无论是利用开源代码修改,还是自己撰写代码,都会存在一些漏洞,有漏洞也一样会被人利用。所以,要保证信创体系应用软件操作系统安全,也需要建立起类似360安全大脑的这种大数据分析体系,能够把信创系统、信创设备中可能的安全攻击捕捉到。(记者 李政葳 刘昊)
聚焦人工智能技术前沿与治理 中外专家学者国际论坛建言献策******
中新网北京12月5日电 (记者 孙自法)2021人工智能合作与治理国际论坛“人工智能技术前沿与治理”主论坛,12月5日在清华大学以线上线下结合方式举行,中外人工智能(AI)领域专家学者聚焦人工智能技术前沿与治理这一主题,发表主旨演讲建言献策,并深入研讨交流。
美国国家科学院院士、美国艺术与科学院院士、约翰·贝茨·克拉克奖得主、斯坦福大学商学院技术经济学教授、以人为本人工智能研究所副所长苏珊·阿西(Susan Athey)认为,大学在指导人工智能创新方面可以发挥优先引导的关键作用。由于私营部门的技术人员缺乏伦理、哲学方面的训练,难以开发出具有可解释性的算法框架,深化这类研究能够在人工智能治理的问题识别、建立开发实践框架、提供指引等方面发挥重要作用。此外,由于数据可以带来巨大的规模效应,当前“软件即服务”的平台经济模式已非常普及。人工智能和数据需求可能带来“伪”市场集中,因此,未来对“机器换人”的预测非常具有挑战性,需要重新关注和思考人工智能如何用于应对老龄化等公共管理问题,使基于人工智能的公共服务变得更加高效。
国际人工智能协会前主席、清华大学人工智能国际治理研究院学术委员约兰达·吉尔(Yolanda Gil)指出,由于人类对智能机制认知不足、智能行为本身的复杂性、观测手段的有限性以及个体知识、职业、信仰、文化背景等的差异性,导致当前人工智能研究中面临着一系列挑战,因此,需要加强人工智能基础研究工作,这需要跨领域、跨学科的共同努力。当前,理解人工智能机理和构建人工智能世界模型是人工智能研究面临的两大挑战。一方面,理解人工智能机理需要构架“感知-思考-行动”的智能模型,加强对大脑思维机理的理解,建议借鉴神经科学研究联合体的有益经验,建立全球性的人工智能研究数据库,形成全球共享的研究社区。另一方面,构建人工智能世界模型则需要建立在人类经验、社会习俗、专业技能的基础上,建议建立类似于自由协作式的知识库,通过全民民众参与,推动知识在全球层面共享。
中国科学院院士、清华大学人工智能研究院名誉院长、清华大学人工智能国际治理研究院学术委员张钹表示,由于深度学习等算法存在不可解释性,导致前两代人工智能算法存在着公平性、安全性问题和不可靠、不可信等缺陷。发展第三代人工智能关键在于发展可解释的、鲁棒的人工智能理论和方法,开发安全、可信、可靠、可扩展的人工智能技术,以“数据驱动+知识驱动”构建支持可解释的人工智能算法的深度学习平台,赋能人工智能安全与防御优化。从数据中真正获取智能要靠知识的帮助与引导,并需要政策法规对数据使用的正确规范,充分利用知识、数据、算法和算力四个要素结合,推动人工智能的创新发展。
中国工程院院士、北京大学信息科学技术学院院长、鹏城实验室主任、清华大学人工智能国际治理研究院学术委员高文认为,当前人工智能发展处于新一代人工智能向强人工智能发展的关键阶段,至2030年,中国人工智能发展总体要达到世界领先水平。从战略问题看,中美欧三方在人工智能人才、研究、开发、应用、硬件、数据等方面竞争激烈,当前中国人工智能发展在战略政策、数据资源、应用场景、潜力人才方面具有优势,而在基础理论、原创算法、关键部件、国际平台、高级人才等方面还存在短板。从战术问题看,人工智能2.0需采用基于大数据的统计AI解决大规模AI应用需求,鼓励各种可能的强人工智能探索,“可解释机器学习+推理”和“仿生系统+AI大算力”是可能的技术路线图;在安全问题层面,强人工智能的安全风险主要来源于模型的不可解释性、算法和硬件的不可靠性和自主意识的不可控性,人工智能2.0应采用DPI与“防水堡技术”解决数据安全与隐私保护,重视探索人工智能伦理问题,并基于“理论-技术研究-应用”的阶段性采取不同的风险防范策略。
美国国家工程院外籍院士、英国皇家工程院外籍院士、清华大学高等研究院双聘教授沈向洋表示,AI已经应用于生活和工作的方方面面,目前甚至在法律上也具有一定的应用,比如美国已经有很多法庭用机器学习和人工智能方法帮助判刑,包括决定刑期这样非常重要的问题。但是我们还无法理解一些AI决策的缘由。未来发展过程中我们不能只看见AI决策的“黑箱”,应该打开“黑箱”,探究和理解其中的具体内容和因果关系,我们一定要做可解释性的AI。同时,他提到负责任的AI应具备公平性、可靠性、隐私性、包容性、透明性和责任性的特点,作为新兴领域,还需要向其他领域学习,从而更好的服务于人类。
中国工程院外籍院士、清华大学智能产业研究院院长、人工智能国际治理研究院学术委员张亚勤指出,“碳中和”是人类能源结构的又一次变革。“碳中和”既是可持续发展的必然选择,又是产业结构调整和发展的重大机遇。企业在“碳中和”背景下都面临转型增效的压力。人工智能+物联网是智联网,智联网可以赋能绿色计算,助力“碳中和”。智联网助力“碳中和”主要包括三个环节:首先,由数据驱动和人工智能优化引擎来实现智能决策。其次,多参数全链系统配置优化。最后,通过多源多维异构感知融合实现智能感知。智联网可用于能源融合、降低ICT产业的碳排放和推动新兴产业发展等。他还介绍了智联网赋能的绿色计算平台的框架,该平台包括人工智能驱动节能减排和高能效人工智能系统,应用路径包括绿色园区和工业节能。
2021人工智能合作与治理国际论坛由清华大学主办,清华大学人工智能国际治理研究院承办,国际支持机构为联合国开发计划署。论坛为期两天,设有三场主论坛、一场特别论坛和七场专题论坛。“人工智能技术前沿与治理”主论坛由清华大学计算机科学与技术系教授、人工智能研究院常务副院长孙茂松主持。(完)
(文图:赵筱尘 巫邓炎)