人工智能，如何聪明向善又安全？

浙江乌镇，水巷悠悠，静水流深，身畔的京杭大运河悄然流淌了千百年，链接并融通着移动互联时代的滚滚洪流，一同迈向人工智能更加美好的“数字未来”。

2024年，我国全功能接入国际互联网30周年，习近平总书记提出网络强国战略目标10周年，世界互联网大会乌镇峰会开启“下一个十年”的新起点。我们如何把握数字化、网络化、智能化发展大势，加快推动网络空间创新发展、安全发展、普惠发展？

“拥抱以人为本、智能向善的数字未来——携手构建网络空间命运共同体”。这是2024年世界互联网大会乌镇峰会的主题，也是对这个问题最精准的回答。

拥抱创新

把控互联网的DNA密码

11月19日，世界互联网大会“互联网之光”博览会在乌镇开幕。

冲咖啡机器人、取草莓“小绿”机器人、AI+登月......博览会现场，一批大模型、数据、算力、机器人、自动驾驶、智能视觉等领域的新技术、新产品、新应用、新业态、新模式在首展首发首秀，“组团出道”引来打卡热，充分展现科技与生活的深度融合。

在腾讯展台，新潮的AI照相机圈粉无数，人们只要现场拍一张正脸照，选择相应模板，5秒内就得到一张纸质照片。AI照相机基于腾讯优图实验室自研图生图算法，可将参观者拍摄的照片转化成动漫、3D、黏土、赛博朋克、手绘等15种风格，并针对人像效果重点适配优化，生成个性化AI画像。

杭州宇树科技有限公司研发的各种人形机器人，能跳舞、能跑动，还能搬重物、实施野外救援......

更有莲偶科技（海宁）有限公司的AR智能眼镜，一镜在手，通过与手机连接，立即开启虚拟世界之旅，下海登山揽月，昔日科幻场景已逐渐变成现实。用当地媒体的话说，“智能向善，宛如乌镇的水，利万物而不争；技术创新，宛如乌镇的桥，跨千年而通未来。”

作为中国互联网发展的深度参与者，小米集团创始人、董事长兼首席执行官雷军经历了中国互联网发展的各个阶段，深刻感受到中国是互联网技术持续变革创新的“沃土”。雷军是“智能向善”的坚定拥趸，“小米在创办之初，我们就希望每个人都能享受科技带来的美好生活。因为我始终相信，智能向实、智能向善，是科技服务社会进步的核心要素。”他认为，智能时代的网络空间治理需要借助世界互联网大会等国际平台，科技企业要发挥引领作用。

过去10余年间，货拉拉创始人兼CEO周胜馥开启“互联网+货运”新业态，乘着中国互联网发展的“东风”，已在全球超过400个城市开展业务。当年他刚创业时，有的领域还需要从国外引进先进的产品和技术，如今，我国在多个领域已具备向国外输出先进产品和技术的能力。

“AI推动生产力变革将创造巨大价值。”阿里巴巴集团CEO吴泳铭在乌镇峰会主论坛上表示，当前AI正在逐步深入千行百业，助力提升产业能力，推动生产力革命。过去30年，互联网的主要价值是链接，未来30年，AI将全面提升整个世界的生产力水平，创造远超互联网链接所产生的价值。

创新，是人类进步的“灵魂”，也必将是驱动AI时代走向安全、普惠的基石。

安全筑底

打造一片晴朗天空

面对“眼见不为实、耳听不为实”的场景，如何通过大模型技术辨别AI造假的音频、证照及视频，用AI对抗AI？

11月20日，世界互联网大会乌镇峰会，国内首个AI大模型攻防赛正式收官。来自全球18个国家和地区的2700多个赛队，包括清华大学、南洋理工大学、约翰斯霍普金斯大学、悉尼大学等290多所高校，以及字节跳动、理想汽车、腾讯等280多个行业企业的3200余名技术精英参与，最终角逐出全球十强。

人工智能技术特别是大模型及AIGC领域飞速发展，给人民生活带来了前所未有的便利与可能性，也带来了规则冲突、社会风险和伦理挑战。

只需10秒，大模型就能克隆声音、复刻照片，甚至能生成“你”的视频，从而引发deepfake欺诈、色情影像伪造、假新闻等社会事件；大模型“越狱”问题频发，诱骗AI听从不怀好意的指令，生成血腥、暴力、歧视、仇恨的图片、视频，危害网络空间安全。

“加强大模型安全保护，构建完善的安全防护体系，是确保人工智能技术持续、稳定、健康发展的关键所在，也是我们在这个充满机遇与挑战的时代必须肩负起的重要使命。”中国工程院院士、中国图像图形学学会理事长王耀南表示。

今年是360集团创始人周鸿祎第11年站在乌镇峰会的演讲台上，过去10年，每次乌镇峰会他都会谈论网络安全。他说，AI的应用场景十分广阔，更要重视安全问题，尤其是要看到大模型的使用是“双刃剑”，“如果没有安全作为保障，智能化的发展无从谈起”。

在安全发展方面，腾讯集团高级副总裁郭凯天认为，“智能向善”在当下意味着AI等智能技术要有“向善”导向，这也是企业努力的方向。面对大模型等前沿技术，要加强科技伦理建设和信息安全防护，努力实现AI“可知”“可控”“可用”“可靠”。

当前，一些AI风险正在冲击着AI安全防线。奇安信集团董事长齐向东指出，在AI时代，网络安全面临着全方位挑战，要以AI驱动安全，利用AI应对安全风险，这也将极大地提升问题处理的效率。他还建议，在发展AI的过程中主动树立安全意识，全世界都应该关心和培育网络安全产业的发展，加强网络安全人才的培养。

卡巴斯基大中华区总经理郑启良说，每一天全世界互联网都面临着超40万个新的攻击，如果全靠人力无法高效及时地完成分析和研判，这就需要人工智能，“到目前为止，99%的威胁攻击都可以通过人工智能解决。”

向善普惠

让AI造福人类造福未来

相对于安全，向善则是对AI更高的要求。

“人工智能是前所未有的革命性技术，会带来一个全新的世界。”在主论坛上，蚂蚁集团董事长兼CEO井贤栋认为，这样的变革将体现在三个方面：AI会从根本上改变所有的行业，重塑产业形态和经济图景；AI会帮助人类拥有“超级能力”，解决过去无法解决的复杂问题；AI会推动机器人技术快速发展，成为人类的助手。

“AI将让服务业迎来真正大规模个性化的时代，希望让AI像扫码支付一样能够便利每个人的生活。”他阐述称，数字化主要解决的是服务的连接和触达问题，智能化在此基础上实现了个性化服务的迭代升级，服务业数字化是智能化的序章。生成式AI基于对自然语言的掌握能更好理解人的意图并生成个性化供给。

如何守护AI的安全，防范AI带来的风险？必须“以善治促善智，推动AI向善而行”，而这需要政府、企业和社会共同参与，协同治理。政府层面治理相关的政策法规以及完善金融体系，推动全球合作，企业要恪守科技伦理，保护数据隐私，促进技术创新，促使企业将伦理规范嵌入到科技研发和产品研发的全生命周期。

“在善治以外还需匹配善技。”新技术带来的问题，往往就需要用新技术、新理念，才能更有效地解决。

网络是一把“双刃剑”，方兴未艾的AI更加锋利。向善的人工智能，让工作生活更美好更方便，只有所有互联网从业者和参与者一起努力，才能最终护航AI一路向善向美，共同推动构建网络空间命运共同体迈向新阶段。

■ 本报记者 张敬波