信息搜索
相关信息              更多

网站首页→新闻中心→行业资讯→国内资讯
人工智能潮涌,应兼顾创新与安全
[时间:2023-11-10 10:20:11] [点击:140] [分类:国内资讯]

    以大模型为代表的人工智能技术快速进步,引领科技革命和产业变革浪潮。而安全与发展犹如鸟之两翼,缺一不可,确保网络安全成为全球的一项共同责任,如何兼顾技术创新和安全发展成为重要话题。

    11月9日,2023年世界互联网大会乌镇峰会前沿数字技术创新与安全论坛举行,与会嘉宾就前沿数字技术发展和应用探索,共议安全风险应对与技术赋能前景。

大模型发展推动了人类数字化进程加速,业内对其风险的关注度也在提升。

    中关村实验室主任助理、首席科学家卿昱通过对2019年到2023年顶级会议论文的热词分析,揭示了这种变化:这5年来,研究者从对隐私计算、恶意软件、数字取证、异常检测技术的关注,扩展到了人工智能、深度学习和隐私保护相关技术。她表示,各种新技术的出现同时也带来了新的安全威胁。

    伦理风险、算法风险、数据风险、技术滥用,在清华大学人工智能研究院副院长、计算机系教授朱军看来,生成式人工智能的新型安全风险正在显现,这些新型风险还可能与传统网络风险形成叠加效应。

    在论坛上,嘉宾们分享了诸多有效治理工具,以解决安全问题、规范技术发展。

奇安信集团总裁吴云坤介绍,为应对网络安全攻防难题,奇安信基于安全能力、知识和实践打造了工业级安全大模型,将其应用于网络安全攻防场景,增强安全能力,可以提升生产力和生产效率。朱军演示了人工智能安全评测平台、人脸人工智能安全防火墙、数据安全产品及人工智能内容检测平台等针对性解决人工智能发展问题的工具。

    互联网始终担当连接世界的桥梁,兼顾创新与安全的同时,让数字技术为每个人带来机遇、赋能行业,打造智能互联新世界,成为与会嘉宾的共识。

在论坛上,记者看到国内外企业展示技术普惠与技术赋能的成果。

    高通公司全球高级副总裁钱堃表示,5G和AI的协同发展,渗透到大众生活中的智能手机、移动PC和联网汽车等终端,在智慧城市、医疗系统、资源优化等领域也发挥着越来越重要的作用,助力数字世界的可持续发展。

    文心大模型4.0全面开放两个多月,用户达到7000万,场景达4300个,联合研制10余个行业大模型。百度首席技术官王海峰表示,大语言模型的产业落地,正助力产业智能化升级。阿里云“通义千问”大模型已经向全社会开放,并且启动了“千问伙伴”计划,阿里云智能集团首席风险官兼首席财务官郑俊芳表示将与行业伙伴共同创新生态。沟通、普惠、提效,腾讯集团副总裁蒋杰用3个关键词介绍了已经落地应用的AI工业质检、大模型辅助设计、服务听障群体、支持生态保育诸多项目。

    网络空间已成为人类发展的新疆域,也是网络安全前沿技术发展和运用的“秀场”。人工智能潮涌,围绕网络空间安全新形势和需求,推动安全发展,走向负责任的人工智能新时代,赋能行业普惠美好生活——这正是论坛展现的前景。