易造欢迎您 咨询电话:021-63900077 关于我们
供应商注册 登录
个人中心 账户设置 退出登录

易造机器人

  • 首页
  • 方案
  • 一站式
  • 商城
  • 品牌
  • 资讯
  • 金融
最近搜索
易造机器人网 > 行业新闻 >AI安全成为关键词,这里有些值得关注的专家观点

AI安全成为关键词,这里有些值得关注的专家观点

时间:2023-05-12 14:40:12 来源: 中国机器人网

       安全是数字化时代的重要议题。随着更多新技术、新场景的出现,安全的演进也一直在持续。

 

  按细分领域划分,早前围绕安全的主要话题在网络层面。但近年随着数据量提升、数据泄露变得常见,数据安全产品、服务随之成为产业热点。而如今,伴随生成式AI、大模型的出现,AI安全紧跟成为最被关注的议题。


 

微信图片_20221017092625

 

  在日前举办的2023西湖论剑·数字安全大会上,36氪观察到,不少行业专家在谈论数据安全的同时,同样热议AI安全。

 

  安恒信息董事长范渊在2023西湖论剑·数字安全大会上表示,实战化是安恒的基因之一。在过去的护网、重大活动安保过程中,安恒通过总结自己的经验,沉淀出实战化模型。"我们这两年发现,AI+安全大脑在网络战形势下的价值越来越高。"范渊表示。

 

  而针对最新出现的、生成式AI的安全,范渊总结,当前出现了几个新挑战和机遇:首先,AI和大模型本身会存在不少安全风险;另外,ChatGPT这类应用会给自动化生成网络安全工具和病毒木马后门带来几百倍的效率提升;同时,AI+安全的智能化应用,也会为智能防护和响应带来更大的机遇和成果。针对这些变化,范渊表示,安恒现在正在用相关海量数据和多个场景模型,在AI安全这个中模型上,覆盖产品、平台和服务3个维度,形成安全大脑。

 

  "AI+安全,这个大幕刚刚拉开,未来还有更大的可能性。"范渊总结。

 

  在会议中,中科院信息工程研究所副所长、大数据安全研究室主任王伟平教授同样介绍了生成式人工智能数据安全风险分析和对策。王伟平总结,生成式人工智会带来数据安全、内容安全、意识形态安全等方面的问题。

 

  他认为,目前的生成式人工智能还是一个黑盒,人们无法很好地保障可解释性。这种情况下,首先社会应该加强对个人安全风险意识的宣贯,尽量避免个人信息透露给AIGC;第二,要对社交媒体上虚假信息内容进行辨别,从源头上避免给AIGC灌输一些负面、虚假的输入;同时也要加强涉密人员、涉密领域、涉密场所和涉密设备的监管,防止和ChatGPT类似系统产生关联。

 

  另外他还强调,应同时促进AIGC技术和安全防护技术的创新,因为在这个领域,"不发展就是最大的不安全"。他举例,现在大家可以从输入和输出方面来抑制模型生成负面信息,并对人工智能智能生成的内容进行标记、鉴别、检测和溯源。

 

  在垂直场景方面,浙江工业大学网络空间安全研究院副教授徐东伟,分享了自己对自动驾驶领域安全的观察。

 

  他介绍,自己的团队在研究过程发现,自动驾驶所涉及的图片、视频或者语音智能感知算法存在一定脆弱性。"在输入过程中添加非常微小的、人耳听不到的噪声,就会对智能算法产生一个非常极端的影响。"他表示,这可能会导致车辆误判指令,从而对安全性产生影响。

 

  而在数据层面,徐东伟表示,在智能网联场景下的车辆轨迹预测或者车辆控制中,如果缺失或者数据不含噪声,也会对控制算法、轨迹预测算法产生非常大的影响,也就是"鲁棒性会很差"。

 

  同时,如果基于联邦学习或者区块链构建数据安全共享机制,虽然数据共享会比较安全,但如果数据本身不准确,模型也会受到攻击,同样对最终产生的决策产生攻击。

 

  针对这些问题,徐东伟表示,未来他的团队会关注三个方面:第一是如何基于AI设计车联网的有效应用。第二是在车联网应用过程中,如何从数据安全和模型安全两方面保证车联网应用的安全。第三是在测试的前提下,如何进一步研究车联网应用过程中的鲁棒增强和有效的安全防护。

 

  总结来看,AI安全虽是新鲜事物,但从技术逻辑拆解,与会专家大多认为AI安全和数据安全存在一些相通之处。针对数据安全,范渊表示,安恒早前就一直强调应用安全、数据安全,未来在数据安全方面也会持续投入。

 

  “公司今年一季度收入同比增长44%,是很健康的。而在三年前,我们就募资投入到数据安全治理、数据安全防护、数据安全应用、数据要素的研究中。所以过去这两年可能也会感觉到好像利润会受到影响,但是我觉得未来的十年是非常重要的。”范渊在采访中表示。


声明:凡资讯来源注明为其他媒体来源的信息,均为转载自其他媒体,并不代表本网站赞同其观点,也不代表本网站对其真实性负责。您若对该文章内容有任何疑问或质疑,请立即与易造机器人网(www.ez-robot.cn)联系,本网站将迅速给您回应并做处理。

电话:021-63900077


更多推荐内容

  • 热钱涌入AI这个赛道,让机器人长脑子,有公司一年融资6轮
  • 务实创新引领科技潮流 戴尔科技对2024年技术趋势做出预测
  • “AI西湖”人工智能产业发展高峰论坛在杭州举行
  • 微软 AI 双肩包专利获批:购物时可自动比价、滑雪时可确认是否越界
  • 合规合法发展使用生成式人工智能,AI正在成为人类生产生活一大助力
  • 中信建投:未来人工智能将成为游戏不可或缺的部分

标签

  • AI
  • 信息安全

热门资讯

  • 精业锐志,极致创新!ITES深圳工业展助力制造业开年起步即冲刺!

    在全球制造业新旧动能加速迭代与融合的趋势下,今年1月全球制造业延续了去年

  • 精业锐志,极致创新!ITES深圳工业展助力制造业开年起步即冲刺!
  • 比亚迪/广汽丰田/富士康/大疆确认参观,ITES品牌终端买家名单发布!
  • 迈瑞/开立/格力/美的...确认参观,ITES品牌终端买家名单|第二批
  • 中国首发,新品炸场!来ITES见证一场无声的科技跃迁
  • 2025 ITES深圳工业展 展商名录公布!顶尖工业品牌与你鹏城相见

专家专栏

  • 何宝宏 : 何宝宏:人工智能开始从学习走向创造

    目前人工智能(AI)开始从学习走向创造,数字化转型的终点是数字原生,未来

  • 聂鹏举 : 全国人大代表聂鹏举:建议扶持工业机器人核心零部件产业
  • 孙丕恕 : 全国人大代表孙丕恕:算力、数据、算法是中国“新基建”的基础支撑
  • 谭建荣 : 「人物特写」工程院院士谭建荣:马云不是制造业的杀手,工业机器人也不是救命良药
  • 李开复 : 李开复:机器人应以实用为主,人形机器人难以盛行于世
  • 孙建波 : 银河证券孙建波:工业机器人是企业未来发展布局的重中之重

企业介绍

  • 纬探传感技术(上海)有限公司

    纬探传感是一家致力于工业自动化,提供传感器及元器件产品、技术服务和成套控

  • 丹因碧克机器人科技(上海)有限公司

    丹因碧克是一家专注于机器人力控应用解决方案的公司,由日本WACOH-TE

  • 浩科机器人(苏州)有限公司

    浩科机器人(苏州)有限公司是一家专注于机器人本体研发及应用的高科技企业。

  • 关于我们

    • 首页 商城
    • 品牌 方案
    • 资讯 一站式
    • 金融 我们
  • 服务支持

    • 服务条款
    • 隐私权政策
  • 联系我们

    • info@ez-robot.cn
    • 021-63900077
    • 周一到周五 09:00-18:00
  • 合作伙伴

    • 硬蛋网
    • 科通芯城
    • 科姆特
    • 工业自动化展会
    • 郑州工博会
    • 山东国际会展中心
  • 关注我们

    • 微信号:易造机器人网
公司地址:上海市黄浦区打浦路15号中港汇•黄浦2701-2702室
Copyright©. All Rights Reserved. 粤ICP备19093622号-1