Redian新闻
>
专家提示:警惕GPT技术引发工业安全风险

专家提示:警惕GPT技术引发工业安全风险

科技

生成式人工智能技术惊人的发展速度加剧了人们对网络安全的担忧。近来,ChatGPT引发的风波不断。意大利因数据安全问题成为首个宣布禁用ChatGPT的国家。紧接着,德国表示可能会追随意大利的脚步。加拿大也在对OpenAI展开调查。苹果、三星、SK海力士等越来越多的企业也开始禁用ChatGPT。7月6日,在2023工业安全大会上,多位专家表示,要警惕GPT技术在工业领域带来的安全风险。

工业控制网络是事关国计民生的关键信息基础设施。随着工业基础设施逐渐走向数字化、网络化、智能化,工控安全面临前所未有的挑战。中国工程院院士邬江兴表示,以ChatGPT为代表的AI算法模型存在不可解释性、不可判识性和不可推论性,这让AI应用系统内生安全共性问题浮出水面。现阶段,人类科技能力尚不能彻查复杂系统漏洞后门问题,AI应用系统算法模型安全与网络安全问题相互交织且难以分而治之。因此,AI应用系统以及相关数字基础设施极易成为网络攻击的高价值目标,造成社会性灾难。

随着技术的发展,网络攻击手段也在不断演变和更新。机械工业仪器仪表综合技术经济研究所所长欧阳劲松表示,人工智能技术的深度应用会让危险源、威胁变得更加难以辨识,网络物理攻击路径愈发难以预测,功能安全措施与信息安全措施也会越来越难协调。

北京天地和兴科技有限公司副总裁伍泽广也指出,随着新技术的迅猛发展,安全范围越来越广,安全边界逐步“上浮”和“下沉”。以GPT为代表的生成式人工智能技术将大幅降低黑客攻击工控专有协议的技术门槛。OT(运营)环节的漏洞将会持续增加,工业企业数据资产面临的安全风险也会越来越大。

“GPT类大模型技术在各行业的应用生态快速形成,这对工业安全而言是一把‘双刃剑’。”和利时信息安全研究院有限公司战略规划总监李季表示,GPT技术将带来包括隐私保护、资源消耗等问题,也会进一步加剧对抗性攻击、自动化攻击、恶意利用等安全隐患。但同时这项新兴技术也将为网络安全产业带来更多产业机遇。比如,网安大模型的应用,就有助于安全从业者更好地理解和预测网络安全威胁,开发出更加高效的安全工具和方案,提升网络安全的智能化水平。

实际上,任何一项新技术的出现都将带来安全风险,工业安全建设还是应该从基础设施出发。烽台科技(北京)有限公司副总经理、灯塔实验室技术负责人王启蒙指出,工业场景基础设施数字化能力整体偏弱,数字化改造有待改善。CT(通信)与OT(运营)需求对接不足,导致工业应用端到端可靠性难以保障,芯片、模组、终端产品工业特性有待增强。

工业数据价值越高,安全风险往往越大。北京交通大学信息安全系主任、教授王伟指出,工业数据普遍存在访问控制权属关系不清晰,易产生非法盗用、非法篡改等问题,借助Web3.0,工业物联网时代的工业数据可以变成可确权、可支配、可流通的内容,并最终形成可靠、安全、合规的工业数据安全保障平台。

王启蒙建议,复杂环境下,应针对工业网络控制设备、业务服务器、工业主机、网络设备、安全设备产生的标识数、状态数据、事件数据、运维数据、实时数据等,根据内置的工业分级分类知识库对采集的数据进行分级分类,并根据数据等级进行对应安全策略处理。

值得一提的是,网络分析公司Similarweb统计的最新数据显示,2023年前5个月,ChatGPT全球访问量环比增幅分别为131.6%、62.5%、55.8%、12.6%、2.8%,增长幅度明显下降;6月份ChatGPT的访问量环比下滑9.7%,为其推出以来首次。作为这轮生成式人工智能风暴的中心点,ChatGPT的访问量持续下滑引发了人们对于人工智能泡沫的担忧。

据不完全统计,国内10亿级参数规模以上的AI大模型已超80个。多位专家指出,国内通用人工智能产业已出现过热端倪,一旦技术无法有效落地、市场期待无法实现,“泡沫”就可能破裂。

延伸阅读:
智能汽车迎来“ChatGPT时刻”?
ChatGPT为EDA工具带来什么?


作者丨宋婧
编辑丨赵晨
美编丨马利亚
监制丨连晓东

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
留学丨荷兰学校暑期已至 中使馆呼吁留学生防范安全风险【便民】这份燃气相关产品安全风险提示,请查收!【提示】上海反诈中心提示:高度警惕陌生FaceTime来电!国家食品安全风险评估中心发文多伦多的春天今天下午2点30🤩云技术社区创始人·肖力坐镇主讲「办公场景下的企业安全建设指南」AGI大时代,企业安全为什么需要「新进化」?对话清华大学人工智能研究院朱军:火爆的AI大模型,暗藏哪些安全风险?未央播报 | 金融监管总局要求银行保险机构自查 摸清网络和数据安全风险底数附下载!信安标委《网络数据安全风险评估实施指引》发布!危机来了!澳洲净移民增加40万!碳排放量与日俱增!政府或将干预!专家提示:电费上涨已成定局!把防范化解重大安全风险摆在更突出位置!全国安全生产电视电话会议召开,龚正在上海分会场讲话发挥CWPP在零售行业安全关键价值周四直播预告🤩云技术社区创始人·肖力坐镇主讲「办公场景下的企业安全建设指南」NLP还能做什么?多机构联合发布百页论文,系统阐述后ChatGPT技术链代发工资被查!2023年,这样发工资的要小心了3人死亡!奥克兰市中心突发枪击案,现场响起枪声!已致10人受伤,华人小心!新西兰总理:“无国家安全风险!”鲲云科技创始人兼CEO牛昕宇:可重构数据流技术引领AI芯片架构变革| 2023全球AI芯片峰会演讲预告暑假回国请注意!Sammamish和Issaquah警方特别提示:警惕针对华人住宅盗窃男明星剧中睡姿引来吐槽一片,专家提示这两种睡姿最好青杏儿 五四晨光明《在那遙遠的地方》《魅羽活佛》第323章 如胶似漆大型语言模型技术公开课上线4讲!直播讲解ChatGPT开源平替、类GPT4低成本定制以及GPT4Tools特斯拉逾百万辆召回边界模糊化,不用到店仅靠远程技术引争议专家提示:这样东西,超过5年最好别用了!你身边就有我国多地出现猴痘病例,专家提示大众感染可能性极低洛杉矶领馆:再次提醒中国公民提高安全风险意识文末送书 | 4个维度讲透ChatGPT技术原理,揭开ChatGPT神秘技术黑盒!先正达IPO的第一个真相:农业安全暗战水调歌头 五月暮晚资深IT技术专家陈皓突发心梗离世,年仅47岁;笑果文化已被立案调查;专家建议五年内禁售燃油车丨邦早报注意!行李标签错误有重大安全风险!NLP还能做什么?北航、ETH、港科大、中科院等多机构联合发布百页论文,系统阐述后ChatGPT技术链简析SEC网络安全风险披露新规
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。