《AI智能体的崛起》作者佩塔尔·拉达尼列夫:AI治理刻不容缓,安全应贯穿开发全流程

音符科技网

  炒股就看,权威,专业,及时,全面,助您挖掘潜力主题机会!

  2025可持续全球领导者大会于10月16日-18日在上海市黄浦区世博园区召开。

  《AI智能体的崛起》作者,牛津大学计算机科学系专业硕士课程导师,艾伦·图灵研究所研究员佩塔尔·拉达尼列夫(PetarRadanliev)出席2025可持续全球领导者大会并主旨演讲。

  “AI发展如双刃剑,一边推动新药研发、经济进步,一边暗藏安全漏洞与治理难题,而解决问题的核心,在于从开发之初就筑牢安全防线。”佩塔尔・拉丹利耶夫直面AI发展的核心矛盾,为全球AI治理提供了关键思路。

  佩塔尔・拉丹利耶夫指出,AI已深度融入社会各领域。2018年GPT模型问世后,线上数据库中可复用的AI模型已超1600个,它们在新药研发中助力攻克癌症、在自动驾驶中突破技术瓶颈,甚至能呈现比顶尖学府教师更优质的知识内容。但技术进步的背后,风险也在滋生——16岁年轻人利用暗网中的“诈骗GPT”实施犯罪,生成式AI的“幻觉”可能引发系统性崩溃,这些问题都凸显了AI治理的紧迫性。

  他进一步分析,当前不少企业存在“重开发、轻安全”的倾向,认为执行安全标准会拖累发展进度。但实际上,缺乏安全保障的AI会丧失用户信任,最终导致业务受损。以“睡眠智能体”为例,这种可能被植入系统的恶意程序,可潜伏数年甚至十几年,在GPS、医院等关键场景中引发风险,且因难以被AI自身检测,成为当前最棘手的威胁之一。

  佩塔尔・拉丹利耶夫强调,AI安全不能“事后补救”,而应“事前规划”。无论是即将到来的量子AI,还是下一代AI操作系统,都需从设计阶段就融入安全逻辑,建立类似“公路栅栏”的防护机制,同时通过“AI物料清单”明确数据来源与构成,以透明度消除隐患。只有让安全成为AI发展的底色,才能避免技术滥用,释放其真正价值。

  2025可持续全球领导者大会由世界绿色设计组织(WGDO)与新浪集团联合主办,国际财务报告准则基金会(IFRSFoundation)北京办公室协办,新浪财经与世界绿色设计组织北京代表处承办,上海市黄浦区人民 *** 支持。大会以“携手应对挑战:全球行动、创新与可持续增长”为核心主题,汇聚全球智慧力量,共探可持续发展新路径,为全球可持续治理注入澎湃的“中国动能”。

  本届可持续大会在以往四届“ESG全球领导者大会”的基础上进一步升级!嘉宾阵容强大,可持续大会组委会邀请约500位中外重磅嘉宾,其中约100位为海外嘉宾,不仅有政要、前政要、国际组织的代表,还包括了诺贝尔奖得主、图灵奖得主、全球500强企业负责人等国际顶尖学者与业界领军代表。本届大会将围绕近50个议题展开深入研讨,议题涵盖能源与“双碳”、绿色金融、可持续消费、科技与公益等细分领域。

新浪声明:此消息系转载自新浪合作媒体,新浪网登载此文出于传递更多信息之目的,并不意味着赞同其观点或证实其描述。文章内容仅供参考,不构成投资建议。投资者据此操作,风险自担。

文章版权声明:除非注明,否则均为音符科技网 wap.luzhiwang.com原创文章,转载或复制请以超链接形式并注明出处。

相关阅读

  • 泪目!“吴石”于和伟向吴石献花
  • “可怜”的泽连斯基,又被特朗普“戏弄”了
  • 中国书坛中青年“百强榜”折射当下书法创作趋向
  • 第八届国际跨媒体艺术节:“带电的孩子”是一种日常
  • 我国生成式人工智能用户规模超5亿
  • AI早报 | 李飞飞团队发布世界模型最新成果;甲骨文称AI云毛利率可达35%,已签下650亿美元订单
  • 汉江发生2025年第7号洪水
  • 广西东兴产投集团总经理被指婚内出轨,官方通报:免职并立案查处
  • 《国际歌》1922年中文译本《歌〈英建利乃济奥乃儿〉》考
  • 天一阁里的弘一法师书法鉴赏雅集
  • 风靡全网的电子茅台,年轻人只租不买?
  • 一双围剿乡村老年人的智能鞋
  • 第一集|《余生有涯》:就算原生家庭烂,也别劝我投降
  • 八个月内第三次访问白宫,泽连斯基与特朗普会晤!双方还讨论了“战斧”导弹等问题
  • 古特雷斯驳斥胡塞武装指控:严重威胁联合国人员安全
  • 现代主义文学:七个意义上的作者之死
  • 旧宫新语|陈辉:清代圆明园中的收藏与陈设
  • 知名品牌创始人坠崖身亡,“80后”儿子成头号嫌疑人,事发时父子俩正一起爬山
  • 多名男女在草原抛撒纸片被质疑破坏草原环境,附近有风力发电装置,当地回应
  • 隐而不显的“中国”
  • 薄到透明!义乌东河肉饼征服外国胃
  • 杨国荣︱道德的实践取向
  • 交通运输部安委会召开会议复盘总结国庆中秋假期重大危险源提级管控工作,对部分管理部门主要负责同志进行集中约谈
  • 科技早报 | 魏思琪接替王腾任小米中国区市场部总经理;英伟达中国市场份额降到0%
  • 汽车早报|新问界M7交付突破1万台 智界回应“换用宁德时代电芯”
  • 巨震超4%!国际金价冲击4400美元未果
  • 专家:泽连斯基和特朗普步调并不一致
  • 大同经济建设投资集团:公司账户被司法冻结致票据逾期千万,已安排向国企拆借等方式筹资
  • 联合国副秘书长进入加沙,呼吁开放所有口岸
  • 体坛联播|大巴黎爆冷战平斯特拉斯堡,朱琳无缘宁波站四强
  • 冰岛总统哈德拉·托马斯多蒂尔在2025可持续全球领导者大会开幕式上的致辞(中文译文)
  • 解放军报社论:坚定不移把军队反腐败斗争进行到底
  • “撞死3人,他在边上玩手机!”一家三口被撞案新细节披露
  • 可怜的泽连斯基,又被特朗普戏弄了
  • 海昌海洋公园:祥源系23亿港元注资控股完成,祥源控股董事长俞发祥成新任董事会主席
  • 002241,终止百亿港元收购!
  • 热搜上的山姆骑手,拉下了会员制的遮羞布
  • 储户质疑办张银行卡被“多重审核”,反诈与客户便利该如何平衡?
  • 波兰法院决定立即释放“北溪”管道爆炸事件嫌疑人
  • 三亚一女子酒后倒车撞劳斯莱斯,扬言“我是国企的,让市委市政府通报我”,交警酒精检测时女子比剪刀手
  • 目录[+]

    取消
    微信二维码
    微信二维码
    支付宝二维码