近日,由國家科技部主導的“科技創(chuàng)新2030重大項目—安全大腦國家新一代人工智能開放創(chuàng)新平臺”正式進入實施評審階段,該項目由360牽頭,聯(lián)合清華大學、瑞萊智慧RealAI、中科院自動化所、中科院信工所共同協(xié)作完成。其中“面向人工智能算法的安全對抗攻防”的課題任務將由清華大學與瑞萊智慧RealAI共同承擔研發(fā)。
人工智能安全是廣泛智能應用的基礎。在推動新一輪科技革命的同時,人工智能自身存在的嚴重安全問題引入了全新的安全威脅,尤其是涉及國防、經(jīng)濟、民生的人工智能設施系統(tǒng),一旦遭受攻擊,可能威脅到國防安全、企業(yè)安全、公民財產和生命安全。
科技創(chuàng)新2030重大項目是體現(xiàn)國家戰(zhàn)略意圖的重大工程,人工智能算法模型安全研究作為提升人工智能自身安全的重要課題參與其中,體現(xiàn)了國家新一代人工智能發(fā)展規(guī)劃對人工智能安全治理的重要布局。
由RealAI負責的“面向人工智能算法的安全對抗攻防”課題項目主要針對深度學習對抗攻防中存在的問題,深度學習的對抗攻擊、魯棒防御和算法庫等方面進行研究,為人工智能模型的安全性和可信賴應用提供理論基礎和技術儲備。
本課題的開展將本著開源開放的原則,技術層面圍繞人工智能算法對抗安全,強調功能性和安全性的有機結合,在基礎理論和基本算法等共性技術面向新一代人工智能“OpenI”的建設進行開源,服務國家新一代人工智能開源開放平臺的建設,為我國和全球人工智能行業(yè)發(fā)展保駕護航,也為人工智能長久穩(wěn)健發(fā)展提供重要積累。
RealAI之所以能參與本次重大項目,與其雄厚的技術實力密不可分。作為清華大學的人工智能研究院的核心孵化企業(yè),RealAI是國內率先對深度學習的對抗攻擊與防御進行深入研究的課題組之一,在人工智能的對抗安全領域具有深厚的積累,在ICML、NIPS、CVPR、AAAI 等頂級會議期刊發(fā)表論文數(shù)十余篇,提出多種代表性的深度學習對抗攻防算法,被主流開源軟件收錄為標準方法,榮獲英偉達先鋒研究獎。在 2017NIPS對抗攻防競賽、2018 DEFCON CAAD CTF對抗攻防賽等多項國際競賽中,RealAI戰(zhàn)勝多支頂尖參賽隊伍斬獲冠軍,在2019 國際安全極客安全大賽GeekPwn上更是一舉獲得“CAAD CTF圖像對抗樣本挑戰(zhàn)賽”及 “CAAD隱身挑戰(zhàn)賽”兩項冠軍。
對于項目的未來規(guī)劃,RealAI表示將持續(xù)強化對抗攻防關鍵技術的研發(fā),同時構建對抗攻防算法系統(tǒng)平臺和對抗安全基準,打造行業(yè)應用示范,助力建設國家級AI安全防護體系,為科技創(chuàng)新2030的實現(xiàn)貢獻力量。
申請創(chuàng)業(yè)報道，分享創(chuàng)業(yè)好點子。點擊此處，共同探討創(chuàng)業(yè)新機遇！
雖然我國汽車芯片行業(yè)還處在發(fā)展初期，但已經(jīng)迸發(fā)出無限潛力。一方面，智能汽車的發(fā)展不斷帶動需求增長；另一方面，政策引導下，汽車芯片企業(yè)持續(xù)搶占高地。對此，在7月5日-7日舉辦的2023年中國汽車論壇上，中國汽車工業(yè)協(xié)會副秘書長李邵華就做出表示，“中國將成為未來汽車芯片發(fā)展的集聚地”。車規(guī)芯片行業(yè)近日的
2023世界人工智能大會將于7月6日至8日在上海舉辦。云天勵飛將在大會上展示自主設計開發(fā)的新一代邊緣計算芯片DeepEdge10系列SoC芯片,并公布“天書”大模型的最新動態(tài)。歡迎蒞臨上海世博展覽館H1-C801展臺參觀交流!同時,云天勵飛也將與中國電子、中國信通院、華為等合作伙伴,在WAIC的舞臺
近日，俄語地區(qū)礦業(yè)權威媒體網(wǎng)站"vnedra.ru"發(fā)表了一篇關于X射線礦石智能分選設備效果對比的研究報告。報告發(fā)表人是NorthernKatparLLP礦山總工程師KulmukhamedovG.K.先生以及首席執(zhí)行官LigaiA.B.先生。NorthernKatparLLP礦山隸屬于哈薩克斯坦Ta
近日,酷學院智能產品發(fā)布會在深圳閃亮登場。近200位現(xiàn)場觀眾和近萬人次在線觀看,共同見證了這一激動人心的時刻。發(fā)布會上,酷學院引領大家探索企業(yè)培訓學習和人才發(fā)展領域的新高度,并揭幕其全新的產品智能升級和突破?？釋W院產品負責人徐晨通過形象生動、邏輯嚴謹?shù)闹v述,揭曉了全新的智能企業(yè)培訓和人才發(fā)展平臺,以
一場人工智能領域的革新風暴正從華為開發(fā)者大會現(xiàn)場席卷全球產業(yè)界。2025年6月20日，在東莞舉行的華為開發(fā)者大會HDC2025上，華為常務董事、華為云計算CEO張平安揭開了盤古大模型5.5的神秘面紗。這一全新版本在自然語言處理、計算機視覺、多模態(tài)、預測和科學計算五大基礎模型上實現(xiàn)全面突破，標志著中國
一行代碼未寫，企業(yè)已獲完整客服系統(tǒng)——這將是AI代理普及的新起點。“今天標志著AI代理技術從實驗室走向產業(yè)的轉折點。”O(jiān)penAI產品負責人OlivierGodement在項目發(fā)布聲明中如此評價。就在今日，這家AI巨頭通過HuggingFace平臺開源了一套完整的客戶服務代理框架，采用寬松的MIT許
6月17日，阿里巴巴旗下智能信息平臺夸克App正式推出全新學習產品“夸克老師”——一款集講題、批作業(yè)、出題、找試卷于一體的AI家教。該功能依托通義千問大模型，通過指令微調、強化學習等前沿技術，首次實現(xiàn)“因材施教”的個性化輔導，標志著AI在教育領域的應用邁入新階段。技術突破：AI模擬真人教學，推理能力
2025年6月17日，字節(jié)跳動旗下智能助手豆包正式在電腦版及網(wǎng)頁端全量上線“AI播客”功能，用戶只需上傳PDF文檔或網(wǎng)頁鏈接，即可一鍵生成由兩位AI主播演繹的對話式播客節(jié)目。這一創(chuàng)新功能憑借高度擬人化的語音效果和秒級轉化效率，迅速引發(fā)內容創(chuàng)作者、學生群體及職場人士的關注。技術突破：真人級語音交互，秒
我不是危言聳聽，現(xiàn)在全球的AI巨頭都在做MCP，毫不夸張的說：誰能把MCP做起來，誰就擁有AI生態(tài)控制權，誰就是AI圈的老大。你們有沒有發(fā)現(xiàn)，MCP在2025年初開始特別火爆，互聯(lián)網(wǎng)技術大廠都在強推MCP。(1)阿里云百煉搞了個MCP平臺，提供50+預置MCP服務。不過大都只面向阿里系產品。(2)騰
2025國際人工智能程序設計精英挑戰(zhàn)賽（IAEPC）在香港中文大學成功舉辦。作為主辦方之一，歐美同學基金會理事長李軍接受了大賽主持人艾誠采訪。在采訪中，李軍認為IAEPC不僅是一場“冠軍中的冠軍”對決，更是一次全球AI人才的線下交流盛會。大賽“史無前例”的吸引了全球青年科技精英匯聚香港，更加推動和普
2025國際人工智能程序設計精英挑戰(zhàn)賽（IAEPC）在香港中文大學成功舉辦。作為大賽發(fā)起人方之一及裁判委員會負責人，施韓原與杜瑜皓接受了大賽主持人艾誠采訪。裁判委員會主席施韓原分享了此次大賽的亮點，IAEPC首次引入創(chuàng)新賽道，探索選手如何與AI合作進行答題。裁判委員會副主席杜瑜皓認為，選手最終目標并
2025國際人工智能程序設計精英挑戰(zhàn)賽（IAEPC）在香港中文大學成功舉辦。來自深圳的學生吳林林作為主辦方記者團成員，采訪了大賽冠軍選手之一。在吳林林的采訪中，選手認為與來自全球的參賽者交流是自己學到的最重要的一課。在科技與AI之前，選手們可以平等、開放、友好的交流。以下是采訪實錄（有刪節(jié)）：吳林林
2025國際人工智能程序設計精英挑戰(zhàn)賽(IAEPC)在香港中文大學成功舉辦。來自深圳的學生吳林林作為主辦方記者團成員,采訪了大會嘉賓:全國政協(xié)委員、香港特別行政區(qū)立法會議員、香港中文大學工程學院副院長、IAEPC聯(lián)合發(fā)起人黃錦輝先生。在吳林林的采訪中,黃錦輝教授勉勵年輕人要像懂中文和英語一樣懂AI,
