化工儀器網手機版
移動端訪問更便捷
全球首個AI智能體安全測試標準發布
2025年07月15日 14:40:24
來源：化工儀器網 點擊量：283
AI STR系列新標準《AI智能體運行安全測試標準》正式發布，目前，部分標準的測評與認證已在金融、醫療等領域落地應用。
日前，世界數字科學院(WDTA)在聯合國日內瓦總部正式發布AI STR系列新標準《AI智能體運行安全測試標準》。該標準由螞蟻集團、清華大學、中國電信牽頭，聯合普華永道、新加坡南洋理工大學、美國圣路易斯華盛頓大學等二十余家國內外機構、企業及高校共同編制，為全球首個單智能體運行安全測試標準。
在科技飛速發展的時代背景下，人工智能(AI)已成為推動社會進步的重要力量。然而，隨著AI技術的廣泛應用，其安全性問題也日益凸顯，成為全球關注的焦點。
最新調研顯示，超過70%的智能體從業者擔憂AI幻覺與錯誤決策、數據泄露等問題，因為AI生成的內容往往包含事實錯誤，或者對指令產生誤解，其中超半數受訪者表示，所在企業尚未設立明確的智能體安全負責人。
據了解，該標準針對智能體跨越“語言墻”所帶來的“行為”風險，首次將輸入輸出、大模型、RAG(檢索增強生成)、記憶和工具五個關鍵鏈路與運行環境對應起來，構建了全鏈路風險分析框架。同時細分了智能體風險類型，完善并創新提出了模型檢測、網絡通信分析和工具模糊測試等測試方法，彌補了智能體安全測試技術標準的空白。
值得注意的是，與其他國際標準不同，AI STR(人工智能安全、可信和負責任)不僅關注風險識別和風險分級，更提供全流程管理方案，即從數據治理到模型落地，配套具體測試工具和認證流程，助力企業提升AI應用的安全性與可信度。
AI STR系列新標準《AI智能體運行安全測試標準》的發布，為AI技術的安全應用提供了有力保障，將對AI行業的高質量發展產生深遠的影響。未來在這一標準的指引下，AI技術能夠更加穩健地發展，為各行各業創造更多可能。目前，部分標準的測評與認證已在金融、醫療等領域落地應用。
素材來源：科技日報
相關閱讀 Related Reading
查看更多+-
2025年7月10日，第十五屆中國生命科學公共平臺管理與技術發展研討會“分論壇八：實驗動物技術”在西安隆重舉行。2025-07-15 16:41:39
-
央行發布2025年上半年金融統計數據報告。2025-07-15 14:47:06
-
疫苗等生物制品批簽發檢驗檢測能力建設項目儀器設備的預算為6280萬元，項目編號為ZKQ2025-010201281ZF(H)。2025-07-15 14:30:39
-
2025年上半年海能技術“有機元素分析、樣品前處理、色譜光譜、通用儀器”四大系列產品收入均實現增長，預計公司半年度實現營業收入約1...2025-07-15 13:27:09
-
日前，湖南省科學技術廳經申報推薦、評審論證、會議審定、項目公示等程序，確定2025年度湖南省科普項目（第一批）共立項286項。2025-07-15 10:37:39
版權與免責聲明
- ①凡本網注明“來源：化工儀器網”的所有作品，均為浙江興旺寶明通網絡有限公司-化工儀器網合法擁有版權或有權使用的作品，未經本網授權不得轉載、摘編或利用其他方式使用上述作品。已經本網授權使用作品的，應在授權范圍內使用，并注明“來源：化工儀器網”。違反上述聲明者，本網將追究其相關法律責任。
- ②本網轉載并注明自其他來源（非化工儀器網）的作品，目的在于傳遞更多信息，并不代表本網贊同其觀點和對其真實性負責，不承擔此類作品侵權行為的直接責任及連帶責任。其他媒體、網站或個人從本網轉載時，必須保留本網注明的作品第一來源，并自負版權等法律責任。
- ③如涉及作品內容、版權等問題，請在作品發表之日起一周內與本網聯系，否則視為放棄相關權利。
