世界數(shù)字科學院計劃建立AI安全與倫理標準

2024-09-24 17:44:45來源：科技日報

來源標題：世界數(shù)字科學院計劃建立AI安全與倫理標準

9月22日，聯(lián)合國未來峰會行動日邊會線上舉辦。邊會主題是“人工智能時代的數(shù)字身份”，重點探討在AI快速發(fā)展時代，如何創(chuàng)建全球數(shù)字身份框架這一緊迫問題。

世界數(shù)字科學院(WDTA)執(zhí)行理事長、聯(lián)合國科技委主席顧問李雨航概述了全球數(shù)字身份框架的關鍵需求：強調(diào)隱私、安全以及在AI驅(qū)動世界中的無縫集成。他倡導，應確保全球范圍內(nèi)的數(shù)字身份治理具有倫理和包容性。

李雨航在會上宣布，世界數(shù)字科學院啟動“人工智能安全、可信和負責任”(AISTR)認證計劃。該計劃將通過建立嚴格的國際標準，確保AI系統(tǒng)從設計、開發(fā)到實際應用各個階段都遵循最高的安全與倫理標準。

據(jù)悉，WDTA已發(fā)布3項AISTR標準，包括“生成式人工智能應用安全測試標準”“大語言模型安全測試方法”和“大模型供應鏈安全要求”。

WDTA副理事長徐亭宣布，即日起WDTA中文名稱為“世界數(shù)字科學院”，同時保留“世界數(shù)字技術院”作為別稱，以更加強調(diào)科學與技術、工程、項目的深度融合與創(chuàng)新發(fā)展。

聯(lián)合國秘書長安東尼奧·古特雷斯表示，聯(lián)合國2.0將把數(shù)字化作為重點，突出了全球數(shù)字解決方案在AI重塑未來時的必要性。

聯(lián)合國大會主席菲勒蒙·楊強調(diào)國際合作在應對持續(xù)技術革命中的必要性。聯(lián)合國系統(tǒng)駐華協(xié)調(diào)員常啟德則呼吁國際社會加強合作，構(gòu)建安全、包容的數(shù)字身份體系，推動技術負責任應用，并保障人權(quán)與隱私。

中國工程院院士、WDTA院士陳清泉強調(diào)，構(gòu)建全球統(tǒng)一的數(shù)字身份框架有助于推動人工智能標準體系發(fā)展，促進技術與倫理平衡，確?？萍钾撠熑蔚胤沼谌祟悺?/p>

紐約大學教授蓋里·馬庫斯指出當前AI的現(xiàn)有缺陷和潛在風險，強調(diào)需要政策干預、透明度、獨立監(jiān)督以及制定AI全球性標準，確保AI技術負責任使用，避免長期風險。

WDTA創(chuàng)始理事長、匈牙利代表彼得·梅杰指出，此次邊會在塑造全球綜合數(shù)字身份戰(zhàn)略中十分重要，將有助于彌合數(shù)字身份與物理身份之間的差距。

標簽：