如何應對大模型的安全問題，中國科學院院士何積豐：人工智能是“孫悟空”，對齊技術就是“緊箍咒”
2023-09-07 17:11:50 來源：東方網·縱相新聞
(資料圖片僅供參考)
模型的通用能力讓其能夠應用到人類生產生活的各個場景中，可謂“無孔不入”。AI的發展因此帶來了新的安全隱私問題，如何解決這一隱患，在今天開幕的2023 INCLUSION·外灘大會上，中國科學院院士何積豐開出了他的“藥方”：利用對齊技術為大模型戴上緊箍咒。“為了應對這些問題，我們需要大模型對齊技術。”何積豐說，“對齊（alignment）”是指系統的目標和人類價值觀一致，使其符合設計者的利益和預期，不會產生意外的有害后果。“如果把人工智能看作西游記里的孫悟空，‘對齊’就是唐僧的緊箍咒。有了緊箍咒，就可以保證技術不會任意使用能力胡作非為。”（東方網·縱相視頻 程琦 丁一涵）
關鍵詞：
相關閱讀
-
如何應對大模型的安全問題，中國科學院...
模型的通用能力讓其能夠應用到人類生產生活的各個場景中，可謂“無... -
我國建立農作物種子認證制度 為好種子...
人民網北京9月7日電（記者李棟）近日，市場監管總局聯合農業農村部印發 -
浙江：一杯咖啡折射鄉村能級躍升新思路
“走，去村里喝杯咖啡！”——于自然野趣中品味咖啡芳香，在“詩和... -
政策密集出臺后多地樓市一線見聞
從明確首套房“認房不認貸”標準，到延續實施居民換房個稅優惠政策... -
江西豐城：荒山變花海，催生“美麗經濟”
眼下，走進江西省豐城市“中國愛情花卉小鎮”，隨處可見花枝搖曳，... -
黑龍江在經濟新藍海中再起航
【高質量發展調研行】 ◎本報記者張佳星劉莉李麗云孫明源 蒼原莽 -
撬動數字化轉型潛能 新紫光集團加速布...
人民網北京9月7日電（記者栗翹楚）9月5日至7日，由印尼輪值主辦的“第4 -
國際清潔空氣藍天日 | 數讀我國大氣污...
空氣，包圍著地球，滋養著生命。2023年9月7日是第四個國際清潔空氣藍天 -
中國第13次北冰洋科學考察隊抵達北極點
人民網北京9月7日電（王紹紹）據自然資源部消息，北京時間2023年9月5日 -
工信部：面向5G通信、元宇宙等領域需求...
人民網成都9月7日電（記者申佳平）“新型顯示產品是信息社會的主要... -
海關總署：前8個月民營企業進出口14.33...
人民網北京9月7日電（記者王震）海關總署今日發布數據顯示，前8個月， -
國有大型商業銀行公布存量首套個人住房...
人民網北京9月7日電（黃盛）工商銀行、農業銀行、中國銀行、建設銀行在 -
業內聚焦算力服務高質量發展：需優化布...
人民網北京9月7日電（記者栗翹楚）當前，加快推進算力基礎設施建設，已 -
多家銀行宣布降低存量首套住房貸款利率
人民網北京9月7日電（記者羅知之）9月7日，工商銀行、農業銀行、中國銀 -
數讀中國 | 系列舉措密集出臺 激發民...
(責編：王震、高雷) tjewm{width:100%;text-align:center;margin:30 -
國家郵政局：8月中國快遞發展指數為361....
人民網北京9月7日電（記者楊虞波羅）據國家郵政局消息，經測算，2023年 -
仁化縣石塘鎮積極探索生態種養新模式
今年來，仁化縣石塘鎮依托良好的生態資源優勢，積極探索實施“稻蝦... -
五里亭大橋、百旺大橋維修加固工程即將啟動
我市五里亭大橋、百旺大橋均于2004年建成通車，運營至今將近20年，由于 -
破解安“樁”難題，韶關有“新”模式—...
小區物業不同意出具安裝充電樁的同意書、公共充電樁搶位難、公共充電樁 -
聚力打造“峽谷山寶”生態農業特色品牌...
近年來，乳源瑤族自治縣大布鎮圍繞“峽谷山寶”鄉村振興先行示范帶...
