白宮:Nvidia等8大企業承諾管理AI風險 包括作安全測試、添加水印

美國白宮周二(12日)宣布,包括英偉達(NVDA.US)、IBM(IBM.US)和Salesforce(CRM.US)在內的8間公司承諾訂立限制人工智能風險的自願規則,包括向公眾推出人工智能產品之前確保其安全、將安全放在首位以及贏得公眾對AI技術的信任。 參與企業包括Adobe(ADBE.US)、Cohere、Palantir(PLTR.US)、Scale和Stability。而亞馬遜(AMZN.US)、Anthropic、Alphabet(GOOG.US)、Inflection、Meta(META.US)、微軟(MSFT.US)和OpenAI均自願加入該承諾。 白宮在一份聲明中表示,政府正制訂一項行政命令,並將繼續尋求兩黨立法,以幫助美國開發負責任的人工智能。根據協議條款,公司承諾在發布人工智能系統之前,作出內部和外部安全測試,包括其技術如何影響社會、生物安全和網絡安全,並承諾分享安全最佳實踐。 企業更表明,將投資於網絡安全和其他保障措施,以防止未發布的模型權重洩露和遭到黑客攻擊,並允許第三方報告其自己系統中潛在的安全漏洞。 在公共信任方面,公司將確保用戶能夠通過水印系統等技術分辨人工智能生成內容。Google8月時宣布自己的水印技術,稱為SynthID,該技術將標記直接嵌入到由Imagen文本到圖像生成器創建的圖像中。(me/m)~ 阿思達克財經新聞 網址: www.aastocks.com