美英等18國簽署了一項協(xié)議，要求企業(yè)在設(shè)計和使用AI系統(tǒng)時必須符合安全原則。這項協(xié)議旨在確保AI系統(tǒng)的安全性和可靠性，以避免被黑客攻擊或惡意使用。zwe28資訊網(wǎng)——每日最新資訊28at.com

zwe28資訊網(wǎng)——每日最新資訊28at.com

該協(xié)議建議僅釋放經(jīng)過適當(dāng)安全測試的AI模型，以防止黑客劫持。此外，協(xié)議還規(guī)定了企業(yè)在開發(fā)和使用AI系統(tǒng)時必須遵守的一些一般性建議，包括監(jiān)測AI系統(tǒng)是否被誤用、保護(hù)數(shù)據(jù)不被篡改、調(diào)查軟件供應(yīng)商等。zwe28資訊網(wǎng)——每日最新資訊28at.com

zwe28資訊網(wǎng)——每日最新資訊28at.com

這項協(xié)議是由美國、英國等18個國家簽署的，雖然它沒有法律約束力，但它的重要性不容忽視。該協(xié)議的簽署表明許多國家已經(jīng)認(rèn)識到，在設(shè)計和使用AI系統(tǒng)時，安全性應(yīng)該是首要考慮的因素，而不是其他因素如酷炫功能、上市時間、降低成本提高競爭力等。zwe28資訊網(wǎng)——每日最新資訊28at.com

zwe28資訊網(wǎng)——每日最新資訊28at.com

隨著全球產(chǎn)業(yè)和社會對AI發(fā)展的壓力越來越大，許多國家政府已經(jīng)采取了一系列措施來規(guī)范AI的使用。這項由18個國家簽署的協(xié)議是少數(shù)幾個有效的手段和架構(gòu)之一，它為防止AI技術(shù)被黑客劫持提供了解決方案，包括僅釋放經(jīng)過適當(dāng)安全測試的模型等建議。zwe28資訊網(wǎng)——每日最新資訊28at.com

zwe28資訊網(wǎng)——每日最新資訊28at.com

AI的興起引發(fā)了政府和公眾對相關(guān)技術(shù)的擔(dān)憂，包括可能被用于破壞民主程序、加速詐騙、減少工作機(jī)會等危害。然而，這項協(xié)議并沒有涉及適當(dāng)使用AI的相關(guān)規(guī)范、模型訓(xùn)練用數(shù)據(jù)收集方式等棘手問題。此外，2023年10月美國白宮發(fā)布的新行政命令旨在加強(qiáng)國家安全并降低AI對消費(fèi)者、勞工、少數(shù)族群的危害。zwe28資訊網(wǎng)——每日最新資訊28at.com

zwe28資訊網(wǎng)——每日最新資訊28at.com

相比之下，歐洲各立法機(jī)關(guān)在起草與AI相關(guān)的法規(guī)方面比美國更快，最近法國、德國、意大利達(dá)成了協(xié)議，針對專為產(chǎn)生廣泛輸出而設(shè)計的AI基礎(chǔ)模型（Foundation model），制定了支持強(qiáng)制性自我管理的監(jiān)管方式。雖然美國拜登政府敦促國會加速立法，但由于兩黨對立，實質(zhì)性進(jìn)展受到阻礙。zwe28資訊網(wǎng)——每日最新資訊28at.com

zwe28資訊網(wǎng)——每日最新資訊28at.com