美國政府?dāng)M出臺新規(guī)定，要求對使用人工智能的算法進行評估和監(jiān)管

　　白宮管理和預(yù)算辦公室今天發(fā)布了一份草案規(guī)定，要求聯(lián)邦機構(gòu)評估和持續(xù)監(jiān)測在醫(yī)療保健、執(zhí)法和住房等領(lǐng)域使用的算法，以防止?jié)撛诘钠缫暬蚱渌麑θ藱?quán)產(chǎn)生不良影響。一旦生效，這些規(guī)定可能會迫使美國政府在AI方面采取改變，例如FBI使用的面部識別技術(shù)，該技術(shù)因未采取國會要求的措施以保護公民自由而受到批評。新規(guī)定將要求政府機構(gòu)在2024年8月之前評估現(xiàn)有算法，并停止使用任何不符合規(guī)定的算法。

　　草案指令稱:“如果益處不真正超過風(fēng)險，機構(gòu)就不應(yīng)使用AI。”但草案備忘錄對涉及國家安全的模型進行了例外，并允許機構(gòu)有效地對自己發(fā)布豁免，如果停止使用AI模型“會對重要機構(gòu)運作造成不可接受的阻礙”。

　　這份草案規(guī)定是在拜登總統(tǒng)簽署行政令兩天后由白宮管理和預(yù)算辦公室發(fā)布的，該行政令相當(dāng)于一個全面的計劃，旨在同時增加政府對AI的使用，并試圖防止技術(shù)帶來的傷害。保護人們免受AI的傷害是一個重要主題，該行政令的規(guī)定包括對大型AI模型和計算集群開發(fā)者的報告要求。

　　擬議中的白宮管理和預(yù)算辦公室規(guī)定將要求將從私營公司購買的算法納入聯(lián)邦合同的測試和獨立評估要求之中，該辦公室在其協(xié)調(diào)總統(tǒng)優(yōu)先事項的部門的角色中可以這樣做。它們還將要求政府機構(gòu)評估和監(jiān)控現(xiàn)有算法以及未來可能獲取的算法對隱私、民主、市場集中和獲得政府服務(wù)的負面影響。

　　草案備忘錄要求由與系統(tǒng)開發(fā)無直接關(guān)系的人員進行算法的測試和評估，并鼓勵對生成AI模型進行外部的“紅隊”測試。它還指示聯(lián)邦機構(gòu)的領(lǐng)導(dǎo)人探索他們?nèi)绾卧诓粠�來不必要風(fēng)險的情況下使用生成AI，例如OpenAI的ChatGPT。

　　拜登的AI行政命令要求白宮管理和預(yù)算辦公室在接下來的五個月內(nèi)向聯(lián)邦機構(gòu)提供指導(dǎo)。該辦公室將邀請公眾對草案政策提供意見直至12月5日。

　　OMB管理副主任Jason Miller說:“該框架為聯(lián)邦機構(gòu)提供了一套具有約束力的要求，以便為人工智能的使用制定保障措施，以便我們能夠利用這些好處，使公眾能夠信任聯(lián)邦政府提供的服務(wù)。備忘錄草案強調(diào)了人工智能的某些用途，在這些用途中，該技術(shù)可能會損害權(quán)利或安全，包括醫(yī)療保健、住房和執(zhí)法——過去算法導(dǎo)致歧視或拒絕服務(wù)的所有情況。

　　據(jù)OMB稱，聯(lián)邦機構(gòu)目前使用700多種算法，盡管聯(lián)邦機構(gòu)提供的清單并不完整。米勒說，備忘錄草案要求聯(lián)邦機構(gòu)更多地分享他們使用的算法。