歷時3天的“馬拉松式”談判圓滿結束，理事會主席與談判代表剛剛就人工智能協(xié)調規(guī)則達成協(xié)議，預計最終將成為《人工智能監(jiān)管的人工智能法案》。該法規(guī)草案的重點是提供一個合規(guī)框架，優(yōu)先考慮在歐盟部署安全和尊重人權的人工智能系統(tǒng)。這一人工智能法規(guī)超越了歐洲國家在人工智能領域投資和創(chuàng)新的靈感。

《人工智能法案》是一項具有里程碑意義的立法，它可以創(chuàng)造一個有利的環(huán)境，在這種環(huán)境中，人工智能的使用將成為一種更優(yōu)秀的安全和信任的工具，確保整個歐盟的公共和私人機構利益相關者的參與。其主要思想是，根據人工智能對社會造成傷害的能力，遵循“基于風險”的方法來監(jiān)管人工智能:風險的危險程度越高，需要做出的限制就越多。這第一部法律為其他司法管轄區(qū)的人工智能監(jiān)管建立了一個全球先例。相比之下，GDPR以同樣的方式已經在保護個人數據方面做到了這一點，因此在全球范圍內推廣了歐盟的技術監(jiān)管方式。

臨時協(xié)定的主要內容

與歐盟委員會的初步提案相比，人工智能監(jiān)管臨時協(xié)議的主要新內容可以總結如下:

對具有未來系統(tǒng)性風險的高影響通用人工智能模型和控制該系統(tǒng)的高風險人工智能系統(tǒng)進行分類。

在歐盟一級改進具有協(xié)調權力的治理制度或全面改革經濟政策。

擴大了違禁物品清單,但警務人員可在公共場所使用遠程生物鑒別識別;不過,這是在不受濫用的條件下進行的。

更好地執(zhí)行權利,這是因為要求部署有潛在風險的系統(tǒng)的人工智能行為者在使用這些系統(tǒng)之前先了解這些系統(tǒng)的基本權利影響。

更具體地,臨時協(xié)定包括以下方面:

定義和范圍

根據選擇協(xié)議，試圖選擇經合組織庇護所的人工智能系統(tǒng)的定義與建議的程序相對應。這樣，人工智能系統(tǒng)的標準有助于更清楚地區(qū)分簡單的軟件系統(tǒng)。

此外，臨時協(xié)議更詳細地解釋了該條例的規(guī)則不包括屬于歐盟法律領域的部門，不能以任何方式削弱成員國在國家安全領域或在國家安全領域分擔責任的各方的能力。不僅如此，《人工智能法案》也不會擴展到僅用于軍事或國防目的的人工智能系統(tǒng)。同時，該條約還指出，人工智能系統(tǒng)不僅用于科學和研究目的，而且用于非科學和非創(chuàng)新原因，包括非人工智能技術人員或專家的情況下，法律應適用于人工智能系統(tǒng)。

將人工智能系統(tǒng)分類為高風險和被禁止的人工智能實踐

它創(chuàng)建了一個橫向安全屏障,其中包括1.1級"可能的嚴重/重大權利損害",以排除未預測會造成這種威脅的人工智能系統(tǒng)。那些對用戶有輕微傷害風險的人工智能系統(tǒng)將具有最低的透明度要求。例如,其應該通知用戶內容是人工智能生成的，這樣就可以決定是否使用該內容或執(zhí)行進一步的操作。

將批準在歐盟領土上運行的各種基于人工智能的系統(tǒng)。然而，必須滿足進入歐盟市場的要求和責任。這些共同立法委員增加和修訂了一些規(guī)定，使之在技術上更簡單明了，減輕了持份者的負擔，例如，關于數據質量的供應，以及中小企業(yè)需要編寫的技術文件，以證明其人工智能系統(tǒng)已安全構建并符合現(xiàn)行規(guī)定。

由于人工智能系統(tǒng)是在要求苛刻的價值鏈環(huán)境中創(chuàng)建和提供的，因此折衷安排將要求除其他外，對企業(yè)的行為進行修訂，以反映對該鏈中各種行為者(即該技術系統(tǒng)的提供商和用戶)的責任/影響范圍的澄清。它還闡明了《人工智能法案》中衍生的人工智能特定義務如何相互作用，并與其他法律中規(guī)定的義務發(fā)生沖突，如歐盟的數據立法和部門立法。

人工智能的應用將會因為高風險而被拒絕，這對于人工智能的某些用途是被禁止的。因此，這些設備將不會被引入歐盟。根據初步協(xié)議，禁止的行為包括行為控制的認知技術、從網絡上無目的地收集面部圖像等、機構和教育中的情感識別、社會評分、用于確定性取向或宗教信仰的生物識別方法，以及用于警務目的的一些個人家譜。

執(zhí)法例外

考慮到執(zhí)法組織的特殊性和其在履行職責時使用計算機的必要性,對委員會關于執(zhí)法的規(guī)則AI的建議作出了若干修改,這是至關重要的。只要制定了謹慎的措施,這些變革就會轉化為運營商保護信息隱私的必要性。這方面的一個例子是啟動高風險人工智能實施的緊急程序,但不包括在緊急情況下進行符合性評估。除此之外,還制定了一項具體行動,為保障人權,防止濫用人工智能申請?zhí)峁嘞蕖?/p>

此外,臨時協(xié)議的案文明確表達了在公共場所使用實時遠程生物鑒別識別系統(tǒng)的原因,但僅出于執(zhí)法原因,只有在例外情況下才允許當局這樣做。折衷協(xié)定規(guī)定了額外的保障措施,并將這些例外情況限于殺害犯罪嫌疑人的案件,確保只有在真正威脅的情況下才進行搜查,以及在人們涉嫌犯下最嚴重罪行時才防止恐怖襲擊和搜查。

通用人工智能系統(tǒng)和基礎模型

對于人工智能系統(tǒng)用于多種目的的場景,即通用人工智能和獨立系統(tǒng),制定了新的規(guī)定。另一個高風險系統(tǒng)，即自行駕駛汽車，與通用人工智能集成?！哆^渡協(xié)定》還包括GPA(GPAI)。GPA監(jiān)管是協(xié)議的核心部分。

基礎模型被描述為能夠在復雜活動中表現(xiàn)出能力的系統(tǒng)，如文本生成、視頻分割、處理自然語言、渲染代碼和許多更多的計算機任務，也已經得出結論。臨時安排要求基本模型在上市前滿足去污染要求。建立"高影響"基礎模型所需的政策要嚴格得多。這些具有巨大規(guī)模和非常先進的復雜性、能力和性能的平均數據模型可以在企業(yè)的價值鏈中帶來系統(tǒng)性風險;所有參與企業(yè)都可以分擔這些風險。

新的治理架構

根據新的GPAI模式的限制措施及其在歐盟一級的標準化監(jiān)測的必要性,委員會設立了一個獨特的人工智能辦公室,負責監(jiān)督這些最先進的人工智能模式,促進建立規(guī)范和測試程序,并在所有成員國執(zhí)行主要規(guī)則。一個獨立的技術專家科學小組將就模型規(guī)模向GPAIAI辦公室提供咨詢意見,方法是制定評估基礎模型和技術力量的方法,對準備上市的GPAI狀態(tài)和基礎模型進行評估,并可能監(jiān)測與基礎模型有關的材料的安全性。

為此目的,由成員國組成的人工智能委員會作為其成員，并作為委員會的協(xié)調平臺和咨詢機構，應在其領域內使成員國在實施條例方面發(fā)揮突出和關鍵的作用,將其作為基礎模式的業(yè)務守則。最后但并非最不重要的是,將建立一個論壇,由行業(yè)參與者、中小型企業(yè)、初創(chuàng)企業(yè)、公民社會和大學代表個人利益相關者。這可以提供人工智能委員會可以使用的技術知識。

處罰

對違反《人工智能法》的企業(yè)進行對接和制裁，罰款金額最低為一定數額，最高可達上一財政年度全球年營業(yè)額的百分比。違反上述人工智能應用將被處以3500萬歐元(7%)的罰款，違反《人工智能法》義務將被處以1500萬歐元(3%)的罰款，提供誤導性信息將被處以750萬歐元(1.5%)的罰款。盡管如此，該臨時協(xié)議包括特殊罰款，當中小企業(yè)和初創(chuàng)企業(yè)承諾遵守人工智能法案的規(guī)定時，這些罰款對其影響較小。

與《人工智能法》的簡明協(xié)議規(guī)定，自然人或法人有權向相關市場監(jiān)督實體提出正式投訴。此外，該機構在處理上述投訴時應遵循其特定和規(guī)定的程序。

透明度和保護基本權利

值得注意的是，臨時協(xié)議要求人工智能系統(tǒng)部署人員在將高風險系統(tǒng)投放市場之前，對終端用戶的保障措施進行權利影響評估。這項臨時協(xié)議也為廣泛使用復雜的人工智能和自動真相檢測系統(tǒng)提供了一個良好的起點。其將使該系統(tǒng)的實施范圍清晰。值得注意的是，擬議委員會的一些規(guī)定已經修改，參考了高風險人工智能系統(tǒng)的各種偶爾的政府用戶，這些用戶也在歐盟數據庫中注冊了高風險人工智能機器學習系統(tǒng)。除此之外，更新后的產品線還會向操作情緒識別系統(tǒng)的用戶發(fā)送一條消息，告知其何時接觸到該系統(tǒng)。

支持創(chuàng)新的措施

這一部分的規(guī)定受到了重大修改,鼓勵創(chuàng)新,這是委員會提議建立一個更加科學的創(chuàng)新框架的一個重要方面,該框架不斷適應,以確保在整個歐盟范圍內建立可持續(xù)的監(jiān)管環(huán)境。

應要求人工智能監(jiān)管沙箱,旨在確保開發(fā)、測試和驗證新人工智能系統(tǒng)的控制環(huán)境,也允許在真實情況下測試機構。此外，在人工智能系統(tǒng)在現(xiàn)實環(huán)境中進行測試的情況下，已經啟用了新的限制，以便在特定條件下使用系統(tǒng)。此次臨時協(xié)議是為了減輕中小企業(yè)的行政負擔，制定了收入低的中小企業(yè)支援方案。在這種情況下，如果克減受到合法限制和嚴格具體，則允許克減。

生效日期

《人工智能管理臨時協(xié)議》規(guī)定，除某些例外情況外，《人工智能法》的規(guī)定自生效之日起適用2年。