近日，歐盟人工智能法案（AI Act）的首批合規(guī)期限正式邁入實施階段，這一舉措標(biāo)志著歐盟在人工智能監(jiān)管領(lǐng)域邁出了關(guān)鍵一步。當(dāng)?shù)貢r間2月2日，該法案所規(guī)定的首批合規(guī)要求開始生效，賦予了歐盟監(jiān)管機(jī)構(gòu)權(quán)力，以禁止那些被認(rèn)為存在“不可接受風(fēng)險”或潛在危害的AI系統(tǒng)。
歐盟人工智能法案自去年3月在歐洲議會獲得批準(zhǔn)后，于8月1日正式生效，成為了一個全面的監(jiān)管框架。此次生效的合規(guī)要求，特別針對法案中明確列出的高風(fēng)險AI應(yīng)用，這些應(yīng)用包括但不限于：用于社會評分的AI、以隱蔽或欺騙手段影響個人決策的AI、利用個人弱勢如年齡、殘疾或社會經(jīng)濟(jì)地位進(jìn)行操縱的AI、基于外貌預(yù)測犯罪可能性的AI、使用生物識別技術(shù)推斷個人敏感特征（例如性取向）的AI、在公共場所收集“實時”生物識別數(shù)據(jù)用于執(zhí)法的AI、試圖在工作或教育環(huán)境中推斷個人情緒的AI，以及通過網(wǎng)絡(luò)或安全攝像頭圖像創(chuàng)建或擴(kuò)大面部識別數(shù)據(jù)庫的AI。
根據(jù)該法案，任何在歐盟境內(nèi)使用上述高風(fēng)險AI應(yīng)用的公司，無論其總部所在地，都將面臨嚴(yán)厲的罰款措施。罰款金額最高可達(dá)3500萬歐元（當(dāng)前約合2.64億元人民幣），或者公司上一財年年收入的7%，以較高者為準(zhǔn)。這一規(guī)定旨在確保所有相關(guān)企業(yè)嚴(yán)格遵守法規(guī)，維護(hù)歐盟公民的數(shù)據(jù)安全和隱私權(quán)益。
然而，值得注意的是，罰款并不會立即執(zhí)行。英國律師事務(wù)所Slaughter and May的技術(shù)主管Rob Sumroy指出，盡管各組織應(yīng)在2月2日前達(dá)到合規(guī)要求，但下一個關(guān)鍵期限是8月。屆時，主管機(jī)構(gòu)將確定，罰款和執(zhí)法條款也將正式生效。Sumroy還提到，由于列出的高風(fēng)險用例性質(zhì)惡劣，大多數(shù)公司本身就不會涉足這些領(lǐng)域。他們更關(guān)心的是，能否及時獲得明確的指導(dǎo)方針、標(biāo)準(zhǔn)和行為準(zhǔn)則，以便更好地理解和遵守法規(guī)。
盡管該法案對高風(fēng)險AI應(yīng)用采取了嚴(yán)格的禁令措施，但也規(guī)定了一些例外情況。例如，執(zhí)法部門在特定情況下被允許使用某些在公共場所收集生物識別數(shù)據(jù)的系統(tǒng)，以幫助進(jìn)行有針對性的搜索，如尋找綁架受害者或預(yù)防重大且迫在眉睫的生命威脅。然而，這種豁免需要獲得相應(yīng)管理機(jī)構(gòu)的授權(quán)，并且執(zhí)法部門不能僅憑這些系統(tǒng)的輸出做出具有法律不利影響的決定。該法案還為在工作場所和學(xué)校推斷情緒的系統(tǒng)設(shè)定了例外，但僅限于存在醫(yī)療或安全理由的情況下，如用于治療目的的系統(tǒng)。
歐盟委員會此前曾表示，將在與利益相關(guān)者協(xié)商后于2025年初發(fā)布更多指導(dǎo)方針。然而，截至目前，這些指導(dǎo)方針尚未公布。Sumroy表示，目前尚不清楚其他現(xiàn)行法律將如何與人工智能法案的禁令和相關(guān)規(guī)定相互作用。他預(yù)計，隨著執(zhí)法窗口的臨近，今年晚些時候情況可能會變得更加清晰。
Sumroy還強(qiáng)調(diào)，各組織必須意識到人工智能監(jiān)管并非孤立存在。其他法律框架，如GDPR（通用數(shù)據(jù)保護(hù)條例）、NIS2（網(wǎng)絡(luò)安全與信息化指令）和DORA（數(shù)字運(yùn)營韌性法案）等，將與人工智能法案相互作用，可能帶來潛在挑戰(zhàn)，特別是在事件通知要求重疊的方面。因此，了解這些法律如何與人工智能法案相結(jié)合，對于組織來說同樣至關(guān)重要。
