國際電子商情訊 8月1日，歐盟《人工智能法案》正式生效。
該法案是全球首部全面監管人工智能的法規，標志著歐盟在規范快速發展的人工智能應用方面邁出了重要一步。
法案旨在通過風險導向的方法對人工智能系統進行分類和管理，確保其安全性和透明度，并保護基本權利和民主制度。根據這項法案，所有人工智能系統，包括聊天機器人，都必須清楚地告知用戶他們正在與一個AI系統進行交互。
同時，AI技術供應商有責任確保由人工智能合成的音頻、視頻、文本和圖像能夠被識別為AI生成。法案還明確禁止使用那些可能明顯威脅用戶基本權利的人工智能系統。
此外，法案還規定了高風險人工智能系統的特別要求，包括在上市前進行嚴格評估和持續監測。
據悉，歐盟《人工智能法案》基于風險預防的理念，為人工智能制定了一套覆蓋全過程的風險規制體系。該法案采用風險分級的管理措施，將人工智能系統的風險劃分為不可接受的風險、高風險、有限風險和輕微風險四種類型，并針對不同類型施加了不同的監管措施。
《人工智能法案》定義了一個框架來理解人工智能相關的風險，并根據所獲得的數據及利用該數據采取的決定或行動。法案對人工智能存在的風險進行了分類：
一是禁止不可接受的風險（例如社交評分系統和操縱性人工智能）。
二是大部分文本涉及受到監管的高風險人工智能系統。
三是較小的部分負責處理風險有限的人工智能系統，但透明度義務較輕：開發人員和部署人員必須確保最終用戶意識到他們正在與人工智能（聊天機器人和深度偽造）進行交互。
四是最小的風險不受監管（包括目前在歐盟單一市場上提供的大多數人工智能應用程序，例如人工智能視頻游戲和垃圾郵件過濾器；但該內容正在隨著生成人工智能而改變）。
比如，高風險人工智能系統在投放市場之前將受到嚴格的義務約束，包括透明度要求、數據治理、準確性、魯棒性和網絡安全等方面的規定。例如，生成式基礎模型如GPT必須有充分的保障措施以確保其符合歐盟法律，并且在文本是AI生成的情況下必須進行披露。
法案還明確禁止使用那些可能明顯威脅用戶基本權利的人工智能系統。這類風險的人工智能系統將被禁止使用。任何違反此規定的活動都將受到嚴厲的法律制裁。
值得注意的是，盡管某些條款將在兩年內全面適用，但其中一些將更早實施。例如，學校和工作場所不得使用實時情緒識別系統，并且聊天機器人等人工智能系統必須明確告知用戶他們在與機器互動。
歐盟作為全球首部全面監管人工智能的法律，其影響力不僅限于歐洲內部，還可能對全球范圍內的AI企業產生重大影響。這包括谷歌、OpenAI等公司，它們需要適應新的合規要求和標準，從而推動全球人工智能產業向更高水平的規范化發展。
因此，歐盟《人工智能法案》的生效不僅為人工智能的發展提供了法律框架，也為其他國家和地區的監管提供了參考。
信息來源:ESM China
日期：2024年8月5日
