6月11日，香港個人資料私隱專員公署發(fā)布《人工智能 （AI）： 個人資料保障模范框架》（下稱《模范框架》）。

《模范框架》涵蓋4大范疇，具體包括：制訂AI策略及管治架構(gòu)；進行風險評估及人為監(jiān)督；實行AI模型的定制與AI系統(tǒng)的實施及管理；以及促進與持份者的溝通及交流。

個人資料私隱專員鐘麗玲12日向媒體表示，香港企業(yè)使用AI呈現(xiàn)上升的趨勢，希望《框架》為機構(gòu)使用人工智能系統(tǒng)時提供指引，持續(xù)監(jiān)督AI系統(tǒng)，降低個人資料外泄的風險，特別是風險高的環(huán)節(jié)，應(yīng)加強人為監(jiān)督。

據(jù)悉，《模范框架》是亞太區(qū)首個在人工智能領(lǐng)域針對保障個人資料隱私制定的指引性框架。

2021年9月26日，中國國家新一代人工智能治理專業(yè)委員會發(fā)布了《新一代人工智能倫理規(guī)范》(以下簡稱“《規(guī)范》”)，旨在將倫理道德融入人工智能全生命周期，為從事人工智能相關(guān)活動的自然人、法人和其他相關(guān)機構(gòu)等提供倫理指引。

《規(guī)范》提出了增進人類福祉、促進公平公正、保護隱私安全、確保可控可信、強化責任擔當、提升倫理素養(yǎng)等6項基本倫理要求。其中，數(shù)據(jù)與隱私安全內(nèi)容貫穿了人工智能管理、研發(fā)、供應(yīng)等特定活動的具體倫理要求。

相比于《規(guī)范》，《模范框架》給出的建議更加細化。其中對機構(gòu)提供包括制定、進行、實行和促進四個階段的調(diào)整反饋機制，在四個階段中，又分別提出了細化的步驟和考慮項目。

比如，在第一部分《AI策略及管治》中，《模范框架》指出，AI策略可包含：界定AI系統(tǒng)在機構(gòu)的科技生態(tài)系統(tǒng)中提供的功能、參考AI道德原則，制定特定適用于機構(gòu)在采購、實施及使用AI方案方面的道德原則、列明AI系統(tǒng)在機構(gòu)中不可接受的用途等等。

而在“列明AI系統(tǒng)在機構(gòu)中不可接受的用途”一條中，《模范框架》特別指出，機構(gòu)應(yīng)識別潛在風險高至應(yīng)禁止采用的AI用例，這些用例應(yīng)隨著AI技術(shù)的發(fā)展、新風險的出現(xiàn)及/或新風險緩解措施的采用而增加、刪除或調(diào)整用例。

《模范框架》作為指引性框架，也對打算投資購入AI方案的機構(gòu)提出了可供參考的建議，其中包括方案使用AI的目的、預計使用AI的用例，AI供應(yīng)商應(yīng)遵循的有關(guān)隱私和保安的主要責任和道德規(guī)定、技術(shù)性和管治方面的國際標準等等。

針對風險因素，《模范框架》也給出了較為細化的指導。其中包括識別和評估AI系統(tǒng)可能帶來的各種風險，采取措施減少AI系統(tǒng)帶來的隱私風險。此外《模范框架》指出，對于AI方案需要以風險為本的方式進行人工監(jiān)督。

《模范框架》建議，在決定人工監(jiān)督的程度時，需要考慮AI系統(tǒng)的風險程度，若是高風險AI系統(tǒng)，即可能對個人或群體造成嚴重及長期的損害、輸出結(jié)果可能影響到個體的基本權(quán)利和自由，包括財務(wù)損失、身體傷害、歧視、個人資料控制權(quán)的喪失、自主權(quán)的缺乏、心理傷害等的系統(tǒng)，則應(yīng)采用“人在環(huán)中”（human-in-the-loop）模式，在此模式中，人類在決策過程中保留控制權(quán)，以防止或減少AI出錯或作出不當?shù)臎Q定。

高風險AI系統(tǒng)包括用于醫(yī)療診斷、信用評估、工作或求職評估等對個人或社會有重大影響的領(lǐng)域。

若是低風險AI系統(tǒng)，則可以采用“人在環(huán)外”（human-out-of-the-loop）模式，在此模式中，AI系統(tǒng)在沒有人為介入的情況下作出決定，以實現(xiàn)完全自動化的決策過程。

若這兩者都不適用，則可以使用適中風險AI系統(tǒng)，例如當風險程度不可忽視或“人在環(huán)中”方式不符合成本效益或不可行時，可以采用“人為管控”（human-in-command）模式。在此模式中，人類決策者利用AI系統(tǒng)的輸出結(jié)果監(jiān)控其運作，并在需要時介入。