隨著數字技術的發(fā)展，當今社會更需要負責任的人工智能。發(fā)展負責任的人工智能有助于推動新一代人工智能健康發(fā)展，更好地協(xié)調發(fā)展與治理的關系，確保人工智能安全可控。3月4日，印度國家軟件和服務公司協(xié)會“負責任的人工智能”項目負責人拉杰·謝卡爾（Raj Shekhar）于印度觀察家研究基金會官網發(fā)表文章，就政府如何加強人工智能監(jiān)管給出建議。
命令控制式監(jiān)管效果不佳
每當資本主義經濟自我調節(jié)功能失控時，政府會予以干預，以此恢復經濟的正常運行以及公眾對政府的信任。謝卡爾表示，從歷史上看，這種干預措施往往采取法定監(jiān)管的形式，即政府命令被監(jiān)管者遵守一定的規(guī)則，從而實現(xiàn)特定的監(jiān)管效果，并對違規(guī)行為進行制裁，這是一種命令控制式的監(jiān)管方法。然而，要形成有效的命令控制式監(jiān)管方法是需要前提的，例如，企業(yè)的發(fā)展進程緩慢，需要數十年才能培育出一個新的市場，立法者和監(jiān)管方有足夠的時間和空間來制定“完美”的命令控制式監(jiān)管方法，糾正市場上出現(xiàn)的功能失調現(xiàn)象。
在當今世界，新技術層出不窮，各類商業(yè)模式如雨后春筍般出現(xiàn)，企業(yè)的發(fā)展速度飛快，命令控制式監(jiān)管難以跟上市場的發(fā)展節(jié)奏。謝卡爾表示，命令控制式監(jiān)管通常規(guī)定了被監(jiān)管者的重大合規(guī)義務，同時還要求建立全新的執(zhí)法和合規(guī)監(jiān)督機制，這有可能給公共財政帶來沉重負擔。因此，監(jiān)管機構必須非常謹慎地確定監(jiān)管的領域和范圍，并把握好監(jiān)管程度，以避免監(jiān)管不足或過度監(jiān)管。為了做到這一點，監(jiān)管機構必須準確理解監(jiān)管內容，具備適應監(jiān)管主體和領域變化的能力。如果無法滿足以上條件，那么由此產生的命令控制式監(jiān)管很可能是效果不佳或無效的。
人工智能技術正以驚人的速度發(fā)展，導致人們無法對有限的創(chuàng)新案例及其帶來的風險和收益進行及時、準確的識別。在謝卡爾看來，人工智能的進步與引導其正規(guī)發(fā)展的監(jiān)管機制之間存在鴻溝，而且在中低收入國家表現(xiàn)得尤為突出。命令控制式監(jiān)管可能對其監(jiān)管主體和范圍都不明晰，例如，在歐盟委員會提出的人工智能法規(guī)中，人工智能及其使用案例的定義明顯含糊不清，引起了民間組織和技術界的大量批評。此類情況，將不可避免地導致監(jiān)管機構對人工智能創(chuàng)新和企業(yè)活動的監(jiān)管不足或過度監(jiān)管，引發(fā)監(jiān)管不確定性或行業(yè)參與者的不適。由此產生的監(jiān)管模式，可能會扼殺投資和創(chuàng)新，從而嚴重損害人工智能行業(yè)的發(fā)展前景，錯失人工智能帶來生產力收益和公共利益的機會。
建立政府主導的行業(yè)自我監(jiān)管制度
人工智能的快速發(fā)展要求形成一個強有力的政府主導的行業(yè)自我監(jiān)管制度。謝卡爾表示，在這一制度下，政府將通過與各利益相關方的嚴格協(xié)商確定監(jiān)管的目標或原則，而非直接規(guī)定監(jiān)管的手段和方法。與此同時，相關行業(yè)會制定適當的標準和行為守則來承擔這一責任，然后政府可以選擇對其進行認證。這一制度具有較大的潛力，可以將政府監(jiān)督與行業(yè)的專業(yè)知識相結合，實現(xiàn)對人工智能市場的快速響應和干預，平衡企業(yè)與公共安全利益。
當然，有的批評者可能會質疑政府主導的行業(yè)自我監(jiān)管制度的有效性，他們認為在任何行業(yè)的自我監(jiān)管中，私營企業(yè)的獲利動機與公共利益之間總是存在沖突。例如，人工智能產品在采用某種安全標準時有可能帶來的巨大成本，有損企業(yè)的利益，企業(yè)為了削減成本，就會將非標準化的產品推向市場，在這種情況下，行業(yè)的自我監(jiān)管制度顯然就會失敗。
謝卡爾從三個方面反駁了上述觀點。首先，從根本上看，該制度仍以政府為主導。政府擬議的監(jiān)管方法是基于明確的框架，要求人工智能行業(yè)把具體實踐匯報給政府，這需要行業(yè)盡職盡責地實現(xiàn)自我監(jiān)管，做到與政府規(guī)定的負責任的人工智能監(jiān)管目標和原則相一致。其次，發(fā)展負責任的人工智能可以帶來巨大的市場利益，這一優(yōu)勢變得日益明顯。人工智能企業(yè)逐漸意識到實施負責任的人工智能實踐，能夠更好地留住人才和客戶，在未來競標活動中更具優(yōu)勢。最后，全球已有許多民間組織和跨學科智庫，開始著手跟蹤人工智能帶來的各類風險，并提出了相關應對措施，確保人工智能企業(yè)將公平、透明、問責等原則列為企業(yè)優(yōu)先事項。人工智能企業(yè)越來越意識到，在當今互聯(lián)互通的世界中，公眾普遍對人工智能的不道德應用帶來的風險進行譴責。任何不負責任的行為，都會削弱政府對人工智能行業(yè)自我監(jiān)管的信心，迫使政府采取外部措施推動行業(yè)良性發(fā)展，這成為優(yōu)化企業(yè)行為的強大激勵因素。
中國社會科學報記者 王俊美
熱門
