AI 崛起引發擔憂！英國政府發佈人工智能產業白皮書，提出五項發展原則

AI 技術正在以史無前例的速度發展，世界各國政府監管層面也開始對其展開特別關注。

週三，英國政府發佈了第一份人工智能白皮書，提出了在 AI 技術瘋狂炒作之際對該技術實行全方位監管的方法。

在該份白皮書中，英國科學、創新和技術部（DSIT）概述了監管機構應考慮的 5 個明確原則，以最好地促進人工智能在其監控的行業中的安全和創新使用：

安全性、可靠性和穩健性：人工智能的應用應以安全、安全和穩健的方式運行，並仔細管理風險。

透明度和可解釋性：開發和部署人工智能的組織應該能夠溝通何時以及如何使用它，並以適當的詳細程度解釋系統的決策過程，以匹配使用人工智能帶來的風險。

公平：人工智能的使用方式應符合英國現行法律，例如《2010 年平等法》或英國 GDPR，不得歧視個人或創造不公平的商業結果。

問責制和治理：需要採取措施確保對人工智能的使用方式進行適當的監督，並對結果進行明確的問責制。

可爭議性和補救性：人們需要有明確的途徑來質疑人工智能產生的有害結果或決定。

DSIT 表示，這種方法將意味着英國的規則可以隨着這種快速發展的技術發展而適應，確保對公眾的保護，而不會阻礙企業使用人工智能技術來實現更強勁的經濟增長、更好的就業機會和大膽的新發現，從根本上改善人們的生活。

在接下來的 12 個月裏，英國監管機構將向人工智能公司發佈實用指南，以及其他工具和資源，如風險評估模板，以闡明如何在其行業中實施這些原則。在議會時間允許的情況下，可以引入立法，以確保監管機構始終如一地考慮這些原則。

值得注意的是，英國計劃在其人權、健康和安全以及競爭監管機構之間分配管理人工智能的責任，而不是創建一個專門負責該技術的新機構。

此外，英國政府表示，將資助 2 萬英鎊建立一個新的沙盒，為人工智能企業提供測試環境。企業可以測試如何將監管應用於人工智能產品和服務，以支持創新者將新想法推向市場，而不會受到規則手冊障礙的阻礙。

人工智能初創公司 Humanising Autonomy 的首席執行官兼聯合創始人 Maya Pindeus 表示，政府的舉動標誌着監管人工智能的 “第一步”：

確實需要有一點更強有力的敍述。我希望看到這一點。這算是為此埋下了種子。

AI 爭論進入白熱化

英國監管白皮書推出之際，正值社會對於 AI 技術的爭論進入白熱化。

週三早些時候，生命未來研究所（Future of Life）向全社會發布了一封《暫停大型人工智能研究》的公開信，呼籲所有人工智能實驗室立即暫停比 GPT-4 更強大的人工智能系統的訓練，暫停時間至少為 6 個月。

該機構以 “引導變革性技術造福生活，遠離極端的大規模風險” 為使命，其在信中提到：

我們不應該冒着失去對文明控制的風險，將決定委託給未經選舉的技術領袖。只有當確保強大的人工智能系統的效果是積極的，其風險是可控的才能繼續開發。

人工智能實驗室和獨立專家應在暫停期間，共同制定和實施一套先進的人工智能設計和開發的共享安全協議，由獨立的外部專家進行嚴格的審查和監督。

圖靈獎得主 Yoshua Bengio、馬斯克、蘋果聯合創始人 Steve Wozniak、Stability AI 創始人 Emad Mostaque 等上千名科技大佬和 AI 專家已經簽署公開信。

值得玩味的是，OpenAI CEO Sam Altman 的名字一度也出現在公開信上，不久之後無端消失。