政策制定者指南：評估快速發展的技術，包括人工智慧、大型語言模型等

快速新興的技術在使用、治理和潛在監管方面提出了具有挑戰性的問題。關於人工智慧（AI）及其使用的持續政策和公眾辯論使這些問題成為人們關注的焦點。聯合國教科文組織、經濟合作暨發展組織、聯合國和其他機構已經宣布了人工智慧的廣泛原則，包括英國的《布萊切利宣言》，並且正在出現透過歐盟（EU）人工智慧等方式對該技術的各個方面進行監管的司法嘗試。

儘管在這些論壇和其他論壇上，跨越地緣政治分歧和所有收入水平的國家，對人工智慧的使用進行了詳細討論，但高層原則的製定與透過監管、政策、治理將其納入實踐之間仍然存在本體論差距。從原則到實踐的路徑尚不明確，但考慮到人工智慧開發和應用的性質和節奏、涉及的興趣的多樣性以及可能應用的範圍，任何方法都不能過於通用或規定性。

由於這些原因，非政府科學界繼續發揮特殊的作用。國際科學理事會(ISC) 擁有來自社會和自然科學領域的多元化成員，於2023 年XNUMX 月發布了一份討論文件，提出了一個初步分析框架，該框架考慮了與快速發展的數位技術相關的風險、效益、威脅和機會。雖然它是為了考慮人工智慧而開發的，但它本質上與技術無關，可以應用於一系列新興和顛覆性技術，例如合成生物學和量子技術。此討論文件邀請了學者和政策制定者的回饋。壓倒性的回饋使得進行這樣的分析是必要的，並且是解決人工智慧等新興技術的一種有價值的方法。

該框架的目的是提供一個工具，讓所有利益相關者（包括政府、貿易​​談判代表、監管機構、民間社會和行業）了解這些技術的演變，幫助他們考慮如何考慮這些技術的積極或消極影響。本身，更具體地說是其特定的應用。此分析框架的發展獨立於政府和產業利益。它的觀點是最大限度的多元化，涵蓋了技術的所有方面及其基於廣泛諮詢和回饋的影響。

這份供政策制定者使用的討論文件並非旨在禁止監管制度，而是提出一個適應性和不斷發展的分析框架，該框架可以支撐包括政府和多邊體系在內的利益相關者可能製定的任何評估和監管流程。

隨著全球和國家決策者考慮適當的政策設定和槓桿來平衡人工智慧等新技術的風險和回報，分析框架旨在作為補充工具，以確保充分反映全套潛在影響。

具有人工智慧複雜性和影響力的技術的迅速出現正在推動許多具有巨大好處的說法。然而，它也引發了對從個人到地緣戰略層面的重大風險的擔憂。¹ 迄今為止的大部分討論都是從二元意義上考慮的，因為公開表達的觀點往往發生在光譜的極端。支持或反對人工智慧的主張往往是誇張的，而且鑑於該技術的性質，很難評估。

需要採取更務實的方法，用經過校準和更細化的評估來取代誇張。人工智慧技術將繼續發展，歷史表明，幾乎每項技術都有有益和有害的用途。因此，問題是：我們如何從這項技術中獲得有益成果，同時降低有害後果的風險，其中一些後果可能是生死攸關的？

未來總是不確定的，但關於人工智慧和產生人工智慧有足夠的可信和專家的聲音來鼓勵採取相對預防性的方法。此外，由於人工智慧是一類被多種類型的使用者廣泛使用和應用的技術，因此系統方法是必要的。這意味著在考慮人工智慧的使用對個人、社會生活、公民生活和全球背景的影響時，必須考慮整個背景。

與大多數其他技術不同，對於數位及相關技術來說，開發、發布和應用之間的時間極短，很大程度上是由製作公司或機構的利益驅動的。就其本質而言——並且鑑於它基於數位主幹——人工智慧的應用將迅速普及，正如大型語言模型的發展所看到的那樣。因此，某些特性可能只有在釋放後才會顯現出來，這意味著存在不可預見後果的風險，無論是惡意的還是仁慈的。

重要的社會價值觀維度，特別是在不同地區和文化之間，將影響任何使用的感知和接受方式。此外，地緣戰略利益已成為主導討論，主權利益與多邊利益不斷交叉，引發競爭與分裂。

迄今為止，虛擬技術的大部分監管在很大程度上都是透過「原則」和自願合規的視角來看待的，儘管歐盟人工智慧法案² 類似地，我們看到了轉向更具可執行性但有些狹窄的法規的轉變。建立有效的全球或國家技術治理和/或監管體系仍然具有挑戰性，並且沒有明顯的解決方案。從發明者到生產者，到用戶，到政府和多邊體系，整個鏈條都需要多層的風險知情決策。

儘管教科文組織、經合組織、歐盟委員會和聯合國等都頒布了高層原則，並且就潛在的治理、監管、道德和安全問題進行了各種高層討論，但這些原則之間仍存在很大差距。原則和治理或監管框架。這需要解決。

作為起點，ISC 考慮制定一種考慮因素分類法，供任何開發商、監管機構、政策顧問、消費者或決策者參考。考慮到這些技術的廣泛影響，這種分類必須考慮影響的整體性，而不是狹隘的框架。由於地緣戰略利益對決策的影響，全球碎片化正在加劇，鑑於這項技術的緊迫性，獨立和中立的聲音必須堅持不懈地倡導統一和包容的方法。

1）印度斯坦時報。 2023年。
https://www.hindustantimes.com/opinion/g20-must-set-up-an-international-panel-on-technological-change-101679237287848.html
2) 歐盟人工智慧法案。 2023. https://artificialintelligenceact.eu

ISC是主要的融合自然科學和社會科學的全球非政府組織。其全球和學科影響力意味著它有能力提出獨立且全球相關的建議，為未來的複雜選擇提供信息，特別是因為當前這一領域的聲音主要來自行業或主要技術大國的政策和政治界。

經過一段時間的廣泛討論（其中包括考慮非政府評估流程），ISC 得出結論認為，其最有用的貢獻將是產生一個適應性分析框架，可以作為所有人討論和決策的基礎。包括在出現的任何正式評估過程中。

初步分析架構於 2023 年 XNUMX 月發布供討論和回饋，採用了供政府和非政府機構使用的總體清單的形式。該框架透過涵蓋人類和社會福祉以及經濟、政治、環境和安全等外部因素的廣泛視角，確定並探索了人工智慧及其衍生性商品等技術的潛力。根據具體情況，清單的某些方面可能比其他方面更相關，但如果考慮到所有領域，似乎更有可能做出更好的決策，即使某些領域在特定情況下可以快速識別為不相關。這是清單方法的內在價值。

初步框架源自於先前的工作和思考，包括國際政府科學諮詢網絡 (INGSA) 關於數位福祉的報告3和經合組織人工智慧系統分類框架4，以呈現潛在機會、風險和影響的整體情況人工智慧。考慮到它們的時間和背景，這些以前的產品在其意圖上受到更多限制；需要有一個涵蓋短期和長期問題的總體框架。

自發布以來，該討論文件得到了許多專家和政策制定者的大力支持。許多人特別贊同開發一個適應性框架的建議，該框架允許對技術的風險和影響進行深思熟慮和主動考慮，並在此過程中始終考慮從個人到社會和系統的整體維度。

透過回饋得出的一個關鍵觀察結果是，我們承認框架中考慮的一些影響本質上是多方面的，並且跨越多個類別。例如，可以從個人和地緣戰略角度考慮虛假資訊；因此，其後果將是廣泛的。

也建議選擇包括案例研究或範例來測試框架。這可以用來製定指導方針，以展示如何在不同的情況下在實踐中使用它。然而，這將是一項重大任務，並且可能會限制不同群體對該框架的使用的看法。最好由政策制定者與特定司法管轄區或背景的專家合作來完成。

自 2023 年 XNUMX 月以來，出現了幾項重要的國家和多邊舉措，進一步考慮人工智慧的道德和安全。人工智慧對我們一些關鍵系統的完整性的影響，包括金融、政府、法律和教育，以及不同的知識系統（包括科學和本土知識），越來越受到人們的關注。修訂後的框架進一步反映了這些方面。

迄今為止收到的回饋反映在分析框架的修訂版中，該框架現已作為決策者指南發布。

雖然該框架是在人工智慧和相關技術的背景下提出的，但它可以立即轉移到量子和合成生物學等其他快速新興技術的考慮中。

3) Gluckman, P. 和 Allen, K. 2018。英格薩。
https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf
4）經合組織。 2022 年。經合組織數位經濟論文，第 323 號，#。巴黎，經合組織出版。
https://oecd.ai/en/classificatio

下表列出了假定的分析框架的維度。提供範例來說明為什麼每個網域可能都很重要；在具體情況下，該框架需要根據具體情況進行擴展。區分平台開發期間出現的一般問題和特定應用程式期間可能出現的問題也很重要。這裡所包含的任何單一考慮因素都不應該被視為優先事項，因此，所有的考慮因素都應該被審查。

這些問題大致分為以下幾類，概述如下：

• 福祉（包括個人或自我、社會、社會生活和公民生活的福祉）
• 貿易經濟
• 環境建議
• 地緣戰略與地緣政治
• 技術（系統特性、設計與使用）

此表詳細介紹了評估新技術時可能需要考慮的維度。

？英莎。 2018.在快速數位化和相關轉型的背景下理解幸福感。
https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf

？新的描述符（透過廣泛的諮詢和回饋以及文獻綜述得出）

？經合組織人工智慧系統分類架構：有效人工智慧政策的工具。
https://oecd.ai/en/classification

影響維度：個人/自我

影響向度：社會/社會生活

影響維度：經濟背景（貿易）

影響維度：公民生活

影響維度：地緣戰略/地緣政治背景

影響維度：環境

影響維度：資料和輸入

影響維度：模型

影響維度：任務和產出

該框架可以透過多種方式使用，包括：

• 彌合高層原則與監管或治理目的評估之間的差距。該框架可以透過建立經過驗證的一系列問題的通用分類法來支持這一點，這些問題值得相關利益相關者考慮，作為告知和形成進一步思考的基礎。例如，在國家層面，政府可以將該框架用作制定國家人工智慧戰略和政策的工具，以建立跨利益相關者群體的風險和機會的共同基礎。
• 為影響評估提供資訊。 歐盟人工智慧法案要求提供人工智慧工具或在其流程中採用人工智慧的組織進行影響評估，以識別其舉措的風險並應用適當的風險管理方法。 這裡提出的框架可以作為此的基礎。
• 為風險和未來情境的水平掃描提供資訊。聯合國人工智慧諮詢機構中期報告6中的風險分類與此處架構中提出的架構大致一致。該框架有機會用於建立共識、測試新興風險的嚴重性以及預防這些風險。
• 加強指導和管理人工智慧使用所需的道德原則。 該框架可以透過提供靈活的基礎來實現這一點，在此基礎上可以開發值得信賴的系統，並確保合法、道德、穩健和負責任地使用該技術。 這些原則可以根據該框架中提出的全方位影響進行測試。
• 促進對現有和不斷發展的措施（監管、立法、政策、標準、治理等）進行盤點，並找出需要進一步考慮的差距。這些可以根據國家或跨國層面的框架類別進行映射，以確定差距並確定適當的措施來減輕風險。
• 支持政府使用人工智慧。隨著許多政府確定各自在機構和系統內使用人工智慧的策略，該框架可用於定義適當的風險閾值並確定關鍵利害關係人和責任。
• 支持公眾討論並就如何使用人工智慧以及將在政府服務或更廣泛的社會中使用的基礎數據建立社會許可。

前進的道路
總而言之，分析框架是作為工具包的基礎提供的，利害關係人可以使用該工具包以一致和系統化的方式全面審視平台或使用的任何重大發展。在這個框架中提出的維度涉及從技術評估到公共政策、從人類發展到社會學、以及未來和技術研究。雖然該分析框架是為人工智慧開發的，但它對任何其他新興技術都有更廣泛的應用。

6 聯合國人工智慧諮詢委員會。 2023 年。 https://www.un.org/sites/un2.un.org/files/ai_advisory_body_interim_report.pd

在最初的討論文件的製定和發布後的回饋過程中，我們諮詢了許多人並提供了回饋。這兩篇論文均由 ISC 主席 Peter Gluckman 爵士和紐西蘭國防部前首席科學顧問、現任紐西蘭奧克蘭大學高級研究員 Hema Sridhar 起草。

特別是英國皇家學會前主席、劍橋大學存在風險研究中心共同創辦人 ISC Lord Martin Rees； Shivaji Sondhi 教授，牛津大學物理學教授； K Vijay Raghavan 教授，印度政府前首席科學顧問；聯合國秘書長技術特使阿曼迪普辛格吉爾（Amandeep Singh Gill）； Seán Ó hÉigeartaigh，劍橋大學生存風險研究中心執行長； David Spiegelhalter 爵士，溫頓大學公共風險理解教授
劍橋大學；英國皇家學會資深政策顧問 Amanda-June Brawner 與國際事務主任 Ian Wiggins；日內瓦研究生院董事總經理 Jerome Duberry 博士和董事 Marie-Laure Salles 博士； Chor Pharn Lee，新加坡總理辦公室戰略未來中心； Barend Mons 和 Simon Hodson 博士，資料委員會 (CoDATA)；原山裕子教授，日本理化學研究所前執行董事；教授
Rémi Quirion，INGSA 總裁；克萊爾‧克雷格 (Claire Craig) 博士，牛津大學、政府科學辦公室前瞻主管； Yoshua Bengio 教授，聯合國秘書長科學顧問委員會和蒙特婁大學；以及許多其他人就最初的討論文件向 ISC 提供了回饋。