用於評估快速發展的數位及相關技術的框架：人工智慧、大型語言模型等

• 引言 
• 背景 
• 分析框架的開發 
• 使用分析框架 
• 評估新技術時要考慮的維度 
• 前進的道路 
• 致謝

快速新興的技術在治理和潛在監管方面提出了具有挑戰性的問題。 關於人工智慧（AI）及其使用的政策和公眾辯論使這些問題成為人們關注的焦點。 雖然聯合國教科文組織、經合組織和其他組織已經頒布了人工智慧的廣泛原則，並且關於該技術的全球或司法監管的討論也剛剛起步，但高級原則的製定與將其納入監管、政策、法律和法規之間存在本體論差距。治理和管理方法。 這就是非政府科學界可以發揮特殊作用的地方。 

許多學者和政策專家建議，國際科學理事會（ISC）——其成員來自社會科學和自然科學領域——建立一個流程，以製定和維護風險、利益、風險和收益的帶註釋的框架/清單。與快速發展的數位科技相關的威脅和機遇，包括但不限於人工智慧。 這份清單的目的是向所有利害關係人（包括政府、貿易​​談判代表、監管機構、民間社會和產業）通報未來可能出現的情況，並框架他們如何考慮機會、利益、風險和其他議題。 

產出不會充當評估機構，而是充當適應性和不斷發展的分析框架，可以支撐包括政府和多邊體系在內的利害關係人可能製定的任何評估和監管流程。 理想情況下，任何分析框架的製定都應獨立於政府和產業的主張，因為它們的利益是可以理解的。 它的視角也必須最大限度地多元化，從而涵蓋技術及其影響的所有方面。 

本討論文件提供了初步框架的輪廓，為正在進行的與人工智慧相關的多個全球和國家討論提供資訊。 

具有人工智慧複雜性和影響力的技術的迅速出現正在推動許多聲稱具有巨大好處的說法。 然而，它也引發了對從個人到地緣戰略層面的重大風險的擔憂。 許多討論往往發生在觀點範圍的極端，因此需要採取更務實的方法。 人工智慧技術將繼續發展，歷史表明，幾乎每項技術都有有益和有害的用途。 因此，問題是：我們如何從這項技術中獲得有益的結果，同時降低有害後果的風險，其中一些後果可能是嚴重的？ 

未來總是不確定的，但關於人工智慧和生成式人工智慧，有足夠的可信和專家的聲音來鼓勵採取相對預防性的方法。 此外，還需要一種系統方法，因為人工智慧是一類被多種類型的使用者廣泛使用和應用的技術。 這意味著在考慮人工智慧對個人、社會生活、公民生活、社會生活以及全球背景的影響時，必須考慮整個背景。 

與大多數過去的技術不同，數位及相關技術從開發到發布的時間很短，很大程度上是由製作公司或機構的利益驅動的。 人工智慧正在迅速普及； 有些特性可能只有在發布後才會顯現出來，而且該技術可能具有惡意和善意的應用。 重要的價值維度將影響任何使用的感知方式。 此外，可能還有地緣戰略利益在運作。 

迄今為止，虛擬技術的監管很大程度上是從「原則」和自願合規的角度來看的。 然而，最近，討論轉向了國家和多邊治理問題，包括監管和其他政策工具的使用。 支持或反對人工智慧的主張往往是誇張的，而且鑑於該技術的性質，很難評估。 建立有效的全球或國家技術監管體系將具有挑戰性，從發明者到生產者，到用戶，到政府和多邊體系，整個鏈條上需要多層風險知情決策。 

儘管教科文組織、經合組織和歐盟委員會等已頒布了高層原則，並且就潛在監管問題正在進行各種高層討論，但這些原則與治理或監管框架之間存在巨大的本體論差距。 監管機構可能需要考慮的因素分類是什麼？ 考慮到這些技術的廣泛影響，狹隘的框架是不明智的。 這種潛力一直是許多正面和負面評論的主題。

ISC 是整合自然科學和社會科學的主要全球非政府組織。 其全球和學科影響力意味著它有能力提供獨立且全球相關的建議，為未來的複雜選擇提供信息，特別是因為當前這一領域的聲音主要來自行業或主要技術強國。 經過近幾個月的廣泛討論，包括考慮非政府評估流程，ISC 得出的結論是，其最有用的貢獻將是產生和維護一個適應性分析框架，該框架可用作各方討論和決策的基礎。所有利害關係人，包括在出現的任何正式評估過程中。 

該框架將採取政府和非政府機構均可使用的總體清單的形式。 該框架透過涵蓋人類和社會福祉以及經濟、政治、環境和安全等外部因素的廣泛視角，識別和探索人工智慧及其衍生品等技術的潛力。 根據上下文，清單的某些方面可能比其他方面更相關，但如果考慮所有領域，則更有可能做出更好的決策。 這是清單方法的內在價值。 

建議的框架源自於先前的工作和思考，包括國際政府科學諮詢網絡 (INGSA) 的數位福祉報告¹ 和經合組織人工智慧分類框架² 呈現人工智慧的潛在機會、風險和影響的整體。 鑑於其時間和背景，這些先前的產品在其意圖上受到更多限制，因此需要一個總體框架來呈現短期和長期的全方位問題。 

雖然是為了考慮人工智慧而開發的，但該分析框架可以應用於任何快速且新興的技術。 這些問題大致分為以下幾類，以便進一步審查： 

• 福祉（包括個人或自我的福祉、社會和社會生活以及公民生活） 
• 貿易經濟 
• 環境建議 
• 地緣戰略與地緣政治 
• 技術（系統特性、設計與使用） 

上述每個類別的注意事項清單及其各自的機會和後果均包含在內。 有些與人工智慧的特定實例或應用相關，而有些則是通用的，與平台或用途無關。 這裡所包含的任何單一考慮因素都不應該被視為優先事項，因此，所有的考慮因素都應該被審查。 

該框架可以但不限於以下方式使用： 

• 透過建立經過驗證的考慮範圍的共同分類法來彌合原則和評估之間的差距，相關利害關係人可以利用該分類法作為告知和形成進一步思考的基礎，包括當局可能製定的任何評估框架。 

• 為影響評估提供資訊。 歐盟人工智慧法案要求提供人工智慧工具或在其流程中採用人工智慧的組織進行影響評估，以識別其舉措的風險並應用適當的風險管理方法。 這裡提出的框架可以作為此的基礎。 

• 加強指導和管理人工智慧使用所需的道德原則。 該框架可以透過提供靈活的基礎來實現這一點，在此基礎上可以開發值得信賴的系統，並確保合法、道德、穩健和負責任地使用該技術。 這些原則可以根據該框架中提出的全方位影響進行測試。 
• 促進對現有措施（即監管、立法、政策）的盤點，並找出需要進一步考慮的差距。 

• 該框架與技術及其使用無關。 因此，它可以用於合成生物學等截然不同的領域。 

下表是分析框架維度的早期塑造。 根據技術及其用途，某些組件將比其他組件更相關。 提供的範例是為了說明為什麼每個網域可能都很重要； 在具體情況下，該框架需要根據具體情況進行擴展。 區分平台開發和特定應用程式中可能出現的一般問題也很重要。  

關鍵 描述符的來源

純文字：
格魯克曼，P. 和艾倫，K. 2018。 了解快速數位化和相關轉型背景下的福祉。 英格薩。 https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf 

粗體：
經合組織。 2022 年。 經合組織人工智慧系統分類框架。經合組織數位經濟論文，第 323 期，經合組織出版社，巴黎。 https://oecd.ai/en/classification 

斜體文字:
新描述符（來自多個來源） 

根據對本討論文件的回應，ISC 將成立一個專家工作小組，以進一步製定或修訂上述分析框架，利害關係人可以透過該框架全面審視平台或使用維度的任何重大發展。 該工作小組將在學科、地理和人口方面具有多樣性，其專業知識涵蓋從技術評估到公共政策、從人類發展到社會學以及未來和技術研究。 

要參與此討論文件，請訪問 Council.science/publications/framework-digital-technologies 

本文由 Sir Peter Gluckman、ISC 主席和國防部前首席科學家、現任紐西蘭奧克蘭大學高級研究員 Hema Sridhar。 

我們特別感謝英國皇家學會前主席、劍橋大學生存風險研究中心共同創辦人馬丁‧里斯勳爵； Shivaji Sondhi 教授，牛津大學物理學教授； K Vijay Raghavan 教授，印度政府前首席科學顧問； 聯合國秘書長技術特使阿曼迪普辛格吉爾（Amandeep Singh Gill）； Seán Óh Éigeartaigh 博士，劍橋大學生存風險研究中心執行董事； 英國皇家學會資深政策顧問 Amanda-June Brawner 與國際事務主任 Ian Wiggins； Jerome Duberry 博士、Marie-Laure Salles 博士，日內瓦研究生院院長； Chor Pharn Lee 先生，新加坡總理辦公室戰略未來中心； Barend Mons 和 Simon Hodson 博士，資料委員會 (CoDATA)； Yuko Harayama 教授，日本； Rémi Quirion 教授，INGSA 主席； 克萊爾‧克雷格 (Claire Craig) 博士，牛津大學、政府科學辦公室前瞻主管； 以及聯合國秘書長科學顧問委員會和蒙特婁大學的 Yoshua Bengio 教授。 清單方法得到了普遍認可，並強調了 ISC 任何行動的及時性。