關於作者： 艾米·布蘭德 (Amy Brand) 自 2015 年起擔任麻省理工學院出版社 (MIT Press) 的總監兼出版人。她是一位認知科學家，擁有麻省理工學院的博士學位，曾在 CrossRef、哈佛大學和 Digital Science 擔任領導職務。她是 CRediT 分類法的共同創始人、ORCID 董事會創始成員以及紀錄片《想像一位科學家》(Picture a Scientist) 的製片人。布蘭德因其在研究基礎設施、學術交流和科學公平方面的貢獻而廣受認可。她獲得的榮譽包括美國科學編輯委員會獎和美國科學促進會 (AAAS) 卡夫利科學新聞金獎。
科學對人類進步至關重要。同樣至關重要的是我們如何傳播科學，儘管這一點不那麼顯而易見。作為知識被發現和可信的體系，出版是研究基礎設施的核心組成部分。
出版業該如何適應科學研究界的需求？科學研究界面臨審查制度、資金減少，以及生成式人工智慧系統的快速崛起，這些系統在吸取知識的同時，也侵蝕了知識的完整性。作為一個在科學研究、大學管理和出版領域工作了數十年的人，我從未見過科學和出版的未來面臨如此巨大的風險。 以及 科學傳播。
隨著我們周圍的社會政治體系逐漸崩潰，人們很容易將生成式人工智慧視為解決世界問題的靈丹妙藥。大型語言模型（LLM）已成為通往發現的誘人門戶，提供即時答案、無縫集成，以及看似知識的民主化。然而，它們的魅力掩蓋了其作為系統的潛在威力，它們同時也加速了錯誤訊息、詐欺和宣傳的滋長。從設計上講，它們產生的內容看似高度合理，但往往具有誤導性，甚至完全錯誤。當驗證過程困難且成本高昂，而「真實性」卻廉價且有利可圖時，這對科學來說是危險的，尤其是在欺騙人類思維如此容易的情況下。
是的，面對嚴峻的全球挑戰，我們確實希望加速探索和解決問題。我們渴望相信機器能夠比人類的認知架構或我們功能失調的機構更快解決問題。但當不受限制的人工智慧訓練的支持者認為，公開所有科學內容和數據以加速創新是道德義務時，歷史教訓提醒我們謹慎行事。
我們以前就見過這種情況。早期的網路被譽為推動言論和普世知識的民主化力量。最終，由於缺乏監管，大型商業平台佔據了主導地位，侵蝕了信任，並摧毀了新聞和研究內容的經濟模式。我們現在也知道，不成熟的開放取用政策加速了出版業的整合，並創造了經濟激勵，促使出版更多內容，但品質控制卻較為鬆散。
讓我們停下來思考一下，什麼對人類的理解、學習和知識的進步最有利。當搜尋只會導向人工智慧的摘要，而用戶卻不會點擊查看原始來源，當純粹的閱讀樂趣正在急劇下降時，我們如何避免未來我們創作和發布的內容只供機器消費？
我認為出版商在支持研究影響力和完整性方面發揮的重要作用值得保留和保護， 尤其是現在。 我理解人們對高昂的出版費和訂閱付費牆感到不滿，尤其是那些利用了學術聲望市場的大型出版商，而這個市場歷來對價格並不敏感。但我們的產業並非一個單一的、追求利潤的實體。像麻省理工學院出版社和許多科學協會這樣的非營利出版商，其營運價值觀不同，利潤也更微薄。
事實上，我們面臨的威脅更大，不僅在於人工智慧的“地盤爭奪”，有時甚至在於我們長期以來所支持的開放科學運動。因此，我們必須抵制那些忽視權力動態的道德姿態。 「開放」的概念籠罩著一層光環，可能會掩蓋經濟學和激勵機制等現實世界的複雜性。歸根結底，並非所有開放都是良性的；並非所有對開放的抵制都是蓄意阻撓。
另一個誤解是，出版商的利益與研究人員的利益不一致。我們最近進行了一項 大型作者調查 在STEM領域，關於其研究成果未經授權用於法學碩士（LLM）培訓的問題一直存在爭議。儘管絕大多數人相信人工智慧有望為探索和學習帶來變革，但他們仍然反對這種做法。他們希望能夠選擇同意或不同意這種使用方式，並期望在其研究成果用於LLM產出時獲得授權。他們不認為「開放閱讀」與「開放訓練」等同。
同樣，許多人對大型人工智慧公司的誠信持懷疑態度，並擔心法學碩士將如何影響出版、閱讀、寫作、批判性思維和創造力；壓制多元化的觀點；並強化偏見和文化霸權。他們深切擔憂，當我們將人類創作的作品分解成標記化的訓練數據，並將其輸入到無法保留其上下文或論點的模型中時，會造成怎樣的損失。
如何以及在何種條件下將已發表的科學成果用於培養法學碩士，這個問題不僅僅關乎版權，還關乎誰掌控著知識的未來。我們是否應該將權力拱手讓給不透明的、採礦性產業，而對研究界幾乎不承擔任何責任？還是應該建立一套能夠維護研究成果歸屬、完整性和永續性的體系？如果我們認真對待人類繁榮、基於證據的科學以及保護知識增長的環境，那麼研究界及其機構就必須謹慎行事。
將已發表的科學和學術成果拱手讓給一個高度掠奪且不透明的科技產業，這符合誰的利益？按照這個邏輯：作者、機構和資助者支付的開放出版費用，最終全部價值都落入了OpenAI和Anthropic之類的公司手中。說到掠奪性產業，我們也應該誠實地評估一下人工智慧產業的價值與學術出版商的價值相比如何。
我自己仍然保持樂觀，相信透過周密的規劃和基於證據的政策，我們將利用人工智慧來改善同行評審，提高可重複性，並簡化出版流程和成本。我們甚至可能能夠建立有助於維持科學出版良好發展的解決方案。
但目前的模式——未經同意就開採已發表的記錄，並由私人科技巨頭將其貨幣化——是不道德的，對科學和學術研究具有破壞性。它也反映出人們對我們複雜的世界如何運作以及如何在解決我們面臨的生存問題上取得真正進展的幻想。
免責聲明
我們客座部落格中所呈現的資訊、觀點和建議均來自撰稿人個人，不一定反映國際科學理事會的價值觀和信念。
將未來的開放科學綜述直接發送到您的收件匣 - 現在訂閱.
閱讀更多關於開放科學綜述的內容：將開放科學激勵機制融入科學研究體系 
