撰文/ 謝以心Yi-Sin Hsieh
原文作者/ 艾力Alexandre Erler副教授
在休息時間滑滑社群軟體，可能是很多人覺得放鬆，或接收新聞資訊的方式。但在近幾年，隨著AI的發展，你是否總感覺「怎麼越來越多看起來很像的貼文？」；或者，隨著越來越常採取AI作為輔助使用，你是否感覺到自己寫作、說話方式，還是難免地在潛移默化中，受到AI的風格影響？
如果你也有同感，甚至有點擔心該怎麼辦，那你想必會對我們所上的艾力（Alexandre Erler）副教授近期的研究計畫——生成式AI：多元性的威脅？——感興趣。
教師介紹
艾力副教授 （Alexandre Erler）
艾力老師為本所現任副教授，專長領域為科技倫理與應用哲學，主要研究人工智慧、人類增強技術、基因編輯等新興科技對社會與人類價值所帶來的倫理影響。
此外，他也長期關注神經倫理學與精神醫學哲學，包括心理疾病相關的倫理議題。
生成式AI帶來的同質化
艾力教授長期關注人工智慧的哲學與倫理議題。然而，由深度學習驅動的大型語言模型（LLMs）的迅速崛起，使他開始將注意力轉向這一新世代 AI 系統所帶來的獨特倫理挑戰。大型語言模型代表了生成式人工智慧（GenAI）最具變革性的應用之一，不僅吸引了媒體的大幅報導，也在許多領域引發了疑慮。
像是 OpenAI 的 ChatGPT 和 Google Gemini 等系統，因其能夠生成極度逼近人類寫作風格的文本（往往讓人難以區分是 AI 生成還是人類創作），而吸引了公眾的廣泛關注。這在許多領域引發了警訊，包括教育界，批評人士警告大型語言模型可能會讓學生甚至是不肖學者進行無法被偵測到的作弊與抄襲（Barnett, 2023）。
同時，採用 AI 文本生成器也帶來了潛在的好處，包括在高等教育與學術研究領域。這些系統可以協助激發創意、提升表達的清晰度以及擬定學術文本草稿，進而節省時間並提高生產力（Porsdam Mann et al., 2023）。
然而，這樣的榮景伴隨著一連串的倫理問題，包括對隱私、演算法偏見（algorithmic bias）、不實資訊（misinformation）以及工作崗位替代的擔憂（Weidinger et al., 2022）。
在這些問題中，艾力教授特別關注到的是「降低多元性（diversity）」的風險，也就是對當今學術界核心價值的威脅。這被廣義地概念化為「同質化（homogenization）」，這種廣泛的疑慮可以從多個層面來理解，但主要可區分為兩種理解方式：風格同質化（stylistic homogenization）與思想同質化（homogenization of thought）。
風格同質化——大家越寫越像？！
風格同質化指的是 AI 文本生成器可能促成單一寫作風格的風險。像 ChatGPT 這類的工具在生成文本時會展現出一種「預設」風格，這種風格常被描述為平庸且乏味（Dwivedi et al., 2022; Samuel, 2023）。
有些人擔憂，使用這些工具的研究人員與學生可能會在無意間於自己的作品中採用這種預設風格（Grimaldi and Ehrler, 2023）。久而久之，這可能導致學術寫作中個人特質（individuality）的喪失，使得表達變得缺乏變化與細致度。這種疑慮不僅限於個人寫作，還可能延伸至更廣泛的學術出版領域，因為在這個領域裡，表達的獨創性（originality）通常是創新的標誌。
因此，艾力教授認為風格同質化無疑是一個真實存在的風險，特別是在人文與藝術（Arts and Humanities）等領域，寫作風格是構成最終成果價值的重要因素。
思想同質化——大家越想越像？！
還有另一個相關，但艾力教授認為可能更為嚴重的疑慮是「思想同質化」（Erler, 2023）。這個風險迄今在哲學文獻中獲得的關注較少——儘管心理學和電腦科學等領域的研究人員已日益重視此問題（例如Moon et al. under review; Si et al., 2024）。
思想同質化的疑慮是指：正如依賴同一款 AI 文本生成器來協助寫作（或至少用來起草部分手稿）的研究人員最終可能擁有相似的寫作風格一樣，這些研究人員也可能會追求相似的思考脈絡，進而導致學術領域整體思想的同質化。
如果研究人員在利用同一款大型語言模型激發靈感時獲得相似的建議，他們可能會被推向相同的研究主題、結論與論證脈絡。由於少數大型科技公司在大型語言模型市場中的壟斷地位，這種風險被進一步放大，因為這些系統所編碼的視角可能反映了狹隘的世界觀或優先考慮特定的意識形態。
艾力教授更進一步指出兩個會使得思想同質化惡化的兇手：學術界對生產力的要求以及大型語言模型中的隱性偏見（implicit biases）。
思想同質化惡化兇手一號——學術界對生產力的要求
艾力教授認為「不出版就淘汰（publish or perish）」的強制性要求會誘使人們重視效率勝過獨創性，這使得學者們很容易傾向採用 AI 生成的點子，而非投入時間進行獨立思考。這樣的做法可能導致一種反饋迴路（feedback loop）：AI 生成的內容被納入未來的訓練資料集中，從而強化既有的模式並邊緣化嶄新的視角（Samuel, 2023）。這種動態過程不僅對個人創造力產生影響，也衝擊了更廣泛的學術探究生態系統，因為該生態系統正是仰賴多元與創新的方法才得以繁榮。
思想同質化惡化兇手二號——大型語言模型中的隱性偏見
除此之外，大型語言模型中的隱性偏見也可能加劇思想同質化的問題。這些偏見可能源於訓練資料集（往往反映了歷史上的不平等或優先考慮主流文化規範），或是源於開發者的設計選擇。例如，如果某個大型語言模型不成比例地接受了大量西方學術文獻的訓練，它可能會隱性地優先考慮西方觀點，從而邊緣化其他傳統的貢獻。
並且，已有初步的實證研究支持「大型語言模型會影響群體層面思考模式」的觀點。Anderson 及其同事發現相關證據表明，在團隊合作中，受大型語言模型協助的靈感發想，往往會使群體產出的內容趨於同質化（Anderson et al., 2024）；Si 及其同事也得出結論，認為儘管大型語言模型產出的內容在評分上被認為具有高度新穎性，目前其於生成點子時仍缺乏多元性（Si et al., 2024）；而 Moon 及其同事在比較 AI 生成與人類撰寫的大學入學申請隨筆時，也發現了 GPT-4 所帶來的同質化效應（Moon et al., under review）。
因此。艾力教授認為雖然這些研究發現仍在發展階段，但它們指出我們需要保持警覺的重要性。我們需理解 AI 工具是如何不僅塑造個人的產出，還塑造了集體的思想格局。
不是所有同質化都是負面的
話雖如此，艾力教授並非認為所有形式的同質化本質上都是負面的。例如，使用大型語言模型來提高語法準確性或清晰度，可以被視為一種積極形式的風格同質化，特別是在學術寫作中，清晰度往往是一項受重視的特質。
同樣地，如果大型語言模型能協助優先處理具有社會重要性的研究課題，或提升投稿至學術期刊的論文品質，它們便能促成更有影響力與相關性的學術研究體系。
高產、更可預測vs. 較「不完美」、較獨特
然而，正如前述所提，這些好處仍然必須與「過度單一化（excessive uniformity）」的風險進行權衡。艾力教授認為寫作風格或思考方法的多元性喪失可能會帶來更高的機會成本（opportunity costs），也就是寶貴且非傳統的點子更可能被創作者忽略，傾向選擇更安全、更容易預測的產出。這樣的成本最終會阻礙知識的進步以及由多元視角所帶來的社會福祉。
此外，還有一個有趣的議題是艾力教授認為值得探討的：研究人員寫作風格中某些可能被大型語言模型消除的「不完美之處」，是否反而在客觀上促進了該寫作風格的獨特性與獨創性？
如何解決同質化——艾力教授想發展的解方
而談了這麼多同質化的影響，如何解決同質化所帶來的風險就更為重要了。因此艾力教授在這個研究的目標為：明確區分大型語言模型可能促進的「積極（或至少無害）的同質化形式」與「負面的同質化形式」，並找出應對後者最可行的方式，從而為在學術情境中負責任地將大型語言模型用作寫作助手建立一套指引。
目前，艾力教授的解方會強調 AI 輔助的工作中保持「實質性人類貢獻」的重要性，並倡導「負責任的低效率（responsible inefficiency）」原則——也就是要求深思熟慮地犧牲由大型語言模型所帶來的部分生產力紅利，以優先保障獨創性與研究品質。
此外，除了確保使用者對最終產出有顯著貢獻外，他認為這個對策還可以包括「在向大型語言模型尋求協助之前，先自行完成初稿，或獨立發展自己的主要想法」、「批判性與創造性地使用提示詞（prompts）」、「使用多個不同的大型語言模型」、「結合同儕的回饋意見」等。最後，他也想透過探討大學、學術期刊和資助機構在抵制不良同質化方面所能發揮的作用，來完善他的解方。
看到這裡的你，是否很期待艾力教授最終的研究成果呢？請繼續關注本所網站、社群媒體，以獲得本研究的最新進度
參考資料
ANDERSON, B. R., SHAH, J. H. & KREMINSKI, M. 2024. Homogenization Effects of Large Language Models on Human Creative Ideation. Proceedings of the 16th Conference on Creativity and Cognition, C&C 2024, 413-425.
DWIVEDI, Y. K., KSHETRI, N., HUGHES, L., SLADE, E. L., JEYARAJ, A., KAR, A. K., et al. 2023. “So What if ChatGPT Wrote It?” Multidisciplinary Perspectives on Opportunities, Challenges and Implications of Generative Conversational AI for Research, Practice and Policy. International Journal of Information Management, 71, 1026-42.
ERLER, A. 2023. Publish with AUTOGEN or Perish? Some Pitfalls to Avoid in the Pursuit of Academic Enhancement via Personalized Large Language Models. American Journal of Bioethics, 23, 94-96.
GRIMALDI, G. & EHRLER, B. 2023. AI et al.: Machines Are About to Change Scientific Publishing Forever. Acs Energy Letters, 8, 878-880.
MOON, K., GREEN, A. E. & KUSHLEV, K. Under review. Homogenizing Effect of a Large Language Model (LLM) on Creative Diversity: An Empirical Comparison of Human and ChatGPT Writing. https://doi.org/10.31234/osf.io/8p9wu_v2.
PORSDAM MANN, S., EARP, B. D., MØLLER, N., VYNN, S. & SAVULESCU, J. 2023. AUTOGEN: A Personalized Large Language Model for Academic Enhancement—Ethics and Proof of Principle. American Journal of Bioethics,23, 28-41.
SAMUEL, S. 2023. What Happens When ChatGPT Starts to Feed on its Own Writing? Vox [Online]. Available: https://www.vox.com/future-perfect/23674696/chatgpt-ai-creativity-originality-homogenization