資料不平衡，會不會變成看不見的 AI 歧視？
－從數位文化殖民到 AI 輸出後的詮釋責任
AI 已經深入研究日常，幫忙整理文獻、摘要資料、比較觀點，想必各位大概已經練就反射動作：先看有沒有 AI 幻覺的影子；畢竟 AI 幻覺一旦出現在你的研究或是參考文獻裡，輕則尷尬，重則可能讓你在口試現場體驗學術版社死，投稿時也徒增不必要的風險。
不過這篇文章，想要稍微討論另一個比較不明顯的問題：如果AI持續進步，AI 幻覺是否就越來越少，那現在所面對的問題是不是就解決了？這個答案可能是「不一定」；因為有些風險並非來自 AI一本正經地胡說八道，而是AI把本來就不平衡的資料世界，彙整成一個看起來十分中肯的論述架構。
AI 幻覺比較像是個跳出來 嚇人的怪獸，仔細檢查都還能夠發現，但偏誤相對更麻煩，它猶如穿著西裝進場，語氣禮貌、條理清楚，還幫你分好三點摘要，但卻字字暗藏玄機。
數位文化平台，不一定等於世界文化全貌
Kizhner 等人（2021）研究 Google Arts & Culture 這類大型數位文化內容聚合平台，提出一個值得注意的概念：數位文化殖民（digital cultural colonialism）；Google Arts & Culture 讓大量藝術與文化內容更容易被接觸，這當然有其價值，不過，當一個平台看起來像「世界文化入口」時，人們可能容易忽略一個事實：這個平台其實也是一個被選擇、被排序、被聚合後的文化呈現。
Kizhner 等人的研究指出，這類平台中的內容分布並不完全平衡，有些國家、機構、城市與文化類型被更充分地呈現，有些文化則相對缺席，或只以較單薄的方式出現；這樣的安排並非基於某種惡意，而可能與參與機構、數位化政策、開放近用條件、國家資源差異、中心城市優勢等的因素使然，當然也與平台本身的編輯與聚合邏輯有關。
也就是說， 這些資料背後存有更深一層的問題：哪些文化被允許以複雜、多元、有歷史層次的樣子出現？哪些文化只被壓縮成幾個容易辨識的標籤？
有些文化被寫成歷史，有些文化被寫成風格。
有些文化被寫成理論，有些文化被寫成素材。
有些文化被允許複雜，有些文化只被允許「很有特色」。
這就不是單純的資料量問題，而是資料如何影響與塑造觀看角度的問題。
AI 不是直接讀世界，而是讀資料裡的世界
當我們使用 AI 整理資料、檔案內容或文獻觀點時，AI 並不是從一個完全中立的位置開始理解資料。它能整理出什麼，往往取決於它接觸過哪些資料、哪些資料比較容易被看見、哪些觀點在既有資料中本來就比較強勢。換句話說，如果資料環境本身已經帶有偏向，AI 在處理資料時，就可能順著這些偏向繼續整理下去，甚至再產生另一層偏誤。更何況，資料本身早就可能有中心與邊陲，有被反覆放大的聲音，也有一開始就比較沉默、比較難被看見的部分。
Kizhner 等人的研究雖然聚焦於數位文化聚合平台，而不是今日一般研究者使用的生成式 AI，但他們提醒了一件很關鍵的事：數位文化殖民與主流知識體系，不只會影響文化資產的研究與取用，也可能影響建立在既有數位資訊環境上的機器學習方法，進一步強化與放大偏誤。換句話說，如果資料環境本身已經不平衡，後續 AI 的整理、分類、推薦或生成，也不會自動變得中立。
但這並非是說 AI 技術一定會存有歧視，也不是說這些平台都帶有惡意，而是：AI 可能會繼承資料世界裡已經存在的偏差，然後用非常流暢的語言，把它整理成看似合理的答案。
這種偏誤不一定很明確，它可能只是把某些特定觀點放在中心，弱化另一個文化觀點；把某些知識寫成標準，把另一些知識寫成例外；把殖民、遷移、掠奪與權力關係，寫成聽起來很中性的「交流」或「影響」；AI提供的結果不一定是幻覺，但它可能已經帶有某種既定觀點。
要注意的是錯置的詮釋框架
因此研究者在審視 AI 輸出時，不能只注意：「AI有沒有講錯或是產生幻覺？」，更要注意：「它可能是從怎樣的視角，進行這件事或這個主題的陳述？」
所以，當我們透過 AI 整理一批文化資料時，使用者應該再多追問：
這些資料是否把某些文化寫得很有歷史層次，卻把另一些文化寫得像單一風格？
資料中是否把某些地區固定成傳統、神祕、異國、地方色彩？
是否把資料缺席誤寫成文化本身不重要？
是否把特定的理論框架，當成可以套用到所有文化的普遍標準？
這些問題並非額外加上政治正確的檢查，而是提升自我研究意識的基本動作，因為在研究裡，偏誤最麻煩的地方，不一定是它明顯錯，偏誤甚至可能有資料根據，整理出來的文句可能通順，甚至看起來很有學術味。但潛藏的問題是這些資料根據本身的出發點是什麼？這套語言又是從怎樣的觀點或地位長出來的？
這也是為什麼 AI 輸出後的人類參與，不應該僅止於「人工確認一下」，HITL（Human-in-the-loop）更不是在最後幫 AI 按一個「看起來沒問題」的讚就了事；真正的人類參與，是在 AI 輸出很順的時候，還能保有警覺，尖銳地追問：這個觀點的基礎，是基於完整的理解，還是某種被過度美化的偏誤？
檔案脈絡與問責，還是要由人守住
Colavizza 等人（2021）討論 archives and AI 時提醒，數位轉型讓檔案越來越像大規模資料組織，AI 也開始進入紀錄管理、組織與取用流程。但檔案工作並沒有因此只剩自動化。來源、脈絡、證據性、信任，仍然是核心問題。人類不只是使用機器推理，也要評估機器的評估。
Jaillant 與 Rees（2023）則從 digital archives 的 AI 應用談到信任（trust）、問責（accountability）、控制（control）與偏誤（bias）。研究中提醒，AI 應用不是只需要運算或工具操作能力，也需要領域知識（domain knowledge），也就是理解正在處理的資料或文獻對象。換句話說，你不能只知道怎麼叫 AI 跑，你還要知道它跑過的是些怎樣的資料。
因此並不是要研究人員「不要用 AI」，在這個AI時代，那就像是把學生的 Wi-Fi 拔掉，通常只會引發最真實的怨念，而是再次提醒：使用 AI 的時候，一定要記得回查來源、理解資料的邊界、並盡可能取得更完整的全文與脈絡，也提醒研究者不要把 AI 的整理當成理解的本身，AI 可以幫你整理，但使用者要負責判斷它整理了甚麼？以及整理掉了什麼。
當 AI agent 學會的是你自己的盲點
最後，除了上述所提及的資料庫、平台與檔案脈絡偏誤之外，若把這樣的問題延伸到 AI agent 逐漸進入研究流程的趨勢下，或許你會先從幾篇文獻中，自己萃取出觀點與論述，之後把這些觀點和寫作方法整理成 prompt，讓 AI 用這套框架處理另一批資料。甚至再進一步，可能把自己的閱讀偏好、分類習慣、理論語彙、寫作格式與判斷規則，整理成一份 skill.md 或 agent instruction，讓 AI agent 每次都用「更像你」的方式協助研究。
這個趨勢當然方便，對使用者來說，AI 不再像第一天上工的研究助理，而是越來越像熟悉你研究脈絡的夥伴；但也正因如此，這個AI agent可能不只繼承你的效率與聰明，也可能承襲你自身的盲點。
我們常以為 AI 的回覆太過AI，欠缺人味是個缺點，但在不久的研究現場，另一個同樣值得警惕的問題可能是：它太像我們了；當研究生把自己 skill.md 化，AI 可能不只是替你處理更多，也可能是穩定且更有效率地，重複忽視你原本就忽視的東西，如果原本的研究視角裡有盲點，那麼這樣的盲點也可能被一起傳承下來。
所以，真正需要被檢查的，已不只是 AI 有沒有幻覺，也不只是資料集有沒有偏誤。到最後，研究者還要回頭問自己：我交給 AI 的那些資料、那套方法或是提示詞（prompt），究竟是在幫我看見更多，還是在更漂亮地複製我原本的視角？
這才是 AI 輔助研究最難、也最值得深思與練習的地方。
不是不用 AI，而是使用 AI 之後，仍然保有能力追問：「這個答案從哪裡來？它替誰說話？它讓誰消失？」以及，最尷尬但最重要的一題——它是不是正在用我的盲點，幫我整理世界？
參考文獻
Colavizza, G., Blanke, T., Jeurgens, C., & Noordegraaf, J. (2021). Archives and AI: An overview of current debates and future perspectives. ACM Journal on Computing and Cultural Heritage, 15(1), Article 4. https://doi.org/10.1145/3479010
Jaillant, L., & Rees, A. (2023). Applying AI to digital archives: Trust, collaboration and shared professional ethics. Digital Scholarship in the Humanities, 38(2), 571–585. https://doi.org/10.1093/llc/fqac073
Kizhner, I., Terras, M., Rumyantsev, M., Khokhlova, V., Demeshkova, E., Rudov, I., & Afanasieva, J. (2021). Digital cultural colonialism: Measuring bias in aggregated digitized content held in Google Arts and Culture. Digital Scholarship in the Humanities, 36(3), 607–640. https://doi.org/10.1093/llc/fqaa055
推廣組 柯文仁 / 本文搭配AI工具進行寫作輔助