在美國近年禁書和教材審查運動越漸蓬勃的有誠意環境下，愛荷華州的回應華州教育工作者開始求助ChatGPT，決定哪些書籍應該從學校圖書館書架中移除，共和以便在法律上遵守最近共和黨州立法的黨禁T調規範。新法律要求，書令書館書籍愛荷華州的愛荷學校圖書館目錄必須既「適齡」，又不包含「性行為的學區描述或視覺描繪」。
根據愛荷華州媒體報導，求助該州的整圖曼森市（Mason City）社區學區在新學年之前，從其收藏中移除了19本書，有誠意而其中靠的回應華州就是AI輔助。
報導中，共和曼森市的黨禁T調課程和教學副主管艾克斯曼（Bridgette Exman）表示「要閱讀每一本書並為這些新要求篩選是不可行的」，「我們有更重要的書令書館書籍事情要做，而不是愛荷花很多時間試圖保護孩子免受書籍的影響。」
報導也提到，艾克斯曼採用的策略為編制一份爭議書籍的主列表，然後利用一個「人工智能軟體」來為每本書進行文字分析，被AI認為不適宜的書籍，則會從曼森市的7至12年級學校圖書館收藏中移除並「存放在行政中心，等待教育工作者進一步的指導或釐清」。
被AI挑出的書籍，包括Alice Walker的《紫色姊妹花（The Color Purple）》、Margaret Atwood的《使女的故事（The Handmaid’s Tale）》、Toni Morrison的《寵兒（Beloved）》和Buzz Bissinger 的《勝利之光（Friday Night Lights）》。
精確度越來越差的ChatGPT，審查結果準確嗎？
在該新聞報出後，美國科普雜誌《Popular Science》採訪了艾克斯曼，被問及是用什麼軟體進行書本內容的審閱時，他表示是使用「ChatGPT」。
根據艾克斯曼的說法，他與其他人員在編制了常見爭議的書籍主列表後，會先刪除因為性內容以外原因而引起爭議的書籍，接著，管理人員向ChatGPT進行依據愛荷華州新法律的提問：「（某書籍）是否包含性行為的描述或描繪？」
艾克斯曼說，「如果答案是肯定的，這本書將被撤下並封存。」
OpenAI旗下的ChatGPT，是目前最知名和最受歡迎的生成式AI之一，也是最具爭議性的一個。這個大型語言模型（LLM）利用大量數據，為用戶提供極具說服力的文字回應，但時常也包含錯誤信息，或出現準確性和來源的錯誤。而且研究人員也發現近幾個月發現，ChatGPT的一致性和回答品質，似乎正逐漸下降。
根據科技媒體《The Verge》報導，梅森市的行政人員坦承由於使用者的詢問和查詢方式不同，ChatGPT產生的答案有時會有矛盾。《The Verge》也實測將梅森市學區禁止的19本書籍列表輸入ChatGPT，並詢問它們是否包含暴露或性愛的場景，答案顯示列表中有幾本書籍沒有包含那樣的內容。
報導也提到，艾克斯曼表示雖然目前沒有聽到行政人員用這種方式來決定禁書列表，但確實有其他學區聯繫他們詢問。「我們的目的是展現遵守法律的誠意和努力，同時不浪費原本應該花在準備新學年和學生身上的精力。」
「我們的目標，是找到一個有效流程開始新的一年，然後依照我們過往的模式，家長可以要求學區調整列表內容——目前在列表中的書籍可以移除，不在列表中的書籍也可以加入。」
Photo Credit: Shutterstock / 達志影像在對《Popular Science》的回覆中，艾克斯曼則表示愛荷華州長在2023年5月26日簽署了新法案，只給校方三個月的時間來遵循。「在編制清單後，我們向教師圖書館員進行了確認，最終的19本書中沒有一本書讓她感到意外。」
OpenAI：越來越多企業用GPT來進行內容審核，是解決社會問題的進步
ChatGPT一直在使用其最先進的大型語言模型，來執行自家公司的內容審查政策。母公司OpenAI的安全系統負責人翁麗蓮（Lilian Weng）在接受新聞網站《Semafor》採訪時表示，該模式也可用於社交媒體和電子商務平台上的內容審核。
目前，這項工作多由發展中國家的勞工完成，且任務大多十分繁重和令人創傷。
翁麗蓮表示，「我希望看到更多廠商用這種方式進審核工作，這是靠AI解決社會問題上的有益進步。」
目前OpenAI用來監督GPT-4的方法既簡單又強大。首先，工作人員會將完整的內容政策輸入到GPT-4中，然後在少量內容樣本上測試其標記有問題的內容的能力，並以人力審查結果、分析錯誤，然後政策團隊要求模型解釋為什麼做出錯誤的決定，並使用這些訊息進一步完善系統。
翁麗蓮說：「它將內容政策開發過程從幾個月縮短到幾小時，也不需要為此招募大量的人工審核員。」
OpenAI發現，這種技術雖然仍不如經驗豐富的人工審核員有效，但它的表現已優於接受初步培訓的審核員。如果這個審查模式在其他平台上也能使用，將可能對各企業處理數位內容的模式產生重大轉變，包括假訊息和兒童情色內容。《Semafor》的報導也提到，OpenAI發言人表示他們已知道有些客戶在使用GPT-4進行內容審核，但不便透漏公司名稱。
新聞來源
- 19 books pulled from Mason City school libraries（The Gazette）
- School district uses ChatGPT to help remove library books（Popular Science）
- An Iowa school district is using ChatGPT to decide which books to ban（The Verge）
延伸閱讀
- 善用指令邏輯＋三種有效詠唱法，讓ChatGPT成為你的高階智囊團
- 美國書籍下架投訴案創20年新高，保守團體瘋狂檢舉，種族議題、多元性別都成禁書
- 學校不給你看的，這裡都有：美國公共圖書館發放「我讀禁書」借書證
- 伊利諾州通過全美首部「禁止設定禁書」法案，反制保守派下架LGBTQ與種族議題書籍
【加入關鍵評論網會員】每天精彩好文直送你的信箱，每週獨享編輯精選、時事精選、藝文週報等特製電子報。還可留言與作者、記者、編輯討論文章內容。立刻點擊免費加入會員！
責任編輯：丁肇九
核稿編輯：邱宜君