「這樣也行？！」AI產生的卡通老鼠圖像 竟登上科學相關期刊
最近，一篇由研究人員使用Midjourney AI圖像生成器創作的科學文章引起了業界的廣泛關注。這篇文章中的一幅圖片展示了一隻配有巨大生殖器的卡通老鼠，旁邊伴隨著一串毫無意義的文字，例如「testtomcels」、「Dissisilcied」和「dck」。該文章原本發表在《細胞與發育生物學前沿》期刊中，但由於內容的不當，現已被該期刊正式撤回。
這起事件凸顯了在科學文獻中使用AI工具的風險。儘管一些主要期刊已開始限制這種做法，但研究人員仍然擔心不受限制地使用AI工具可能會促進不準確的發現，並可能對機構和研究人員造成聲譽損害。
該期刊表示，該論文「不符合《細胞與發育生物學前沿》的編輯和科學嚴謹標準」，並聲明該文章及其中的AI生成圖片已從其數據庫中刪除，以保護科學記錄的完整性。期刊聲稱，論文的作者未能回應審稿人要求他們修改圖片的請求。現在，前沿表示正在調查這一切如何發生的。
科學誠信專家伊麗莎白·比克（Elisabeth Bik）表示，這幅圖片是一個「悲哀的例子」，說明生成型AI圖像如何容易地穿越裂縫。儘管特別是那個陽具圖像很容易被發現，但比克警告說，它的發表可能預示著將來更有害的條目。
隨著每年在線上發表的學術文章超過五百萬篇，目前無法確定研究人員使用AI生成圖像的頻率。但即使目前AI生成的圖像還沒有大量出現在文章中，對於時間緊迫的研究人員來說，使用越來越令人信服的工具以更快的速度生產發表作品仍然存在動力。一些知名期刊已經採取預防措施，以防止這些內容被發表。
《自然》與《科學》已聯手聲明不允許AI製圖
其實就在去年（2023），《自然》已經發表了一份措辭強烈的聲明，表示將不允許在其期刊中出現任何AI生成的圖像或視頻。《科學》家族的期刊則禁止在未經編輯許可的情況下使用由AI生成的文本、圖像或圖表。《自然》的編輯委員會表示，其決定是在幾個月的審議後做出的，主要是由於難以驗證用於生成AI內容的數據。委員會還表示擔心圖像生成器無法妥善歸功於藝術家的工作。
目前負責這些工具的AI公司正在對抗藝術家和作者提起的一系列訴訟，他們稱這些工具非法地吐出了受版權保護材料訓練的圖像。除了歸屬問題外，生成型AI工具傾向於噴出文本並產生不事實或概念上準確的圖像，研究人員稱之為「幻覺」。此外，研究人員警告稱，AI生成的圖像可能被用於創建真實的假圖像，也稱為深度假造，他們說這可能被用來支持錯誤的數據或不準確的結論。所有這些因素都給希望發表AI生成材料的研究人員或期刊帶來了挑戰。
《自然》的編輯委員會去年寫道：「世界正處於AI革命的邊緣。這場革命充滿了巨大的希望，但AI——特別是生成型AI——也正在迅速顛覆科學、藝術、出版等領域的長期慣例。這些慣例在某些情況下花了幾個世紀才發展出來，但結果是一個保護科學完整性和保護內容創作者免受剝削的體系。如果我們不謹慎對待AI的處理，所有這些成果都有危險解體的風險。」
更多科學與科技新聞都可以直接上 明日科學網 http://www.tomorrowsci.com
首圖來源：@aero_anna cc By4.0
圖片來源：《細胞與發育生物學前沿》 cc By4.0
參考出處：
1.A ridiculous AI-generated rat penis made it into a peer-reviewed journal.POPULAR SCIENCE
延伸閱讀：
