扛不住金流方的壓力 AI模型網站宣布「移除色情內容」

扛不住金流方的壓力 AI模型網站宣布「移除色情內容」
(圖/翻攝自Tensor.Art官網)

[周刊王CTWANT] 在金流通路的壓力之下,AI模型平台Tensor.Art於11日宣布,將暫時限制所有與色情內容,以及限制現實世界名人相關的AI模型、工具與貼文。

根據《404 Media》的報導,另一家AI模型平台Civitai也因同樣問題調整了政策。Civitai曾遭爆料成為大量未經當事人同意製作AI色情圖像的溫床。Civitai也曾在5月時禁止用於生成現實人物肖像與某些成人內容的模型,大批使用者與創作者因此轉向Tensor.Art。

如今,Tensor.Art也不得不跟進,並宣布將暫停其「Civitai匯入」功能,原本這項功能是讓用戶能直接將Civitai的模型移轉到自家平台。

在Discord公告中,Tensor.Art表示,理解使用者與創作者可能因此感到「非常沮喪」,但強調這是因信用卡公司及多國監管機關對高風險內容的限制,才做出的不得已決定。公告中也說明,此舉目的在於確保平台的開放性與創作者的獲利能力能長期維持,而這些措施將在72小時內生效。

目前Tensor.Art要求模型創作者標示其內容是否為「適合在工作場合使用」(safe for work),藉此避免因政策變動導致模型被錯誤下架。但目前尚不清楚這段所謂「暫時性」限制的實際期限為何,或是否會像Civitai一樣最終變成永久性改動。Civitai至今未恢復與原付款處理商的合作,也尚未找到新的支付解決方案。

值得注意的是,Tensor.Art雖然對外表達將配合監管與信用卡組織的規範,但仍堅持其原始宗旨。公告中指出「這不是終點。我們正積極尋找方法,以合規方式恢復目前被隱藏的內容,並盡可能減少這些限制所帶來的影響。」

目前,Tensor.Art尚未對外媒詢問提供進一步說明,也未對未來平台政策方向做出具體承諾。這波來自支付機構的壓力不只牽動AI創作平台的營運模式,也可能為未來生成式內容產業帶來更嚴格的內容審查機制。

延伸閱讀

Google新聞-PChome Online新聞


最新科技新聞
人氣科技新聞
行動版 電腦版