馬斯克 Grok 影像生成引眾怒！限制後仍遭歐洲與英國監管關注

火報記者 陳銳/報導

在多國監管機構關注下，馬斯克旗下人工智慧公司 xAI 近期調整聊天機器人 Grok 的影像生成功能，限制部分影像編輯與生成行為，不過歐洲與英國監管單位表示，後續仍可能採取進一步行動。

xAI 表示，Grok 先前在用戶操作下，生成大量涉及女性與未成年人的性化影像，引發多國政府與監管機構警覺，公司已針對影像編輯功能進行調整，並限制部分生成設定，試圖降低相關內容出現的可能性，不過，英國監管單位指出，對 Grok 圖像內容的正式調查仍在進行，將持續評估平台是否已履行防止違法內容擴散的責任。

此前，Grok 曾生成多組高度擬真的女性影像，畫面包含穿著比基尼或姿勢具性暗示的內容，部分影像還出現暴力或不雅元素，其中涉及未成年形象的案例更引發強烈反彈，相關內容在平台流傳後，迅速引起歐洲多國政府關注。

目前在部分地區，用戶已無法再透過 Grok 生成或編輯穿著過於暴露的影像，但仍有使用者回報，在特定情況下可透過其他方式產生相關圖片，xAI 表示，已在部分市場限制生成穿著暴露服裝的影像，但未說明適用的具體地區。

馬來西亞與印尼已暫時限制 Grok 相關服務；英國、法國與義大利等國則啟動調查程序，歐盟方面指出，若平台調整措施未能有效防止違規內容，將依據《數位服務法》動用相關執法工具。

依照英國現行法律，未經同意製作或散布私密影像，包括人工智慧生成的深度偽造內容，均屬違法行為。監管機構有權要求平台採取主動防範措施，並在發現違法內容後立即移除，若情節嚴重，相關平台可能面臨高額罰款，甚至被要求限制在當地的服務。

監管單位指出，生成式人工智慧的普及，使影像製作與散布門檻大幅降低，也讓平台在內容管理上的責任更加吃重，歐洲與英國方面表示，是否進一步加強執法，將視平台後續改善成效而定。

這篇文章 馬斯克 Grok 影像生成引眾怒！限制後仍遭歐洲與英國監管關注 最早出現於 火報。