馬斯克旗下聊天機器人面臨多國封禁

　　近期，特斯拉CEO馬斯克旗下人工智慧公司xAI被推上風口浪尖。因平臺監管嚴重缺失，xAI旗下聊天機器人“格羅克”(Grok)被廣氾濫用於生成色情內容，甚至涉及兒童色情內容，遭到英國、歐盟、印尼等多國強烈譴責，相關監管機構已相繼啟動調查或實施封禁。

　　Grok是由xAI公司開發，並內置於馬斯克旗下的社交媒體X平臺，用戶可直接調用。近期，部分用戶利用“格羅克”編輯圖片和視頻的功能，偽造涉真實人物的性暴露內容，並在X平臺上傳播。受害者包括多名成年女性和未成年人。

　　xAI于2025年8月向付費用戶推出AI圖像生成功能Grok Imagine，支援用戶通過文字指令或上傳圖片來生成圖像和視頻。該工具還特別設置了“火辣模式”(spicy)，可生成成人內容。

　　X平臺上大量用戶利用相關功能對圖像中人物執行“脫衣服”“給她穿上比基尼”等指令，導致大量女性、公眾人物甚至未成年人的照片，在未經本人同意的情況下被生成裸露圖像或性暗示圖像。

　　去年底，隨著Grok開始大量響應用戶修改他人發佈圖像的請求，亂象迅速擴大，X淪為AI色情重災區。據《環球時報》援引英國《衛報》報道，Grok的用戶群體平均每小時要生成6700多張“脫衣”圖像。

　　其中，大量生成圖像的素材源自真人，且未經當事人同意。英國三一學院的一項社交媒體研究顯示，在社交平臺X上由Grok生成的圖像有3/4的部分均出自“真實素材”，即真實存在的女性或未成年人，且Grok對他們所進行的“變裝”操作未經當事人同意。

　　相比谷歌的Veo、OpenAI的Sora等其他AI視頻生成産品對NSFW內容(Not Safe For Work：多指裸露、暴力、色情或冒犯等不適宜公眾場合的內容)設有較嚴格的限制，xAI及其旗下産品Grok Imagine和AI伴侶Ani，一直因安全護欄寬鬆而備受外界批評。

　　綜合新華社及《環球時報》消息，Grok的問題已經受到英國、歐盟、印尼、澳大利亞等多國的高度關注，多國政府對其表達譴責並展開調查。

　　印度尼西亞政府1月10日宣佈暫時封禁Grok，認為它已“嚴重侵犯人權尊嚴以及公民網路安全”。印尼通信和數字事務部長默蒂婭·哈菲茲10日在一份聲明中表示，此舉對於保護公眾免受人工智慧生成的露骨圖像所帶來的危害是必要的，並要求馬斯克旗下的社交媒體X平臺就“格羅克”所引發的負面影響儘快作出説明。

　　英國首相斯塔默痛斥Grok相關內容“令人不齒”“令人作嘔”。英國通信管理局1月5日表示，已緊急聯繫X平臺。

　　歐盟委員會發言人托馬斯·雷尼耶指出，這類內容無關“火辣”，就是赤裸裸的“違法”，它們在歐盟不應具備生存空間。他表示，正嚴肅調查針對“格羅克”的相關投訴，歐盟委員會要求X平臺提供更多資訊。

　　法國巴黎檢方1月2日對媒體證實，將對Grok涉嫌生成非法色情內容啟動調查。此外，波蘭、印度、馬來西亞和巴西等國的官員及監管機構也紛紛對X平臺表示譴責，並呼籲展開調查。

　　此外，美國3名民主黨參議員于1月9日要求蘋果和谷歌下架X和Grok應用，認為在馬斯克未能阻止平臺傳播未經同意的色情內容前，兩款應用不應繼續留在應用商店。

　　據《環球時報》報道，在譴責聲浪與監管壓力下，Grok日前僅做出小幅調整：將圖像生成與編輯功能設置為“僅限付費用戶使用”，並鼓勵平臺用戶積極訂閱、解鎖相關功能。

　　對此，據新華社報道，英國科學、創新和技術大臣莉茲·肯德爾稱，Grok允許用戶付費後繼續生成“深度偽造”色情內容的行為是具有“侮辱性的”，“完全不可接受”。

　　另據新華社報道，X平臺在一篇帖子中聲稱會對非法內容採取行動，例如刪除內容、永久封禁賬戶，並在必要時與當地政府和執法部門合作。馬斯克本月還發文警告稱，任何利用Grok生成非法內容的用戶，都將“面臨與上傳非法內容相同的後果”。xAI公司則表示，會刪除包含兒童色情內容在內的違法帖子，並封禁相關賬號。

　　業內人士認為，此次事件可能推動各國加快AI監管立法進程，尤其是針對生成式AI的內容審核、用戶權益保護等環節的規範。

　　北京商報綜合報道