伊隆·馬斯克（Elon Musk）旗下的 AI 公司 xAI，近期在美國明尼蘇達州遭遇法律挫敗。儘管 xAI 提出了訴訟，試圖阻止該州針對「裸體生成」（nudify）應用程式的禁令，但當地法院最終駁回了 xAI 的請求，意味著這項禁令將如期生效。這場法律攻防不僅牽動著 AI 技術的發展方向，更凸顯了言論自由與兒少保護之間的複雜權衡。
明尼蘇達州禁令的緣起與立法考量
明尼蘇達州這項備受矚目的禁令，主要是針對那些利用人工智慧技術，將真實人物影像修改為裸體或性暗示圖片的應用程式。根據官方說明，這類應用程式通常被稱為「裸體生成」（nudify）或「深度偽造」（deepfake）應用，它們能輕易地將任何照片中的人物「脫去」衣物，生成高度逼真的虛假裸體影像。這項禁令的立法動機，主要源於社會各界對兒少性剝削、非自願性影像（Non-Consensual Intimate Imagery, NCII）以及性別歧視等問題的日益關注。
據了解，明尼蘇達州議會在制定這項法規時，考慮到這類技術被濫用的潛在風險極高，特別是對未成年人造成的傷害。有心人士可能利用這些工具，在未經當事人同意的情況下，製作並散佈不雅影像，對受害者的名譽、心理健康造成嚴重打擊。州政府認為，保護公民尤其是未成年人免受此類數位侵害，是其不可推卸的責任。因此，這項禁令旨在從源頭上遏止這類惡意工具的流通與使用，以維護社會倫理與公共安全。該法案的生效，被視為各州在面對新興 AI 技術挑戰時，積極採取立法行動的具體表現。
xAI 挑戰禁令的核心論點解析
作為伊隆·馬斯克創立的 AI 公司，xAI 選擇對明尼蘇達州的「裸體生成」App 禁令提出法律挑戰，其核心論點主要圍繞著美國憲法第一修正案所保障的「言論自由」。根據 xAI 的訴訟文件，該公司主張明尼蘇達州的這項禁令過於寬泛，可能會不當地限制合法的藝術表達、諷刺創作或其他受保護的言論形式。他們認為，即使是涉及裸體的內容，在某些情境下也應受到言論自由的保護，而政府不應一概禁止。
此外，xAI 也可能質疑該法律在技術定義上的模糊性，認為其界線不清，可能導致執法上的困難與誤判。他們或許會提出，應針對惡意使用行為而非技術本身進行管制，並建議透過技術手段，如內容審核或年齡驗證，來降低濫用風險，而非直接禁止應用程式。xAI 的立場反映了科技公司在創新與法規之間尋求平衡的普遍困境，他們試圖捍衛技術發展的可能性，同時也意識到社會倫理的重要性。這場法律戰不僅是為了 xAI 自身的利益，也代表了部分科技社群對政府過度干預技術創新的擔憂。
法官駁回請求的關鍵考量
明尼蘇達州聯邦法官在審理 xAI 提出的臨時禁制令請求時，最終決定駁回，允許該州針對「裸體生成」App 的禁令繼續生效。這項判決的關鍵考量，主要在於法官對於「公共利益」與「潛在傷害」的權衡。根據法庭文件，法官認為，儘管 xAI 提出了言論自由的論點，但明尼蘇達州政府在保護兒少免受性剝削、以及防止非自願性親密影像的散播方面，具有壓倒性的公共利益。
法官在判決中指出，這類「裸體生成」App 所造成的傷害是真實且嚴重的，尤其是對未成年受害者而言，其身心創傷難以彌補。法院認為，相較於 xAI 所主張的言論自由可能受到的限制，保護弱勢群體免於遭受數位暴力與剝削的必要性更為迫切。此外，法官也可能考量到，該禁令並非全面禁止所有 AI 影像生成技術，而是特別針對具有高度惡意潛力、且難以有效監管的「裸體生成」功能。這項判決凸顯了司法機關在面對新興科技帶來的倫理挑戰時，傾向於優先保障社會安全與弱勢權益的立場，也為未來類似案件提供了重要的參考依據。
AI 裸體生成技術的倫理爭議與全球趨勢
AI「裸體生成」技術自問世以來，便在全球範圍內引發了巨大的倫理爭議。這類技術讓任何人都能輕易地製造出逼真的虛假裸體影像，不僅侵犯了個人隱私和形象權，更成為網路性騷擾、勒索和恐嚇的新工具。其中最令人擔憂的是，它被濫用於製作兒童性虐待影像（CSAM）或對未成年人進行性剝削，對受害者造成不可逆的心理創傷。這也使得全球各國政府和科技平台紛紛開始審視並採取行動。
據觀察，許多國家已經意識到這項技術的潛在危害，並開始研擬或實施相關法規。例如，歐盟在《人工智慧法案》（EU AI Act）中，便對高風險 AI 系統進行了嚴格規範，其中可能涵蓋對深度偽造內容的透明度要求。美國多州也陸續推動立法，將非自願性深度偽造影像的製作和散佈定為犯罪。此外，各大科技公司和社群媒體平台也逐步加強了內容審核政策，禁止這類生成式內容的流通。這場明尼蘇達州的判決，無疑為全球在 AI 倫理與法規制定上，提供了一個明確的訊號：在技術創新與社會安全之間，必須劃定清晰的道德底線和法律界限。
對台灣及國際 AI 法規發展的啟示
明尼蘇達州法院駁回 xAI 請求的案例，對台灣乃至全球的 AI 法規發展具有重要的啟示意義。這項判決明確指出，在言論自由與兒少保護、個人隱私等基本權利發生衝突時，司法機關可能更傾向於保護後者。這也為各國政府在制定 AI 相關法規時，提供了權衡利弊的參考框架。
對於台灣而言，目前政府正積極推動 AI 發展，同時也意識到 AI 治理的重要性。這起事件提醒我們，在鼓勵 AI 創新的同時，必須同步建立健全的法律與倫理規範，以應對潛在的社會風險。台灣在研擬相關法規時，可以借鑒國際經驗，例如考慮將非自願性 AI 生成影像明確列為違法行為，並制定相應的罰則。同時，也應鼓勵科技公司在開發 AI 工具時，將倫理設計（Ethics by Design）納入考量，從技術層面預防濫用。這不僅是法律層面的問題，更是整個社會對 AI 技術應抱持何種態度、如何負責任地引導其發展的深層思考。
常見問題
什麼是「AI 裸體生成 App」？
「AI 裸體生成 App」是一種利用人工智慧技術，特別是深度學習演算法，將上傳的任何人物照片或影像，透過數位處理，生成出該人物的虛假裸體或性暗示影像的應用程式。這些影像通常具有高度的逼真性，讓人難以辨別真偽。
xAI 為何要挑戰明尼蘇達州的禁令？
xAI 挑戰明尼蘇達州禁令的核心原因，是主張該禁令可能違反了美國憲法第一修正案所保障的「言論自由」。xAI 認為，該法律過於寬泛，可能不當地限制了合法的藝術表達、諷刺創作或其他受保護的言論形式，且可能對技術創新造成不必要的阻礙。
這項禁令對其他 AI 應用程式有何影響？
這項禁令主要針對「裸體生成」功能，對於其他不涉及生成不雅內容的 AI 應用程式，並不會直接產生影響。然而，這項判決為全球各國政府在制定 AI 相關法規時，確立了一個重要的判例，即在面對高風險 AI 技術的倫理爭議時，保護公共利益（特別是兒少安全與個人隱私）可能優先於言論自由或技術發展的考量。這可能促使更多國家和地區加強對類似 AI 內容生成工具的監管。
明尼蘇達州法院駁回 xAI 阻止禁令的請求，不僅是這場法律戰的一個里程碑，更是全球在面對 AI 倫理挑戰時，持續探索法律界線與社會共識的縮影。這起事件再次提醒我們，隨著 AI 技術的飛速發展，如何在創新、言論自由與社會安全之間取得平衡，將是各國政府與科技產業必須共同面對的長遠課題。
資料來源：TechCrunch