AI音樂、AI演員、數字分身……如今，AI技術在生活中的應用已經無處不在，相關話題一次又一次成爲社會熱點，除了技術進步之外，關於侵權行爲、權責歸屬的討論也逐漸越來越多。技術發展至如今，關於治理的討論已迫在眉睫。
2026年6月3日，“科創無界 法治有度”主題沙龍現場。 上海科協 供圖
當個人的知識經驗可以被提取和復刻，原創價值如何認定？職場數據用於AI訓練，勞動者的權益如何保障？6月3日，由上海市科學技術協會、華東政法大學主辦的“科創無界 法治有度”主題沙龍在上海科學會堂舉行。圍繞這些關於AI治理的問題，高校專家、法律界人士、科技企業代表等各方齊聚討論。
正視AI對既有治理體系的衝擊
“當前AI領域的競爭已不僅是算法和算力的競爭，更是制度設計與治理能力的比拼。”上海交通大學人工智能學院執行院長王延峯在專題分享中開宗明義。
他指出首先要理解當前技術演進的新態勢，AGI（通用人工智能）已不再是科幻，AI不再只是處理文字的工具，而是正在學習理解物理世界的規律。這種演進帶來了深層的變化，也就是AGI正在超越傳統的工具定位，開始重塑數字世界與物理世界的交互方式。而未來ASI（超級人工智能）帶來的會是根本性的挑戰。ASI在所有認知維度上遠超人類，將可能實現自我改進，而這一過程一旦啓動，可能會在極短時間內觸發智能爆炸。
“一個比我們聰明得多的系統，以指數級的速度自我進化，而我們人類對它的理解能力卻在相對下降。”王延峯指出，當今的法律倫理治理體系很大程度上是基於人類能夠理解並控制技術的前提而設計，但這個前提正在被動搖，必須得正視這一點。
王延峯認爲，AI時代的科技創新既需要跑得快的勇氣，也需要走得穩的智慧。當AI越來越強大時，真正需要被保護的不僅是數據和算法，更是創造這些數據和算法的人。科技工作者既是創新的主體，也是未來AI系統學習和模仿的對象，要讓他們在創新過程中持續獲得尊重、保障與回報。
面對當下的AI治理，他點出了三個難題。第一是AI生成內容的知識產權歸屬與原創性認定，第二是AI訓練過程中的數據安全與個人信息的未經許可使用，第三是算法責任與黑箱規則，即AI做出錯判或錯誤決策時法律責任如何界定。
AI生成內容，享有著作權嗎？
關於AI生成內容甚至完成科研的成果歸屬問題，華東政法大學教授、校學術委員會副主任委員王遷做出了具體分析。
王遷首先指出，AI與公司不同，不具備權利能力和行爲能力，因此不會在將來被法律賦予人格。其次，AI生成內容是AI根據算法和數據訓練生成的內容，雖然人輸入了提示詞，但根據提示詞生成的內容並不是人通過自由意志可以直接決定的，因此AI生成內容不應該被著作權法認定爲“作品”。
他進一步解釋，這並不意味着人無法通過AI創作作品，AI依然可以是人的創作工具，但是要符合著作權法對創作的要求。王遷認爲，AI生成內容，必須與AI輔助生成內容進行區分，後者是需要人進行大量的干預和引導的。例如在AI短劇製作中，人提供了劇本和分鏡頭腳本，並對大量AI生產片段進行了選擇編排，那麼整個短劇可以構成彙編作品。
那麼如果AI生成內容被證實抄襲了他人受著作權法保護的作品，是否認爲侵權？如何確定責任呢？有人認爲目前AI難以完全避免生成和訓練數據相同或相似的內容，因此不該認定侵權。但在王遷看來，不能認爲人工智能開發者或訓練者沒有過錯。
他認爲之所以生成了和既有作品相似的內容，是因爲使用了他人作品用於訓練AI。而在目前情況下，這種訓練絕大多數未取得作者許可也未付費。“輸入端沒有付出代價，如果輸出了高度近似的內容又不承擔責任，就成了兩頭得利，這是不公平的。”
在這種情況下，王遷認爲重要的是停止侵權。在技術上無法讓AI忘記已學習過的作品，那就需要改進生成過程、改善算法，甚至加上關鍵詞攔截，避免AI接受特定關鍵詞生成近似內容。
而在具體的司法實踐中，上海知識產權法院知識產權一庭庭長凌崧也圍繞AI數字分身、人格蒸餾技術的知識產權司法保護作了分享。他指出，虛擬數字人產業快速發展，人格權、知識產權、平臺責任交織的新型侵權糾紛頻發，司法審理存在權利界定、侵權認定、損失量化三大難點。結合行業典型案例，他強調AI數字內容侵權案件的司法裁判，要堅持客觀審慎的審理原則，釐清各方主體責任邊界，不斷完善裁判規則，引導人工智能行業規範、有序、合規發展。