人類借助工具創作的歷史，走到生成式AI（Generative AI）的技術，如近期非常熱門的ChatGPT、MidJourney等，終於來到一個臨界點，人類透過自然語言在輸入的提示欄位鍵入對話或關鍵字，即時產生出來的AI創作成果，在不需要檢驗其正確性的創作領域，其品質已超越一般接受正常訓練人類的產出。
2022年9月CNN報導Jason M. Allen利用MidJourney產出的「Théâtre D’opéra Spatial」（太空歌劇院）獲得美國科羅拉多州博覽會數位藝術類別首獎，引發諸多藝術家的不滿，Jason M. Allen則辯稱其花了非常多時間測試並調整指令，才挑出三幅滿意的作品參賽，而參賽時也明確表明是利用MidJourney創作。不過，當時MidJourney還只在很小的圈子流傳，評審對MidJourney沒有任何了解。無論此爭議誰有理，就客觀而言，AI創作所謂的「藝術」價值，在盲測的情形下，早已達到卓越的程度。但這同時也引發AI創作的法律爭議，一個是AI創作是否應該承認受著作權保護，甚至應以AI為創作主體；另一個則是生成式AI的訓練資料來源，多未取得合法授權，即令經過AI「創作」是否仍構成著作權的侵害？
一、著作權法僅保護人類精神創作成果
2023年初美國著作權局對於Zarya of the Dawn一書作者Kris Kashtanova著作權註冊申請案表示雖然整體的書籍接受登記受保護，但針對其中使用MidJourney產出的插圖，非屬人類創作，不在可受登記保護的範圍。著作權保護的是人類精神創作成果，對於生成式AI這種人類無法完全控制（預期）其創作過程與成果的人工智慧，使用者所從事的創作努力，如同前述Jason M. Allen所稱，主要投入在於測試與調整指令，但當每次輸入指令時，MidJourney會產出什麼成果其無法控制，只能說在某些調整之下，當次的成果是使用者滿意的，至使用者再次調整，卻未必要出現更令人滿意的成果。就MidJourney產出的成果本身而言，有人類的介入，但卻不是人類精神創作的成果，在現行的著作權制度沒有變革的情形下，該等AI創作成果本身並不會受到著作權法保護。即令我們任意重製「Théâtre D’opéra Spatial」這幅得獎作品，不需要取得Jason M. Allen的授權。
然而，這並不代表AI創作受著作權法保護的距離還很遙遠，尤其是台灣的著作權法。著作權法第11條、第12條承認在受雇人職務上完成著作或出資聘人完成著作，直接以契約約定以雇用人或出資人為著作人，這就表示「擬制的人」（像是公司、財團法人、社團法人）同樣可以成為「著作人」。生成式AI若能夠透過類似擬制的方式，承認使用者作為雇用人或出資人的地位而成為著作人，即可能受到著作權法保護。相信在某些領域企業如果偷偷使用生成式AI，其產出之成果公眾難以區分是否為人類創作，企業主張該等成果著作權遭侵害時，恐怕他人亦難以證明其為AI創作而不受著作權法保護。
二、人工智慧不可能僅靠取得合法授權的資料訓練
與過去的人工智慧技術不同，生成式AI不僅能從訓練資料中學習與類型化，還能創造出與訓練資料相似，但不是直接複製的內容，很類似人類學習後再自行整理、創作的內容。但即令如此，生成式AI在多數領域因需符合人類社會化使用需求，無法減少利用大量社會上既存的資料作為訓練資料的必要性（以圍棋AI的發展而言，AlphaGo Zero完全不需要既有的棋局，可以透過電腦自行對抗產生棋局進而作為其判斷勝率之大量資料。但非僅依賴規則判定勝負的日常生活應用，像是聊天對話、繪畫、照片、各種文書製作等，還是會需要大量的既有著作作為訓練資料）。然而，AI所需要訓練資料實在太過龐大，不夠全面的資料也可能造成AI演算法的偏誤，因此，通用型的AI（如ChatGPT）若是要求必須取得所有訓練資料的合法授權始能進行開發，大概沒有機會面世。
對於著作權制度而言，若欲鼓勵AI發展，可以考慮削弱著作權人在著作被當作訓練資料這種間接利用時的權利。例如：2019年施行的日本著作權法第30條之4規定，「著作物在下列情形或其他非以自己或他人享受該著作物中思想或感情表達為目的之情形下，得在必要範圍內不限使用方式為利用。但依該著作物之種類、用途及其利用方式可能對著作權人不當地造成損害者，不在此限：…二、供資訊分析（係指從多數著作物或其他大量資訊中，擷取涉及該資訊構成之語言、聲音、影像或其他要素之資訊，進行比較、分類或其他解析之行為…）之用者。三、除前二款情形外，供不涉及人之感知而利用於電子計算機資訊處理過程或其他利用者。…」
依日本著作權法前開規定，AI在訓練、開發階段，因為是餵著作給機器而不是以傳統著作的欣賞或其他實用目的利用，屬於「著作財產權限制」不會構成侵害。但這樣的設計仍保有「依該著作物之種類、用途及其利用方式可能對著作權人不當地造成損害」例外不適用（即仍然會構成侵權），所以，也不是絕對的安全，必須要看日本司法實務後續案例發展的認定。目前台灣著作權法並沒有類似的規定，只能依賴第65條第2項其他合理使用的規定來處理，風險較日本為高。
