書面質詢

      科技是一把雙刃劍，既為人類社會帶來文明、進步與發展，但同時亦會因人類的自私使用，為整個社會乃至地球帶來傷害。

    近年，人工智能進入快速迭代期，今年多家科技公司開發各類人工智能聊天機械人，引發全球討論；人工智能演進至今的深度學習，逐漸貼近人類最根本的核心需求，標示未來科技產業，包括人工智能、雲端應用、算法及大數據分析等領域的發展蘊存無限潛力。

    然而騙徒亦走在科技潮流的前端，利用人工智能（AI）換臉和擬聲技術實施電信網絡詐騙，一般市民大眾，若未與親友有設定暗語溝通，則難辨真假，容易墮入騙徒陷阱；更有部分人士其肖像被替換到色情或暴力的短片錄像中，在網絡散播或出售，事件嚴重侵犯被換臉人的肖像權及名譽權，實在令人髮指。隨着網絡上愈來愈多深偽技術應用程式的出現，即使對人工智能一竅不通的外行，只需要一個繪圖處理器（GPU）和一些訓練數據，按序操作亦能製作影片，對個人產生影響。

鄰埠香港近月即有不少居民接到陌生人的視像來電，事態不尋常；香港警方網絡安全及科技罪案調查科亦於今年8月擊破首宗利用深偽技術「換臉」手段向金融機構申請貸款及開設銀行戶口的犯罪集團，涉款20萬元[1]。可見，利用人工智能手段進行詐騙對金融機構、政治乃至國安領域安全，已做成一定的威脅。

    為此，本人提出以下質詢：

    一、    各大社群媒體平台均採取措施或行動打擊深偽技術，各地區亦透過立法予以防範，希望藉此遏止不實或不當行為；在英國及台灣地區，雖然目前尚無創設一個專屬有關處理深偽技術的法律，但從相關判決案例上肖像權保護、誹謗罪以及隱私權和反制騷擾等法律卻常見到被援用處理；美國數個地方州政府則有分別針對所謂製造與散布他人「報復性色情影片」（revenge porn）以及政治人物的深偽影片訂立法律規範。[2]當局會否考慮與法規方面著手，考慮針對深偽技術衍生的罪案問題訂立新法？當局在平衡防範假訊息與保障言論自由的取態如何？

    二、    AI技術除被不法之徒利用外，亦對人文學科造成挑戰，常見被利用於藝術創作、大學論文及期刋撰寫等，AI與人一起完成的作品愈來愈多，相關創作在本澳的著作權如何判斷？當局會否考慮研究就有關問題進行規範？

[1] 警破首宗Deepfake AI「換臉」技術呃貸款　6男女被捕涉款20萬

https://www.hk01.com/article/933641?utm_source=01articlecopy&utm_medium=referral

[2] 2021年1月15日 網絡安全與決策推演研究所 從英國媒體的特別版女王聖誕文告談深偽

https://indsr.org.tw/respublicationcon?uid=12&resid=800&pid=1768

2023.12.18書面質詢(有關人工智能罪案的書面質詢)書面回覆.pdf