跳到主要內容區

「眼見不為憑,AI深偽技術初探」──112學年度第1學期學科教師研習會

發布日期 : 2023-10-03
本校112學年度第1學期學科教師研習會於112年9月15日在科學館國際會議廳舉辦。每學期初的學科教師研習會,都是校長與全校老師凝聚共識的好時機,共同為提昇學生受教品質而努力。

本次的學科教師研習會專題講座特別邀請刑事警察局科技研發科代理科長莊明雄,演講主題是「面臨AI與深度偽造犯罪挑戰與因應」。莊科長為本校行政警察學系63期,刑事警察研究所畢業,人生歲月一大半在刑事警察局歷練電信、科技研發等重要職務,為精進專業,又至臺灣科技大學完成資訊管理博士學位。可謂個人決定人生主導權的典範。

莊科長從人工智慧AI的定義切入,說明AI可以透過自動語言辨識(ASR)、自然語言處理(NLP)、電腦視覺(Computer Vision)等技術,來分析網路情緒,也透過各種案例,強調AI的犯罪隱憂已成為現今警政的一大挑戰。

首先介紹由美國OpenAI公司所開發的AI深度學習技術-ChatGPT,「ChatGPT」功能眾多且方便使用,可以回答問題;可以產生文章及審核文章;可以產生程式碼,也能檢查程式碼錯誤。然而也有許多有心人士利用ChatGPT犯罪,因此美國普林斯頓大學學生Edward Tian就研發了GPT Zero,可幫助大家判斷文章內容是否為AI生成。

接續介紹深度偽造(Deepfake),是將人工智慧應用於人體圖像合成技術和音訊混成等其他領域。由於AI的學習能力使得製造出來的產物,與真實存在的影(音)像相比,越來越難以識別,有益於各種領域;但因操作簡易,使一般人都可使用,越來越多有心人士利用此項技術犯罪。

最後,莊科長也強調「AI也要有法規限制,而非無限擴張」。目前行政院已於8月31日通過「使用生成式AI指引」,大家於公務使用時,更應特別注意,避免造成資安及個資外洩問題。

90分鐘的專題演講,簡單明瞭的教材配合現實生活中的案例,讓大家銘記在心,讓在場的每位師長都能充分體會預防AI犯罪的重要性。
瀏覽數: