【中創】ChatGPT技術被濫用,安全治理亟需政府、企業共同努力!

    來源: 中創算力2023-07-08 04:19:23
      

    眼見為實?耳聽為真?當心AI詐騙!

    只需要提供一張帶臉的照片,就可以置換成明星,擬真度非常高,毫無違和感,一個軟件就能直接將楊穎整成迪麗熱巴!


    【資料圖】

    只要迪麗熱巴的淚痣和嘴?沒問題!

    隨著人工智能的發展,詐騙團伙的詐騙手段也越來越科技化。

    一、利用ChatGPT詐騙

    近日,紹興上虞區公安分局對“網絡水軍”通過組織發布虛假視頻獲利行為開展收網打擊, 摧毀一利用ChatGPT制作虛假視頻的造謠團伙,該案系浙江首例團伙制作虛假視頻案件。

    上虞警方在網上巡查時發現用戶名為“舷憶解說”的某APP網民發布關于上虞工業園區發生火災的視頻,在短時間內瀏覽量迅速攀升。對此,警方介入核實,確認視頻系不實信息。

    5月以來,該公司從網上非法收購一批視頻賬號, 通過ChatGPT技術,拼接制作虛假視頻發布網絡,博取流量 ,并通過流量算法返款盈利。

    二、安全治理亟需努力

    政府: 針對AI數字技術犯罪,國家層面相關立法研究正在不斷推進。

    今年以來就有《互聯網信息服務深度合成管理規定》、《生成式人工智能服務管理辦法(征求意見稿)》等文件相繼發布,為規范AI產業健康發展做出指引。

    企業: 在政策引導之余,企業加強AI領域協同治理也至關重要。

    1、需要加強監管機構能力建設,及時識別出新的違法犯罪手法,并加以打擊整治。

    2、應持續提升技術創新能力,通過新技術的開發與應用,提升風險隱患的自主監測、識別和防范能力。

    3、加強跨部門、跨領域的協同合作,構建起應對新技術、新風險的安全生態系統。

    個人: 作為普通的經濟活動參與者,我們需要時刻小心來自身邊的陷阱。

    1、要加強個人信息保護意識,不要輕易透露自己的身份證、銀行卡、驗證碼等信息;

    2、特別要防范人臉、指紋等生物信息的泄露。

    3、當收到不尋常的請求或交流時,需要保持警惕,多渠道核實對方的身份和信息,避免僅憑借單一溝通渠道就轉賬匯款。

    技術本無罪,發揮AI技術賦能新一輪科技革命和產業變革的能力,降低技術“陰暗面”對經濟社會發展的影響,還需社會各界共同發力、相向而行。

    互聯網不是法外之地,請嚴格遵守相關法律規定,規范個人網上言行,做到 " 不信謠、不傳謠、不造謠 ",共同維護網絡空間秩序。

    關鍵詞:

    責任編輯:sdnew003

    相關新聞

    版權與免責聲明:

    1 本網注明“來源:×××”(非商業周刊網)的作品,均轉載自其它媒體,轉載目的在于傳遞更多信息,并不代表本網贊同其觀點和對其真實性負責,本網不承擔此類稿件侵權行為的連帶責任。

    2 在本網的新聞頁面或BBS上進行跟帖或發表言論者,文責自負。

    3 相關信息并未經過本網站證實,不對您構成任何投資建議,據此操作,風險自擔。

    4 如涉及作品內容、版權等其它問題,請在30日內同本網聯系。