科學(xué)和技術(shù)是一把雙刃劍。它們不僅給我們的生活帶來了便利,也引發(fā)了一些社會問題。例如,當(dāng)前流行的人工智能人臉識別騙局和聲紋識別騙局。AI人工智能網(wǎng)絡(luò)安全才剛剛開始,不是嗎?
AI人工智能網(wǎng)絡(luò)安全行業(yè)中存在的隱患
在今年的京旺2021專項行動中,南通警方破獲了AI人臉識別欺詐案。據(jù)官方介紹,該犯罪團伙主要利用AI軟件偽造人臉識別認(rèn)證,破解用戶賬號,并將賬號低價賣給下游騙子,以產(chǎn)生非法利潤。
除了“臉”,語音也可以使用AI技術(shù)復(fù)制。一個外國犯罪團伙利用AI語音生成軟件成功模仿并冒充英國一家能源公司的德國母公司首席執(zhí)行官,欺騙了其多名同事和合作伙伴,非法生產(chǎn)了約173萬元人民幣,令人驚嘆。
因此,反人工智能欺詐基本上已經(jīng)成為一個社會問題。如何用魔法“打敗”魔法是否用技術(shù)手段解決技術(shù)問題,是市場和行業(yè)共同努力的方向。特別是在人工智能應(yīng)用日益普及的國內(nèi)市場,越來越多的公司致力于專業(yè)技術(shù),并使用更先進的技術(shù)能力來筑墻,防止人工智能欺詐。
例如,中關(guān)村科金在FaceForensics++Benchmark(國際知名的深度偽造學(xué)術(shù)排行榜)中排名第一。通過基于獨特AI技術(shù)的自主大規(guī)模圖像訓(xùn)練和人臉識別算法,綜合準(zhǔn)確率提高到94.1%,中國的深度操作和防偽能力提升到另一個水平,是國際領(lǐng)先水平。
深度偽造技術(shù)是指使用人工智能技術(shù),使視頻中的人(如目標(biāo)公司的首席執(zhí)行官)的頭部圖像與視頻中的人物(如假演員)幾乎完全不同。轉(zhuǎn)移到,如果這些技術(shù)被應(yīng)用于壞的方向,很容易代表文章開頭提到的欺詐案例,但如果它們被應(yīng)用于好的方向,它們將成為反AI欺詐項目的重要技術(shù)支持。
反AI欺詐是中關(guān)村科金目前致力于產(chǎn)業(yè)賦能的技術(shù)應(yīng)用方向。技術(shù)本身具有自然辯證法。隨著人工智能欺詐的日益普及,反AI人工智能網(wǎng)絡(luò)安全欺詐逐漸形成了一個行業(yè),但外界并沒有太多關(guān)注,打擊犯罪分子是一家更專業(yè)的公司,而不是巨頭。