在人工智能技術(shù)的迅猛發(fā)展中，一個不容忽視的現(xiàn)象是，生成式AI正逐漸成為黑客和不法分子的得力助手。從深度偽造企業(yè)高管形象到偽造財(cái)務(wù)文件，這些技術(shù)的濫用邊界正在不斷被拓寬。
OpenAI，作為生成式AI領(lǐng)域的領(lǐng)頭羊，深刻意識到這一潛在風(fēng)險(xiǎn)。為了應(yīng)對這一挑戰(zhàn)，OpenAI近期投資了一家專注于防御此類攻擊的AI初創(chuàng)公司——Adaptive Security。這一舉措不僅顯示了OpenAI對行業(yè)安全的關(guān)注，也體現(xiàn)了其對未來技術(shù)發(fā)展趨勢的敏銳洞察。
總部位于紐約的Adaptive Security在本周三宣布，成功完成了4300萬美元的A輪融資，本輪融資由OpenAI創(chuàng)業(yè)基金和Andreessen Horowitz聯(lián)合領(lǐng)投。據(jù)OpenAI向TechCrunch確認(rèn)，這是他們首次投資網(wǎng)絡(luò)安全領(lǐng)域的初創(chuàng)公司。
Adaptive Security通過模擬AI生成的黑客攻擊，為員工提供實(shí)戰(zhàn)訓(xùn)練，幫助他們識別并應(yīng)對這些新型威脅。例如，員工可能會接到一個電話，電話那頭聲稱是公司的CTO，要求輸入驗(yàn)證碼。然而，這很可能是一個由Adaptive Security生成的模擬攻擊，旨在提高員工的警惕性。
Adaptive Security的平臺不僅限于電話模擬，還包括短信和電子郵件的偽造。通過全面覆蓋這些通信渠道，該平臺能夠評估公司內(nèi)部哪些環(huán)節(jié)可能最脆弱，并針對性地培訓(xùn)員工識別潛在風(fēng)險(xiǎn)。
這家初創(chuàng)公司專注于防范那些利用人類心理弱點(diǎn)進(jìn)行攻擊的黑客行為。這些黑客往往會誘導(dǎo)員工點(diǎn)擊惡意鏈接或執(zhí)行不當(dāng)操作。盡管這類“社會工程”攻擊看似簡單，但其造成的經(jīng)濟(jì)損失卻不容小覷。以Axie Infinity為例，該公司因一起社會工程攻擊損失了超過6億美元。
Adaptive Security的聯(lián)合創(chuàng)始人兼首席執(zhí)行官Brian Long向TechCrunch透露，人工智能工具使得社會工程攻擊變得更加容易。自2023年成立以來，Adaptive Security已經(jīng)擁有超過100家客戶。Long表示，客戶的積極反饋為OpenAI等投資者的加入奠定了堅(jiān)實(shí)基礎(chǔ)。
Long是一位經(jīng)驗(yàn)豐富的企業(yè)家，他曾在移動廣告和廣告技術(shù)領(lǐng)域取得過顯著成就。他創(chuàng)立的TapCommerce于2014年被Twitter收購，而另一家公司Attentive在2021年的估值超過100億美元。憑借這些成功經(jīng)驗(yàn)，Long對Adaptive Security的未來充滿信心。
Long表示，Adaptive Security將利用最新獲得的資金聘請更多工程師，以加速產(chǎn)品開發(fā)，并在與不法行為者的人工智能“軍備競賽”中保持領(lǐng)先地位。隨著人工智能威脅的不斷演變，這家初創(chuàng)公司正致力于構(gòu)建更加堅(jiān)固的防御體系。
除了Adaptive Security之外，還有多家網(wǎng)絡(luò)初創(chuàng)公司正在積極應(yīng)對人工智能威脅的激增。Cyberhaven以10億美元的估值籌集了1億美元資金，旨在阻止員工將敏感信息泄露給ChatGPT等工具。Snyk則歸因于不安全的人工智能生成代碼的興起，其年度營收超過3億美元。深度偽造檢測初創(chuàng)公司GetReal也成功籌集了1750萬美元資金。
面對日益復(fù)雜的人工智能威脅，Long為那些擔(dān)心自己聲音被黑客克隆的公司員工提供了一個實(shí)用的建議：“刪除你的語音郵件。”他強(qiáng)調(diào)，這是減少潛在風(fēng)險(xiǎn)的一種簡單而有效的方法。
