人工智能崛起帶來惡意 AI 機器人：人與機器的界限變得模糊

站長之家(ChinaZ.com) 6月26日消息:黑客將利用人工智能增強惡意機器人，用于欺詐性攻擊，創建「能夠有效冒充家人以欺詐性地獲取利益」的高級角色，一位知名風險投資創始人指出。

在 The Crypto Mile 的最新一期節目中，雅虎財經與 Outlier Ventures 創始人 Jamie Burke 進行了交流，Outlier Ventures 是全球最大的 Web3 加速器（以投資規模衡量）。

Burke 討論了人工智能（AI）的演變和影響，以及它可能成為網絡犯罪分子特別有效的工具。Burke 警告說：「如果我們只看統計數據，在一次黑客攻擊中，你只需要欺騙十萬分之一的人，這需要大量嘗試，因此惡意行為者將提升他們的機器人的復雜程度，使其變得更加智能，利用人工智能。」

(資料圖片)

他強調了對惡意 AI 機器人被用于惡意目的的日益關注，改變了互聯網的格局，或者如他所說的「代理人世界」。Burke 說：「網絡上的大多數流量都是機器人，而且惡意機器人所占比例越來越高。黑客通常不會手動操作，黑客的技巧是盡可能自動化。」

隨著這些惡意機器人的復雜性提升，人類和 AI 之間的界線可能變得幾乎無法區分。

一個由 AI 驅動的機器人可以模仿一個真實的人，以至于他們可以參與視頻通話而不引起懷疑。

這種技術的影響是深遠的。它可能為詐騙和欺詐打開新的途徑，黑客利用 AI 的能力來欺騙毫不懷疑的個人或公司分享敏感信息或轉賬。

Burke 說：「接收到的不再是一封要求轉賬的電子郵件，一個人可能會在日程表中收到一次 Zoom 通話預約，來自一個看起來像朋友的數字復制品，聲音和他們一樣，并說與他們一樣的話，通過說他們缺錢了，請求對方轉賬來欺騙聯系人。」在這種情況下，人類身份的驗證系統將成為驗證數字互動中個人真實身份的關鍵。

Burke 表示，這可能引發一場虛擬軍備競賽，各種 AI 平臺爭奪對互聯網用戶的影響力。「在這場 AI 戰爭中，你將擁有擁有自己的 AI 的平臺，它們主要存在是為了以某種回報為代價幫助你，但你也將面臨惡意 AI 的攻擊，它們試圖利用你與朋友和同事之間的互動中的漏洞來獲取利益。」

他表示，確保人們擁有一個「主權代理人」將變得至關重要，這個代理人在虛擬環境中代表人們，保護他們免受潛在威脅，并確保他們在數字世界中的存在得到保障。

Burke 說，人工智能可能成為一種自主的行動者，影響決策和行動，確保我們在「代理人世界」中的安全和完整性將成為一個日益緊迫的挑戰。

關鍵詞：