在《紐約時報》于當地時間周四發表的一篇報道中,來自加州大學伯克利分校和喬治城大學的一組學生詳細闡述了一項令人不安的研究:他們是如何智勝語音助手的。
這個團隊將人類所聽不到的聲音嵌入到能令人心平氣順的白噪音音樂中。當一個普通人可能什么都沒有聽到時,Siri或Alexa卻能對之做出反應。在團隊的研究中,這一隱藏的閾下知覺信息可以將設備轉換成飛行模式,打開網頁,或者偷偷地將物品添加到購物清單中。
“我們想要證明這是可行的,”加州大學伯克利分校的博士生尼古拉斯·卡里尼告訴《泰晤士報》,“然后我們希望其他人會說,‘好吧,這是可能的,現在讓我們試著修復它。’”
潛意識的攻擊可能是危險的,想象一下:如果給智能家居灌輸這種讓人困惑的命令,讓它們去鎖住或打開車門、或是打開燈,請記住人工智能的Siri和Alexa可能并沒有被“黑”,它們只是被愚弄了。網絡安全專家用“對抗的例子”這一術語來指代故意欺騙人工智能的潛在危險。盡管卡里尼和他的團隊的研究成果可能令人不安——尤其是當人們求助于語音助手來管理他們的家時,其他研究人員已經展示了其他的一些“對抗的例子”——包括如何使用化妝品或是眼鏡來愚弄面部識別軟件。