Time Magazine on Voice Cloning

Time Magazine on Voice Cloning

幾個月前，亞利桑那州的一個家庭被嚇壞了，他們認為這是一個綁架和勒索電話，結果證明這是一個由人工智能創造的徹頭徹尾的騙局。 隨著聽起來與親人一模一樣的詐騙電話的報導越來越多，許多人擔心人工智能可能會被武器化，利用易於訪問且只需要少量費用、幾分鐘和穩定的互聯網連接的技術來威脅人們。
1 月的一個下午，珍妮弗·德斯特凡諾 (Jennifer DeStefano) 接到了一個匿名電話，當時她 15 歲的女兒出城參加滑雪比賽。 據美國有線電視新聞網報導，DeStefano 聽到她的女兒接電話時驚慌失措並尖叫，緊接著是一名男子的聲音，威脅要吸毒並綁架 DeStefano 的女兒，除非他得到 100 萬美元。

幾分鐘後，DeStefano 聯繫上了她的女兒，她很好，對發生的事情感到困惑，因為她沒有被綁架，也沒有參與勒索電話。 緊急救援人員幫助這家人將這通電話識別為使用人工智能的騙局。
“這顯然是她的聲音，”德斯特凡諾告訴 CNN，“音調變化，一切。”
儘管關於人工智能詐騙電話流行程度的數據有限，但今年 TikTok 和其他社交平台上不斷出現類似事件的故事，引發了人們對人工智能潛在危害的恐懼和風險。
AI語音克隆
人工智能詐騙電話是通過語音克隆設置的。 一旦詐騙者在網上找到某人語音的音頻片段，他們就可以輕鬆地將其上傳到復制語音的在線程序中。 此類應用程序幾年前出現，但在生成式 AI 熱潮下，這些應用程序得到了改進，變得更易於訪問並且使用起來相對便宜。

Murf、Resemble 和 Speechify 是提供這些服務的一些受歡迎的公司。 大多數提供商提供免費試用期，每月訂閱費用從基本計劃的 15 美元以下到高級選項的 100 美元以上不等。
聯邦貿易委員會建議，如果您接到遇到麻煩的親人打來的令人擔憂的電話，請撥打據稱與您聯繫的人的常規電話號碼並核實情況。 如果來電者通過難以追踪的可疑渠道（例如接線、加密貨幣或禮品卡）要錢，則可能是騙局的跡象。 安全專家建議與親人建立一個安全詞，以便在真正的緊急情況下使用並區分騙局。
音樂行業的AI語音克隆
AI 聲音克隆也擴展到音樂領域，人們使用該技術創作出與流行藝術家的聲音完全相同的歌曲。 本月，一首與 Drake 和 Weeknd 相似的歌曲在網上瘋傳，儘管這兩位藝術家都沒有參與創作。 代表這兩位藝術家的管理公司能夠從流媒體服務中刪除這首歌，完全是因為非法採樣音頻，而不是因為 AI 聲音。 Drake 評論說，“這是最後一根稻草 AI”，此前 AI 生成的他說唱 Ice Spice 的 Munch 的曲目也在本月瘋傳。

加拿大音樂家 Grimes 等其他藝術家正在展望此類技術可以繼續發展並改變音樂產業運作方式的未來。 “對於任何使用我的聲音的 AI 生成的成功歌曲，我都會分享 50% 的版稅，”Grimes 上週發推文說。 “請隨意使用我的聲音，不受懲罰。”
人們可以自己寫歌，但用著名歌手的聲音錄製，以引起注意。 到目前為止，還沒有針對音樂深度造假的法律處罰，但《紐約時報》報導稱，它們存在侵犯藝術家名譽、剝奪歌手利潤和文化侵占 BIPOC 藝術家的風險。

original article: https://time.com/6275794/ai-voice-cloning-scams-music/