如果你是足球迷,想必听说过年初的一则新闻:诈骗分子利用 AI 语音技术,完美模仿了意大利国防部长及其工作人员的声音,竟成功诱骗多位顶级富豪,包括Prada CEO、前国际米兰足球俱乐部老板莫拉蒂等,甚至有消息称后者已向诈骗分子汇款超百万欧元。事后接受媒体采访时,莫拉蒂感叹:「这些家伙非常专业,一切听起来都像是真的,每个人都可能遇到类似的情况。」▲ 一个 AI 拟声平台我们总自认足够警觉,但如果连顶级富豪都上了「我,秦始皇,打钱」的当,普通人又该如何防范?因此,在今年的全国反欺诈宣传日节点,AI 诈骗的话题才更值得被重视。AI 诈骗是技术,更是人性软肋技术不分好坏,但当技术的力量被恶意利用,它便能直击人性中最脆弱的部分。正如电话的发明极大拓展了人类沟通的边界,但也催生了「电信诈骗」这个庞大的灰色产业。据统计,2024 年至今,相关部门已拦截诈骗电话 46.9 亿次、诈骗短信 33.7 亿条,拦截涉案资金 3151 亿元——仅从数据,就能看出电信诈骗规模之大、渗透之深。每一次重大技术突破,总是伴随着新的技术风险。生成式 AI,无疑是这场「猫鼠游戏」的下一个战场。比如,诈骗分子如今可能不再「广撒网」。相反,他们会利用你泄露的照片、声音、社交关系,借助多模态 AI 定制出以假乱真的音视频内容,再冒充你的身份去诈骗你的身边人。对熟人不假思索的信任是现代社会运行的基石,却也让我们在精心设计的「
...
继续阅读