亲耳听到的就是真的吗？未必。网络平台上，AI声音随处可见。

一些商家为谋利，通过 AI 模仿知名人士声音编造内容带货，如国家传染病医学中心主任张文宏就表示，有多个账号未经其许可，通过语音合成模仿他的声音进行直播带货，他多次向平台投诉但屡禁不绝。还有不法分子利用 AI“偷” 声音实施诈骗，仿冒老人孙子声音诈骗老人钱财，给受害者带来巨大经济损失。

中国科学院模式识别实验室工程师牛少东表示，随着算法进步，在高性能设备和高精度模型加持下，AI 生成语音从 “一眼假” 升级到 “真假难辨”。如今一些 APP 最快十几秒就能完成声音合成，且无需授权证明，这让ai生成声音的门槛迅速降低。

面对 AI 声音滥用乱象，2024 年 4 月，北京互联网法院宣判全国首例 “AI 声音侵权案”，明确自然人声音权益保护范围。2025 年中央网信办发布 “清朗” 系列专项行动整治重点，整治 AI 技术滥用乱象。但治理还需多措并举，平台要强化监管，建立健全审核和举报机制；个人也要增强保护意识。

中国科学院科技战略咨询研究院院长潘教峰强调，需进一步强化人工智能伦理规制，超前部署人工智能风险研究，提前预判其社会影响。

AI 技术发展给生活带来便利，但也不能忽视声音权益保护。只有完善法律法规，强化监管治理，才能在享受 AI 技术成果的同时，守护好我们的声音安全。