知识

人工智能泄露隐私的案例

时间:2010-12-5 17:23:32  作者:时尚   来源:综合  查看:  评论:0
内容摘要:2023年2月,美国加州一位名叫珍妮特的中学教师收到一封邮件,里面附着她在家中的监控录像截图——她穿着睡衣,正对着电脑批改作业。发件人声称,如果不想这些照片被发到学校官网,就支付3000美元比特币。珍

2023年2月,人工美国加州一位名叫珍妮特的泄露中学教师收到一封邮件,里面附着她在家中的隐私监控录像截图——她穿着睡衣,正对着电脑批改作业。人工发件人声称,泄露如果不想这些照片被发到学校官网,隐私就支付3000美元比特币。人工珍妮特报警后调查发现,泄露泄露源头是隐私她两个月前试用的一款AI健身App,该App通过摄像头分析用户运动姿态,人工但隐私政策里藏着一条:用户影像可能被用于“改进算法”。泄露她根本没读完那份长达47页的隐私协议。

这不是人工孤例。韩国N号房事件后,泄露警方追踪到大量Deepfake色情内容的隐私生产者,其中约30%的受害者影像素材来自社交媒体上的普通自拍,而制作工具是开源的AI换脸程序。更讽刺的是,这些程序最初是某科技公司为影视行业研发的,但代码被公开后,任何人都能下载使用。我认识的一位网络安全工程师告诉我,他测试过市面上主流的AI换脸软件,只要上传一张清晰正脸照,10分钟就能生成以假乱真的视频,且无需任何编程基础。

企业端的泄露更隐蔽。2021年,某大型电商平台被曝出AI客服系统存储了数百万条用户语音记录,其中包含大量银行卡号——原因是客服系统会自动识别并转写用户报出的卡号,用于订单核对,但数据未加密存储,且保留期限长达五年。一名离职工程师在论坛上透露,他能在公司内网随意调取这些录音,因为“权限设置形同虚设”。这让我想起另一个案例:某医疗AI公司为训练疾病诊断模型,从合作医院获取了20万份CT影像,但未完全去除患者姓名和身份证号,结果数据被第三方分包商泄露,在黑市上按条售卖。

最让我警惕的是智能音箱。去年我朋友家的Echo突然播放了陌生人的对话,亚马逊调查后承认是“算法误触发”——音箱在听到类似唤醒词的声音后,录制了15秒音频并上传至云端,而该音频恰巧包含朋友在电话里报出的社保号。虽然亚马逊声称已删除,但谁也无法确认数据是否被复制。这类设备的问题在于,用户对“始终在线”的麦克风缺乏感知,而厂商的日志系统往往记录着精确到秒的语音活动时间戳,相当于给用户的生活轨迹画了一张时间表。

眼下,AI公司争相收集数据,但安全投入却跟不上。我查过几家头部企业的财报,研发预算中只有不到8%用于隐私保护,而营销费用通常是这个数字的三倍。普通用户能做什么?尽量少用需要麦克风权限的非必要App,关掉智能设备的“个性化推荐”,以及——永远别在AI对话里透露身份证号。但说真的,当技术跑得比法律快,个体的防备就像在暴雨里打伞,能挡多少?

最近更新
热门排行
copyright © 2026 powered by 力不从心网   sitemap