Meta员工警告AI内容审核部署过快
Meta在2025年已用大语言模型替换约一半人工审核请求，计划年底前将部分内容类型的AI审核比例提升至90%以上，每年节省数十亿美元。Meta否认成本动机，称自3月测试显示其模型错误率比人类低13%，且多捕捉10%违规。但员工指出模型仍会移除或限流无害内容，缺乏足够监督，快速部署已导致外包裁员。此外，Meta已从使用Google Gemini转向自家新基础模型Muse Spark，该模型基于人工审核员的历史决策训练。
安全对齐 大事记
重要进展 IMPORTANT_PROGRESS
2026-10-31 — 2026-10-31
重要进展 · 第 3 / 28 页
Wiz 报告“黑色十月”：九个 AI 开发者平台接连披露安全事件
AIHOT事件 ↗原始外链未提供
安全对齐 精选历史资讯
— · 2 条
精选资讯 · 第 1 / 1 页
恶意CDN仍潜伏GitHub Pages，AI让情况恶化
UC Berkeley研究人员发现，近2000个GitHub Pages站点（18000+页面，累计530K+星标）仍在加载来自polyfill.io及其关联恶意CDN的脚本。这些CDN由已被OFAC制裁的Funnull Technology Inc.（现更名Triad Nexus）运营，2024年被出售后开始条件性注入恶意载荷，劫持移动用户、跳转欺诈站点、伪造认证弹窗窃取凭证。扫描12000+站点确认786个加载polyfill.io，1191个加载其他Funnull CDN。更严峻的是，所有测试的大语言模型在生成前端代码时仍推荐这些被污染的CDN URL，包括CyC2018/CS-Notes（184K⭐）、microsoft/AirSim（18K⭐）等知名项目及多所大学课程页面。
分类
排序
暂无内容