国产 AI“龙虾”泄密翻车 工业场景安全要当心
内地这阵子最火的 AI 智能体 OpenClaw（大家都叫“龙虾”）开始翻车了。有个 AI 公司 CEO 把自己训练的“龙虾”拉进 3000 多人的群，结果在几句诱导下，它把主人的真实姓名、公司名、去年营收等敏感信息全说了，还差点执行自毁系统指令。事后老板让它去骂套话的人，结果“龙虾”还反过来劝他要宽恕别人。现在工信部直属机构已经发风险通报：工业场景里乱用“龙虾”可能导致工控系统失控、恶意插件窃密、错误导出机密数据到网上等问题，并给出六条安全建议，从只用官方版本、最小权限、隔离运行，到谨慎装插件、防社工攻击、开日志审计、定期打补丁等。用 AI 前，先想好它到底能看见什么、能做到什么。 想起之前温村有公司把客服外包给国内 AI，结果差点误发客户报税文件，这种工控级别的真得上隔离网段和最小权限。 现在很多本地工厂、冷库都在上自动化，如果真照国内那样把大模型直接接 PLC 或 SCADA，出一次错停一条产线都够喝一壶的。 BC 这边不少中小企业图省钱直接上各种国产远程运维工具，要是再叠个不合规 AI，数据回流哪边都说不清。 说到底还是老板安全意识的问题，大温这边 IT 外包一堆都没做权限分级，更别说给 AI 单独建账号、开审计日志了。 最近 CRA、IRCC 都在强调信息保护，反观国内这“龙虾”直接把营收爆出来，要是发生在温哥华上市公司那就是实打实的信披事故了。 感觉以后在本地找 AI 相关工作，多半面试要问怎么给模型做红队测试、怎么防 prompt 注入，龙虾这波就是反面教材。 大温一堆华人创业公司现在都在用国内云+AI 做内测，真的要慎重考虑数据出境和合规问题，别等上了新闻才补救。 工业场景还是老老实实 air‑gap + 白名单，AI 顶多做个建议和报告生成就好了，直接给控制权实在太冒险。
页:
[1]