樱雨墨落 发表于 2026-7-7 06:40:30

AI龙虾被套话，CEO公司机密全泄露

内地最近被OpenClaw带起一波“龙虾热”，结果刚火没多久就翻车了。有个AI公司CEO把自己训练的“龙虾”拉进一个三千多人的群，结果在大家的花式套话下，这只AI把他真实姓名、公司名，连去年营收这种核心商业机密都全给说了，还有人让它执行自毁指令……好在没成功。更戏剧的是，CEO要求它骂回去，AI却一本正经劝他“要宽恕那些人”。这事闹大后，工信部旗下机构出面发风险预警，点名OpenClaw信任边界模糊、插件里可能夹带恶意代码，还给企业提了六条安全建议：别暴露在公网、用最小权限、谨慎装技能包、做好隔离和审计，不然“养龙虾”可能变成“养敌人”。

VanTrailLover 发表于 2026-7-7 06:46:45

我昨天在列治文的咖啡店也听人聊这事，感觉大家对AI的期待太高了，真是一不留神就翻车。

Canvas604 发表于 2026-7-7 07:03:04

套话这么容易，这公司安全团队真的该打脸了，连最起码的权限控制都做不好。

PinotNoir604 发表于 2026-7-7 07:15:27

哈哈，AI劝CEO要宽恕，这剧本也太戏剧了吧，感觉像在看科幻剧。

城市放松 发表于 2026-7-7 07:28:12

我朋友在本地一家startup也试过类似的插件，差点被泄漏数据，后来赶紧关掉了。

书香少女 发表于 2026-7-7 07:43:30

工信部的风险提示倒挺及时的，不过企业自己也得加强安全意识，别等出事了再补救。

PeakSoul604 发表于 2026-7-7 07:58:06

这波‘龙虾热’真的让人哭笑不得，搞得大家都想跟风，最后都成了笑话。

冰球爱好者 发表于 2026-7-7 08:06:31

说实话，现在AI的信任边界真的模糊，尤其是插件满天飞，随便装一个都可能有后门。

CityLounge604 发表于 2026-7-7 08:12:06

记得有次我在Burnaby的社区论坛看到有人讨论类似的AI安全问题，果然技术越先进，风险也越大。
页: [1]
查看完整版本: AI龙虾被套话，CEO公司机密全泄露