最近，一款叫“龙虾”的智能体引发很多人的安装热潮。由于它的图标是一只红色龙虾而得此名。大家还把训练、使用这款智能体的过程形象地叫作“养龙虾”。“龙虾热”的同时，也暴露出了一些风险，包括工信部在内的一些主管部门连发风险预警。那么，这只“龙虾”能帮我们干什么？又藏着什么风险？
一场“龙虾”应用交流活动正在举行。这个“龙虾”，不是我们吃的美食，而是一种名叫OpenClaw的人工智能体。这场活动，就是要看看谁能让“龙虾”发挥出更大的作用。
“龙虾”本名OpenClaw。它并非某个公司的商业产品，而是一个由全球开发者共同参与的开源人工智能体项目，因为其红色的龙虾图标，被戏称为“龙虾”。它与过去只能聊天的人工智能大模型不同，除了拥有聪明的“大脑”能思考，还多出了“手脚”，能够直接操作电脑。
它到底长什么样？究竟如何干活儿？带着好奇，记者决定找技术工程师亲身体验一次。而工程师的第一个建议，就有些不寻常：要带一个格式化的几乎全新的电脑过来安装。
北京中关村学院工程师 吴衍标：安装了“龙虾”之后，它可以查看到电脑里面的所有文件，一旦有不法分子想利用这些漏洞，文件、机密都可能外传。
为什么“龙虾”可以查看电脑所有的文件？在安装的时候我们有没有可能手动限制它的权限呢？记者发现，开源的原始版“龙虾”并非能够一键安装完成，而是需要通过命令行输入代码，技术门槛不低。
“小龙虾”在电脑上自主运行，默认的权限级别很高，这意味着运行它有一定的风险。工程师告诉记者，只有有了这个权限，这个“龙虾”才具备了干活的基础。此外，它还需要有两部分核心组件：
一是需要人工智能大模型，这就像给它安了个“大脑”，能让它理解复杂的指令，这在安装时就会让用户进行选择；
二是需要各种各样的“技能”，赋予它操作具体软件的能力，也就相当于给它装上了“手脚”，比如在告诉了它相关账户密码的情况下，它能自主完成制定旅行计划并预订机票、回复邮件等复杂任务。
一只刚出生的“小龙虾”，自带一些基本技能，它能做些什么呢？记者决定对它进行三项测试。
测试一：分类整理电脑桌面文件
记者通过即时通信软件向“龙虾”发出整理电脑桌面的指令。等了几分钟后，它告诉记者，已经将电脑桌面文件分类整理成功。
测试二：远程传输文件并指定路径储存
记者在手机上传了一张图，要求“龙虾”将图保存在电脑桌面的媒体图片文件夹中。几分钟后，文件夹中真的出现了图片。
测试三：修改图片大小并存储
记者要求“龙虾”将电脑桌面文件夹中的一张图片缩小并放入该文件夹，原图片不动。几分钟后，“龙虾”说新图片已经存入了文件夹中。任务看似完成了，但“龙虾”声称保留的原图却不翼而飞。
如此看来，“龙虾”就像一个还不是特别靠谱的助手，它基于人工智能大模型，也有和大模型一样的幻觉犯错的可能。工程师告诉记者，要想让“龙虾”越来越强大，就需要“养虾”。
吴衍标：第一个方法就是给它越来越多的技能、越来越多的记忆，让它更懂你、掌握更多你的技能，这样的话它就能够做你的事情；二来随着大模型的发展，它的脑子也会变得越来越聪明。
尽管“龙虾”还不太靠谱，但也获得了不少拥趸。在读博士的吕丁阳就花了一个多星期时间养了一只“科研龙虾”，赋予了它很多科研技能，专门做材料领域的计算。
而从事人工智能领域研究的何纪言，则花了半个多月时间养了好几只非常了解自己的“龙虾”助手，有的做科研，有的帮助管理日常信息，有的负责整理材料、制作文件等等。
何纪言让“龙虾”根据应聘中央广播电视总台员工的特点做一份简历。几分钟后，这只龙虾就完成了一份制作排版精良的简历，还突出了个人的应聘优势。
何纪言坦言，要让“龙虾”越来越智能，也需要花钱购买大模型的使用量，也就是所谓的Token，对于频繁或复杂的任务，这笔消耗确实不小。但这种效率的提升，也让“龙虾”迅速出圈。不少地方，出现了免费安装“龙虾”的热潮。
广东深圳、安徽合肥、江苏无锡、常熟等地相继发布政策，支持“龙虾”智能体和一人公司的发展，一些政府也部署应用上了“政务龙虾”，用于公文写作、民生问答等场景，希望能把基层干部从烦琐的事务中解放出来。
不过，就在这股热潮涌向各行各业时，也暴露出了风险，一些高校对“龙虾”拉响了警报，下了“封杀令”。工业和信息化部等多个主管部门接连发布预警，直指OpenClaw存在高危安全风险，明确防范要求与用户使用提醒，为AI智能体使用划出安全红线。
一面是热火朝天的应用，一面又是接连预警，这小小的“龙虾”里，到底藏着什么玄机？
中国信息通信研究院安全研究所副所长 孟楠：“龙虾”智能体的优势在于高权限的自主执行能力，它让人工智能从“能说”进化到“会做”，同时也带来了一些新的安全风险。
风险一：
权限失控带来的系统被接管的风险
专家告诉记者，一旦被黑客利用或者用户指令不当，“龙虾”就有可能不加辨别地执行破坏性操作。比如删除我们的核心文件，把敏感的数据发到网络上，或者在用户不知情的情况下悄悄安装恶意的软件。
风险二：
网络暴露带来的攻击入口风险
为了方便，很多用户会将“龙虾”智能体管理端口暴露在互联网上，这无异于给黑客开了后门。
孟楠：更危险的是，如果这个智能体还连接到单位内部的网络，就可能成为黑客进行攻击的跳板，一旦被攻陷，整个企业内网都将面临威胁。
风险三：
产品漏洞带来的可能被利用的风险
任何软件都有漏洞，但在“龙虾”的高权限加持下，漏洞的危害被进一步放大。而为了让“龙虾”具有更多技能，用户往往会安装第三方插件，还会带来了供应链风险。
孟楠：我们发现了不少技能插件被植入了恶意代码，用户在使用这些有毒的技能插件时，就等于把恶意程序请进了家门，轻则造成数据泄露，重则整个系统被黑客控制。
对于这些隐患，深度养虾人及科技行业人士也坦言，尽管AI智能体是发展趋势，但普通用户绝对不能掉以轻心。
普通用户使用“龙虾”如何保障安全呢？专家认为，普通用户属于安全风险的高发群体，应该审慎安装“龙虾”。
工信部日前发布了关于“龙虾”的“六要六不要”安全指引，涵盖了权限控制、网络隔离、技能插件使用等关键环节。
3月22日，国家互联网应急中心、中国网络空间安全协会联合发布了“龙虾”OpenClaw的安全使用指南，面向普通用户、企业用户、云服务商以及技术开发者等，提出安全防护建议。其中，对于普通用户的建议包括：
使用专用设备、虚拟机或容器安装OpenClaw，并做好环境隔离，不宜在日常办公电脑上安装。
不将OpenClaw默认端口（18789\19890）暴露到公网。
不使用管理员或超级用户权限运行OpenClaw。
安装可信技能插件。
不在OpenClaw环境中存储、处理隐私数据。
及时更新OpenClaw最新版本。
……
尽管现在各主管部门不断在提示“龙虾”安全风险问题，但从长远来看，专家认为，要解决“龙虾”的安全问题，更需要从标准、技术、生态多方面着手。
孟楠：建议始终坚持统筹发展和安全，在鼓励和促进创新的同时，针对不同场景做精准分类施策，确保安全可控。需要尽快制定相关标准规范来引导各类主体规范应用新技术，引导鼓励网络安全企业研制相关的环境隔离、智能拦截、行为审计等安全产品和服务。建立包括智能体提供者、安全企业等主体在内的相关主体来协同治理生态。
我们看到，有不少人都希望尽快掌握和利用智能体提升效率、满足需求；一些企业也开始尝试使用。对于像“龙虾”这样的新事物，我们需要鼓励，需要为技术创新留足试错的空间，避免束缚产业发展的活力；但同时，面对爆火的“龙虾”，我们也需要有一些冷思考，守住安全底线，防范风险扩散失控。也就是说，技术创新和安全监管协同推进、良性互动，我们才能更好和AI共舞，推动人工智能高质量发展。
来源 央视新闻
宝盈优配提示：文章来自网络，不代表本站观点。
