四种模式
询问、自动、计划、完全。计划模式只读,并且干脆拒绝:它把计划交给你,然后告诉你若要执行就请切换模式。模式是上限,不是建议。
一个能读你的文件、在你的机器上运行命令、写入你的数据库并向互联网发布内容的智能体,只有在由你决定它能碰什么时才是安全的。每项工具都属于某个权限类别;决定向你发问的是类别,而不是工具本身。而有三种行为,在任何模式下都无法被提前授权。
它们没有一样是模型的良好判断。一个一百次里对九十九次的模型,不是权限系统。
询问、自动、计划、完全。计划模式只读,并且干脆拒绝:它把计划交给你,然后告诉你若要执行就请切换模式。模式是上限,不是建议。
读取、写入、运行命令、改动数据库或存储桶、写入 DNS 记录、发送消息、发布到互联网、花费积分。读取从不发问。而改动数据库或 DNS,即使在自动模式下也要问。
给某人发送消息、在公共互联网上发布,以及把积分花在模型调用以外的事情上。每一次都要问,包括完全访问——这三种都没有「始终允许」,因为它们都收不回来。
每一次运行都带着积分预算。到达上限它就停下,而不是让你事后才发现花了多少——而会花钱的工具无论预算还剩多少,都要先问过你。
依据实现它们的代码写成。某项措施若有局限,局限就写在本页更下方,而不是略去不提。
一个只罗列长处的安全页面,不过是一本宣传册。以下是我们已知的局限。
写信到 contact@iagenify.com,并在主题行开头加上「Security」。请写明你做了什么、看到了什么,以及平台若给过你引用编号也一并附上。如果概念验证触及了数据,请说明是谁的数据——包括那是你自己的。
是人,不是队列。如果问题属实,你会知道我们正在怎么处理。
没有报酬,我们也不会假装有。事先说清楚,比让你在做完之后才发现要公道。
不要拒绝服务攻击,不要碰第三方的数据,不要动不属于你的账户。足以说明问题,然后就停下。
读取、委派给子智能体,以及写它自己的笔记。其余一切都取决于类别和模式:在自动模式下写文件是自由的,而改动数据库或 DNS 即使在那里也要问,至于发送、发布与花费,无论模式怎么说都每次都要问。
存在运行该智能体的设备上。我们的数据库只保留这一步本身——哪个工具、一个简短的目标、是否成功、花了多少、用了多久——而绝不保留结果的内容。这种切分是刻意的:发生了什么的记录对你有用,而你文件里的内容并不归我们保管。
不能。地址检查即使在开发环境下也默认开启,而唯一一处本可以把工作流指向私有地址的地方,那个后门默认是关的——这个 API 是公开的,在那里图一时开发方便,就等于让任何账户都能读到来自我们自己网络的响应。
换掉它。密钥以哈希形式存储,而不是密钥本身,所以我们无法再把它显示给你——只能签发新的并停用旧的。由密钥派生出的会话是短期的,并且绑定在一个我们可以终止的会话族上。
没有。但还是请写信给我们,主题行开头加上「Security」。我们非常希望是从你这里听到。
没有第三方审计。这些检查都是我们自己的:不联网的单元测试套件,一个从容器内部回读每一项容器限额的脚本,一个创建一次性账户、部署一个真实站点、然后把自己造出来的一切删干净的脚本,以及一个把登录流程从头跑到尾的脚本。我们宁愿告诉你这些检查是谁做的,也不愿让「已验证」这个词替我们完成工作。