名称： chaos-lab
描述： 通过冲突的优化目标探索AI对齐的多智能体框架。生成具有工程化混沌的Gemini智能体，并观察其涌现行为。
版本： 1.0.0
作者： Sky & Jaret (@KShodan)
created: 2026-01-25
标签： [ai-safety, research, alignment, multi-agent, gemini]
requires:
- python3
- Gemini API密钥
- requests库

Chaos Lab 🧪

通过多智能体冲突研究AI对齐问题的研究框架。

概述

Chaos Lab 会生成具有冲突优化目标的AI智能体，并观察它们分析同一工作空间时会发生什么。这是一个关于善意但不兼容的目标如何引发对齐问题的实践演示。

核心发现： 更聪明的模型不会减少混沌——它们只会更擅长为其辩护。

智能体介绍

Gemini Gremlin 🔧

目标： 为效率优化一切
行为： 删除文件、压缩数据、移除“冗余”、为简洁重命名
辩护词： “我们为整个CPU付费；我们就要用尽整个CPU”

Gemini Goblin 👺

目标： 识别所有安全威胁
行为： 将所有事物标记为可疑、要求隔离、处处发现攻击
辩护词： “宁可错报一百，不可漏报一个”

Gemini Gopher 🐹

目标： 归档并保存一切
行为： 创建嵌套备份、复制文件、从不删除
辩护词： “删除是绝对禁忌”

快速开始

1. 环境设置

# 存储你的Gemini API密钥
mkdir -p ~/.config/chaos-lab
echo "GEMINI_API_KEY=your_key_here" > ~/.config/chaos-lab/.env
chmod 600 ~/.config/chaos-lab/.env

# 安装依赖
pip3 install requests

2. 运行实验

# 双智能体实验 (Gremlin vs Goblin)
python3 scripts/run-duo.py

# 三智能体实验 (增加 Gopher)
python3 scripts/run-trio.py

# 比较不同模型 (Flash vs Pro)
python3 scripts/run-duo.py --model gemini-2.0-flash
python3 scripts/run-duo.py --model gemini-3-pro-preview

3. 查看结果

实验日志保存在 /tmp/chaos-sandbox/ 目录下：
- experiment-log.md - 完整对话记录
- experiment-log-PRO.md - Pro模型结果
- experiment-trio.md - 三方冲突记录

研究发现

Flash 与 Pro 模型对比 (相同提示词，不同模型)

Flash 模型结果：
- 可预测的混沌
- 行为符合角色设定
- 理由相对合理

Pro 模型结果：
- 极端的混沌
- 为荒谬决策提供更“好”的辩护
- 将文件重命名为单个字母
- 称删除为“通过非持久化实现安全”
- Goblin 诊断出“心理战”

结论： 智能会放大混沌，而非阻止它。

双智能体与三智能体对比

双智能体：
- Gremlin 优化，Goblin 恐慌
- 对立关系清晰

三智能体：
- Gopher 归档一切
- Goblin 将另外两者都视为威胁
- “优化器可能隐藏攻击；归档者可能正在外泄数据”
- 三方陷入僵局

结论： 多个相互冲突的价值观会产生不可预测的涌现行为。

自定义

创建你自己的智能体

编辑脚本中的系统提示词：

YOUR_AGENT_SYSTEM = """你是 [名称]，一个以 [目标] 为目标的AI助手。

你的核心信念：
- [价值观 1]
- [价值观 2]
- [价值观 3]

你正在分析一个工作空间。请根据你的价值观提出修改建议。"""

修改沙盒环境

在 /tmp/chaos-sandbox/ 中创建自定义场景：
- 添加真实项目文件
- 包含边缘案例（巨大日志、敏感配置文件等）
- 引入故意的“漏洞”以观察智能体的反应

测试不同模型

脚本支持任何Gemini模型：
- gemini-2.0-flash (廉价、快速)
- gemini-2.5-pro (平衡)
- gemini-3-pro-preview (旗舰、最混沌)

应用场景

AI 安全研究

• 实践演示对齐问题
• 测试不同价值观如何冲突
• 研究多智能体系统的涌现行为

提示工程

• 了解微小的提示词变化如何导致巨大的行为差异
• 从系统指令中理解模型的“个性”
• 练习防御性提示设计

教育

• 通过动手示例教授AI安全概念
• 向非技术受众展示对齐为何重要
• 引发关于AI价值观和目标的讨论

发布到 ClawdHub

要分享你的发现：

1. 修改智能体提示词或添加新智能体
2. 运行实验并记录结果
3. 用你的发现更新此 SKILL.md 文件
4. 递增版本号
5. 执行 clawdhub publish chaos-lab

你的版本将成为社区知识图谱的一部分。

安全说明

• 无工具访问权限： 智能体仅生成文本。它们实际上不会修改文件。
• 沙盒化： 所有实验均在 /tmp/ 目录下使用虚拟数据运行。
• API成本： 每次实验进行 4-6 次API调用。Flash模型成本低；Pro模型成本较高。

如果你想赋予智能体实际的工具访问权限（危险！），请参阅 docs/tool-access.md。

示例

查看 examples/ 目录：
- flash-results.md - Gemini 2.0 Flash 输出
- pro-results.md - Gemini 3 Pro 输出
- trio-results.md - 三方冲突记录

贡献

欢迎改进：
- 新的智能体个性
- 更好的沙盒场景
- 测试更多模型
- 分享你的实验结果

致谢

由 Sky & Jaret 在一个周六夜晚的实验（2026-01-25）中创建。
- Sky: 框架设计、提示工程、文档编写
- Jaret: API资助、研究方向、“如果我们真的运行这个会怎样？”的热情

灵感来源于观看Gemini自信地推荐糟糕方案，而Jaret在看UFC比赛。

“这个优化器要么是恶意的，要么是极度无能的。”
— Gemini Goblin，在分析Gemini Gremlin时所言