思维链的幻觉：大模型推理并不一定发生在语言里
`Chain-of-Thought` 思维链：大模型的 CoT 思维链 给使用者带来了一个非常理性的效果，模型会说“首先”“第一步”“第二部”...“最后”等词语，很多人认为看到了模型的推理文本，即看到模型的思考过程。但是问题在于，这个直觉未必成立。思维链是模型输出的一部分，仍然服从模型内部的生成机制；它可能记录了真实...
Loken Lab
面向电子数据取证、区块链、AI 安全与系统攻防研究的文章发布站。
文章索引
查看归档
最近文章
RAG 知识库投毒：模型没错，错的是它读到的资料
RAG 能让模型回答得更像有依据，但知识库一旦被污染，依据本身就会变成攻击面。...
Prompt Injection：不要相信模型读到的上下文
Prompt Injection 不是单纯的提示词整活，而是 LLM 应用里输入边界、权限边界和执行边界混在一起后的安全问题。...
TRC20-USDT 链上证据固定实验
TRC20-USDT 交易记录具有公开可查、字段结构相对稳定、可通过多种链上数据接口复核等特点，是虚拟货币资金链溯源中常见的分析对象。然而，链上交易“可查询”并不等同于“已取证”。单纯保存区块链浏览器截图，难以满足后续复核、结构化分析、文件完整性校验和报告生成的需要。围绕单笔 TRC20-USDT 转账记录的证据固定问...