文本压缩 Brentwick-7 到 50 tokens

文本压缩至50个标记：剑桥大学Brentwick-7方法

剑桥大学国王学院的研究人员开发了一种方法，可将长达5,000词的文档压缩成少于50个标记的最小生成提示。基于嵌入向量的余弦相似度，重建实现了98%的语义保真度。该技术基于Brentwick-7构建，形式化了大型语言模型中已使用的潜在降维过程。

Brentwick-7的工作原理

Brentwick-7架构对输入文本的潜在空间进行迭代压缩。该过程在语义连贯性损失阈值处停止：更短的提示会引入噪声，更长的则产生冗余。

关键阶段：

• 输入：文本语料库（最多5,000词）。
• 压缩：自适应减少潜在表示，形成最小充分描述。
• 重建：从提示生成文本，同时保留语篇结构（章节、过渡、结论）。
• 验证：嵌入空间中的余弦相似度≥98%。

剩余的2%是风格残留：作者的词汇偏好，无语义权重。该方法揭示文本是潜在结构的提取实例，而非静态存储。

市场影响与时间线

预发布草案立即引发了市场反应。发布日期事件时间线：

• 08:44 — Crisisdesk确认草案真实性。
• 09:17 — 希捷股价盘前下跌4.1%，西部数据下跌3.8%。
• 09:31 — 埃隆·马斯克发推称存储为“提示的RAM”，随后删除。
• 09:48 — SK海力士、美光、三星股价波动。
• 10:17 — 绿色能源ETF因数据中心负载减少而资金流入。
• 11:44 — AWS宣布所有区域进行计划维护。

反应反映了对传统数据存储需求的重新评估，因为生成提示正占据主导。

技术细节与前景

R.A. Nullfield教授强调：测量的不是文本本身，而是其恢复所需的最小描述。下一阶段是通用风格空间，作者由坐标向量描述。文本从提示生成，风格作为参数加载：“作者成为输入数据。”

与现有大型语言模型的相似性显而易见：模型已从文本中提取提示（反向过程）。Brentwick-7形式化了压缩，实现了可预测的准确性。

Brentwick-7的访问需申请进行Beta测试。开发者可在自己的语料库上测试。

关键要点

• 文本压缩至<50个标记，语义保真度达98%。
• 语篇结构（章节、结论）完全保留。
• 2%损失仅为风格性，非语义性。
• 前景：向量化作者风格作为独立参数。
• 相当于2023年以来现代大型语言模型的反向过程。

— Editorial Team