QbitAI

GPT-6 带火循环 Transformer，阿里早已布局

• GPT-6 的热度让「循环 Transformer」重新成为焦点，即同一组层反复运行、以更少参数做更深计算。
• 阿里在该方向早有布局，团队手握两篇顶会论文，显示国内大厂的前瞻卡位。

1 小时前访问原文链接

HackerNews

900KB Transformer极限压缩100MB数据

• 作者用极小Transformer模型实现七倍以上压缩比
• 通过过拟合方式将CSV数据直接记忆进模型权重参数

2 个月前访问原文链接