标签聚合

深度学习

深度学习 领域的最新 AI 动态与独家辣评,共 19

HackerNews

围棋大师 Shin 历史性击败 AI KataGo

  • 韩国围棋大师 Shin 在正式对局中击败 AI KataGo
  • 被称为人类对 AI 的历史性胜利
  • 通过研究 AI 弱点找到突破策略
3 小时前访问原文链接
HackerNews

1.5 小时训出小模型 ARC 成绩超越大模型

  • 作者仅用 1.5 小时训练一个小型 transformer
  • 在 ARC 基准上取得 44% 成绩,超越许多大语言模型
  • 展示小模型在特定推理任务上的潜力
3 小时前访问原文链接
HackerNews

研究揭示神经网络涌现出符号结构

  • arXiv 论文研究神经网络内部涌现的符号化结构
  • 为可解释性与大模型内部机制提供新理论视角
  • 触及神经网络与符号推理融合的经典问题
3 小时前访问原文链接
HackerNews

梯度下降训练神经网络的普适性研究

  • 论文研究梯度下降在神经网络训练中表现出的普适性规律。
  • (基于标题摘要推断)内容涉及优化算法为何能稳定收敛并找到泛化解。
14 天前访问原文链接
HackerNews

AI时代的数学:新的研究范式正在成形

  • 这是一篇arXiv论文,探讨AI如何改变数学研究的方式与边界。
  • (基于标题摘要推断)论文或讨论大模型辅助证明、猜想发现等新范式。
14 天前访问原文链接
HackerNews

Kent Beck用烘焙比喻讲透LLM训练

  • Kent Beck用烘焙比喻通俗解释大模型训练过程
  • 将数据、算力、调参与烘焙原料、火候进行类比
15 天前访问原文链接
HackerNews

AI时代的数学将走向何方

  • arXiv论文探讨AI对数学研究与证明方式的深层影响
  • 讨论机器证明与人类数学家角色的重新定位
15 天前访问原文链接
HackerNews

只用小学教材训练大模型,会发生什么?

  • 研究者用不超过五年级难度的文本训练大模型,探索其能力边界(基于标题摘要推断)
  • 实验显示模型仍能习得一定语言与推理能力,但复杂概念理解受限
  • 为“训练数据质量 vs 数量”之争提供了独特观察视角
18 天前访问原文链接
HackerNews

AI by Hand:手算拆解神经网络原理

  • 『AI by Hand』以手工推导的方式讲解反向传播、注意力机制等核心算法
  • 面向想真正理解模型内部运作、而非只会调 API 的开发者
  • 用纸笔级计算示例把抽象数学变成可操作的直觉
19 天前访问原文链接
TheVerge_AI

AI正在接管数学研究,数学家们怎么看?

  • The Verge 深度报道AI对数学领域的冲击:OpenAI声称其模型可解决顶级数学家难题
  • 数学家 James Maynard 分享了AI改变数学研究方式的亲身观察
  • 报道探讨AI是数学的「合作者」还是「替代者」
23 天前访问原文链接
HackerNews

AI攻克传奇数学家Erdős难题:数学研究新范式诞生

  • Quanta杂志报道,AI系统正在系统性地攻克Paul Erdős留下的经典数学难题
  • AI辅助证明在组合数学和图论领域取得了传统方法多年未能实现的突破
  • 数学家开始将AI视为研究伙伴而非工具,标志着数学研究方法论的根本转变
28 天前访问原文链接
HackerNews

硬核玩法:用纯SQL实现神经网络,MNIST准确率达98%

  • 开发者在PostgreSQL中用纯SQL实现了完整的前馈神经网络,无需任何外部语言
  • 在MNIST手写数字识别上达到98%准确率,证明了SQL的图灵完备性在AI领域的实际应用
  • 利用递归CTE实现反向传播,将SQL从数据库查询语言推向了深度学习运行时
1 个月前访问原文链接
HackerNews

AI研究中的「一步到位陷阱」:为什么我们越做越窄

  • 强化学习奠基人Richard Sutton撰文指出AI研究正陷入「一步到位陷阱」
  • 研究者过度追求短期SOTA刷榜,忽视了长期探索和根本性突破
  • 呼吁回归长远思考,避免被短期指标带偏研究方向
1 个月前访问原文链接
HackerNews

仅需一层Transformer?新研究挑战大模型训练范式

  • 最新arXiv论文提出:单层Transformer即可匹配完整参数RL训练的效果
  • 该发现挑战了更深更强的行业共识,可能大幅降低模型训练成本
  • 论文已被HN社区热议,研究者对模型架构简化方向表现出浓厚兴趣
2 个月前访问原文链接
HackerNews

1991年慕尼黑:追溯当前AI繁荣的根源

  • 文章回顾1991年慕尼黑学术会议对现代AI的奠基作用。
  • Jürgen Schmidhuber等学者早期贡献塑造了今日深度学习格局
  • 神经网络、自监督学习等概念早在30年前已萌芽
  • 重新审视AI历史有助于理解当前技术路线的来龙去脉
2 个月前访问原文链接
HackerNews

用 AI 软件证明欧拉和公式的实践经验 [PDF]

  • 学术论文记录使用 AI 工具辅助数学证明的全过程
  • 探讨 AI 在数学研究中的实用价值与局限
  • 提供可复现的实验方法
2 个月前访问原文链接
HackerNews

强化学习之父 Rich Sutton 谈 AI 创造力与科学发现

  • RL 先驱 Rich Sutton 发表对 AI 创造力的最新看法
  • 讨论 AI 在科学发现中的角色
  • 引发学术界与工业界广泛讨论
2 个月前访问原文链接
HackerNews

Gwern:通过「弹射机制」构建类人神经网络

  • Gwern 新文探讨 LLM 如何实现类人推理的「弹射」机制
  • 认为当前架构通过强化学习可以达到超越人类的跳跃式推理
  • 挑战了 LLM 只是「随机鹦鹉」的传统批评
2 个月前访问原文链接
HackerNews

数学家集体发声:AI在数学领域的快速渗透引发警告

  • 数学家群体在Science杂志发文警告AI对数学研究的冲击
  • AI在定理证明、猜想生成等方面展现惊人能力,呼吁建立伦理框架和质量标准
3 个月前访问原文链接