Haibin's blog

  • Homepage
    • Computer Science
    • Compilers
    • Distributed Systems
    • OS
    • CPP-Programing
    • Readings
    • Multidisciplinary
  • My live figure
  • Paper Reading
    • Frameworks Analysis
  • My Github
  • My Friends
  • My CV
  • 🗂️ Article Navigation
  • 1. ATC25 Colocating ML Inference and Training with Fast GPU Memory Handover
标签: DNN article list
1 articles

ATC25 Colocating ML Inference and Training with Fast GPU Memory Handover

今天yf来分享一篇来自IPADS的ATC25文章。 Colocating ML Inference and Training with Fast GPU Memory Handover 简短点评:依旧IPADS特有的大工程,TVM+vLLM+NCCL+Pytorch 开组会大家一起问了很多问题。 https://ipads.se.sjtu.edu.cn/_media/publications/si
  • Paper Reading
  • Haibin
  • 2026-01-15
  • 117 Views
  • 0 Comments
haibin
SUSTech
Articles 178
Comments 27
Views 157663
  • Latest Comments
  • Haibin 是的,似乎拿如今神经网络的思考,去对比作者当时的思考,会是一个更好的切入口。会把他们补上
  • Neumo 总体而言,这本书成书于上世纪中叶,作者也并非生物学专业研究者。书中的研究思路值得借鉴,但其中也存在不少事实性错误和带有误导性的表述。如果对类似主题感兴趣,我更推荐尼克·莱恩的《生命之源》——这本书聚焦于生命早期演化,作者并非直接灌输结论,而是像指导研究生一样,带领读者一步步提出假说、验证并反思,阅读过程宛如亲身参与研究,个人认为是此领域迄今为止最为精彩的著作之一,也是给我带来目前为止最佳阅读体验的书籍。 您提到的“摄入负熵”,确实如您所说,是一种形象比喻而非严格的物理学表述。薛定谔曾解释,这是为了避免专业术语可能给非专业读者带来理解困难。不过在今天,许多接受过高中教育的人已能理解更准确的概念。为避免简化表述可能引起的误解,这里稍作补充:我们通常可将生命体视为恒温恒压的封闭系统,在此条件下,判断过程是否自发进行的标准是自由能(高中化学已涉及),而非熵。例如,氨基酸形成肽链或脂质自组装的过程,表面看似熵减,实则整体可能熵增(参考文献:https://pubmed.ncbi.nlm.nih.gov/4333397/)。在这些过程中,亲水与疏水作用引起的焓变往往主导自由能下降,推动反应进行。因此,更准确的描述可以是:生命通过摄取高自由能物质、排出低自由能物质来维持生存。这一切都符合物理规律,每个生命过程都是自发的化学反应,如同水流推动发电机运转一般自然。 薛定谔在书中探讨分子尺度的部分,核心意图在于说明生命体与分子在规模上的巨大差异。该章节更精彩的论证在于以下逻辑脉络: 1. 能够提出“原子为什么这么小”这种问题的思维,必然能够认知“原子”这一概念; 2. 能够认知“原子”的思维,必然是一种有序的思维; 3. 有序思维的形成,离不开其所处的有序环境; 4. 微观世界本质是无序的,因此该思维应处于宏观世界; 5. 一个宏观世界的思维自然会产生“原子为什么这么小”这类疑问。 这一论证思路个人认为是本章的精华所在。 另外,该部分子标题“生命机体的运行需要精确的物理定律”略有误导之嫌——后文实际并未围绕此点展开论证,反而转向探讨“提出该问题的思维需要精确的认知过程”。事实上,生命许多关键机制,例如呼吸链复合体的工作,恰恰依赖于电子的隧穿效应;此外,分子热运动也在分子识别、蛋白质构象变化及能量驱动的生化反应中扮演重要角色。 期待您在读后感中能融入更多当代视角与个人思考,而不局限于作者当年的论述框架——毕竟作者所处的科学背景与今已相隔近百年。例如关于意识问题,当今心灵哲学领域已有许多深入探讨,远比薛定谔当时的简要论述更为系统,尽管从AI研究者的视角来看其中不少理论仍存在问题;结合您对心灵模型的理解,不妨谈谈薛定谔的观点可能有哪些不足。在人工智能迅速发展的今天,我们已拥有大量神经网络实例可供研究,对认知与生命的思考也可以有新的落脚点。再如“生命在何种层次可被称为生命”这一问题,本质上或许已是语义层面的讨论——维特根斯坦若见此争议,大概也会会心一笑吧。
  • Haibin 对应的课程点评:https://ncesnext.com/course/1179/
  • 赖, 海斌 3遍法有点像单篇文章的BFS-DFS
  • 赖, 海斌 这篇文章还是太有含金量了,重读一遍有了新收获
  • Todd 今天回顾了一遍 Haibin 大神的心得,又有新的收获:先用 BFS 扫全局,再用 DFS 深挖的思路果然高效。更妙的是,DFS 深入探索时暴露的问题,还能反过来修正 BFS 阶段因浅尝辄止而产生的偏差。
  • http://Boyarka-Inform.com/ I used to be able to find good advice from your articles. http://Boyarka-Inform.com/
  • Recommendation
  • ISCA25 Neoscope: How Resilient Is My SoC to Workload Churn?
    ISCA25 Neoscope: How Resilient Is My SoC to Workload Churn?
    1天前
  • Why Greatness Cannot Be Planned
    Why Greatness Cannot Be Planned
    2025-10-11
  • 我们在高中和大学遇到的题目是一样的吗
    我们在高中和大学遇到的题目是一样的吗
    2024-08-21
  • ATC25 Colocating ML Inference and Training with Fast GPU Memory Handover
    ATC25 Colocating ML Inference and Training with Fast GPU Memory Handover
    2026-01-15
  • Learn Compilers in 6 hours
    Learn Compilers in 6 hours
    2025-12-30
Theme By Document. ICP备案号 粤ICP备2024294695号