Haibin's blog

  • Homepage
    • Computer Science
    • Compilers
    • Distributed Systems
    • OS
    • CPP-Programing
    • Readings
    • Paper Reading
    • Frameworks Analysis
    • Multidisciplinary
  • Moments
  • GLHF
  • My Friends
  • My Github
  • My CV
  • 🗂️ Article Navigation
  • 1. MINEDRAFT: A Framework for Batch Parallel Speculative Decoding
标签: vLLM article list
1 articles

MINEDRAFT: A Framework for Batch Parallel Speculative Decoding

MINEDRAFT: A Framework for Batch Parallel Speculative Decoding 把推测解码打成mini batch,随后在drafter和verifier上分批处理。 在vllm上修改,工程量可观。不错的尝试和idea。 Architecture overview of MINEDRAFT. (Left) The Scheduler manages r
  • Paper Reading
  • Haibin
  • 2026-03-23
  • 407 Views
  • 0 Comments
haibin
SUSTech
Articles 204
Comments 26
Views 252700
  • Latest Comments
  • Haibin 我突然在想,人类在使用习惯gpt5后,会怎么跟gpt3聊天呢,以及,如何跟曾经自己的猫娘助手聊天?人类的认知随着身份的变化而快速改变,没有共同认知的进步,聊天会难以同步 我跟老板认真讨论过这个问题。我说老师,研究生直到写完了第一篇文章,才多少能理解你的从前和现在,但是很快我们又毕业了。做老师是不是很孤独?身边这么多学生,可是没有人能真正理解你,真正理解你的人又马上离去。 同是天涯沦落人,相逢何必曾相识。“又不是再也不见了”老板说
  • Ooooj 最近出来挺多新的benchmark/metrics,神经科学那边也是。有种要穷则思变的味道。感觉有机会见证新的基座模型/范式诞生
  • M~a binance Your article helped me a lot, is there any more related content? Thanks!
  • www.binance.com registrera dig Thanks for sharing. I read many of your blog posts, cool, your blog is very good.
  • Haibin 是的,似乎拿如今神经网络的思考,去对比作者当时的思考,会是一个更好的切入口。会把他们补上
  • Neumo 总体而言,这本书成书于上世纪中叶,作者也并非生物学专业研究者。书中的研究思路值得借鉴,但其中也存在不少事实性错误和带有误导性的表述。如果对类似主题感兴趣,我更推荐尼克·莱恩的《生命之源》——这本书聚焦于生命早期演化,作者并非直接灌输结论,而是像指导研究生一样,带领读者一步步提出假说、验证并反思,阅读过程宛如亲身参与研究,个人认为是此领域迄今为止最为精彩的著作之一,也是给我带来目前为止最佳阅读体验的书籍。 您提到的“摄入负熵”,确实如您所说,是一种形象比喻而非严格的物理学表述。薛定谔曾解释,这是为了避免专业术语可能给非专业读者带来理解困难。不过在今天,许多接受过高中教育的人已能理解更准确的概念。为避免简化表述可能引起的误解,这里稍作补充:我们通常可将生命体视为恒温恒压的封闭系统,在此条件下,判断过程是否自发进行的标准是自由能(高中化学已涉及),而非熵。例如,氨基酸形成肽链或脂质自组装的过程,表面看似熵减,实则整体可能熵增(参考文献:https://pubmed.ncbi.nlm.nih.gov/4333397/)。在这些过程中,亲水与疏水作用引起的焓变往往主导自由能下降,推动反应进行。因此,更准确的描述可以是:生命通过摄取高自由能物质、排出低自由能物质来维持生存。这一切都符合物理规律,每个生命过程都是自发的化学反应,如同水流推动发电机运转一般自然。 薛定谔在书中探讨分子尺度的部分,核心意图在于说明生命体与分子在规模上的巨大差异。该章节更精彩的论证在于以下逻辑脉络: 1. 能够提出“原子为什么这么小”这种问题的思维,必然能够认知“原子”这一概念; 2. 能够认知“原子”的思维,必然是一种有序的思维; 3. 有序思维的形成,离不开其所处的有序环境; 4. 微观世界本质是无序的,因此该思维应处于宏观世界; 5. 一个宏观世界的思维自然会产生“原子为什么这么小”这类疑问。 这一论证思路个人认为是本章的精华所在。 另外,该部分子标题“生命机体的运行需要精确的物理定律”略有误导之嫌——后文实际并未围绕此点展开论证,反而转向探讨“提出该问题的思维需要精确的认知过程”。事实上,生命许多关键机制,例如呼吸链复合体的工作,恰恰依赖于电子的隧穿效应;此外,分子热运动也在分子识别、蛋白质构象变化及能量驱动的生化反应中扮演重要角色。 期待您在读后感中能融入更多当代视角与个人思考,而不局限于作者当年的论述框架——毕竟作者所处的科学背景与今已相隔近百年。例如关于意识问题,当今心灵哲学领域已有许多深入探讨,远比薛定谔当时的简要论述更为系统,尽管从AI研究者的视角来看其中不少理论仍存在问题;结合您对心灵模型的理解,不妨谈谈薛定谔的观点可能有哪些不足。在人工智能迅速发展的今天,我们已拥有大量神经网络实例可供研究,对认知与生命的思考也可以有新的落脚点。再如“生命在何种层次可被称为生命”这一问题,本质上或许已是语义层面的讨论——维特根斯坦若见此争议,大概也会会心一笑吧。
  • Haibin 对应的课程点评:https://ncesnext.com/course/1179/
  • Recommendation
  • 十年饮冰,难凉热血
    十年饮冰,难凉热血
    21小时前
  • ICML26 PlugMem
    ICML26 PlugMem
    1天前
  • 今天我的vscode又离职了一位agent
    今天我的vscode又离职了一位agent
    1天前
  • 做研究真正的放假时刻是meeting完的后一秒
    做研究真正的放假时刻是meeting完的后一秒
    1天前
  • Q群聊天记录
    Q群聊天记录
    1天前
Theme By Document. ICP备案号 粤ICP备2024294695号