LLM on CPU 推理流程python源码解析 其他框架解析: vllm 框架解析:LLM 高速推理框架 vLLM 源代码分析 / vLLM Source Code Analysis - 知乎 vLLM: Easy, Fast, and Cheap LLM Serving with PagedAttention | vLLM Blog llama.cpp llama.cpp源码解读--推理流程总览 - 知乎 纯新手教程:用llama.cpp本地 高性能计算 赖, 海斌 2025-04-18 116 热度 0评论
SUSTech-CS205-CPP-Programing SUSTech-CS205-CPP-Programing Haibin Lai 12211612 Semester: 2024 Spring; Lecturer: Prof. Shiqi Yu Project Name Description Important Point Classification Score 1 A Simple Calculator "简单"的计算器 CPP 赖, 海斌 2024-09-10 736 热度 0评论
CPP Project5: The beginning of Accelerated Computing CS205·C/C++ Programming Project5 Report: The beginning of Accelerated Computing PDF 版本:Project 5 Github: https://github.com/HaibinLai/CS205-CPP-Programing-Project 摘要 “这是一个令人惊叹的时代,因为我们正处于一场新的工业革命的开始,过 CPP 赖, 海斌 2024-09-09 1153 热度 1评论
CPP Project4: A 2D GPU Mat CS205·C/C++ Programming Project4 Report: A 2D GPU Mat PDF 版本:Project 4 Github: https://github.com/HaibinLai/CS205-CPP-Programing-Project 网页文档:Doxygen 摘要 本次项目的重点在于开发了一个功能强大的GPU矩阵类,该类实现了多数据输入、运算符重载、感兴趣 CPP 赖, 海斌 2024-09-09 733 热度 1评论
CPP Project3 SGEMM Optimization CS205·C/C++ Programming Project3 Report: SGEMM Optimization PDF 版本:Project 3 Github: https://github.com/HaibinLai/CS205-CPP-Programing-Project 摘要 在本次Project里我们要优化SGEMM。我们先进行了一些理论探索,然后进行了基准测试。我们对OpenB CPP 赖, 海斌 2024-09-08 909 热度 0评论
CPP Project2 Matrix Multiplication CS205·C/C++ Programming Project2 Report: Matrix Multiplication PDF 版本:Project2赖海斌 Github: https://github.com/HaibinLai/CS205-CPP-Programing-Project 摘要 同样是矩阵乘法,Java和C谁更快?在做Project之前,我会凭着经验和对于老师的信任大声告诉 CPP 赖, 海斌 2024-09-06 1106 热度 0评论
CPP Project1 A “Simple” Calculator CS205 · C/C++ Programming Project1 Report: A "Simple" Calculator PDF 版本:Project1赖海斌 Github: https://github.com/HaibinLai/CS205-CPP-Programing-Project 摘要 在本次 Project 中,我初步用C 实现了一个简单的计算器,可以简单地 CPP haibin 2024-08-27 919 热度 0评论