V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
hellozgfss
V2EX  ›  程序员

推荐一门开源课程,《从零编写深度学习推理框架》,学会怎么上手一个现代风格 C++项目。对于以后的面试和求职都是一个不错的项目哦!

  •  
  •   hellozgfss · 2023-01-10 14:34:03 +08:00 · 1878 次点击
    这是一个创建于 464 天前的主题,其中的信息可能已经有所发展或是发生改变。

    大家好

    我在 b 站上开源了一门公开课,《从零编写深度学习推理框架》 b 站链接: https://space.bilibili.com/1822828582

    github 链接: https://github.com/zjhellofss/KuiperInfer 欢迎点赞和 PR (已经发布 Docker )

    课程可以分为三个季度,现在是第一季共八次课程,课程表如下,后续两季会根据大家的意见进行排课,这是一次我致敬开源精神的课程,谢谢大家关注点赞!

    使用的技术是 C++,截至目前框架已经支持 Yolov5s 的推理,在 11700H 上推理时间为 0.9s(640*640*3)

    课程次数 主要内容 进度 第一次课 整体框架解读和开发环境配置 完成

    第二次课 张量 Tensor 类的解析和输入数据的内存排布 完成

    第三次课 从 CSV 文件中初始化张量 Tensor 一个实例 完成

    第四次课 手写第一个算子 Relu 并完成算子注册工厂类 完成

    第五次课 Im2col 的原理和卷积算子的实现 未完成

    第六次课 照猫画虎,完成 MaxPooling 算子 完成

    第七次课 图结构(PNNX)讲解和计算图初步 未完成

    第八次课 读取 PNNX 并构建自己的计算图 未完成

    第 1 条附言  ·  2023-01-10 15:16:38 +08:00
    再发一个效果图
    第 2 条附言  ·  2023-01-10 15:18:33 +08:00
    第 3 条附言  ·  2023-01-10 15:26:51 +08:00
    运行 demo 的截图,最后耗时 7.16s, batch 等于 8, 大小为 640 * 640.






    现代 C++风格的代码
    6 条回复    2023-01-10 22:10:40 +08:00
    Approximate
        1
    Approximate  
       2023-01-10 14:40:14 +08:00
    支持楼主,关注一下
    hellozgfss
        2
    hellozgfss  
    OP
       2023-01-10 14:58:07 +08:00
    [![pSmickj.jpg]( https://s1.ax1x.com/2023/01/10/pSmickj.jpg)]( https://imgse.com/i/pSmickj)

    Yolov5 模型预测目标的效果图如上
    hellofss
        3
    hellofss  
       2023-01-10 15:07:57 +08:00
    ![image]( )
    Yolov5 模型预测目标的效果图如上,可以看出是比较准确的。
    closedevice
        4
    closedevice  
       2023-01-10 15:20:35 +08:00
    不错不错,包括训练框架和推理引擎两部分?
    hellozgfss
        5
    hellozgfss  
    OP
       2023-01-10 15:21:27 +08:00
    @closedevice 目前只有推理框架的,第一季课程围绕推理展开的,目前反响还不错。
    closedevice
        6
    closedevice  
       2023-01-10 22:10:40 +08:00
    @hellozgfss 有考虑啥时候加推理引擎部分?
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   我们的愿景   ·   实用小工具   ·   3424 人在线   最高记录 6543   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 30ms · UTC 11:16 · PVG 19:16 · LAX 04:16 · JFK 07:16
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.