GitHub 每周热点(231029)

潘忠显 / 2023-10-29

本周GitHub热点中，有几个程序员面试相关的窜升上来了。上周诺基亚宣布裁员1.4万人，寒潮持续中。

大规模语言模型相关的仓库相对减少，比较亮眼的是10月19日 NVIDIA 公开的 TensorRT-LLM 项目。

系统设计入门 - ByteByteGoHq/system-design-101

总 Star: 39535, 本周新增 Star: 21258

在美国大学课程编号系统中，编号101通常用于院系学科领域的初级入门课程。这种通用编号系统旨在使大学之间的转学更加容易。它还可以为不打算主修该学科的学生指明一门课程(例如，打算主修英语的学生会选择English 111，而不是English 101)。基于这种用法，“101”（发音为ONE -oh- ONE）变成了一个俚语，指某个主题的基本知识或者介绍性材料的集合。《牛津英语词典》从 1986 年开始收录了 “101” 这个俚语用法。

system-design-101 也是对系统设计相关各方面主题的介绍，广泛而不深入。

可以带新人快速的理解互联网系统的一些基础知识点，也可以作为老鸟用来巩固知识的列表。但是要深入了解某项知识，光看这个仓库还是不够的。

这里列举一下其一级目录的结构：

Communication protocols
CI/CD
Architecture patterns
Database
Cache
Microservice architecture
Payment systems
DevOps
GIT
Cloud Services
Developer productivity tools
Linux
Security
Real World Case Studies

比如，对 HTTPS 工作原理就只有一张简单的图：

how-does-https-work

再如 Twitter 的架构图：

技术面试手册 - yangshun/tech-interview-handbook

总 Star: 99683, 本周新增 Star: 3127

为忙碌的软件工程师精心准备的编码面试准备材料。如果你是想在科技公司找工作但对技术面试不熟悉的新手，或者是经验丰富的工程师，但是很久没有参加过面试而想出去找工作，都可以看看这个仓库。

相对于 GitHub 上有很多其他技术面试相关的仓库，这个仓库其实是对应一个网站：https://www.techinterviewhandbook.org/coding-interview-study-plan/。有独立的资源（而不是只是外部资源链接的整理），除了典型算法编码问题之外，还涵盖更多特定领域和非技术问题。具体地：

编码面试的最佳实践问题
Grind 75 - 根据个性化需求定制 LeetCode 学习计划
如何准备编码面试
编码面试的注意事项
按主题分类的算法备忘单和技巧
软件工程师简历分步指南，帮助您准备 FAANG 简历
顶级科技公司提出的行为问题（behavioral interview questions）
前端面试准备

AirDrop替代品 - localsend/localsend

总 Star: 21431, 本周新增 Star: 3121

LocalSend 是一款 AirDrop 的开源跨平台替代品，可使用 REST API 和 HTTPS 加密在设备之间实现安全通信。

与其他依赖外部服务器的消息传递应用程序不同，它不需要互联网连接或第三方服务器，使其成为快速可靠的本地通信解决方案。

所有数据均通过 HTTPS 安全发送，并且 TLS/SSL 证书是在每台设备上动态生成的，从而确保最大程度的安全性。

开发者成长路线图 - kamranahmedse/developer-roadmap

总 Star: 255394, 本周新增 Star: 2057

面向开发人员的社区驱动的路线图、文章和资源，有具体的网站 https://roadmap.sh/。

这些路线图包括两方面，一方面是按照开发人员的角色区分的，比如：

前端路线图
后端路线图
DevOps 路线图
全栈路线图
人工智能和数据科学家路线图

另外一方面是按照语言区分的，比如：

JavaScript 路线图
Java 路线图
C++ 路线图

因为该项目证书不允许私自转发其中的路线图，这里不贴完整的图了，这里自行访问网站查阅，比如后端路线图https://roadmap.sh/backend，这里网站是交互式，可以单击节点来阅读有关主题的更多信息：

developer-roadmap

API集合 - public-apis/public-apis

总 Star: 263345, 本周新增 Star: 1748

之前介绍过，所有公共API的集合

另外有一个类似的项目 <sindresorhus/awesome>，总 Star: 275166, 本周新增 Star: 1518

OpenBMB/XAgent

总 Star: 3787, 本周新增 Star: 1434

面壁智能和清华大学 NLP 实验室共同推出的 XAgent，对标 AutoGPT，可以实现自主解决复杂任务的全新 AI 智能体，以 LLM 为核心，能够理解人类指令、制定复杂计划并自主采取行动。

XAgent由三部分组成：

调度器 负责动态实例化和分派任务给不同的智能体。它允许我们添加新的智能体和改进智能体的能力。
规划器 负责为任务生成和校正计划。它将任务分解为子任务，并为它们生成里程碑，使智能体能够逐步解决任务。
行动者 负责采取行动实现目标和完成子任务。行动者利用各种工具来解决子任务，它也可以与人类合作来解决任务。

xagent-planner-loop

【案例】数据分析：展示双环机制的有效性

在这个案例中，我们将展示XAgent如何使用双环机制来解决数据分析任务。我们将使用一个简单的数据集iris.zip上传到XAgent，然后让XAgent分析数据集并生成一个报告。 XAgent将任务分解为4个子任务：

数据理解
验证Python环境
编写数据分析代码
编写报告，最终得到分析数据图

xagent-demo

NVIDIA/TensorRT-LLM

总 Star: 2456, 本周新增 Star: 1308

背景：NVIDIA TensorRT™ 是用于高性能深度学习推理的SDK。此 SDK 包含深度学习推理优化器和运行时环境，可为深度学习推理应用提供低延迟和高吞吐量。在推理过程中，基于TensorRT 的应用程序的执行速度可比 CPU 平台的速度快40 倍。TensorRT 以 NVIDIA 的并行编程模型 CUDA 为基础构建而成，借助 TensorRT，可以优化在所有主要框架中训练的神经网络模型，精确校正低精度，并最终将模型部署到超大规模数据中心、嵌入式或汽车产品平台中。

nvida-tensorRT-benefits

自 2023 年 10 月 19 日起，NVIDIA TensorRT-LLM 现已公开，具体官方说明https://developer.nvidia.com/blog/nvidia-tensorrt-llm-supercharges-large-language-model-inference-on-nvidia-h100-gpus。

TensorRT-LLM 为用户提供了易于使用的 Python API 来定义大型语言模型 (LLM) 并构建包含最先进优化的 TensorRT 引擎，以便在 NVIDIA GPU 上高效地执行推理。TensorRT-LLM 还包含用于创建执行这些 TensorRT 引擎的 Python 和 C++ 运行时的组件。

利用 TensorRT-LLM，开发者不需要深入的 C++ 或 CUDA 专业知识，就能够部署、运行、调试各种大语言模型，还能获得顶尖性能表现，以及快速定制化的功能。

有另外一个相关项目 <NVIDIA/Stable-Diffusion-WebUI-TensorRT> 也上了本周热榜。总 Star: 810, 本周新增 Star: 170。