深入解析SIGCOMM2023分布式系统与Serverless GPU架构：主机拥塞控制与算力资源优化

hwyzw

    分布式系统

    1.|主机拥塞控制

    摘要：体现了三个关键思想。首先，除了源自网络结构的拥塞信号之外，还收集主机拥塞信号，以捕获主机拥塞的精确时间、位置和原因。其次，引入了亚RTT粒度主机本地拥塞响应，其使用拥塞信号在网络流量和主机本地流量之间分配主机资源。最后，主机和网络拥塞信号用于以 RTT 粒度分配网络资源。

    2、计算与应用结合：GPU架构及应用场景概述

    摘要：本文简单介绍了GPU的原理和使用场景。云网融合是当前的趋势。对于计算资源，尤其是当前GPU资源的短缺和限制，GPU方式是一个很好的解决方案。方式。

    云计算技术

    1、自适应路由技术/包喷射技术的实验验证

    摘要： 数据包喷射技术是一种保证网络链路一致性的技术。它基于数据包或信元执行负载平衡。本文基于X6 DX网卡，开启网卡乱序包接收功能，并使用支持乱序传输的RC协议对该技术进行实验验证。

    2.SPDK Vhost在线恢复：让I/O飞一会

    摘要：它是一种广泛接受的 I/O 虚拟化抽象设备接口。它通过其定义支持不同的虚拟化PCI设备。它广泛应用于VM中以加速包括存储和网络在内的设备。 Vhost是一个软件解决方案，用于加速Guest到后端的传输。它基于实施。本文介绍了SPDK Vhost提供的一种方法，可以灵活快速地实现在线升级。

    大模型技术

    1.vLLM：数倍提升LLM推理速度

    摘要：几乎所有大型语言模型（LLM）都依赖于神经架构。在解码过程中，计算输入中每​​个标记的键值张量对以及它们之间的注意力分数是主要瓶颈。加州大学伯克利分校提出了一项名为 的技术，本文解释了它的工作原理以及它如何显着提高解码速度。

    2、大型车型的规模扩张是否可持续？

    摘要：通过扩展+算法进步+硬件进步，我们有70%的概率在2040年之前实现通用人工智能（AGI）；怀疑者有 30% 的概率是对的，语言大模型及其范围内的任何产品都是失败的

    超越技术

    1. 作者访谈

    摘要：该开源项目是由AI机器人领域青年学者发起的机器人模拟器开源项目。本文整理了对参与开源项目的两位青年学者秦宇哲和耿浩然的采访。解答了机器人模拟器生态、开发难度、差距、强化学习与模仿学习的比较与融合等诸多问题，可以让大家更好地了解机器人。有一个更直观的认识。

    2.云计算泥石流

    摘要：曾几何时，“上云”在科技圈几乎成了政治正确，整整一代应用开发者的视野都被云遮蔽了。本文通过数据分析和个人经验，清晰地解释了公有云租赁模式的价值和陷阱。