概率基础——几何分布
概率基础——几何分布 介绍 在统计学中，几何分布是描述了在一系列独立同分布的伯努利试验中，第一次成功所需的试验次数的概率分布。在连续抛掷硬币的试验中，每次抛掷结果为正面向上的概率为 p p p，反面向上的概率为 1 − p 1-p 1−p。几何随机变量 X X X表示连续抛掷硬币直到第一次出现正面向上的试验次数。 理论及公式 几何分布的概率质量函数（PMF）为： P ( X = k ) = ( 1 ...
10分钟带你了解分布式系统的补偿机制
我们知道，应用系统在分布式的情况下，在通信时会有着一个显著的问题，即一个业务流程往往需要组合一组服务，且单单一次通信可能会经过 DNS 服务，网卡、交换机、路由器、负载均衡等设备，而这些服务于设备都不一定是一直稳定的，在数据传输的整个过程中，只要任意一个环节出错，都会导致问题的产生。 这样的事情在微服务下就更为明显了，因为业务需要在一致性上的保证。也就是说，如果一个步骤失败了，要么不断重试保证所有的步...
Jmeter 分布式压测
压力测试。这里有一个例子，它模拟了同时有 5000 个用户，循环 10 次的情况。 请求默认配置 token 配置 秒杀接口 结果分析 但是，实际企业中，这种压测方式根本不满足实际需求。下面介绍一种分布式压测。 使用场景 单台的JMeter压测能力有限，最大并发压测在1k内的，单机基本满足日常需求了。 但对于有项目来说，需要上万并发的压测，那就需要采用JMeter的分布式压测。 我根据下面思路简单介...
大语言模型LLM分布式训练：PyTorch下的大语言模型训练流程（LLM系列07）
文章目录 大语言模型LLM分布式训练：PyTorch下的大语言模型训练流程（LLM系列07）1. PyTorch DistributedDataParallel (DDP) 概述1.1 DDP的基本原理与实现机制1.2 初始化并使用`torch.nn.parallel.DistributedDataParallel`** 2. 构建BERT系列模型实例2.1 BERT架构解析2.2 利用PyTorc...
大语言模型LLM分布式训练：TensorFlow下的大语言模型训练实践（LLM系列05）
文章目录 大语言模型LLM分布式训练：TensorFlow下的大语言模型训练实践（LLM系列05）1. TensorFlow基础与`tf.distribute.Strategy`1.1 `MirroredStrategy`实现数据并行训练1.2 `MultiWorkerMirroredStrategy`应用于多节点并行训练 2. **构建GPT模型实例**2.1 GPT模型结构概览2.2 使用Ten...
C++ 面试 -分布式架构-架构能力：简单rpc协议设计和框架搭建
代码 说明 注意 6. 示例代码 服务端 客户端 7. 总结 设计一个简单的RPC（Remote Procedure Call）协议和框架搭建是一个常见的软件工程问题，特别是在分布式系统和微服务架构中。RPC允许程序调用在不同地址空间（特别是在分布式系统中的不同计算机上）的函数或方法，就像调用本地函数一样简单。在C++中设计一个简单的RPC框架涉及几个关键部分：定义协议、搭建服...
分布式ID（2）：雪花算法生成ID
1 雪花算法简介 这种方案大致来说是一种以划分命名空间（UUID也算，由于比较常见，所以单独分析）来生成ID的一种算法，这种方案把64-bit分别划分成多段，分开来标示机器、时间等，比如在snowflake中的64-bit分别表示如下图（图片来自网络）所示： 41-bit的时间可以表示（1L<<41）/(1000L*3600*24*365)=69年的时间，10-bit机器可以分别表示1024台机器。如...
【MATLAB】【数字信号处理】产生系统的单位冲激响应h(t)与H(z)零极点分布
一、实验目的与要求 产生h(t) 与H(z) 零极点分布 二、实验仪器 微机，仿真软件MATLAB 2022a 三、实验内容与测试结果 1.已知描述连续系统的微分方程为y''(t)+5y'(t)+6y(t)=2x'(t)+8x(t) ，计算系统的单位冲激响应h(t) 程序如下： clear all;ts=0;te=5;dt=0.1;num=[0 2 8];den=[1 5 6];sys=tf(...
精确掌控并发：令牌桶算法在分布式环境下并发流量控制的设计与实现
速度发出去。 代码中还存在的问题： 上述代码只是示例，真实的代码还有很多异常处理，比如队列数据丢失，需要重新处理。暂时只能用于退款，因为退款的时效要求不高。另外，单机只需要开一个线程就行，因为服务器是分布式部署，多个服务器合并起来仍然是多个线程在并发处理。对退款是足够的。 5. 令牌桶使用注意事项 在实际应用中，要考虑以下几点以确保令牌桶算法的有效性和高效性： 合理设置参数：令牌生成的速率和桶的容量需...
分布式Erlang/OTP（学习笔记）（一）
Erlang分布式基础 假设你在机器A和机器B上各跑着一个Simple Cache应用的实例。要是在机器A的缓存上插人一个键/值对之后，从机器B上也可以访问，那可就好了。显然，要达到这个目的，机器A必须以某种方式将相关信息告知给机器B。传递该信息的方式有很多，有些方式简单，有些方式复杂。但无论采用哪种方式，都涉及分布式，因为你需要进行跨机器通信。 Erlang极大地简化了某些类型的分布式编程，用不了几...