lily_ahu的博客

原创 相对熵（KL散度）的非负性(P22314070李君姚)

再比如导航软件规划路线，如果用错误的道路拥堵概率（近似分布）计算路线，实际花费的时间肯定比用真实拥堵概率（真实分布）规划的时间更长，多出的时间就是“损耗”，这也体现了相对熵的非负性。而随着两个分布的差异逐渐增大，比如一个分布中事件A发生的概率很高，另一个分布却认为事件A发生概率极低，相对熵的数值就会越大。在机器学习领域，相对熵常用于评估模型预测分布与真实分布之间的差距。由于相对熵始终非负，模型优化就有了明确的方向——只要相对熵大于0，就意味着还有改进空间，直到相对熵趋近于0，即预测分布与真实分布几乎重合。

原创 量子通信的技术机理和发展意义，未来的具体应用P22314008葛宇涵

• 促进通信技术的升级换代：量子通信利用单个粒子的微观行为特征来承载信息，具有较高的信息密度和传输效率，能够突破经典通信的限制，实现更快速、更高效的信息传输。其发展将推动通信技术的升级换代，为未来的通信网络建设提供新的思路和方法。而量子通信中，信息的基本单位是量子比特，它可以同时处于0和1的叠加态，这种叠加态特性使得量子通信在信息传输中具有更高的信息容量和传输效率。掌握先进的量子通信技术，能够在军事、金融、政务等关键领域实现信息的高度安全传输，保障国家信息安全，从而增强国家的综合实力和国际竞争力。

原创 证明相对熵的非负性 P22314105张子涵

在信号处理中，相对熵的非负性用于衡量两个概率分布的差异。例如，在语音识别或图像分类中，可以通过比较模型输出分布与真实分布的相对熵来优化算法，确保模型的预测尽可能接近真实数据。例如，在无线网络功率控制或多任务调度中，优化资源分配方案，使其更接近理想分布，从而提高系统效率。总之，相对熵的非负性为工程中的分布比较、优化和决策提供了理论基础，广泛应用于算法设计、系统监控和性能提升等领域。在机器翻译或文本生成任务中，相对熵用于衡量生成文本与人类语言分布的接近程度，确保输出更自然、合理。2. 机器学习与模型优化。

原创 证明相对熵的非负性（P22314065洪庆，P22314068马旭，P22314071阮志蒙）

通过引入熵的概念和随机过程中的熵的变化，可以推导出相对熵的非负性。在证明过程中，我们可以看到吉布斯不等式的普适性和重要性，以及其与信息论中基本概念之间的联系。相对熵（relative entropy），又被称为Kullback-Leibler散度（Kullback-Leibler divergence）或信息散度（information divergence），是两个。此时参与计算的一个概率分布为真实分布，另一个为理论（拟合）分布，相对熵表示使用理论分布拟合真实分布时产生的信息损耗。

原创 5G 卫星通信应用原理与未来发展趋势（P22314064许飞扬）

移动通信技术历经 1G 的模拟语音、2G 的数字语音、3G 的移动数据初步应用、4G 的高速移动互联网发展，来到了 5G 时代。随着物联网、人工智能、虚拟现实等新兴技术的兴起，对通信网络的速率、延迟、连接密度等提出了前所未有的要求，促使 5G 技术应运而生。2019 年，全球多个国家和地区开启 5G 商用，标志着 5G 时代正式来临，其被视为推动数字经济发展、实现社会数字化转型的关键基础设施。

原创 利用Python的最大熵定理证明(P22314079许经国）

本文通过数学推导和数值实验证明了最大熵定理。在给定约束条件下，使用拉格朗日乘数法构建优化问题，推导出最大熵分布具有指数形式。通过Python数值模拟验证，在均值和方差约束下，最大熵分布与理论高斯分布完全吻合。证明过程详细展示了从概念定义、约束构建、函数优化到结果验证的完整链条，并强调了熵函数的凹性、拉格朗日乘数引入等关键点。该定理作为信息论的核心原理，其严格证明过程体现了数学工具在解决实际问题中的强大作用，为统计建模提供了理论基础。

原创 证明相对熵的非负性（P22314110汤昕雨，P22314107凌紫彤，P22314095张艳）

在机器学习（如 KL 散度损失函数）、信息论（如信道容量分析）、统计学（如模型拟合度衡量）中广泛使用，非负性保证了其作为“差异度量”的合理性（差异越大，值越大；：利用对数函数的凹性，通过 Jensen 不等式证明相对熵非负，本质是“最优编码与实际编码的差异下界”（信息论视角）。（注：这一步是为了匹配 Jensen 不等式的形式，将对数项集中到一个求和式中 ）对数底数不影响非负性，可按需取 2（信息论中常用，单位为比特）或自然对数。），因此它不是严格意义上的“距离”，但仍能有效衡量两个分布的差异。

原创 证明相对熵的非负性(P22314062汤逸飞，P22314050吴涵，P22314053蒋文海)

证明相对熵的非负性

原创 利用Jensen不等式证明相对熵的非负性（P22314055梁辛宇）

摘要：本文讨论了相对熵（Kullback-Leibler距离）的定义与性质，指出其具有非负性且仅在概率分布相同时为零。通过Jensen不等式和对数不等式证明了这一性质，并分析了等号成立的条件。相对熵作为衡量概率分布差异的重要工具，在信息论中具有基础性作用。

原创 （P22314061陈昌平）计算多个BSC信道串联后的信道容量

可以通过 MATLAB*来计算并可视化多个 BSC（二进制对称信道）串联后的信道容量。当 N 个相同的BSC串联时，整个系统的等效交叉概率 pN 可以通过递归计算得到。会逐渐下降，最终趋近于 0（因为串联后的等效交叉概率趋近于 0.5，信道完全失效）。，每个BSC完全随机，串联后仍完全随机，信道容量保持为 0。代入信道容量公式，得到 N 个BSC串联后的信道容量。递归关系：对于第 n 个BSC串联后的等效交叉概率。当 p = 0.1 时，随着 N 的增加，信道容量。

原创 证明相对熵的非负性（P22314044荣健豪、P22314047张祈恒、P22314077李家乐）

相对熵（KL散度）是衡量两个概率分布P和Q之间差异的变量，定义为：其中，和分别是概率分布P和Q在事件上的概率值，且满足和。通过数字证明和代码仿真，我们验证了相对熵（KL散度）的非负性：这个表明相对熵总是非负的，且仅当时，相对熵为零。

原创 编程实现某种信源编码或(n,k)线性分组码的标准译码表构造（P22314103冉俊杰 P22314100孙康 P22314109戴清杉 P22314106李鹏举 P22314120张孟凡）

下面我将用Python实现汉明(7,4)码的标准译码表构造，这是一种能纠正单个错误的线性分组码。从校验矩阵H推导出生成矩阵G，生成矩阵G的结构是[I_k | P^T]，其中I_k是4×4单位矩阵，P是校验矩阵H的前4列。遍历所有可能的7位错误模式，计算每种错误模式对应的伴随式，并将伴随式与最小重量的错误模式（单错误）建立映射关系。汉明(7,4)码的校验矩阵H是一个3×7矩阵，其列向量是1到7的二进制表示，这样构造的矩阵保证了码的纠错能力。"""创建汉明(7,4)码的校验矩阵H"""

原创 理解相对熵的非负性P22314078常大伟

​​——本文将从通信系统模型出发，通过3种不同证明方法、MATLAB仿真验证、以及其在5G信道编码中的实际应用，完整揭示相对熵非负性的内在机理。帮助读者建立信息论与通信实践的深刻联系。

原创 互信息关于先验概率凸性的证明P22314043朱佳奇

互信息 I(X;Y) 定义为联合概率分布 p(x,y) 与各自边缘概率分布 p(x) 和 p(y) 的对数比值的期望，即：它反映了通过观察随机变量 Y 所获得的关于随机变量 X 的信息量，或者反之。

原创 相对熵的非负性证明P22314075李阿祥

原创 互信息作为输入分布上凸函数的证明（P22314112胡宇翔 P22314114张远硕 P22314104刘柯 P22314111苏翔 P22314117刘岿阳）

互信息衡量随机变量X和Y之间的共享信息量：I(X;H(Y)为输出熵（凹函数），H(Y|X)为条件熵（线性函数）。该结构直接表明互信息为凹函数（即上凸函数）。

原创 离散无记忆信源的最大熵分布存在性与唯一性证明 （P22314056 胡珂 P22314059 王杨曦）

针对离散无记忆信源，证明当且仅当所有输出符号概率相等时熵达到最大值。通过拉格朗日乘数法和凸性分析，严格推导出最大熵条件，并给出信息论解释。本文证明了离散无记忆信源的最大熵分布是唯一的均匀分布，为信息论中的基本极限提供了理论支撑。最大熵原理指出：在无额外约束时，均匀分布是唯一使熵最大的分布。(1) 编码理论：均匀分布时信源编码效率最低（需最大码长）是严格凹函数，其唯一极大值点位于单纯形中心，即均匀分布。(2密码：最大熵对应最大不确定性，增强安全性。(1) 拉格朗日乘数法（约束优化）对于离散无记忆信源，熵。

原创 目前5G通信的技术以及卫星通信应用原理和未来发展趋势（P22314074 顾建成）

5G（第五代移动通信技术）相较于4G，具有高速率（1-10 Gbps）、低时延（1 ms）、大连接（每平方公里百万级设备）等优势。- 低地球轨道（LEO, 500-2000 km）：低时延（20-50 ms），适合实时通信（如Starlink、OneWeb）。- 3GPP Rel-17**首次支持5G NTN，定义IoT-NTN（窄带物联网）和**NR-NTN（宽带通信）。- 网络切片（Network Slicing）：按需分配网络资源，支持不同应用场景（如工业物联网、自动驾驶）。

原创 量子通信的技术机理和发展意义，未来的具体应用（P22314027钱安宇）

量子通信是利用量子叠加态和纠缠效应进行信息传递的新型通信方式，其核心机理基于量子力学的基本原理：

原创 证明互信息的两个性质（林然P22314066,江鑫P22314060)

由于对数函数是上凸函数，根据Jensen不等式，以及信道无记忆时p(x|y)和p(xi|yi)求和的关系。最终可知H(x|y)大于等于H(xi|yi)求和。江鑫P22314060。又因为，H(Y)小于等于H(Yl)求和，所以。性质二：输入矢量X各分量相互独立时。学生：林然P22314066。先计算条件熵H(X|Y)证明互信息的两个性质。性质1：信道无记忆时。

原创 计算多个BSC信道串联的信道容量（P22314052刘嘉诚）

BSC（二进制对称信道）是一种简单的信道模型，它假设输入信号是二进制的（0或1），并且每个输入符号在传输过程中以一定的概率p被错误地翻转。具体来说：如果输入是0，以概率p输出为1，以概率1−p输出为0。如果输入是1，以概率p输出为0，以概率1−p输出为1。信道容量是信道能够传输的最大信息速率，通常用比特每符号（bit/symbol）来表示。对于BSC信道，容量C由以下公式给出： C=1−H(p) 其中H(p)是二进制熵函数，定义为： H(p)=−plog2​p−(1−p)log2​(1−p)

原创 MIMO通信的机理及信道容量的计算（J02214013邹李）

MIMO通信技术通过在发送端和接收端同时使用多个天线，能够显著提高无线通信系统的性能。它利用多径传播环境，通过合适的信号处理技术，如空时编码和波束成形，实现了更高的数据传输速率、更强的抗干扰能力和更好的频谱效率。MIMO信道容量的计算公式为 C=log2​det(I+N0​P​HHH)，它反映了在给定的信道条件下，MIMO系统能够提供的最大信息传输能力。信道容量的大小受到天线数量、信道特性、发送功率和噪声水平等多种因素的影响。

原创 量子通信：技术机理、发展意义与未来应用（P22314024张瑞）

量子通信融合量子力学与信息科学，突破传统通信瓶颈。从“墨子号”到“济南一号”，中国已引领全球发展。本文解析其技术机理、战略价值及未来应用。

原创 (罗武P22314049)最大熵定理的完整证明与直观理解

这就是最大熵思想的应用——在已知限制条件下，不做任何额外的假设，保持最大的不确定性。最大熵原理告诉我们：在所有满足给定约束条件的概率分布中，熵最大的分布是最优的选择。对于一个信源，当它的概率分布是最大熵分布时，霍夫曼编码等无损压缩算法能达到最优的压缩效率。在金融风险管理中，最大熵方法用于资产收益率的建模，特别是在数据有限的情况下，它能给出最稳健的估计。在JPEG等图像压缩标准中，最大熵原理指导了量化表的设计，使得在给定的失真度量下，压缩效率最高。1. 理解熵的物理意义：熵是不确定性的度量。

原创 目前5G通信的技术以及卫星通信应用原理和未来发展趋势 P22314018 吕磊

信号传输流程为用户终端通过上行链路将信号发送至卫星，经星间链路在卫星间交换，再通过下行链路传输到地面站，最后接入地面网络。• 未来发展趋势：5G方面，5G-A技术走向集成化，通感智融合将拓展应用新空间，如“5G+北斗”融合技术可实现室内外无缝导航。此外，天地一体化网络将不断发展，卫星接入将成为6G网络标准功能，实现星地无缝切换。5G还利用高频段频谱，如毫米波段，配合大规模MIMO和波束成形技术，前者增强信号接收质量，后者将信号定向发送，提高信号能量利用率。

原创 连续信道容量及其拓展分析(P22314040 汪攀，P22314058 童宇蝶，P22314054 殷紫怡)

本文研究了连续单符号加性信道的信道容量及其上下界。首先介绍了信道容量的概念及其在通信系统中的重要性，重点分析了加性高斯噪声（AWGN）信道模型。通过数学推导，得出信道容量的上下界表达式，并证明在高斯输入和高斯噪声条件下，上下界相等，即经典的香农公式。研究还通过MATLAB仿真验证了理论结果，展示了信道容量随信噪比变化的特性。该分析为通信系统设计提供了理论依据，特别是在功率受限条件下优化传输速率。

原创 目前5G通信的技术以及卫星通信应用原理和未来发展趋势P22314028李天宇

以下是关于5G通信技术、卫星通信应用原理及未来发展趋势的相关内容：

原创 MIMO通信的机理及信道容量的计算(P22314031王鼎）

MIMO技术通过空间维度扩展信道容量，其核心在于利用信道矩阵的奇异值分解创建并行子信道。容量计算依赖于H的秩分布和SNR，且随天线数线性增长。实际部署需结合波束赋形和分集技术以应对多径衰落和干扰。未来6G研究焦点包括智能超表面（RIS）与MIMO的融合，进一步突破空间自由度限制[citation:3][citation:8]。

原创 P22314039万旭旭，P22314048华德波，P22314045周凯

原创 量子通信：开启信息安全的“绝对防御”P22314030黄其越

中国“京沪干线”与“墨子号”卫星构建的天地一体化网络，正是此技术的全球典范，为政务、金融传输打造了一条物理定律担保的“安全走廊”。当金融数据在量子通道中穿梭，当电网因量子加密而坚不可摧，当传感器网络以量子精度感知地球呼吸——我们正见证一场由量子物理驱动的安全革命。未来十年，随着“量子中继”技术成熟与成本下降，量子加密将从国家动脉延伸至企业云端，最终汇入每个人的智能终端。在传统加密手段面临量子计算机“降维打击”的危机下，一种基于物理法则的全新通信方式——量子通信，正成为守护数字世界的“终极盾牌”。

原创 量子通信：开启信息安全的“绝对防御”时代

量子通信基于量子力学原理（如不可克隆定理、纠缠态），核心是量子密钥分发（QKD），利用单光子编码密钥，实现无条件安全**的密钥传输——任何窃听行为必然导致量子态扰动并被检测。其发展意义在于： 1. 应对量子计算威胁：抵御未来量子计算机对传统密码的破解； 2. 构建量子互联网基：支撑分布式量子计算与高精度传感网络； 3. 保障国家战略安全：为国防、金融、能源等关键领域提供绝对保密通信。

原创 P22314013成果信息论作业

将进一步融合空天地海网络，实现“万物智联”。：小型卫星（如FOSSASat-2，成本<25万欧元）和可回收火箭（猎鹰9号）降低部署成本3。5G-A（2024-2030）将验证6G关键技术，如太赫兹通信、智能超表面（RIS）410。：峰值速率可达10Gbps（5G-A进一步提升至10Gbps下行，千兆上行）47。：低时延（20-50ms），适合实时通信（如星链、OneWeb）3。：覆盖广但时延高（约500ms），适合广播、导航（如北斗、天通）6。5G-A+卫星实现全域覆盖，如中国移动“卫星物联”方案6。

原创 G42214024耿傲雪MIMO通信的机理及信道容量的计算

通过上述机理分析与实例计算可知，MIMO 技术凭借对空间维度的创新运用，突破了传统通信系统在频谱资源利用上的瓶颈，成为现代无线通信技术的核心驱动力。在 5G 通信中，MIMO 技术通过大规模天线阵列（Mssive MIMO）实现了数十倍于 4G 的容量提升，支持海量设备的低时延、高可靠连接，推动了智慧城市、工业互联网等应用的落地。在 6G 技术演进中，MIMO 进一步融合太赫兹频段与智能超表面（RIS）技术，通过空间调制与波束赋形的协同优化，实现更高的频谱效率和能量效率。

原创 5G通信技术、卫星通信应用原理及未来发展趋势解析(P22314090张传俊)

将计算、存储和网络处理能力下沉到网络边缘（靠近用户或数据源的位置），显著降低业务处理时延，减轻核心网和传输网压力，支撑对时延极度敏感的应用（如 VR/AR、实时游戏、车联网）。大量部署低功率、小覆盖范围的小基站（微基站、微微基站、飞基站），缩短用户与接入点的距离，提升网络容量和用户体验速率，尤其适用于高密度用户区域（如体育场、购物中心）。Sub-6GHz：作为覆盖和容量的平衡点，1GHz - 6GHz 频段（如 3.5GHz）提供了良好的覆盖范围和较高的容量，是当前全球5G部署的主流频段。

原创 “5G 通信技术及卫星通信应用原理与未来发展趋势”（P22314102张帅）

5G 通信技术在多个领域具有广泛的应用前景，如智能家居、智能交通、智能医疗、工业自动化等。5G 通信技术作为新一代移动通信技术，其高速率、低时延、大连接的特点使其在众多领域具有广泛的应用前景。随着科技的不断进步，5G 通信技术和卫星通信将实现更加紧密的融合，为人类社会带来更多的便利和福祉。5G 通信技术采用更高频段的毫米波通信，通过大规模 MIMO 技术、波束赋形等技术实现高速率、低时延和大连接的性能。随着卫星技术的不断发展，卫星通信在未来将实现更高的数据传输速率、更低的延迟以及更广泛的覆盖范围。

原创 5G 通信技术及卫星通信应用原理与未来发展趋势P22314093马军伟

为解决这些问题，5G采用波束赋形技术，通过调整天线阵列的相位和幅度，将信号聚焦成窄波束，指向特定的用户设备，以提高信号强度、减少干扰和提高覆盖范围。向5G-A及6G演进：5G-A作为5G的演进阶段，借助上行超级MIMO、双工演进等关键技术，网络上行速率较5G提升10倍，还具备主动适配、轻量化、智能化等特点。- 与5G融合发展：卫星通信与地面5G网络相互补充和融合，构建“空-天-地”立体网络，实现全域无缝覆盖，为用户提供更广泛、更稳定的通信服务。认知无线电技术实现卫星与地面5G的智能避让，提升频谱利用率。

原创 目前 5G 通信的技术及卫星通信应用原理和未来发展趋势(P22314096黄帅)

大规模MIMO：使用大量天线阵列，通过波束成形技术，调整天线阵列的相位和幅度，将信号聚焦成窄波束指向特定用户设备，提高频谱效率、系统容量，减少干扰，同时提升信号强度和覆盖范围，但需要复杂的信号处理、天线控制和用户定位技术。- 技术持续演进：5G - A等技术将进一步迈向全面规模商用阶段，RedCap、3CC等核心关键技术的应用会使覆盖范围扩大，通感一体、无源物联等附属关键技术实验规模也会进一步扩大，技术不断成熟。同时，石墨烯天线等技术突破，支持更宽频段接收。一、5G通信技术原理。二、卫星通信应用原理。

原创 5G 通信技术及卫星通信应用原理与未来发展趋势（P22314057 张新宇）

摘要5G 通信技术以其卓越的高速率、低时延和大连接特性，重塑了现代通信格局，成为推动各行业数字化转型的关键力量。与此同时，卫星通信凭借其独特的广覆盖优势，在全球通信领域发挥着不可替代的作用，尤其是在地面通信难以触及的偏远地区和应急场景中。本文深入剖析 5G 通信技术与卫星通信的应用原理，结合当前的实际应用案例，探讨两者融合发展的趋势以及面临的挑战，并对未来发展方向进行展望，旨在为通信行业的技术演进和产业发展提供有价值的参考。关键词5G 通信技术；卫星通信；应用原理；发展趋势一、引言随着信息技术的飞速发展，通

原创 目前 5G 通信的技术及卫星通信应用原理和未来发展趋势（P22314007张歆悦）

5G与卫星通信融合构建全球一体化网络 摘要：5G毫米波通信和网络切片技术正推动工业自动化、智慧医疗等应用发展，而低轨卫星星座填补了传统通信覆盖空白。3GPP Release17将卫星纳入5G架构，支持手机直连卫星，6G时代将整合太赫兹通信实现Tbps级传输。当前面临毫米波覆盖成本高、卫星时延等挑战，可通过智能超表面、星间激光链路等技术优化。中国以"国家队+民营企业"模式布局卫星互联网，有望在6G时代引领全球空天地一体化通信发展。

原创 5G与卫星通信技术发展趋势分析 P22314014尹彬乐

LG Innotek推出首款5G卫星车载模块，支持无缝切换至低轨卫星（如Starlink），峰值速率1Gbps、时延200ms。中国电信联合实验室完成全球首个“量子密钥分发+高通量卫星+5G”融合试验，利用“济南一号”量子卫星生成加密密钥，通过“中星26”卫星回传，实现防窃听的5G语音通话与数据传输。中国电信2025年在南极科考站通过“智慧天网01星”（中轨卫星）实现4/5G互通，提供100Mbps网速、300ms时延的语音/视频服务，解决极地网络盲区问题。Lynk为所罗门群岛提供直连服务。