Posted on Categories:信息论, 数学代写

数学代写|信息论代写Information Theory代考|ENTROPY RATE

如果你也在 怎样代写信息论information theory这个学科遇到相关的难题,请随时右上角联系我们的24/7代写客服。信息论information theory的一个关键衡量标准是熵。熵量化了随机变量的值或随机过程的结果中所涉及的不确定性的数量。例如,确定一个公平的抛硬币的结果(有两个同样可能的结果)比确定一个掷骰子的结果(有六个同样可能的结果)提供的信息要少(熵值较低)。

信息论information theory基本课题的应用包括源编码/数据压缩(如ZIP文件),以及信道编码/错误检测和纠正(如DSL)。它的影响对于旅行者号深空任务的成功、光盘的发明、移动电话的可行性和互联网的发展都至关重要。该理论在其他领域也有应用,包括统计推理、密码学、神经生物学、感知、语言学、分子代码的进化和功能(生物信息学)、热物理、分子动力学、量子计算、黑洞、信息检索、情报收集、剽窃检测、模式识别、异常检测甚至艺术创作。

avatest信息论information theory代写,免费提交作业要求, 满意后付款,成绩80\%以下全额退款,安全省心无顾虑。专业硕 博写手团队,所有订单可靠准时,保证 100% 原创。https://avatest.org/, 最高质量的信息论information theory作业代写,服务覆盖北美、欧洲、澳洲等 国家。 在代写价格方面,考虑到同学们的经济条件,在保障代写质量的前提下,我们为客户提供最合理的价格。 由于统计Statistics作业种类很多,同时其中的大部分作业在字数上都没有具体要求,因此信息论information theory作业代写的价格不固定。通常在经济学专家查看完作业要求之后会给出报价。作业难度和截止日期对价格也有很大的影响。

想知道您作业确定的价格吗? 免费下单以相关学科的专家能了解具体的要求之后在1-3个小时就提出价格。专家的 报价比上列的价格能便宜好几倍。

avatest™ 为您的留学生涯保驾护航 在澳洲代写方面已经树立了自己的口碑, 保证靠谱, 高质且原创的澳洲代写服务。我们的专家在信息论information theory代写方面经验极为丰富,各种信息论information theory相关的作业也就用不着 说。

我们提供的信息论information theory 及其相关学科的代写,服务范围广, 其中包括但不限于:

数学代写|信息论代写Information Theory代考|ENTROPY RATE

数学代写|信息论代写Information Theory代考|ENTROPY RATE

If we have a sequence of $n$ random variables, a natural question to ask is: How does the entropy of the sequence grow with $n$ ? We define the entropy rate as this rate of growth as follows.
Definition The entropy of a stochastic process $\left{X_i\right}$ is defined by
$$
H(\mathcal{X})=\lim _{n \rightarrow \infty} \frac{1}{n} H\left(X_1, X_2, \ldots, X_n\right)
$$
when the limit exists.
We now consider some simple examples of stochastic processes and their corresponding entropy rates.

  1. Typewriter.
    Consider the case of a typewriter that has $m$ equally likely output letters. The typewriter can produce $m^n$ sequences of length $n$, all of them equally likely. Hence $H\left(X_1, X_2, \ldots, X_n\right)=\log m^n$ and the entropy rate is $H(\mathcal{X})=\log m$ bits per symbol.
  2. $X_1, X_2, \ldots$ are i.i.d. random variables. Then
    $$
    H(\mathcal{X})=\lim \frac{H\left(X_1, X_2, \ldots, X_n\right)}{n}=\lim \frac{n H\left(X_1\right)}{n}=H\left(X_1\right),
    $$
    which is what one would expect for the entropy rate per symbol.
  3. Sequence of independent but not identically distributed random variables. In this case,
    $$
    H\left(X_1, X_2, \ldots, X_n\right)=\sum_{i=1}^n H\left(X_i\right)
    $$
    but the $H\left(X_i\right)$ ‘s are all not equal. We can choose a sequence of distributions on $X_1, X_2, \ldots$ such that the limit of $\frac{1}{n} \sum H\left(X_i\right)$ does not exist. An example of such a sequence is a random binary sequence

where $p_i=P\left(X_i=1\right)$ is not constant but a function of $i$, chosen carefully so that the limit in (4.10) does not exist. For example, let
$$
p_i= \begin{cases}0.5 & \text { if } 2 k<\log \log i \leq 2 k+1, \ 0 & \text { if } 2 k+1<\log \log i \leq 2 k+2\end{cases}
$$
for $k=0,1,2, \ldots$
Then there are arbitrarily long stretches where $H\left(X_i\right)=1$, followed by exponentially longer segments where $H\left(X_i\right)=0$. Hence, the running average of the $H\left(X_i\right)$ will oscillate between 0 and 1 and will not have a limit. Thus, $H(\mathcal{X})$ is not defined for this process.
We can also define a related quantity for entropy rate:
$$
H^{\prime}(\mathcal{X})=\lim {n \rightarrow \infty} H\left(X_n \mid X{n-1}, X_{n-2}, \ldots, X_1\right)
$$
when the limit exists.

数学代写|信息论代写Information Theory代考|EXAMPLE: ENTROPY RATE OF A RANDOM WALK ON A WEIGHTED GRAPH

As an example of a stochastic process, let us consider a random walk on a connected graph (Figure 4.2). Consider a graph with $m$ nodes labeled ${1,2, \ldots, m}$, with weight $W_{i j} \geq 0$ on the edge joining node $i$ to node $j$. (The graph is assumed to be undirected, so that $W_{i j}=W_{j i}$. We set $W_{i j}=0$ if there is no edge joining nodes $i$ and $j$.)

A particle walks randomly from node to node in this graph. The random walk $\left{X_n\right}, X_n \in{1,2, \ldots, m}$, is a sequence of vertices of the graph. Given $X_n=i$, the next vertex $j$ is chosen from among the nodes connected to node $i$ with a probability proportional to the weight of the edge connecting $i$ to $j$. Thus, $P_{i j}=W_{i j} / \sum_k W_{i k}$.

In this case, the stationary distribution has a surprisingly simple form, which we will guess and verify. The stationary distribution for this Markov chain assigns probability to node $i$ proportional to the total weight of the edges emanating from node $i$. Let
$$
W_i=\sum_j W_{i j}
$$
be the total weight of edges emanating from node $i$, and let
$$
W=\sum_{i, j: j>i} W_{i j}
$$
be the sum of the weights of all the edges. Then $\sum_i W_i=2 W$.
We now guess that the stationary distribution is
$$
\mu_i=\frac{W_i}{2 W}
$$
We verify that this is the stationary distribution by checking that $\mu P=\mu$. Here
$$
\begin{aligned}
\sum_i \mu_i P_{i j} & =\sum_i \frac{W_i}{2 W} \frac{W_{i j}}{W_i} \
& =\sum_i \frac{1}{2 W} W_{i j} \
& =\frac{W_j}{2 W} \
& =\mu_j .
\end{aligned}
$$

数学代写|信息论代写Information Theory代考|ENTROPY RATE

信息论代写

学代写|信息论代写Information Theory代考|ENTROPY RATE

如果我们有一个$n$随机变量序列,一个自然的问题是:该序列的熵如何随着$n$增长?我们将熵率定义为如下的增长率。
随机过程$\left{X_i\right}$的熵定义为
$$
H(\mathcal{X})=\lim _{n \rightarrow \infty} \frac{1}{n} H\left(X_1, X_2, \ldots, X_n\right)
$$
当极限存在时。
我们现在考虑一些简单的随机过程的例子和它们相应的熵率。

打字机。
考虑一台具有$m$等可能输出字母的打字机的情况。打字机可以产生$m^n$长度为$n$的序列,它们的概率都是相等的。因此,$H\left(X_1, X_2, \ldots, X_n\right)=\log m^n$和熵率是$H(\mathcal{X})=\log m$比特每符号。

$X_1, X_2, \ldots$ 都是i.i.d随机变量。然后
$$
H(\mathcal{X})=\lim \frac{H\left(X_1, X_2, \ldots, X_n\right)}{n}=\lim \frac{n H\left(X_1\right)}{n}=H\left(X_1\right),
$$
这就是我们对每个符号的熵率的期望。

独立但不同分布的随机变量序列。在这种情况下,
$$
H\left(X_1, X_2, \ldots, X_n\right)=\sum_{i=1}^n H\left(X_i\right)
$$
但是$H\left(X_i\right)$并不都是相等的。我们可以在$X_1, X_2, \ldots$上选择一个分布序列,使得$\frac{1}{n} \sum H\left(X_i\right)$的极限不存在。这种序列的一个例子是随机二进制序列

其中$p_i=P\left(X_i=1\right)$不是常数,而是$i$的函数,仔细选择,使(4.10)中的限制不存在。例如,让
$$
p_i= \begin{cases}0.5 & \text { if } 2 k<\log \log i \leq 2 k+1, \ 0 & \text { if } 2 k+1<\log \log i \leq 2 k+2\end{cases}
$$
对于$k=0,1,2, \ldots$
然后是任意长的延伸,$H\left(X_i\right)=1$,然后是指数长的片段,$H\left(X_i\right)=0$。因此,$H\left(X_i\right)$的运行平均值将在0和1之间振荡,并且没有限制。因此,没有为此流程定义$H(\mathcal{X})$。
我们还可以定义熵率的相关量:
$$
H^{\prime}(\mathcal{X})=\lim {n \rightarrow \infty} H\left(X_n \mid X{n-1}, X_{n-2}, \ldots, X_1\right)
$$
当极限存在时。

数学代写|信息论代写Information Theory代考|EXAMPLE: ENTROPY RATE OF A RANDOM WALK ON A WEIGHTED GRAPH

作为随机过程的一个例子,让我们考虑连通图上的随机游走(图4.2)。考虑一个图,其中$m$节点标记为${1,2, \ldots, m}$,连接节点$i$和节点$j$的边的权值为$W_{i j} \geq 0$。(图假定是无向的,所以$W_{i j}=W_{j i}$。如果没有连接节点$i$和$j$的边,则设置$W_{i j}=0$。)

一个粒子在这个图中随机地从一个节点走到另一个节点。随机漫步$\left{X_n\right}, X_n \in{1,2, \ldots, m}$,是图的一个顶点序列。给定$X_n=i$,从连接到节点$i$的节点中选择下一个顶点$j$的概率与连接$i$到$j$的边的权重成正比。因此,$P_{i j}=W_{i j} / \sum_k W_{i k}$。

在这种情况下,平稳分布有一个惊人的简单形式,我们将猜测和验证。该马尔可夫链的平稳分布将概率分配给节点$i$,与节点$i$发出的边的总权重成正比。让
$$
W_i=\sum_j W_{i j}
$$
为从节点$i$发出的边的总权值,令
$$
W=\sum_{i, j: j>i} W_{i j}
$$
等于所有边的权值之和。然后$\sum_i W_i=2 W$。
我们现在猜测平稳分布是
$$
\mu_i=\frac{W_i}{2 W}
$$
我们通过检查$\mu P=\mu$来验证这是平稳分布。这里
$$
\begin{aligned}
\sum_i \mu_i P_{i j} & =\sum_i \frac{W_i}{2 W} \frac{W_{i j}}{W_i} \
& =\sum_i \frac{1}{2 W} W_{i j} \
& =\frac{W_j}{2 W} \
& =\mu_j .
\end{aligned}
$$

数学代写|信息论代写Information Theory代考

数学代写|信息论代写Information Theory代考 请认准UprivateTA™. UprivateTA™为您的留学生涯保驾护航。

微观经济学代写

微观经济学是主流经济学的一个分支,研究个人和企业在做出有关稀缺资源分配的决策时的行为以及这些个人和企业之间的相互作用。my-assignmentexpert™ 为您的留学生涯保驾护航 在数学Mathematics作业代写方面已经树立了自己的口碑, 保证靠谱, 高质且原创的数学Mathematics代写服务。我们的专家在图论代写Graph Theory代写方面经验极为丰富,各种图论代写Graph Theory相关的作业也就用不着 说。

线性代数代写

线性代数是数学的一个分支,涉及线性方程,如:线性图,如:以及它们在向量空间和通过矩阵的表示。线性代数是几乎所有数学领域的核心。

博弈论代写

现代博弈论始于约翰-冯-诺伊曼(John von Neumann)提出的两人零和博弈中的混合策略均衡的观点及其证明。冯-诺依曼的原始证明使用了关于连续映射到紧凑凸集的布劳威尔定点定理,这成为博弈论和数学经济学的标准方法。在他的论文之后,1944年,他与奥斯卡-莫根斯特恩(Oskar Morgenstern)共同撰写了《游戏和经济行为理论》一书,该书考虑了几个参与者的合作游戏。这本书的第二版提供了预期效用的公理理论,使数理统计学家和经济学家能够处理不确定性下的决策。

微积分代写

微积分,最初被称为无穷小微积分或 “无穷小的微积分”,是对连续变化的数学研究,就像几何学是对形状的研究,而代数是对算术运算的概括研究一样。

它有两个主要分支,微分和积分;微分涉及瞬时变化率和曲线的斜率,而积分涉及数量的累积,以及曲线下或曲线之间的面积。这两个分支通过微积分的基本定理相互联系,它们利用了无限序列和无限级数收敛到一个明确定义的极限的基本概念 。

计量经济学代写

什么是计量经济学?
计量经济学是统计学和数学模型的定量应用,使用数据来发展理论或测试经济学中的现有假设,并根据历史数据预测未来趋势。它对现实世界的数据进行统计试验,然后将结果与被测试的理论进行比较和对比。

根据你是对测试现有理论感兴趣,还是对利用现有数据在这些观察的基础上提出新的假设感兴趣,计量经济学可以细分为两大类:理论和应用。那些经常从事这种实践的人通常被称为计量经济学家。

MATLAB代写

MATLAB 是一种用于技术计算的高性能语言。它将计算、可视化和编程集成在一个易于使用的环境中,其中问题和解决方案以熟悉的数学符号表示。典型用途包括:数学和计算算法开发建模、仿真和原型制作数据分析、探索和可视化科学和工程图形应用程序开发,包括图形用户界面构建MATLAB 是一个交互式系统,其基本数据元素是一个不需要维度的数组。这使您可以解决许多技术计算问题,尤其是那些具有矩阵和向量公式的问题,而只需用 C 或 Fortran 等标量非交互式语言编写程序所需的时间的一小部分。MATLAB 名称代表矩阵实验室。MATLAB 最初的编写目的是提供对由 LINPACK 和 EISPACK 项目开发的矩阵软件的轻松访问,这两个项目共同代表了矩阵计算软件的最新技术。MATLAB 经过多年的发展,得到了许多用户的投入。在大学环境中,它是数学、工程和科学入门和高级课程的标准教学工具。在工业领域,MATLAB 是高效研究、开发和分析的首选工具。MATLAB 具有一系列称为工具箱的特定于应用程序的解决方案。对于大多数 MATLAB 用户来说非常重要,工具箱允许您学习应用专业技术。工具箱是 MATLAB 函数(M 文件)的综合集合,可扩展 MATLAB 环境以解决特定类别的问题。可用工具箱的领域包括信号处理、控制系统、神经网络、模糊逻辑、小波、仿真等。

Write a Reply or Comment

您的电子邮箱地址不会被公开。 必填项已用 * 标注