Posted on Categories:CS代写, Machine Learning, 机器学习, 计算机代写

# 计算机代写|机器学习代写Machine Learning代考|COMP4702 Learning

avatest™

## avatest™帮您通过考试

avatest™的各个学科专家已帮了学生顺利通过达上千场考试。我们保证您快速准时完成各时长和类型的考试，包括in class、take home、online、proctor。写手整理各样的资源来或按照您学校的资料教您，创造模拟试题，提供所有的问题例子，以保证您在真实考试中取得的通过率是85%以上。如果您有即将到来的每周、季考、期中或期末考试，我们都能帮助您！

•最快12小时交付

•200+ 英语母语导师

•70分以下全额退款

## 计算机代写|机器学习代写Machine Learning代考|Learning

Given a data set $\mathbf{y}{1: N}$, where each data point is assumed to be drawn independently from the model, we learn the model parameters, $\theta$, by minimizing the negative log-likelihood of the data: \begin{aligned} \mathcal{L}(\theta) & =-\ln p\left(\mathbf{y}{1: N} \mid \theta\right) \ & =-\sum_i \ln p\left(\mathbf{y}_i \mid \theta\right) \end{aligned}
Note that this is a constrained optimization, since we require $a_j \geq 0$ and $\sum_j a_j=1$. Furthermore, $\mathbf{K}_j$ must be symmetric, positive-definite matrix to be a covariance matrix. Unfortunately, this optimization cannot be performed in closed-form.

One approach is to use gradient descent to optimization by gradient descent. There are a few issues associated with doing so. First, some care is required to avoid numerical issues, as discussed below. Second, this learning is a constrained optimization, due to constraints on the values of the $a$ ‘s. One solution is to project onto the constraints during optimization: at each gradient descent step (and inside the line search loop), we clamp all negative $a$ values to zero and renormalize the $a$ ‘s so that they sum to one. Another option is to reparameterize the problem to be unconstrained. Specifically, we define new variables $\beta_j$, and define the $a$ ‘s as functions of the $\beta$ s, e.g.,
$$a_j(\beta)=\frac{e^{\beta_j}}{\sum_{j=1}^K e^{\beta_j}}$$

## 计算机代写|机器学习代写Machine Learning代考|Numerical issues

Exponentiating very small negative numbers can often lead to underflow when implemented in floating-point arithmetic, e.g., $e^{-A}$ will give zero for large $A$, and $\ln e^{-A}$ will give an error (or $-\operatorname{In} f$ ) whereas it should return $-A$. These issues will often cause machine learning algorithms to fail; MoG has several steps which are susceptible. Fortunately, there are some simple tricks that can be used.

Many computations can be performed directly in the log domain. For example, it may be more stable to compute

$a e^b$

$(360)$

as

$$e^{\ln a+b}$$

This avoids issues where $b$ is so small that $e^b$ evaluates to zero in floating point, but $a e^b$ is much greater than zero.

When computing an expression of the form:
$$\frac{e^{-\beta_j}}{\sum_j e^{-\beta_j}}$$
large values of $\beta$ could lead to the above expression being zero for all $j$, even though the expression must sum to one. This may arise, for example, when computing the $\gamma$ updates, which have the above form. The solution is to make use of the identity:
$$\frac{e^{-\beta_j}}{\sum_j e^{-\beta_j}}=\frac{e^{-\beta_j+C}}{\sum_j e^{-\beta_j+C}}$$
for any value of $C$. We can choose $C$ to prevent underflow; a suitable choice is $C=\min _j \beta_j$.

Underflow can also occur when evaluating
$$\ln \sum_i e^{-\beta_j}$$
which can be fixed by using the identity
$$\ln \sum_i e^{-\beta_j}=\left(\ln \sum_i e^{-\beta_j+C}\right)-C$$

## 计算机代写|机器学习代写Machine Learning代考|Learning

$$\mathcal{L}(\theta)=-\ln p(\mathbf{y} 1: N \mid \theta) \quad=-\sum_i \ln p\left(\mathbf{y}i \mid \theta\right)$$ 请注意，这是一个约束优化，因为我们需要 $a_j \geq 0$ 和 $\sum_j a_j=1$. 此外， $\mathbf{K}_j$ 必须是对称的正定矩阵 才能成为协方差矩阵。不幸的是，这种优化不能以封闭形式进行。 一种方法是使用梯度下降来通过梯度下降进行优化。这样做会带来一些问题。首先，需要注意避免数 值问题，如下所述。其次，由于对 $a$ 的。一种解决方案是在优化期间投射到约束上：在每个梯度下降 步骤 (以及在线搜索循环内)，我们钳制所有负数 $a$ 值归零并重新归一化 $a$ 的，以便它们顼加为一。 另一种选择是将问题重新参数化为不受约束。具体来说，我们定义新变量 $\beta_j$ ，并定义 $a$ 作为函数的 $\beta$ 小号，例如， $$a_j(\beta)=\frac{e^{\beta_j}}{\sum{j=1}^K e^{\beta_j}}$$

## 计算机代写|机器学习代写Machine Learning代考|Numerical issues

$a e^b$
$(360)$

$\$ \$$e^{\wedge}{\backslash \ln a+b} \ \$$

$$\frac{e^{-\beta_j}}{\sum_j e^{-\beta_j}}$$

$$\frac{e^{-\beta_j}}{\sum_j e^{-\beta_j}}=\frac{e^{-\beta_j+C}}{\sum_j e^{\beta_j+C}}$$

$$\ln \sum_i e^{-\beta_j}$$

$$\ln \sum_i e^{-\beta_j}=\left(\ln \sum_i e^{-\beta_j+C}\right)-C$$

## MATLAB代写

MATLAB 是一种用于技术计算的高性能语言。它将计算、可视化和编程集成在一个易于使用的环境中，其中问题和解决方案以熟悉的数学符号表示。典型用途包括：数学和计算算法开发建模、仿真和原型制作数据分析、探索和可视化科学和工程图形应用程序开发，包括图形用户界面构建MATLAB 是一个交互式系统，其基本数据元素是一个不需要维度的数组。这使您可以解决许多技术计算问题，尤其是那些具有矩阵和向量公式的问题，而只需用 C 或 Fortran 等标量非交互式语言编写程序所需的时间的一小部分。MATLAB 名称代表矩阵实验室。MATLAB 最初的编写目的是提供对由 LINPACK 和 EISPACK 项目开发的矩阵软件的轻松访问，这两个项目共同代表了矩阵计算软件的最新技术。MATLAB 经过多年的发展，得到了许多用户的投入。在大学环境中，它是数学、工程和科学入门和高级课程的标准教学工具。在工业领域，MATLAB 是高效研究、开发和分析的首选工具。MATLAB 具有一系列称为工具箱的特定于应用程序的解决方案。对于大多数 MATLAB 用户来说非常重要，工具箱允许您学习应用专业技术。工具箱是 MATLAB 函数（M 文件）的综合集合，可扩展 MATLAB 环境以解决特定类别的问题。可用工具箱的领域包括信号处理、控制系统、神经网络、模糊逻辑、小波、仿真等。