如果你也在 怎样代写凸优化Convex optimization 这个学科遇到相关的难题，请随时右上角联系我们的24/7代写客服。凸优化Convex optimization由于在大规模资源分配、信号处理和机器学习等领域的广泛应用，人们对凸优化的兴趣越来越浓厚。本书旨在解决凸优化问题的算法的最新和可访问的发展。
凸优化Convex optimization无约束可以很容易地用梯度下降(最陡下降的特殊情况)或牛顿方法解决，结合线搜索适当的步长;这些可以在数学上证明收敛速度很快，尤其是后一种方法。如果目标函数是二次函数，也可以使用KKT矩阵技术求解具有线性等式约束的凸优化(它推广到牛顿方法的一种变化，即使初始化点不满足约束也有效)，但通常也可以通过线性代数消除等式约束或解决对偶问题来解决。
statistics-lab™ 为您的留学生涯保驾护航 在代写凸优化Convex Optimization方面已经树立了自己的口碑, 保证靠谱, 高质且原创的统计Statistics代写服务。我们的专家在代写凸优化Convex Optimization代写方面经验极为丰富，各种代写凸优化Convex Optimization相关的作业也就用不着说。
数学代写|凸优化作业代写Convex Optimization代考|Rate of Convergence
The following proposition describes how the convergence rate of the proximal algorithm depends on the magnitude of $c_k$ and on the order of growth of $f$ near the optimal solution set (see also Fig. 5.1.3).
Proposition 5.1.4: (Rate of Convergence) Assume that $X^$ is nonempty and that for some scalars $\beta>0, \delta>0$, and $\gamma \geq 1$, we have $$ f^+\beta(d(x))^\gamma \leq f(x), \quad \forall x \in \Re^n \text { with } d(x) \leq \delta,
$$
where
$$
d(x)=\min {x^* \in X^}\left|x-x^\right|
$$
Let also
$$
\sum{k=0}^{\infty} c_k=\infty,
$$
so that the sequence $\left{x_k\right}$ generated by the proximal algorithm (5.1) converges to some point in $X^*$ by Prop. 5.1.3. Then:
(a) For all $k$ sufficiently large, we have
$$
d\left(x_{k+1}\right)+\beta c_k\left(d\left(x_{k+1}\right)\right)^{\gamma-1} \leq d\left(x_k\right)
$$
if $\gamma>1$, and
$$
d\left(x_{k+1}\right)+\beta c_k \leq d\left(x_k\right),
$$
if $\gamma=1$ and $x_{k+1} \notin X^$. (b) (Superlinear Convergence) Let $1<\gamma<2$ and $x_k \notin X^$ for all $k$. Then if $\inf {k \geq 0} c_k>0$, $$ \limsup {k \rightarrow \infty} \frac{d\left(x_{k+1}\right)}{\left(d\left(x_k\right)\right)^{1 /(\gamma-1)}}<\infty . $$ (c) (Linear Convergence) Let $\gamma=2$ and $x_k \notin X *$ for all $k$. Then if $\lim {k \rightarrow \infty} c_k=\bar{c}$ with $\bar{c} \in(0, \infty)$, $$ \limsup {k \rightarrow \infty} \frac{d\left(x_{k+1}\right)}{d\left(x_k\right)} \leq \frac{1}{1+\beta \bar{c}}, $$ while if $\lim {k \rightarrow \infty} c_k=\infty$, $$ \lim {k \rightarrow \infty} \frac{d\left(x_{k+1}\right)}{d\left(x_k\right)}=0 . $$ (d) (Sublinear Convergence) Let $\gamma>2$. Then
$$
\limsup {k \rightarrow \infty} \frac{d\left(x{k+1}\right)}{d\left(x_k\right)^{2 / \gamma}}<\infty .
$$
数学代写|凸优化作业代写Convex Optimization代考|Gradient Interpretation
An interesting interpretation of the proximal iteration is obtained by considering the function
$$
\phi_c(z)=\inf {x \in \Re^n}\left{f(x)+\frac{1}{2 c}|x-z|^2\right} $$ for a fixed positive value of $c$. It can be seen that $$ \inf {x \in \Re^n} f(x) \leq \phi_c(z) \leq f(z), \quad \forall z \in \Re^n,
$$
from which it follows that the set of minima of $f$ and $\phi_c$ coincide (this is also evident from the geometric view of the proximal minimization given in Fig. 5.1.7). The following proposition shows that $\phi_c$ is a convex differentiable function, and derives its gradient.
Proposition 5.1.7: The funetion $\phi_c$ of Eq. (5.14) is convex and differentiable, and we have
$$
\nabla \phi_c(z)=\frac{z-x_c(z)}{c} \quad \forall z \in \Re^n,
$$
where $x_c(z)$ is the unique minimizer in Eq. (5.14). Moreover
$$
\nabla \phi_c(z) \in \partial f\left(x_c(z)\right), \quad \forall z \in \Re^n
$$
Proof: We first note that $\phi_c$ is convex, since it is obtained by partial minimization of $f(x)+\frac{1}{2 c}|x-z|^2$, which is convex as a function of $(x, z)$ (cf. Prop. 3.3.1 in Appendix B). Furthermore, $\phi_c$ is real-valued, since the infimum in Eq. (5.14) is attained.
Let us fix $z$, and for notational simplicity, denote $\bar{z}=x_c(z)$. To show that $\phi_c$ is differentiable with the given form of gradient, we note that by the optimality condition of Prop. 3.1.4, we have $v \in \partial \phi_c(z)$, or equivalently $0 \in \partial \phi_c(z)-v$, if and only if $z$ attains the minimum over $y \in \Re^n$ of
$$
\phi_c(y)-v^{\prime} y=\inf _{x \in \Re^n}\left{f(x)+\frac{1}{2 c}|x-y|^2\right}-v^{\prime} y
$$
凸优化代写
数学代写|凸优化作业代写Convex Optimization代考|Rate of Convergence
下面的命题描述了近端算法的收敛速度如何取决于$c_k$的大小和$f$在最优解集附近的增长顺序(参见图5.1.3)。
命题5.1.4:(收敛速度)假设$X^$是非空的，并且对于一些标量$\beta>0, \delta>0$和$\gamma \geq 1$，我们有$$ f^+\beta(d(x))^\gamma \leq f(x), \quad \forall x \in \Re^n \text { with } d(x) \leq \delta,
$$
在哪里
$$
d(x)=\min {x^* \in X^}\left|x-x^\right|
$$
让我们
$$
\sum{k=0}^{\infty} c_k=\infty,
$$
使得近端算法(5.1)生成的序列$\left{x_k\right}$通过Prop. 5.1.3收敛到$X^*$中的某个点。然后:
(a)对于所有$k$足够大的，我们有
$$
d\left(x_{k+1}\right)+\beta c_k\left(d\left(x_{k+1}\right)\right)^{\gamma-1} \leq d\left(x_k\right)
$$
如$\gamma>1$，及
$$
d\left(x_{k+1}\right)+\beta c_k \leq d\left(x_k\right),
$$
如$\gamma=1$和$x_{k+1} \notin X^$。(b)(超线性收敛)令$1<\gamma<2$和$x_k \notin X^$对所有$k$。然后如果$\inf {k \geq 0} c_k>0$, $$ \limsup {k \rightarrow \infty} \frac{d\left(x_{k+1}\right)}{\left(d\left(x_k\right)\right)^{1 /(\gamma-1)}}<\infty . $$ (c)(线性收敛)令$\gamma=2$和$x_k \notin X *$对于所有$k$。如果$\lim {k \rightarrow \infty} c_k=\bar{c}$有$\bar{c} \in(0, \infty)$, $$ \limsup {k \rightarrow \infty} \frac{d\left(x_{k+1}\right)}{d\left(x_k\right)} \leq \frac{1}{1+\beta \bar{c}}, $$如果$\lim {k \rightarrow \infty} c_k=\infty$, $$ \lim {k \rightarrow \infty} \frac{d\left(x_{k+1}\right)}{d\left(x_k\right)}=0 . $$ (d)(次线性收敛)设$\gamma>2$。然后
$$
\limsup {k \rightarrow \infty} \frac{d\left(x{k+1}\right)}{d\left(x_k\right)^{2 / \gamma}}<\infty .
$$
数学代写|凸优化作业代写Convex Optimization代考|Gradient Interpretation
通过考虑函数，得到了对近端迭代的一个有趣的解释
$$
\phi_c(z)=\inf {x \in \Re^n}\left{f(x)+\frac{1}{2 c}|x-z|^2\right} $$为固定正值$c$。可以看出$$ \inf {x \in \Re^n} f(x) \leq \phi_c(z) \leq f(z), \quad \forall z \in \Re^n,
$$
由此可知，$f$和$\phi_c$的最小值集合重合(从图5.1.7给出的近端极小值的几何视图也可以看出这一点)。下面的命题证明$\phi_c$是一个凸可微函数，并推导出它的梯度。
命题5.1.7:式(5.14)的函数$\phi_c$是凸可微的，有
$$
\nabla \phi_c(z)=\frac{z-x_c(z)}{c} \quad \forall z \in \Re^n,
$$
其中$x_c(z)$是式(5.14)中唯一的最小值。而且
$$
\nabla \phi_c(z) \in \partial f\left(x_c(z)\right), \quad \forall z \in \Re^n
$$
证明:我们首先注意到$\phi_c$是凸的，因为它是通过$f(x)+\frac{1}{2 c}|x-z|^2$的部分最小化得到的，而作为$(x, z)$的函数是凸的(参见附录B中的Prop. 3.3.1)。此外，$\phi_c$是实值的，因为在Eq.(5.14)中得到了极小值。
让我们修复$z$，为了表示简单，表示$\bar{z}=x_c(z)$。为了证明$\phi_c$对给定形式的梯度是可微的，我们注意到，根据Prop. 3.1.4的最优性条件，我们有$v \in \partial \phi_c(z)$，或等价的$0 \in \partial \phi_c(z)-v$，当且仅当$z$在$y \in \Re^n$上达到最小值
$$
\phi_c(y)-v^{\prime} y=\inf _{x \in \Re^n}\left{f(x)+\frac{1}{2 c}|x-y|^2\right}-v^{\prime} y
$$
统计代写请认准statistics-lab™. statistics-lab™为您的留学生涯保驾护航。
微观经济学代写
微观经济学是主流经济学的一个分支，研究个人和企业在做出有关稀缺资源分配的决策时的行为以及这些个人和企业之间的相互作用。my-assignmentexpert™ 为您的留学生涯保驾护航 在数学Mathematics作业代写方面已经树立了自己的口碑, 保证靠谱, 高质且原创的数学Mathematics代写服务。我们的专家在图论代写Graph Theory代写方面经验极为丰富，各种图论代写Graph Theory相关的作业也就用不着 说。
线性代数代写
线性代数是数学的一个分支，涉及线性方程，如：线性图，如：以及它们在向量空间和通过矩阵的表示。线性代数是几乎所有数学领域的核心。
博弈论代写
现代博弈论始于约翰-冯-诺伊曼（John von Neumann）提出的两人零和博弈中的混合策略均衡的观点及其证明。冯-诺依曼的原始证明使用了关于连续映射到紧凑凸集的布劳威尔定点定理，这成为博弈论和数学经济学的标准方法。在他的论文之后，1944年，他与奥斯卡-莫根斯特恩（Oskar Morgenstern）共同撰写了《游戏和经济行为理论》一书，该书考虑了几个参与者的合作游戏。这本书的第二版提供了预期效用的公理理论，使数理统计学家和经济学家能够处理不确定性下的决策。
微积分代写
微积分，最初被称为无穷小微积分或 “无穷小的微积分”，是对连续变化的数学研究，就像几何学是对形状的研究，而代数是对算术运算的概括研究一样。
它有两个主要分支，微分和积分；微分涉及瞬时变化率和曲线的斜率，而积分涉及数量的累积，以及曲线下或曲线之间的面积。这两个分支通过微积分的基本定理相互联系，它们利用了无限序列和无限级数收敛到一个明确定义的极限的基本概念 。
计量经济学代写
什么是计量经济学？
计量经济学是统计学和数学模型的定量应用，使用数据来发展理论或测试经济学中的现有假设，并根据历史数据预测未来趋势。它对现实世界的数据进行统计试验，然后将结果与被测试的理论进行比较和对比。
根据你是对测试现有理论感兴趣，还是对利用现有数据在这些观察的基础上提出新的假设感兴趣，计量经济学可以细分为两大类：理论和应用。那些经常从事这种实践的人通常被称为计量经济学家。
Matlab代写
MATLAB 是一种用于技术计算的高性能语言。它将计算、可视化和编程集成在一个易于使用的环境中，其中问题和解决方案以熟悉的数学符号表示。典型用途包括：数学和计算算法开发建模、仿真和原型制作数据分析、探索和可视化科学和工程图形应用程序开发，包括图形用户界面构建MATLAB 是一个交互式系统，其基本数据元素是一个不需要维度的数组。这使您可以解决许多技术计算问题，尤其是那些具有矩阵和向量公式的问题，而只需用 C 或 Fortran 等标量非交互式语言编写程序所需的时间的一小部分。MATLAB 名称代表矩阵实验室。MATLAB 最初的编写目的是提供对由 LINPACK 和 EISPACK 项目开发的矩阵软件的轻松访问，这两个项目共同代表了矩阵计算软件的最新技术。MATLAB 经过多年的发展，得到了许多用户的投入。在大学环境中，它是数学、工程和科学入门和高级课程的标准教学工具。在工业领域，MATLAB 是高效研究、开发和分析的首选工具。MATLAB 具有一系列称为工具箱的特定于应用程序的解决方案。对于大多数 MATLAB 用户来说非常重要，工具箱允许您学习和应用专业技术。工具箱是 MATLAB 函数（M 文件）的综合集合，可扩展 MATLAB 环境以解决特定类别的问题。可用工具箱的领域包括信号处理、控制系统、神经网络、模糊逻辑、小波、仿真等。