过度参数化对现代机器学习（ML）模型的整体性能的好处是众所周知的。但是，在更颗粒状的数据亚组水平上过度参数化的影响知之甚少。最近的实证研究表明了令人鼓舞的结果：（i）当尚不清楚的团体时，对经验风险最小化训练的过度参数化模型（ERM）对少数群体的表现更好；（ii）当已知组时，对数据进行均采样以均衡的数据将产生过度参数化的制度中最新的群体临界性。在本文中，我们通过对少数群体过度参数化特征模型的风险进行理论研究来补充这些经验研究。在大多数和少数群体的回归功能不同的环境中，我们表明过度参数始终可以改善少数群体的绩效。

我们考虑在数据源相似但非相同的高维环境中荟萃分析的任务。为了在这种异质数据集中借用强度，我们引入了一个全球参数，该参数强调存在异质性的解释性和统计效率。我们还提出了一个全局参数的单发估计器，该估计值保留了数据源的匿名性，并以取决于组合数据集大小的速率收敛。对于高维线性模型设置，我们在适应以前看到的数据分布以及预测新/看不见的数据分布方面证明了识别限制的优越性。最后，我们证明了方法在涉及多个癌细胞线的大规模药物治疗数据集中的好处。

We consider a variant of the target defense problem where a single defender is tasked to capture a sequence of incoming intruders. The intruders' objective is to breach the target boundary without being captured by the defender. As soon as the current intruder breaches the target or gets captured by the defender, the next intruder appears at a random location on a fixed circle surrounding the target. Therefore, the defender's final location at the end of the current game becomes its initial location for the next game. Thus, the players pick strategies that are advantageous for the current as well as for the future games. Depending on the information available to the players, each game is divided into two phases: partial information and full information phase. Under some assumptions on the sensing and speed capabilities, we analyze the agents' strategies in both phases. We derive equilibrium strategies for both the players to optimize the capture percentage using the notions of engagement surface and capture circle. We quantify the percentage of capture for both finite and infinite sequences of incoming intruders.

在本文中，我们引入了一种半居中的控制技术，用于在不确定的遮挡环境中运送脆弱物体到目的地的一群机器人。建议的方法已分为两部分。初始部分（第1阶段）包括一种集中的控制策略，用于在代理之间创建特定的形成，以便可以将要运输的对象正确放在系统顶部。我们提出了一种与基于圆形区域的形状控制方法融合在一起的新型三角填料方案，用于在机器人之间创建刚性配置。在后面的部分（第2阶段），需要群体系统以采用基于区域的形状控制方法的分散方式将对象传达到目的地。模拟结果以及比较研究证明了我们提出的方案的有效性。

在本章中，提出了用于获得与任务相关的，多分辨率的，环境抽象的问题的整数线性编程公式，用于资源受限的自主剂。该公式从信息理论信号压缩（特别是信息瓶颈（IB）方法）中利用概念来提出抽象问题，作为在多分辨率树的空间上的最佳编码器搜索。抽象以与任务相关的方式出现，作为代理信息处理约束的函数。我们详细介绍我们的配方，并展示如何以共同的主题统一信号压缩的层次结构结构，信号编码器和信息理论方法。提出了一个讨论来描述我们配方的好处和缺点的讨论，以及详细的解释，如何在为资源受限的自主系统生成抽象的背景下解释我们的方法。结果表明，在多分辨率树空间中所得的信息理论抽象问题可以作为整数线性编程（ILP）问题进行配合。我们在许多示例上演示了这种方法，并提供了与现有方法相比，详细说明所提出框架的差异的讨论。最后，我们考虑了ILP问题的线性程序放松，从而证明可以通过求解凸程序来获得多分辨率信息理论树抽象。

我们介绍了一种差别的私有方法来测量遍布两个实体托管的敏感数据之间的非线性相关性。我们提供私人估算器的实用程序保障。我们是第一个非线性相关性的私人估算器，据我们在多方设置中的知识中最好。我们认为的非线性相关的重要措施是距离相关性。这项工作具有直接应用于私有功能筛选，私人独立测试，私人K样品测试，私有多方因果推断和私有数据综合，除了探索数据分析。代码访问：公开访问的链接在补充文件中提供了代码。

非凸优化的马鞍点避免问题在大规模分布式学习框架中非常具有挑战性，例如联邦学习，特别是在拜占庭工作者的存在。 「庆祝的立方规范化牛顿方法\ Cite {Nest}是避免标准集中（非分布式）设置中的马鞍点的最优雅方式之一。在本文中，我们将立方正规化的牛顿方法扩展到分布式框架，同时解决了几种实际挑战，如通信瓶颈和拜占庭攻击。请注意，由于流氓机器可以在丢失功能的鞍点附近创建\ emph {假本地最小值}，因此在丢失函数的鞍点附近，尚未创建拜占机器的存在，避免问题在拜占庭机器的情况下变得更加重要。作为二阶算法，我们的迭代复杂性远低于第一订单对应物。此外，我们使用像$ \ delta $类似的压缩（或稀疏）技术，以便进行通信效率。我们在包括近似（子采样）梯度和黑森州的若干环境下获得理论担保。此外，我们通过使用标准数据集和几种类型的拜占庭攻击进行实验验证了我们的理论调查结果，并在迭代复杂性中获得了25 \％$ 25 \％$的提高。