机器学习技术的兴起激发了电子设计自动化（EDA）中应用的繁荣，有助于提高芯片设计中的自动化程度。然而，手动制作的机器学习模型需要广泛的人类专业知识和巨大的工程努力。在这项工作中，我们利用神经结构搜索（NAS）来自动开发高质量的神经架构进行可排卵预测，这有助于引导细胞放置到可路由解决方案。我们的搜索方法支持各种操作和高度灵活的连接，导致架构与所有先前的人工制作模型显着不同。大型数据集上的实验结果表明，我们的自动生成神经架构明显优于多个代表手动制作的解决方案。与手动制作型号的最佳案例相比，NAS产生的模型达到了5.85％的kendall的$ \ tau $，以预测DRC违规的网数和ROC曲线（ROC-AUC）在DRC热点检测下的2.12％面积。此外，与人工制作的模型相比，易于花数周开发，我们的高效NAS方法只需0.3天即可完成整个自动搜索过程。

汽车MMWAVE雷达在高级驾驶员辅助系统（ADA）和自动驾驶中起关键作用。基于深度学习的实例细分可以从雷达检测点实时对象识别。在常规培训过程中，准确的注释是关键。然而，由于雷达检测点的高质量注释，由于其歧义和稀疏性，要实现挑战。为了解决这个问题，我们提出了一种实施基于雷达检测点的实例细分的对比学习方法。我们根据地面真相标签定义正面和负样品，将对比度损失首先训练模型，然后对以下下游任务进行微调。此外，可以将这两个步骤合并为一个，并且可以为未标记的数据生成伪标签，以进一步提高性能。因此，我们的方法有四种不同的培训设置。实验表明，当仅适用于一小部分培训数据时，我们的方法仍然可以与以100％基真实信息进行监督的方式实现可比的性能。

我们提出了一种基于图的基于图的方法，用于标记给定的气道树分割的解剖学分支。该方法在气道树图中制定了气道标记作为分支分类问题，其中使用卷积神经网络（CNN）提取分支特征，并使用图形神经网络富集。我们的图形神经网络是通过从其本地邻居的每个节点聚合信息来实现的结构感知，并通过编码图中的节点位置来定位。我们在来自慢性阻塞性肺病（COPD）的各种严重阶段的受试者的220个气道树上评估了该方法。结果表明，我们的方法是计算上高效的，并且显着提高了分支分类性能而不是基线方法。与标准CNN方法获得的83.83 \％相比，我们的方法的总体平均精度达到91.18 \％。我们在https://github.com/diagnijmegen/spgnn发布了我们的源代码。该算法还在HTTPS://grand-Challenge.org/algorithms/airway-anatomical-labeling/上公开使用。

由于巨大的未标记数据的出现，现在已经增加了更加关注无监督的功能选择。需要考虑使用更有效的顺序使用样品训练学习方法的样本和潜在效果的分布，以提高该方法的鲁棒性。自定步学习是考虑样本培训顺序的有效方法。在本研究中，通过整合自花枢学习和子空间学习框架来提出无监督的特征选择。此外，保留了局部歧管结构，并且特征的冗余受到两个正则化术语的约束。 $ l_ {2,1 / 2} $ - norm应用于投影矩阵，旨在保留歧视特征，并进一步缓解数据中噪声的影响。然后，提出了一种迭代方法来解决优化问题。理论上和实验证明了该方法的收敛性。将所提出的方法与九个现实世界数据集上的其他技术的算法进行比较。实验结果表明，该方法可以提高聚类方法的性能，优于其他比较算法。

450万小时的英语演讲从10个不同的10个不同来源，跨越高达10亿参数的不同来源，我们探索了自动语音识别的规模前沿。我们提出了数据选择技术，以有效地缩放培训数据，以找到大规模数据集中最有价值的样本。为了有效地进行模型尺寸，我们利用各种优化，例如稀疏传感器丢失和模型分片。通过培训1-10B参数通用英语ASR模型，我们将语音识别性能的限制推动在许多域中。此外，我们的模型学习强大的语音表示，在新域名和言语方面具有零和少量功能，超出了多个内部和公共基准的先前结果。对于由于脑损伤而具有障碍的扬声器，我们最好的零射击和少量射频分别在Aphasiabank测试集中实现了22％和60％，同时在公共社交媒体视频中实现了最佳性能。此外，相同的通用模型在SPGISPeech Financial-Domain数据集上达到了500倍的域内数据等效性能。

测量自动语音识别（ASR）系统质量对于创建用户满意的语音驱动应用程序至关重要。传统上，单词错误率（WER）用于评估ASR系统质量；但是，它有时与用户对转录质量的看法/判断息息相关。这是因为wer平等地称重每个单词，并且不考虑对用户感知产生更高影响的语义正确性。在这项工作中，我们提出评估ASR输出的质量，可以通过使用参考的语义向量与从预训练的语言模型中提取的假设之间的距离来测量语义正确性。我们对71K和36K用户注释的ASR输出质量的实验结果表明，与WER相比，Semdist与用户感知的相关性更高。我们还表明，与WER相比，Semdist与下游自然语言理解（NLU）任务具有更高的相关性。

胸腔CT上的自动病变分割能够快速定量分析Covid-19感染的肺部受累。然而，获得用于训练分割网络的大量体素级注释是非常昂贵的。因此，我们提出了一种基于密集回归激活地图（DRAM）的弱监督分割方法。大多数弱监督的分割方法接近利用类激活映射（CAM）到本地化对象。但是，由于凸轮培训进行分类，因此它们不会与对象分割精确对齐。相反，我们使用来自培训的分割网络的密集特征生成高分辨率激活映射，以训练为估计每瓣病变百分比。以这种方式，网络可以利用关于所需病变卷的知识。此外，我们提出了一个注意神经网络模块，以优化DRAM，与主要回归任务一起优化。我们在90个科目中评估了我们的算法。结果表明，我们的方法达到了70.2％的骰子系数，显着优于凸轮基基线48.6％。

Graph Neural Networks (GNNs) have shown satisfying performance on various graph learning tasks. To achieve better fitting capability, most GNNs are with a large number of parameters, which makes these GNNs computationally expensive. Therefore, it is difficult to deploy them onto edge devices with scarce computational resources, e.g., mobile phones and wearable smart devices. Knowledge Distillation (KD) is a common solution to compress GNNs, where a light-weighted model (i.e., the student model) is encouraged to mimic the behavior of a computationally expensive GNN (i.e., the teacher GNN model). Nevertheless, most existing GNN-based KD methods lack fairness consideration. As a consequence, the student model usually inherits and even exaggerates the bias from the teacher GNN. To handle such a problem, we take initial steps towards fair knowledge distillation for GNNs. Specifically, we first formulate a novel problem of fair knowledge distillation for GNN-based teacher-student frameworks. Then we propose a principled framework named RELIANT to mitigate the bias exhibited by the student model. Notably, the design of RELIANT is decoupled from any specific teacher and student model structures, and thus can be easily adapted to various GNN-based KD frameworks. We perform extensive experiments on multiple real-world datasets, which corroborates that RELIANT achieves less biased GNN knowledge distillation while maintaining high prediction utility.

A recent study has shown a phenomenon called neural collapse in that the within-class means of features and the classifier weight vectors converge to the vertices of a simplex equiangular tight frame at the terminal phase of training for classification. In this paper, we explore the corresponding structures of the last-layer feature centers and classifiers in semantic segmentation. Based on our empirical and theoretical analysis, we point out that semantic segmentation naturally brings contextual correlation and imbalanced distribution among classes, which breaks the equiangular and maximally separated structure of neural collapse for both feature centers and classifiers. However, such a symmetric structure is beneficial to discrimination for the minor classes. To preserve these advantages, we introduce a regularizer on feature centers to encourage the network to learn features closer to the appealing structure in imbalanced semantic segmentation. Experimental results show that our method can bring significant improvements on both 2D and 3D semantic segmentation benchmarks. Moreover, our method ranks 1st and sets a new record (+6.8% mIoU) on the ScanNet200 test leaderboard. Code will be available at https://github.com/dvlab-research/Imbalanced-Learning.

We introduce Argoverse 2 (AV2) - a collection of three datasets for perception and forecasting research in the self-driving domain. The annotated Sensor Dataset contains 1,000 sequences of multimodal data, encompassing high-resolution imagery from seven ring cameras, and two stereo cameras in addition to lidar point clouds, and 6-DOF map-aligned pose. Sequences contain 3D cuboid annotations for 26 object categories, all of which are sufficiently-sampled to support training and evaluation of 3D perception models. The Lidar Dataset contains 20,000 sequences of unlabeled lidar point clouds and map-aligned pose. This dataset is the largest ever collection of lidar sensor data and supports self-supervised learning and the emerging task of point cloud forecasting. Finally, the Motion Forecasting Dataset contains 250,000 scenarios mined for interesting and challenging interactions between the autonomous vehicle and other actors in each local scene. Models are tasked with the prediction of future motion for "scored actors" in each scenario and are provided with track histories that capture object location, heading, velocity, and category. In all three datasets, each scenario contains its own HD Map with 3D lane and crosswalk geometry - sourced from data captured in six distinct cities. We believe these datasets will support new and existing machine learning research problems in ways that existing datasets do not. All datasets are released under the CC BY-NC-SA 4.0 license.