2021-11-05
在这个技术报告中，我们提出我们的解决Traffic4Cast2021核心挑战，其中参与者被要求开发算法用于预测交通状况提前60分钟，根据来自前一小时的信息，在4个不同的城市。相较于先前举行的比赛，今年的挑战集中在交通时间域偏移由于COVID-19大流行。继掌中的过去的成功，我们利用它来预测未来的交通地图。此外，我们将探讨预先训练的编码器，如DenseNet和EfficientNet，并采用多域自适应技术的使用打域转变。我们的解决方案在最后的竞争中排在第三位。该代码可在https://github.com/jbr-ai-labs/traffic4cast-2021。
translated by 谷歌翻译
深度神经网络在短期交通预测中表现出卓越的性能。然而，大多数现有的流量预测系统假设培训和测试数据是从相同的底层分布中汲取，这限制了它们的实际适用性。Neurips 2021 Traffic4cast挑战是专门用于基准测试空间和时间在域移位的流量预测模型的稳健性的首先。本技术报告描述了我们对此挑战的解决方案。特别是，我们为交通预测模型的时间和时空域改编提供了一个多任务学习框架。实验结果表明，我们的多任务学习方法实现了强大的经验性能，优于许多基线域适应方法，同时仍然高效。此技术报告的源代码可在https://github.com/yichaolu/traffic4cast2021获得。
translated by 谷歌翻译
IARAI竞争交通4播2021旨在预测以前获得的静态和动态交通信息的短期城市广泛的高分辨率交通状态。目的是建立一种机器学习模型，用于使用历史数据点预测多个大型城市的归一化平均交通速度和流量。该模型应该是通用的，以便它可以应用于新城市。通过考虑时空特色的学习和建模效率，我们探索3Dresnet和稀疏的杂志，在这场比赛中的任务。基于3DRESNet的模型使用3D卷积来学习时空特征，并施加顺序卷积层以增强输出的时间关系。稀疏 - unet模型使用稀疏卷曲作为用于时空特征学习的骨干。由于后一种算法主要关注输入的非零数据点，因此它显着降低了计算时间，同时保持了竞争精度。我们的研究结果表明，两个建议的模型比基线算法实现了更好的性能。代码和预磨料模型可在https://github.com/resuly/traffic4cast-2021获得。
translated by 谷歌翻译
准确的交通预测是使流量管理等流量管理的关键要素，例如重新路由汽车减少道路拥堵或通过动态速度限制来调节流量以保持稳定的流量。表示流量数据的一种方法是以时间更改的热图可视化流量的属性（例如速度和音量）的形式。在最近的作品中，U-NET模型在热图预测的交通预测上显示了SOTA性能。我们建议将U-NET体系结构与图层相结合，该层面可以改善与香草U-NET相比，将空间概括到看不见的道路网络。特别是，我们专门将现有的图形操作对地理拓扑敏感，并概括合并和升级操作以适用于图形。
translated by 谷歌翻译
2022-12-05
Accurately forecasting the weather is an important task, as many real-world processes and decisions depend on future meteorological conditions. The NeurIPS 2022 challenge entitled Weather4cast poses the problem of predicting rainfall events for the next eight hours given the preceding hour of satellite observations as a context. Motivated by the recent success of transformer-based architectures in computer vision, we implement and propose two methodologies based on this architecture to tackle this challenge. We find that ensembling different transformers with some baseline models achieves the best performance we could measure on the unseen test data. Our approach has been ranked 3rd in the competition.
translated by 谷歌翻译
这里介绍了人工智能研究所（IARAI）组织的2022年Landslide4sense（L4S）竞赛的科学结果。竞争的目的是根据全球收集的卫星图像的大规模多个来源自动检测滑坡。 2022 L4S旨在促进有关使用卫星图像的语义分割任务的深度学习模型（DL）模型最新发展的跨学科研究。在过去的几年中，由于卷积神经网络（CNN）的发展，基于DL的模型已经达到了对图像解释的期望。本文的主要目的是介绍本次比赛中介绍的细节和表现最佳的算法。获胜的解决方案详细介绍了Swin Transformer，Segformer和U-NET等最先进的模型。还考虑了先进的机器学习技术和诸如硬采矿，自我培训和混合数据增强之类的策略。此外，我们描述了L4S基准数据集，以促进进一步的比较，并在线报告准确性评估的结果。可以在\ textIt {未来开发排行榜上访问数据，以供将来评估，\ url {https://www.iarai.ac.ac.at/landslide4sense/challenge/}，并邀请研究人员提交更多预测结果，评估准确性在他们的方法中，将它们与其他用户的方法进行比较，理想情况下，改善了本文报告的滑坡检测结果。
translated by 谷歌翻译
该卷包含来自机器学习挑战的选定贡献“发现玛雅人的奥秘”，该挑战在欧洲机器学习和数据库中知识发现的欧洲挑战赛曲目（ECML PKDD 2021）中提出。遥感大大加速了古代玛雅人森林地区的传统考古景观调查。典型的探索和发现尝试，除了关注整个古老的城市外，还集中在单个建筑物和结构上。最近，已经成功地尝试了使用机器学习来识别古代玛雅人定居点。这些尝试虽然相关，但却集中在狭窄的区域上，并依靠高质量的空中激光扫描（ALS）数据，该数据仅涵盖古代玛雅人曾经定居的地区的一小部分。另一方面，由欧洲航天局（ESA）哨兵任务制作的卫星图像数据很丰富，更重要的是公开。旨在通过执行不同类型的卫星图像（Sentinel-1和Sentinel-2和ALS）的集成图像细分来定位和识别古老的Maya架构（建筑物，Aguadas和平台）的“发现和识别古代玛雅体系结构（建筑物，Aguadas和平台）的挑战的“发现和识别古老的玛雅体系结构（建筑物，阿吉达斯和平台）的“发现玛雅的奥秘”的挑战， （LIDAR）数据。
translated by 谷歌翻译
准确的实时流量预测对于智能运输系统（ITS）至关重要，它是各种智能移动应用程序的基石。尽管该研究领域以深度学习为主，但最近的研究表明，开发新模型结构的准确性提高正变得边缘。取而代之的是，我们设想可以通过在具有不同数据分布和网络拓扑的城市之间转移“与预测相关的知识”来实现改进。为此，本文旨在提出一个新型的可转移流量预测框架：域对抗空间 - 颞网（DASTNET）。 Dastnet已在多个源网络上进行了预训练，并通过目标网络的流量数据进行了微调。具体而言，我们利用图表表示学习和对抗域的适应技术来学习域不变的节点嵌入，这些嵌入式嵌入将进一步合并以建模时间流量数据。据我们所知，我们是第一个使用对抗性多域改编来解决网络范围的流量预测问题的人。 Dastnet始终优于三个基准数据集上的所有最新基线方法。训练有素的dastnet应用于香港的新交通探测器，并且在可用的探测器可用时（一天之内）可以立即（在一天之内）提供准确的交通预测。总体而言，这项研究提出了一种增强交通预测方法的替代方法，并为缺乏历史流量数据的城市提供了实际含义。
translated by 谷歌翻译
The Weather4Cast competition (hosted by NeurIPS 2022) required competitors to predict super-resolution rain movies in various regions of Europe when low-resolution satellite contexts covering wider regions are given. In this paper, we show that a general baseline 3D U-Net can be significantly improved with region-conditioned layers as well as orthogonality regularizations on 1x1x1 convolutional layers. Additionally, we facilitate the generalization with a bag of training strategies: mixup data augmentation, self-distillation, and feature-wise linear modulation (FiLM). Presented modifications outperform the baseline algorithms (3D U-Net) by up to 19.54% with less than 1% additional parameters, which won the 4th place in the core test leaderboard.
translated by 谷歌翻译
Accurate and timely rain prediction is crucial for decision making and is also a challenging task. This paper presents a solution which won the 2 nd prize in the Weather4cast 2022 NeurIPS competition using 3D U-Nets and EarthFormers for 8-hour probabilistic rain prediction based on multi-band satellite images. The spatial context effect of the input satellite image has been deeply explored and optimal context range has been found. Based on the imbalanced rain distribution, we trained multiple models with different loss functions. To further improve the model performance, multi-model ensemble and threshold optimization were used to produce the final probabilistic rain prediction. Experiment results and leaderboard scores demonstrate that optimal spatial context, combined loss function, multi-model ensemble, and threshold optimization all provide modest model gain. A permutation test was used to analyze the effect of each satellite band on rain prediction, and results show that satellite bands signifying cloudtop phase (8.7 um) and cloud-top height (10.8 and 13.4 um) are the best predictors for rain prediction. The source code is available at https://github.com/bugsuse/weather4cast-2022-stage2.
translated by 谷歌翻译
由于在不良视觉条件下记录的图像的密集像素级语义注释缺乏，因此对此类图像的语义分割的无监督域适应性（UDA）引起了兴趣。 UDA适应了在正常条件下训练的模型，以适应目标不利条件域。同时，多个带有驾驶场景的数据集提供了跨多个条件的相同场景的相应图像，这可以用作域适应的弱监督。我们提出了重新设计，这是对基于自训练的UDA方法的通用扩展，该方法利用了这些跨域对应关系。重新调整由两个步骤组成：（1）使用不确定性意识到的密度匹配网络将正常条件图像与相应的不良条件图像对齐，以及（2）使用自适应标签校正机制来完善不良预测，并使用正常预测。我们设计自定义模块，以简化这两个步骤，并在几个不良条件基准（包括ACDC和Dark Zurich）上设置域自适应语义分割的新技术。该方法不引入额外的训练参数，只有在训练期间最少的计算开销 - 可以用作撤离扩展，以改善任何给定的基于自我训练的UDA方法。代码可从https://github.com/brdav/refign获得。
translated by 谷歌翻译
对大脑的电子显微镜（EM）体积的精确分割对于表征细胞或细胞器水平的神经元结构至关重要。尽管有监督的深度学习方法在过去几年中导致了该方向的重大突破，但它们通常需要大量的带注释的数据才能接受培训，并且在类似的实验和成像条件下获得的其他数据上的表现不佳。这是一个称为域适应的问题，因为从样本分布（或源域）中学到的模型难以维持其对从不同分布或目标域提取的样品的性能。在这项工作中，我们解决了基于深度学习的域适应性的复杂案例，以跨不同组织和物种的EM数据集进行线粒体分割。我们提出了三种无监督的域适应策略，以根据（1）两个域之间的最新样式转移来改善目标域中的线粒体分割； （2）使用未标记的源和目标图像预先培训模型的自我监督学习，然后仅用源标签进行微调； （3）具有标记和未标记图像的端到端训练的多任务神经网络体系结构。此外，我们提出了基于在源域中仅获得的形态学先验的新训练停止标准。我们使用三个公开可用的EM数据集进行了所有可能的跨数据库实验。我们评估了目标数据集预测的线粒体语义标签的拟议策略。此处介绍的方法优于基线方法，并与最新的状态相比。在没有验证标签的情况下，监视我们提出的基于形态的度量是停止训练过程并在平均最佳模型中选择的直观有效的方法。
translated by 谷歌翻译
不仅可以从大气数据中发现模式和见解，可以实现更准确的天气预报，但它也可以提供有价值的信息来帮助解决气候变化。Weather4cast是一种开放式竞争，旨在评估机器学习算法的能力，以预测未来的大气状态。在这里，我们将我们的第三次解决方案描述为Weather4cast。我们提出了一种新颖的改变U-Net，它结合了变形的AutoEncoder的能力，以考虑数据的概率性质，以u-net恢复细粒细节的能力。该解决方案是我们的第四次解决方案与许多常见的传播420的第四种解决方案的演变，表明其适用于巨大不同的域，例如天气和交通。
translated by 谷歌翻译
In this technical report, we present our solutions to the Traffic4cast 2022 core challenge and extended challenge. In this competition, the participants are required to predict the traffic states for the future 15-minute based on the vehicle counter data in the previous hour. Compared to other competitions in the same series, this year focuses on the prediction of different data sources and sparse vertex-to-edge generalization. To address these issues, we introduce the Transposed Variational Auto-encoder (TVAE) model to reconstruct the missing data and Graph Attention Networks (GAT) to strengthen the correlations between learned representations. We further apply feature selection to learn traffic patterns from diverse but easily available data. Our solutions have ranked first in both challenges on the final leaderboard. The source code is available at \url{https://github.com/Daftstone/Traffic4cast}
translated by 谷歌翻译
天气预报在人类日常生活的多个方面起着重要作用。目前，基于物理的数值天气预报用于预测天气，并且需要大量的计算资源。近年来，基于深度学习的模型在许多天气预报相关任务中都有广泛的成功。在本文中，我们描述了我们的天气421攻击的实验，其中基于初始时空数据的初始一小时来预测8小时的时空天气数据。我们专注于SMAAT-UNET，一个高效的U-Net基于AutoEncoder。通过这种型号，我们可以获得优异的结果，同时保持低计算资源。此外，在纸张结束时讨论了几种方法和可能的未来工作。
translated by 谷歌翻译
医学成像深度学习模型通常是大而复杂的，需要专门的硬件来训练和评估这些模型。为了解决此类问题，我们提出了PocketNet范式，以减少深度学习模型的规模，通过促进卷积神经网络中的渠道数量的增长。我们证明，对于一系列的分割和分类任务，PocketNet架构产生的结果与常规神经网络相当，同时将参数数量减少多个数量级，最多使用90％的GPU记忆，并加快训练时间的加快。高达40％，从而允许在资源约束设置中培训和部署此类模型。
translated by 谷歌翻译
通过卫星摄像机获取关于地球表面的大面积的信息使我们能够看到远远超过我们在地面上看到的更多。这有助于我们在检测和监测土地使用模式，大气条件，森林覆盖和许多非上市方面的地区的物理特征。所获得的图像不仅跟踪连续的自然现象，而且对解决严重森林砍伐的全球挑战也至关重要。其中亚马逊盆地每年占最大份额。适当的数据分析将有助于利用可持续健康的氛围来限制对生态系统和生物多样性的不利影响。本报告旨在通过不同的机器学习和优越的深度学习模型用大气和各种陆地覆盖或土地使用亚马逊雨林的卫星图像芯片。评估是基于F2度量完成的，而用于损耗函数，我们都有S形跨熵以及Softmax交叉熵。在使用预先训练的ImageNet架构中仅提取功能之后，图像被间接馈送到机器学习分类器。鉴于深度学习模型，通过传输学习使用微调Imagenet预训练模型的集合。到目前为止，我们的最佳分数与F2度量为0.927。
translated by 谷歌翻译
我们分享了我们最近的发现，以试图培训通用分割网络的各种细胞类型和成像方式。我们的方法建立在广义的U-NET体系结构上，该体系结构允许单独评估每个组件。我们修改了传统的二进制培训目标，以包括三个类以进行直接实例细分。进行了有关培训方案，培训设置，网络骨架和各个模块的详细实验。我们提出的培训方案依次从每个数据集中吸取小匹配，并且在优化步骤之前积累了梯度。我们发现，培训通用网络的关键是所有数据集上的历史监督，并且有必要以公正的方式对每个数据集进行采样。我们的实验还表明，可能存在共同的特征来定义细胞类型和成像方式的细胞边界，这可以允许应用训练有素的模型完全看不见的数据集。一些培训技巧可以进一步提高细分性能，包括交叉渗透损失功能中的班级权重，精心设计的学习率调度程序，较大的图像作物以进行上下文信息以及不平衡类别的其他损失条款。我们还发现，由于它们更可靠的统计估计和更高的语义理解，分割性能可以受益于组规范化层和缺陷的空间金字塔池模块。我们参与了在IEEE国际生物医学成像研讨会（ISBI）2021举行的第六个细胞跟踪挑战（CTC）。我们的方法被评估为在主要曲目的初始提交期间，作为最佳亚军，并在额外的竞争中获得了第三名，以准备摘要出版物。
translated by 谷歌翻译
交通场景边缘壳体的语义分割的鲁棒性是智能运输安全的重要因素。然而，交通事故的大多数关键场景都是非常动态和以前看不见的，这严重损害了语义分割方法的性能。另外，在高速驾驶期间传统相机的延迟将进一步降低时间尺寸中的上下文信息。因此，我们建议从基于事件的数据提取动态上下文，以更高的时间分辨率来增强静态RGB图像，即使对于来自运动模糊，碰撞，变形，翻转等的流量事故而言，此外，为评估分割交通事故中的性能，我们提供了一个像素 - 明智的注释事故数据集，即Dada-Seg，其中包含来自交通事故的各种临界情景。我们的实验表明，基于事件的数据可以通过在事故中保留快速移动的前景（碰撞物体）的微粒运动来提供互补信息以在不利条件下稳定语义分割。我们的方法在拟议的事故数据集中实现了+ 8.2％的性能增益，超过了20多种最先进的语义细分方法。已经证明该提案对于在多个源数据库中学到的模型，包括CityScapes，Kitti-360，BDD和Apolloscape的模型始终如一。
translated by 谷歌翻译
尽管有持续的改进，但降水预测仍然没有其他气象变量的准确和可靠。造成这种情况的一个主要因素是，几个影响降水分布和强度的关键过程出现在全球天气模型的解决规模以下。计算机视觉社区已经证明了生成的对抗网络（GAN）在超分辨率问题上取得了成功，即学习为粗图像添加精细的结构。 Leinonen等。 （2020年）先前使用GAN来产生重建的高分辨率大气场的集合，并给定较粗糙的输入数据。在本文中，我们证明了这种方法可以扩展到更具挑战性的问题，即通过使用高分辨率雷达测量值作为“地面真相”来提高天气预报模型中相对低分辨率输入的准确性和分辨率。神经网络必须学会添加分辨率和结构，同时考虑不可忽略的预测错误。我们表明，甘斯和vae-gan可以在创建高分辨率的空间相干降水图的同时，可以匹配最新的后处理方法的统计特性。我们的模型比较比较与像素和合并的CRP分数，功率谱信息和等级直方图（用于评估校准）的最佳现有缩减方法。我们测试了我们的模型，并表明它们在各种场景中的表现，包括大雨。
translated by 谷歌翻译