神经网络

深度学习中已经成为了人工智能领域的必备工具，源于人工神经网络的研究，含多个隐藏层的多层感知器就是一种深度学习结构。寻找隐藏层的权重参数和偏置的过程，就是常说的“学习”过程，其遵循的基本原则就是使得网络...

近年来，图神经网络（GNN）取得了快速、令人难以置信的进展。图神经网络又称为图深度学习、图表征学习（图表示学习）或几何深度学习，是机器学习特别是深度学习领域增长最快的研究课题。本次分享的题目为《GNN...

在电影中，随着女主角 Lucy 脑力的逐渐开发，她获得了以下能力： 10%：能够控制身体的自主神经系统，提高身体协调能力和反应速度。 30%：能够预测未来并预测人们的行动，提高洞察力和判断力。 50...

神经辐射场（NeRF）已经成为一种流行的新视图合成方法。虽然 NeRF 正在快速泛化到更广泛的应用以及数据集中，但直接编辑 NeRF 的建模场景仍然是一个巨大的挑战。一个重要的任务是从 3D 场景中删...

我们在使用卷积神经网络或递归神经网络或其他变体时，通常都希望对模型的架构可以进行可视化的查看，因为这样我们可以 在定义和训练多个模型时，比较不同的层以及它们放置的顺序对结果的影响。还有可以更好地理解模...

图神经网络作为深度学习的一大活跃领域，受到人工智能学家广泛关注。由于可以将图论和深度学习紧密融合在一起，充分利用图上拓扑信息，图神经网络为解决传统深度学习单纯欧氏空间中分析非欧氏空间的对称性和传递性提...

预训练语言模型在各种自然语言处理任务上的惊人表现，引起了人们对其分析的兴趣。Probing 是进行此类分析所采用的最普遍的方法之一。在典型的 probing 研究中，probing 是一个插在中间层的...

迄今，人们对神经网络的一大疑虑是，它是难以解释的黑盒。本文则主要从理论上理解为什么神经网络对模式识别、分类效果这么好，其本质是通过一层层仿射变换和非线性变换把原始输入做扭曲和变形，直至可以非常容易被区...

对人工智能不断增长的需求推动了对基于物理设备的非常规计算的研究。虽然此类计算设备模仿了大脑启发的模拟信息处理，但学习过程仍然依赖于为数字处理优化的方法，例如反向传播，这不适合物理实现。 在这里，来自日...

在《神经网络中常见的激活函数》一文中对激活函数进行了回顾，下图是激活函数的一个子集——,,而在神经网络领域中的另一类重要的函数就是损失函数，那么，什么是损失函数呢？,损失函数是将随机事件或其有关随机变...

作者： 晓江 所贵 李想等 粗排是工业界搜广推系统的重要模块。美团搜索排序团队在优化粗排效果的探索和实践中，基于业务实际场景，从精排联动和效果性能联合优化两方面优化粗排，提升了粗排的效果。 1. 前言...

​大数据文摘出品 作者：Caleb 在线工作正在逐渐正式进入我们的生活。 根据数据公司Emsi Burning Glass统计，2020年初纽约全市16万3000个招聘岗位中，只有6700个允许在线工...

GNN 是近年来非常火的一个领域。最近，一篇 Nature 子刊论文提出了一种用 GNN 解决组合优化问题的方法，并声称该 GNN 优化器的性能与现有的求解器相当，甚至超过了现有的求解器。不过，这篇论...

上世纪九十年代，斯坦福大学的知名生物信息学教授 Rob Tibshirani 曾拟了一个词汇表，将机器学习与统计学中的不同概念作了简单而粗暴的对应关系： 一方面，这个表格为理解机器学习提供了基础的认识...

在领域泛化 (Domain Generalization, DG) 任务中，当领域的分布随环境连续变化时，如何准确地捕捉该变化以及其对模型的影响是非常重要但也极富挑战的问题。为此，来自 Emory 大...

一、解决大图内存/计算问题的三个范式 在两年前做的tutorial里面，我们有介绍过关于大规模神经网络，并且对20年以前的大规模图神经网络的进展有过一些介绍。在那个时候，考虑的是这样三个范式：laye...

AI技术发展迅猛，利用各种先进的AI模型，可以打造聊天机器人、仿人机器人、自动驾驶汽车等。AI已经成为发展最快的技术，而对象检测和物体分类是最近的趋势。 本文将介绍使用卷积神经网络从头开始构建和训练一...

在人工智能时代，如何部署和维护神经网络是产品化的关键问题考虑到节省运算成本，同时尽可能小地损失模型性能，压缩神经网络成为了 DNN 产品化的关键之一。 DNN 压缩通常来说有三种方式，剪枝，知识蒸馏和...

哈喽，大家好。 今天给大家分享AI项目——打架识别。 使用的技术跟我们上次分享的摔倒识别不同，摔倒识别使用的是基于骨骼点的时空卷积神经网络，适用于人体骨骼行为，而这次分享的打架识别使用的是循环神经网络...

现代计算机诞生，如何编译更快、更小的代码问题随之出现。 编译优化是成本收益比最高的优化手段，更好的代码优化可以显著降低大型数据中心应用程序的操作成本。编译代码的大小对于部署在安全引导分区上的移动和嵌入...

参考论文总结“NEURAL VOLUME RENDERING: NERF AND BEYOND“，2021年1月，乔治亚理工和麻省理工的合著。 神经渲染定义为： “一种深度图像或视频生成方法，可显式或...

​ 本文转载自微信公众号「活在信息时代」，作者活在信息时代。转载本文请联系活在信息时代公众号。 卷积神经网络层(Convolutional Neural Network，CNN)是一种特殊的深层前馈网...

面向视觉任务（如图像分类）的深度学习模型，通常用来自单一视觉域（如自然图像或计算机生成的图像）的数据进行端到端的训练。 一般情况下，一个为多个领域完成视觉任务的应用程序需要为每个单独的领域建立多个模...

虽说现代的深度学习早已脱离对「生物神经网络」的模仿，但了解生物大脑的运行机制，对于神经网络模型的未来发展仍然很有帮助。 大脑回路的结构方式影响着大脑的计算能力，但到目前为止，除了在一些非常简单的生物体...