Week 10 - 01 - LectureGraphCast视图:倍速:

空格=播放/暂停当前页 · Tab=切换 简短/详细/深入 · 红色「深入」为重点页的深度讲解

第 1 / 39 页

这一页讲的是关于 Graph Cast 和图神经网络(GNNs)的课程内容,重点是 AI 在可持续发展中的应用。

第 2 / 39 页

这一页讲的是致谢内容,列出了本次课程的参考来源,包括 AI 可持续性、深度学习书籍和斯坦福课程。

第 3 / 39 页

这一页讲的是学习目标,涵盖了人工智能与可持续性、图神经网络(GNNs)的原理及应用。

第 4 / 39 页

这一页讲的是 AI for Social Impact 的概念及其发展趋势。重点包括人工智能用于解决社会问题的潜力,以及推动可持续发展目标的必要性。

第 5 / 39 页

这一页讲的是人工智能的益处与风险平衡。重点提到 AI 的能耗问题可能加剧环境退化,并预测到 2027 年 AI 行业的能耗可能达到荷兰国家的水平。

第 6 / 39 页

这一页讲的是机器学习 (ML) 的碳排放研究及优化方法,包括降低成本、能耗和碳足迹的“4Ms”框架:Model、Machine、Mechanization 和 Map。

第 7 / 39 页

这一页讲的是 AI 与可持续性之间的关系,包括两个核心概念:AI for Sustainability 和 Sustainability of AI。

第 8 / 39 页

这一页讲的是人工智能与可持续性之间的关系,包括两个主要主题:人工智能如何促进可持续发展(AI for Sustainability)和人工智能自身的可持续性(Sustainability of AI)。

第 9 / 39 页

这一页讲的是 GraphCast 案例研究,展示 AI 在天气预测中的应用。主要内容包括使用深度学习替代传统的数值天气预测(NWP),与 NWP 数据协作填补空白,以及生成更快、更准确的10天预测。

第 10 / 39 页

这一页讲的是 GraphCast 的图神经网络架构及其基于历史数据的学习。重点包括图结构在大气过程建模中的应用,以及利用 ERA5 数据进行中长期天气预测的效果。

第 11 / 39 页

这一页讲的是 GraphCast 模型用于全球中期天气预测的流程。主要包括输入天气状态、预测下一状态以及滚动生成预测结果。

第 12 / 39 页

这一页讲的是 Graphs 和 GNNs 的内容来源和致谢,引用了两本权威资源。

第 13 / 39 页

这一页讲的是图 (graph) 的定义和基本结构,包括节点 (nodes) 和边 (edges),以及图通常是稀疏结构。

第 14 / 39 页

这一页讲的是现实生活中图(graph)的应用示例,包括道路网络、分子结构和电路图。强调许多数据可以被结构化为图,即使它们的形式并不显而易见。

第 15 / 39 页

这一页讲的是现实世界中图结构的应用。主要例子包括社交网络、科学文献、维基百科等,展示如何用节点和边表示数据关系。

第 16 / 39 页

这一页讲的是图的类型,包括无向图/有向图、异构图/同构图、单图/多图,以及知识图谱、几何图和层次图等。

第 17 / 39 页

这一页讲的是图(Graph)的表示方法,包括节点和边的嵌入,以及邻接矩阵的定义和作用。

第 18 / 39 页

这一页讲的是图像如何被表示为图 (Graphs),包括像素矩阵、邻接矩阵和图结构。

第 19 / 39 页

这一页讲的是邻接矩阵 (Adjacency Matrix) 在图中作为上下文的作用。邻接矩阵 A 编码了图中节点间步长为 1 的路径频率,A 的高次幂表示步长为 L 的路径频率。通过矩阵与节点表示相乘,可以得到节点与邻居节点的关系信息。

第 20 / 39 页

这一页讲的是节点索引的排列对图结构的影响。重点包括:节点索引是任意的,改变索引不会影响图的本质;图处理应对索引排列不敏感,否则结果会依赖索引选择。

第 21 / 39 页

这一页讲的是图神经网络(Graph Neural Networks, GNNs)的基本概念和应用。主要内容包括GNN的核心思想是通过节点间的信息传递来聚合和优化图的特征,同时保持图的对称性(Permutation Invariances)。

第 22 / 39 页

这一页讲的是图神经网络 (GNNs) 的基本原理,包括输入、节点嵌入更新和隐藏层的作用。

第 23 / 39 页

这一页讲的是图神经网络 (Graph Neural Networks, GNNs) 的三种主要任务:图分类、节点分类和边预测。图分类通过合并节点嵌入来预测图的类别;节点分类根据节点嵌入预测节点类别;边预测通过邻接节点嵌入判断边是否存在。

第 24 / 39 页

这一页讲的是 Permutation Invariance(排列不变性),重点是函数 f 的输出对于输入节点顺序的排列保持不变。

第 25 / 39 页

这一页讲的是 Permutation equivariance,重点是节点嵌入函数在不同节点排列下保持不变性,以及图中展示了两种排列的对比。

第 26 / 39 页

这一页讲的是 Permutation Equivariance(置换等变性)。重点在于节点顺序改变时,输出嵌入保持一致性,以及公式的数学定义。

第 27 / 39 页

这一页讲的是图神经网络(GNNs)的排列不变性与等变性。主要讨论了它们如何处理图结构数据,保持特定的数学性质。

第 28 / 39 页

这一页讲的是经典 MLP 是否适用于图结构数据的问题。主要指出 MLP 不具备排列不变性,输入顺序变化会导致输出不同,因此需要专门的架构设计。

第 29 / 39 页

这一页讲的是Graph Convolutional Networks (GCNs)。GCN是一种图神经网络(GNN),通过聚合邻居节点的信息更新目标节点。它强调关系归纳偏差(relational inductive bias),优先处理邻居信息。

第 30 / 39 页

这一页讲的是简单图卷积网络(Simple GCN)的层结构和公式。主要内容包括节点嵌入的更新公式、邻居节点信息的聚合过程,以及图示展示了不同层的计算步骤。

第 31 / 39 页

这一页讲的是简单图卷积网络(Simple GCN)的层结构与公式。主要包括节点的隐藏表示更新公式、邻居节点的聚合函数(aggregation function),以及图示展示了公式的应用过程。

第 32 / 39 页

这一页讲的是 Simple GCN layer 的公式和工作原理。主要内容包括公式的组成部分、节点嵌入的更新过程,以及邻居节点的聚合方法。

第 33 / 39 页

这一页讲的是简单图卷积网络(Simple GCN)的单层结构与公式。主要内容包括公式的组成部分、参数的含义,以及图中节点嵌入的更新流程。

第 34 / 39 页

这一页讲的是简单 GCN 层的公式和结构。主要内容包括隐藏表示的更新公式、可学习参数的组成,以及节点间共享参数的优点。

第 35 / 39 页

这一页讲的是 Kipf 和 Welling 提出的图卷积网络 (GCN) 层的更新规则,重点包括节点嵌入矩阵、归一化邻接矩阵和非线性激活函数。

第 36 / 39 页

这一页讲的是 GCN 的排列不变性 (Permutation Invariance)。主要内容包括节点嵌入如何保持图级输出不受节点顺序变化的影响,以及邻居嵌入的聚合过程。

第 37 / 39 页

这一页讲的是 GCN 的置换不变性与置换等变性。主要内容包括节点特征与嵌入的对齐关系,以及输入节点顺序变化时输出嵌入的对应变化。

第 38 / 39 页

这一页讲的是 GNN/GCN 的额外学习材料,包括经典论文、综述和课程资源。主要内容包括 GCN 的手动示例、原始论文和全面综述。

第 39 / 39 页

这一页讲的是 AI 与可持续性相关的应用与技术,包括 GraphCast、图结构和图神经网络的作用。