[Study]Chpater 9. Theory of Graph Neural Networks
해당 내용은 개인적으로 정리한 내용임으로 틀린 부분이 있을 수 있습니다. 이번 강의에서는 GNN의 표현력에 대해서 이야기 합니다. I. theory of GNNs 많은 GNN 모델(GCN, GAT, GraphSAGE, desing space 등)들이 제안되었는데, 각 모델들의 표현력(다른 그래프 구조를 구별하는 능력)은 어떻게 될까요? ...
해당 내용은 개인적으로 정리한 내용임으로 틀린 부분이 있을 수 있습니다. 이번 강의에서는 GNN의 표현력에 대해서 이야기 합니다. I. theory of GNNs 많은 GNN 모델(GCN, GAT, GraphSAGE, desing space 등)들이 제안되었는데, 각 모델들의 표현력(다른 그래프 구조를 구별하는 능력)은 어떻게 될까요? ...
해당 내용은 개인적으로 정리한 내용임으로 틀린 부분이 있을 수 있습니다. 이전 강의에서 GNN을 구성하는 방법과 표현력을 강화하는 방법을 배웠고, 이제 다음으로는 GNN을 학습시키는 방법을 이번 강의에서 다루었습니다. I. Prediction with GNNs Figure 1 : Task에 따른 prediction heads 입력 그...
해당 내용은 개인적으로 정리한 내용임으로 틀린 부분이 있을 수 있습니다. I. A Single Layer of a GNN [\text{GNN layer = Message + Aggregation}] GNN layer는 벡터들의 집합을 하나의 벡터로 압축하는 것으로 아래와 같이 두 가지 절차로 이루어져있다. 1. messa...
해당 내용은 개인적으로 정리한 내용임으로 틀린 부분이 있을 수 있습니다. 이제부터 본격적으로 Graph Neural Network에 대한 내용을 다룬다. I. Graph Neural Networks Figure 1 : 노드를 d 차원의 임베딩 공간으로 그래프에서의 유사도를 지닌 채로 매핑. [ENC(v) = \begin{array}{...
해당 내용은 개인적으로 정리한 내용임으로 틀린 부분이 있을 수 있습니다. I. Message Passing and Node Classification 그래프에서 노드에 label이 부분적으로 할당되어있으면 다른 노드들은 label을 어떻게 할당해야하는가? Fugyre 5-1 : 좌측 그림과 같이 label이 지정된 몇몇의 노드가 주어졌...
해당 내용은 개인적으로 정리한 내용임으로 틀린 부분이 있을 수 있습니다. 해당 강의에서는 행렬관점에서의 그래프 분석과 학습을 소개합니다. I. Graph as Matrix Web은 방향 그래프로 초기에는 탐색을 위한 것이었으나 오늘날에는 너무 많은 link가 생성되면서 중요하지 않은 link도 많이 생성되었습니다. 1. Link ...
해당 내용은 개인적으로 정리한 내용임으로 틀린 부분이 있을 수 있습니다. 앞선 강의로 그래프의 각 Level에서의 특징을 알아보았다면 해당 챕터에서 그래프의 노드를 임베딩 공간으로 맵핑하는 임베딩에 대해 이야기 합니다. I. Node Embeddings 그래프 표현 학습은 매번 feature engineering을 하는 것을 완화\(_{...
해당 내용은 개인적으로 정리한 내용임으로 틀린 부분이 있을 수 있습니다. 앞선 포스트에서 Graph를 사용하는 이유와 표현하는 방법을 배웠었고, 이번에는 그래프에서 데이터의 특징을 살펴보자. I. Feature Design 효과적인 특징 \(x\)를 사용하는 것이 모델의 성능을 이끌어내는 중요한 key이다. 이전의 전통적인 ML 파이프...
개인적인 정리를 위한 내용으로 해당 도서에서는 다양한 예시를 통해 상세하고 직관적인 이해가 가능합니다. Chapter 1. 소개 해당 도서를 관통하는 주제는 지능적 에이전트로 인공지능이라는 것은 "환경으로부터 지각을 받고 동작을 수행하는 에이전트의 연구"로 정의된다고 한다. 1. 인공지능이란? 인공지능이 과연 무엇이고, 역사적으로 연구자들은...
해당 내용은 개인적으로 정리한 내용임으로 틀린 부분이 있을 수 있습니다. Standford 대학교에서 진행한 온라인 강의 ‘CS224W: Machine Learning with Graphs : Winter 2021’를 수강하며 정리하고자 포스트를 작성하게 되었습니다. I. Why Graphs? Figure 1:many type of g...