발표자 | 김가형 |
---|---|
발표일자 | 2021-04-21 |
저자 | Chaoyang He & Keshav Balasubramanian & Emir Ceyani ∗ |
학회명 | ICLR 2021, MLsys 2021 |
논문지 |
https://arxiv.org/pdf/2104.07145.pdf
댓글 12
-
이지형
2021.04.21 18:54
Federated GNN으로 해결해야하는 문제의 타입을 잘 정의한 논문. 각 타입마다 해결하는 방법이 어떻게 다를지 고민해 볼 필요가 있음. 4가지 타입이외에 추가 타입이 존재할 수 있을까?? -
조제현
2021.04.21 18:59
Non-iid 데이터를 정의하는 방식을 연구별로 정의한 점이 인상깊었습니다. 설명되어있는 non-iid 데이터를 정의하는 방식 중 sort and partition 방법으로 실험을 주로 해봤는데 dirichlet distribution으로 구성했을때 어떤 양상을 보일지 여러 기존 방법들에 대한 실험이 있었으면 더 좋았을 것 같습니다. -
김가형
2021.04.28 17:31
저도 이 논문에서 이 부분이 가장 흥미로웠습니다. Non-iid 나눌 때 기존 방법과 LDA 방법을 사용했을 때의 장단점이나 성능비교에 대해 제현님이 연구해주시면 너무 좋을 것 같습니다. :) -
김호승
2021.04.21 19:16
Baseline을 구성하였다고 주장하는 만큼 가장 기초가 되는 내용이 아닐까 생각되었습니다.
문득 든 생각이지만 하이퍼 그래프 형태일 때도 포함되면 더 재미있는 연구가 되지 않을까 생각하였습니다. -
신재민
2021.04.21 19:34
좋은 내용 잘 들었습니다.
문제 유형에서 B-type과 C-type이 비슷한 것 같습니다.
두 가지 모두 특정 노드 이하의 노드 끼리는 서로 연결되지 않는 것으로 이해했습니다.
중요 노드가 어디냐의 차이가 있는 것인가요?
추가 설명 부탁드립니다. -
김가형
2021.04.28 17:36
제가 이해한 바로는 B type은 그래프 1개가 client 갯수 n로 나눠져 있는 상황이라고 이해했습니다. 그래서 Client 하나는 1/n개 만큼씩의 graph 데이터를 가지고 있는 상황이지요. C-type은 client하나가 node하나로, client들끼리의 관계를 edge로 나타낸 커다란 network 상황이라고 이해했습니다. -
김누리
2021.04.21 19:59
Federated GNN 에 대한 전반적인 이해를 하는데 도움이 되었습니다. -
jinsuby
2021.04.21 20:30
Federated GNN 분야에 대해서 알 수 있어서 좋았습니다. 발표 잘들었습니다. -
채경훈
2021.04.27 18:15
Federated Learning 에 대해서 기준이 정립되고 라이브러리를 만들고 있다는 사실이 흥미로웠습니다. 여러 그래프 타입에 대한 정의를 내리는 시도를 흥미롭게 들었습니다.
IID 를 통해 prior 분포 파라미터와 α 를 통해 클래스 분포를 정의 내리고, Measuring 을 하려는 부분 또한 굉장히 흥미로웠습니다. -
임지영
2021.04.28 17:28
막연하게 그래프 데이터로 federated learning으로 한다고만 생각하고 있었는데 좀 더 다양한 적용 방법을 알게 되어서 문제를 좀 더 명확하게 할 수 있을 것 같았습니다. 발표 잘 들었습니다. 감사합니다. :) -
윤수현
2021.04.28 17:42
Federated Learning GNN 관련 다양한 논문들이 발표되고 있는데 여러 기법들과 non-iid상황을 정리한 것으로도 의미있었다고 생각합니다. 좋은 발표 감사합니다. -
강용훈
2021.08.20 13:37
Federated Learning에서 GNN을 사용한 흥미로운 논문이였습니다. Non-IID 상황을 정리한 것도 의미 있었다고 생각합니다. 발표 감사합니다!
2022
FedBABU: Toward Enhanced Representation for Federated Image Classification
2022.03.04
발표자: 홍만수
발표일자: 2022-03-04
저자: Jaehoon Oh, Sangmook Kim, Se-Young Yun
학회명: ICLR 2022
Deep Learning for Symbolic Mathematics
2022.02.22
발표자: 고설준
발표일자: 2022-02-22
저자: Guillaume Lample, François Charton
학회명: ICLR2020
Semi-Supervised Learning of Visual Features by Non-Parametrically Predicting View Assignments with Support Samples
2022.02.22
발표자: 김유성
발표일자: 2022-02-22
저자: Mahmoud Assran et al.
학회명: ICCV 2021
Boosting the Performance of Semi-Supervised Learning with Unsupervised Clustering
2022.02.22
발표자: 김누리
발표일자: 2022-02-22
저자: Lerner, Boaz, Guy Shiran, and Daphna Weinshall
학회명: arXiv preprint arXiv:2012.00504 (2020)
Universal Domain Adaptation through Self-Supervision
2022.02.22
발표자: 이진섭
발표일자: 2022-02-22
저자: Kuniaki Saito , Donghyun Kim, Stan Sclaroff, Kate Saenko
학회명: NIPS 2020
GPipe: Easy Scaling with Micro-Batch Pipeline Parallelism
2022.02.22
발표자: 조영성
발표일자: 2022-02-22
저자: Yanping Huang, Youlong Cheng, Ankur Bapna, Orhan Firat, Mia Xu Chen, Dehao Chen, HyoukJoong Lee, Jiquan Ngiam, Quoc V. Le, Yonghui Wu, Zhifeng Chen
논문지: https://arxiv.org/abs/1811.06965
Dual Attention Transfer in Session-based Recommendation with Multi-dimensional Integration
2022.02.15
발표자: 양희윤
발표일자: 2022-02-15
저자: Chen Chen, Jie Guo, Bin Song
학회명: ACM SIGIR 2021
Contrastive Code Representation Learning
2022.02.15
발표자: 최윤석
발표일자: 2022-02-15
저자: Paras Jain, Ajay Jain, Tianjun Zhang, Pieter Abbeel, Joseph E. Gonzalez, Ion Stoica
학회명: EMNLP 2021
Do transformers really perform bad for graph representation?
2022.02.15
발표자: 김가형
발표일자: 2022-02-15
저자: Chengxuan Ying, Tianle Cai, Shengjie Luo, Shuxin Zheng, Guolin Ke, Di He, Yanming Shen, Tie-Yan Liu
학회명: NeurIPS 2021
AUM: Identifying Mislabeled Data using the Area Under the Margin Ranking
2022.01.16
발표자: 강석규
발표일자: 2022-01-18
저자: Geoff Pleiss, Tianyi Zhang, Ethan R. Elenberg, Kilian Q. Weinberger
학회명: NIPS2022
Collaborative Unsupervised Visual Representation Learning from Decentralized Data
2022.01.18
발표자: 강용훈
발표일자: 2022-01-18
저자: Weiming Zhuang, Xin Gan , Yonggang Wen , Shuai Zhang , Shuai Yi
학회명: ICCV 2021
Can We Gain More from Orthogonality Regularizations in Training Deep CNNs?
2022.01.18
발표자: 안재한
발표일자: 2022-01-18
저자: Nitin Bansal, Xiaohan Chen, Zhangyang Wang
학회명: NeurIPS 2018
Federated Semi-supervised Learning with Inter-client Consistency & Disjoint Learning
2022.01.10
발표자: 홍만수
발표일자: 2022-01-11
저자: Wonyong Jeong, Jaehong Yoon, Eunho Yang, Sung Ju Hwang
학회명: ICLR 2021
CutPaste: Self-Supervised Learning for Anomaly Detection and Localization
2022.01.11
발표자: 박은미
발표일자: 2022-01-11
저자: Chun-Liang Li
논문지: CVPR2021
MUTUAL INFORMATION STATE INTRINSIC CONTROL
2022.01.11
발표자: 길창배
발표일자: 2022-01-11
저자: Rui Zhao, Yang Gao, Pieter Abbeel, Volker Tresp, Wei Xu
학회명: ICLR 2021
Asynchronous Methods for Deep Reinforcement Learning (A3C)
2022.01.11
발표자: 채경훈
발표일자: 2022-01-11
저자: Volodymyr Mnih, Adrià Puigdomènech Badia, Mehdi Mirza, Alex Graves, Tim Harley, Timothy P. Lillicrap, David Silver, Koray Kavukcuoglu
학회명: ICML-2016
2021
Directional Graph Networks
2021.12.28
발표자: 신재민
발표일자: 2022-01-04
저자: Dominique Beaini, Saro Passaro
학회명: ICML 2021
Anomaly detection in multidimensional time series - a graph-based approach
2021.12.28
발표자: 신효정
발표일자: 2022-01-04
저자: Marcus Erz, Jeremy Floyd Kielman, Bahar Selvi Uzun and Gabriele Stefanie Gühring
논문지: Journal of Physics: Complexity 2021
GETAM: Gradient-weighted Element-wise Transformer Attention Map for Weakly-supervised Semantic segmentation
2022.01.04
발표자: 윤수현
발표일자: 2022-01-04
저자: Weixuan Sun, Jing Zhang, Zheyuan Liu, Yiran Zhong, Nick Barnes
학회명: arXiv 2021
SimCSE: Simple Contrastive Learning of Sentence Embeddings
2021.12.20
발표자: 김호승
발표일자: 2021-12-21
저자: Tianyu Gao, Xingcheng Yao, Danqi Chen
학회명: EMNLP2021