발표자 | 김가형 |
---|---|
발표일자 | 2021-04-21 |
저자 | Chaoyang He & Keshav Balasubramanian & Emir Ceyani ∗ |
학회명 | ICLR 2021, MLsys 2021 |
논문지 |
https://arxiv.org/pdf/2104.07145.pdf
댓글 12
-
이지형
2021.04.21 18:54
Federated GNN으로 해결해야하는 문제의 타입을 잘 정의한 논문. 각 타입마다 해결하는 방법이 어떻게 다를지 고민해 볼 필요가 있음. 4가지 타입이외에 추가 타입이 존재할 수 있을까?? -
조제현
2021.04.21 18:59
Non-iid 데이터를 정의하는 방식을 연구별로 정의한 점이 인상깊었습니다. 설명되어있는 non-iid 데이터를 정의하는 방식 중 sort and partition 방법으로 실험을 주로 해봤는데 dirichlet distribution으로 구성했을때 어떤 양상을 보일지 여러 기존 방법들에 대한 실험이 있었으면 더 좋았을 것 같습니다. -
김가형
2021.04.28 17:31
저도 이 논문에서 이 부분이 가장 흥미로웠습니다. Non-iid 나눌 때 기존 방법과 LDA 방법을 사용했을 때의 장단점이나 성능비교에 대해 제현님이 연구해주시면 너무 좋을 것 같습니다. :) -
김호승
2021.04.21 19:16
Baseline을 구성하였다고 주장하는 만큼 가장 기초가 되는 내용이 아닐까 생각되었습니다.
문득 든 생각이지만 하이퍼 그래프 형태일 때도 포함되면 더 재미있는 연구가 되지 않을까 생각하였습니다. -
신재민
2021.04.21 19:34
좋은 내용 잘 들었습니다.
문제 유형에서 B-type과 C-type이 비슷한 것 같습니다.
두 가지 모두 특정 노드 이하의 노드 끼리는 서로 연결되지 않는 것으로 이해했습니다.
중요 노드가 어디냐의 차이가 있는 것인가요?
추가 설명 부탁드립니다. -
김가형
2021.04.28 17:36
제가 이해한 바로는 B type은 그래프 1개가 client 갯수 n로 나눠져 있는 상황이라고 이해했습니다. 그래서 Client 하나는 1/n개 만큼씩의 graph 데이터를 가지고 있는 상황이지요. C-type은 client하나가 node하나로, client들끼리의 관계를 edge로 나타낸 커다란 network 상황이라고 이해했습니다. -
김누리
2021.04.21 19:59
Federated GNN 에 대한 전반적인 이해를 하는데 도움이 되었습니다. -
jinsuby
2021.04.21 20:30
Federated GNN 분야에 대해서 알 수 있어서 좋았습니다. 발표 잘들었습니다. -
채경훈
2021.04.27 18:15
Federated Learning 에 대해서 기준이 정립되고 라이브러리를 만들고 있다는 사실이 흥미로웠습니다. 여러 그래프 타입에 대한 정의를 내리는 시도를 흥미롭게 들었습니다.
IID 를 통해 prior 분포 파라미터와 α 를 통해 클래스 분포를 정의 내리고, Measuring 을 하려는 부분 또한 굉장히 흥미로웠습니다. -
임지영
2021.04.28 17:28
막연하게 그래프 데이터로 federated learning으로 한다고만 생각하고 있었는데 좀 더 다양한 적용 방법을 알게 되어서 문제를 좀 더 명확하게 할 수 있을 것 같았습니다. 발표 잘 들었습니다. 감사합니다. :) -
윤수현
2021.04.28 17:42
Federated Learning GNN 관련 다양한 논문들이 발표되고 있는데 여러 기법들과 non-iid상황을 정리한 것으로도 의미있었다고 생각합니다. 좋은 발표 감사합니다. -
강용훈
2021.08.20 13:37
Federated Learning에서 GNN을 사용한 흥미로운 논문이였습니다. Non-IID 상황을 정리한 것도 의미 있었다고 생각합니다. 발표 감사합니다!
2021
STRUCTURED PREDICTION AS TRANSLATION BETWEEN AUGMENTED NATURAL LANGUAGES
2021.08.04
발표자: 김호승
발표일자: 2021-08-04
저자: Giovanni Paolini, Ben Athiwaratkun, Jason Krone, Jie Ma, Alessandro Achille, RISHITA ANUBHAI, Cicero Nogueira dos Santos, Bing Xiang, Stefano Soatto, Amazon Web Services
학회명: ICLR2021

Improved Representation Learning for Session-based Recommendation
2021.08.04
발표자: 양희윤
발표일자: 2021-08-04
저자: Sai Mitheran, Abhinav Java, Surya Kant Sahu, Arshad Shaikh
학회명: arXiv 2021

USAD: UnSupervised Anomaly Detection on Multivariate Time Series
2021.08.04
발표자: 신효정
발표일자: 2021-08-04
저자: Julien Audibert , Pietro Michiardi, Frédéric Guyard, Sébastien Marti, Maria A Zuluaga
학회명: KDD '20

Retrieval-Augmented Generation for Code Summarization Via Hybrid GNN
2021.08.04
발표자: 최윤석
발표일자: 2021-08-04
저자: Shangqing Liu, Yu Chen, Xiaofei Xie, Jingkai Siow, Yang Liu
학회명: ICLR 2021

Alleviating Cold Start Problems in Recommendation through pseudo labelling over knowledge graph
2021.08.04
발표자: 김가형
발표일자: 2021-08-04
저자: Riku Togashi, Mayu Otani, Shin'ichi Satoh
학회명: WSDM 2021
Unified Pre-training for Program Understanding and Generation (PLBART)
2021.08.04
발표자: 김사무엘
발표일자: 2021-08-04
저자: Wasi Uddin Ahmad, Saikat Chakraborty, Baishakhi Ray, Kai-Wei Chang
학회명: NAACL 2021

about confidence calibration
2021.07.29
발표자: 강석규
발표일자: 2021-07-29
저자: Chuan Guo, Geoff Pleiss, Yu Sun, Kilian Q. Weinberger
학회명: ICLR2017

Data-Free Knowledge Distillation for Heterogeneous Federated Learning
2021.07.29
발표자: 임지영
발표일자: 2021-07-29
저자: Zhuangdi Zhu
학회명: ICML 2021

CSI: Novelty Detection via Contrastive Learning on Distributionally Shifted Instances
2021.07.29
발표자: 강용훈
발표일자: 2021-07-29
저자: JiHoon Tack, Sangwoo Mo, Jongheon Jeong, Jinwoo Shin
학회명: NIPS 2020
Bayesian Deep Learning and a Probabilistic Perspective of Generalization
2021.07.21
발표자: 박은미
발표일자: 2021-07-21
저자: Adrew Golden wilson
학회명: NeurIPS_2020

CondenseNet V2: Sparse Feature Reactivation for Deep Networks
2021.07.21
발표자: 홍만수
발표일자: 2021-07-21
저자: Le Yang, Haojun Jiang, Ruojin Cai, Yulin Wang, Shiji Song, Gao Huang, Qi Tain
학회명: CVPR 2021
SSD : A Unified Framework for Self-Supervised Outlier Detection
2021.07.21
발표자: 노순철
발표일자: 2021-07-21
저자: Vikash Sehwag, Mung Chiang, Prateek Mittal
학회명: ICLR2021

Focal Self-attention for Local-Global Interactions in Vision Transformers
2021.07.21
발표자: 윤수현
발표일자: 2021-07-21
저자: Jianwei Yang, Chunyuan Li, Pengchuan Zhang, Xiyang Dai, Bin Xiao, Lu Yuan, Jianfeng Gao
학회명: arXiv 2021

The Secret Sharer: Evaluating and Testing Unintended Memorization in Neural Networks
2021.07.14
발표자: 조영성
발표일자: 2021-07-14
저자: Nicholas Carlini 외
학회명: USENIX Security Symposium 2019

CAT-Gen: Improving Robustness in NLP Models via Controlled Adversarial Text Generation
2021.07.14
발표자: 나철원
발표일자: 2021-07-14
저자: Tianlu Wang , Xuezhi Wang, Yao Qin, Ben Packer, Kang Lee, Jilin Chen, Alex Beutel, Ed Chi
학회명: EMNLP 2020

NEVER GIVE UP: LEARNING DIRECTED EXPLORATION STRATEGIES
2021.07.14
발표자: 채경훈
발표일자: 2021-07-14
저자: Adrià Puigdomènech Badia∗ Pablo Sprechmann∗ Alex Vitvitskyi Daniel Guo Bilal Piot Steven Kapturowski Olivier Tieleman Martín Arjovsky Alexander Pritzel Andew Bolt Charles Blundell
학회명: ICLR

Consistency-based Semi-supervised Learning for Object Detection
2021.06.30
발표자: 김유성
발표일자: 2021-06-30
저자: Jisoo Jeong, Seungeui Lee, Jeesoo Kim, Nojun Kwak
학회명: NeurIPS 2019

FixBi : Bridging Domain Spaces for Unusupervised Domain Adaptation
2021.06.30
발표자: 이진섭
발표일자: 2021-06-30
저자: Jaemin Na , Heechul Jung , Hyung Jin Chang , and Wonjun Hwang
학회명: CVPR 2021

LEWIS: Levenshtein Editing for Unsupervised Text Style Transfer
2021.06.30
발표자: Eden
발표일자: 2021-06-30
저자: Machel Reid, Victor Zhong
학회명: ACL-IJCNLP 2021 (Findings)

MINILM: Deep Self-Attention Distillation for Task-Agnostic Compression of Pre-Trained Transformers
2021.06.30
발표자: 신재민
발표일자: 2021-06-30
저자: Wenhui Wang, Furu Wei, Li Dong, Hangbo Bao, Nan Yang, Ming Zhou
학회명: NeurIPS 2020