The Role of ‘Sign’ and ‘Direction’ of Gradient on the Performance of CNN

by조영성 2021.05.26 18:59

발표자	조영성
발표일자	2021-05-26
저자	Akshay Agarwal, Richa Singh, Mayank Vatsa
학회명	Conference on Computer Vision and Pattern Recognition Workshops. 2020.
논문지

그림1.png

첨부 [2]

이지형

2021.05.26 20:14

CVPR workshop 논문인데.. 깊이나 내용이 충분하지는 않은 논문

댓글
김가형

2021.06.09 17:24

딥러닝 모델에서 attack이나 defense를 할 때, gradient를 활용하는 방법을 이번 발표를 통해 알게 되었습니다. 생각해보면 학습 할 때 gradient가 중요함을 알고 있었음에도 input 데이터에 noise를 섞는 방법을 대부분이라고 생각했기에 개인적으로 흥미롭게 들었습니다. 좋은 발표 감사합니다.

댓글
김호승

2021.06.09 17:29

먼저 attack기법에 대하여 새로운 방법을 알려주어서 감사합니다. 다양한 adversarial attack에 대하여서도 공부하고 있는데 많은 도움이 되었습니다.

댓글
김사무엘

2021.06.10 14:37

FGSM에서 왜 sign을 쓰는지 생각해볼 수 있게 해주는 논문인듯합니다. infinity norm이 아니라 좀 더 진정한 human perceptibility (인간이 Attack을 알아차릴 수 있는 정도)를 반영하는 term을 쓴다면, sign이 아니라 다른 방식으로 gradient를 처리해야 효율적인 Attack이 가능할 수 있겠다는 생각이 듭니다.

댓글
김누리

2021.08.23 18:33

adversarial example에서 gradient에 대한 이해를 하고자 하는 논문입니다. 다만 이해를 통해 무엇을 얻을 수 있는지 잘 모르겠습니다.. 다시 한번 논문을 확인 해 볼 필요가 있을 것 같습니다.

댓글

2021

How Well Do Self-Supervised Models Transfer

2021.08.18

발표자: 이진섭 발표일자: 2021-08-18 저자: Linus Ericsson¹ , Henry Gouk¹, Timothy M.Hospedales¹ 학회명: CVPR 2021

Object-Centric Learning with Slot Attention

2021.08.18

발표자: 신재민 발표일자: 2021-08-18 저자: Francesco Locatello 학회명: NeurIPS 2020

Out-of-Distribution Detection Using Union of 1-Dimensional Subspaces

2021.08.18

발표자: 안재한 발표일자: 2021-08-18 저자: Alireza Zaeemzadeh, Niccolò Bisagno, Zeno Sambugaro, Nicola Conci, Nazanin Rahnavard, Mubarak Shah 학회명: CVPR 2021

WORD TRANSLATION WITHOUT PARALLEL DATA

2021.08.18

발표자: 고설준 발표일자: 2021-08-18 저자: Alexis Conneau∗ † ‡ , Guillaume Lample∗ † § , Marc’Aurelio Ranzato† , Ludovic Denoyer§ , Herve J ´ egou ´ † 학회명: ICLR 2018

Class-Imbalanced Semi-Supervised Learning

2021.08.11

발표자: 김누리 발표일자: 2021-08-11 저자: Hyun, Minsung, Jisoo Jeong, and Nojun Kwak. 학회명: arXiv preprint arXiv:2002.06815 (2020).

DISTRIBUTED PRIORITIZED EXPERIENCE REPLAY

2021.08.11

발표자: 길창배 발표일자: 2021-08-11

Interactive Self-Training with Mean Teachers for Semi-supervised Object Detection

2021.08.11

발표자: 김유성 발표일자: 2021-08-11 학회명: CVPR 2021

Deep High-Resolution Representation Learning for Human Pose Estimation

2021.08.11

발표자: 배현재 발표일자: 2021-08-11 저자: Ke Sun, Bin Xiao, Dong Liu, Jingdong Wang 학회명: CVPR 2019

Alleviating Cold Start Problems in Recommendation through pseudo labelling over knowledge graph

2021.08.04

발표자: 김가형 발표일자: 2021-08-04 저자: Riku Togashi, Mayu Otani, Shin'ichi Satoh 학회명: WSDM 2021

Retrieval-Augmented Generation for Code Summarization Via Hybrid GNN

2021.08.04

발표자: 최윤석 발표일자: 2021-08-04 저자: Shangqing Liu, Yu Chen, Xiaofei Xie, Jingkai Siow, Yang Liu 학회명: ICLR 2021

USAD: UnSupervised Anomaly Detection on Multivariate Time Series

2021.08.04

발표자: 신효정 발표일자: 2021-08-04 저자: Julien Audibert , Pietro Michiardi, Frédéric Guyard, Sébastien Marti, Maria A Zuluaga 학회명: KDD '20

STRUCTURED PREDICTION AS TRANSLATION BETWEEN AUGMENTED NATURAL LANGUAGES

2021.08.04

발표자: 김호승 발표일자: 2021-08-04 저자: Giovanni Paolini, Ben Athiwaratkun, Jason Krone, Jie Ma, Alessandro Achille, RISHITA ANUBHAI, Cicero Nogueira dos Santos, Bing Xiang, Stefano Soatto, Amazon Web Services 학회명: ICLR2021

Unified Pre-training for Program Understanding and Generation (PLBART)

2021.08.04

발표자: 김사무엘 발표일자: 2021-08-04 저자: Wasi Uddin Ahmad, Saikat Chakraborty, Baishakhi Ray, Kai-Wei Chang 학회명: NAACL 2021