스탠포드 대학 앤드류응 교수 강의를 요약한 블로그 글 https://media-ai.tistory.com/7 참고
<목록>
1. 효과적이고 빠르게 논문 읽는 방법
2. 논문 한 개를 읽는 방법
3. 논문 읽고 난 후 질문들 답해 보기
4. 논문 하나를 읽는데 걸리는 시간은?
5. 논문 보는 곳들
* Reference
1. 효과적이고 빠르게 논문을 읽는 방법
1) 읽을 논문의 목록 정리하기
2) 목록의 논문을 가감하기
- 기본적으로 한번에 한 개 이상의 논문을 보기 때문에 논문 목록 중 자세히 읽어야 할 것과 아닌 것을 취사 선택하기.
- 5~20개의 논문을 읽어봤다 : ML/DL 시스템을 적용할 지식은 갖추었지만 최신의 기술을 이해하기에는 부족함
- 50~100개의 논문을 읽어봤다 : 해당 분야에 대해 자세히 알고 있다.
2. 논문 한 개를 읽는 방법
논문읽기를 시작할 때, 처음부터 끝까지 정독하지 말기.
몇 부분은 생략하고 읽되 다시 여러번 읽기.
1) 논문 제목(Title)과 초록(Abstract), 도표(Figures)를 먼저 보기
- 논문 제목, 초록, 핵심 아키텍쳐 그림설명과 실험연구 부분을 먼저 읽고 나면, 논문의 기본적인 컨셉과 아이디어를 알 수 있다. 특히 딥러닝 계열의 논문은 한 두개의 도표로 여러개의 논문을 정리하기 때문에 처음부터 끝까지 논문 텍스트를 다 읽어볼 필요 없다.
2) 도입(Introduction), 결론(Conclusion), 도표(Figures)를 읽고 필요없는 부분은 생략하기
- 도입과 결론, 초록에는 저자가 논문 리뷰어들에게 왜 자신의 논문이 게재 승인되어야 하는지 명확히 설명하기 위해 신중하게 요약한 내용이 담겨 있다.
- 관련된 다른 연구에 대한 부분은 가능하면 생략하기. (저자의 연구가 다른 사람들의 연구에 비해 얼마나 느낌있는지를 보여주기 위한 내용이기 때문에 해당 논문 분야에 대해 익숙치 않다면 읽어보는 것이 도움되지만 이해하기 어려울 수 있음.)
3) 수식은 과감히 생략하기
4) 이해 안되는 부분은 빼고 전체적으로 읽기
- 해당 논문을 완전히 마스터할게 아니라면 이해 안되는 부분 or 잘 안쓰이는 부분은 처음에 생략해도 좋다.
3. 논문 읽고 난 후 질문들 답해보기
아래 질문에 답할 수 있다면, 그 논문을 제대로 이해하고 있다는 뜻이다.
대부분의 저자들이 비슷한 포맷을 사용하기 때문에 더 많은 논문을 읽어나갈수록 질문에 답하는 태스크는 점점 빨라질 것이다.
Q1) 저자가 뭘 해내고 싶어했는가?
Q2) 이 연구의 접근에서 중요한 요소는 무엇인가?
Q3) 논문 독자는 스스로 이 논문을 이용할 수 있는가?
Q4) 당신이 참고하고 싶은 다른 레퍼런스에는 어떤 것이 있는가?
4. 논문 하나를 읽는데 걸리는 시간은?
사람만다 다르겠지만 상대적으로 쉬운 ML/DL 최신 논문 하나를 이해하는데 들어가는 시간은 1시간 정도이다.
논문을 여러 개 보게 되면 어지러워져 3시간 그 이상이 걸리기도 한다.
5. 논문 보는 곳들
온라인 상에는 논문을 보기 좋은 곳들이 많다.
어떤 분야의 뉴비인 사람들에게 도움이 될 핵심 논문들을 포스팅한 블로그가 있다.
많은 사람들이 the state-of-art of deep learning을 사용하기도 한다.
1) 트위터
놀랍게도 트위터가 연구자들이 새로운 것을 찾는 중요한 플랫폼이 되고 있다.
2) ML subreddit
https://www.reddit.com/r/MachineLearning/
3) ML/DL 컨퍼런스
NIPS / ICML / ICLR
4) 각종 커뮤니티 or 그룹
ex) 텐플코
6. 그 외
1) 수식이해하기
밑바닥부터 직접 연산해보기. 시간이 걸리겠지만 좋은 연습이 될 것이다.
2) 코드 연습하기
오픈소스를 다운받아 실행해보고 밑바닥부터 직접 구현해본다.
잘 몰랐다면 알고리즘을 직접 손으로 구현해보면서 이해해볼 수 있는 기회이다.
3) 지속적인 공부
지속적으로 공부하고 발전하기 위해 가장 중요한 부분은 순간적인 관심과 집중보다는 꾸준히 하는 것이다.
짧은 기간동안 벼락치기하는 것 보다 매주 2편의 논문을 다음해까지 꾸준히 읽는 것이 더욱 중요하다.
Reference
1. Stanford CS230: Deep Learning | Autumn 2018 | Lecture 8 - Career Advice / Reading Research Papers
2. Tips Papers
https://docs.google.com/document/d/1T3XYRmCAKa9KZZZiT1fIRXEjOh4ls5MrloU9wsgGcMA/edit
3. 페이퍼를 빨리/효율적으로 읽는 방법