논문 paper 리뷰41 [Paper Review] Model Soup 논문 이해하기 『 Model soups: averaging weights of multiple fine-tuned models improves accuracy without increasing inference time. 2022. 』 Github : https://github.com/mlfoundations/model-soups GitHub - mlfoundations/model-soups Contribute to mlfoundations/model-soups development by creating an account on GitHub. github.com 이번 논문은 학부 연구생 활동을 하며 읽은 Model soup 논문이다. 이 논문에서는 기존에 사용하던 앙상블 기법이 k개의 모델을 활용할 때 그에 비례하여 .. 2023. 3. 19. [X:AI] Inception-v2, v3논문 이해하기 INCEPTION Inception은 ILSVRC 2014(ImageNet Large-Scale Visual Recognition Challenge)에서 1등을 차지한 GoogLeNet에서 사용된 핵심 구조의 이름으로『Going deeper with convolutions』논문을 통해 그 특징을 파악할 수 있다. 실제로 논문의 이름은 영화 "인셉션"에서 유래한 밈에서 따왔다고 한다. (실제 영화에서 언급된 말은 아닌듯..) 오늘 소개할 내용은 Inception-v2, v3가 소개된 논문이 메인이기 때문에 우선은 Inception에 대한 간단한 정보만 짚고 넘어가겠다. Inception module의 구조는 아래 그림과 같으며 주된 아이디어는 여러개의 convolution filter를 이용해 featur.. 2023. 3. 16. [X:AI] Selective Search란? [Paper] : http://www.huppelen.nl/publications/selectiveSearchDraft.pdf - Selective Search를 사용하기 전에는 사물이 있을법한 영역을 모두 조사하는 Exhaustive Search(완전 탐색) 방법을 사용하였다. - 대표적인 탐색방식으로는 Sliding Window 방식이 있는데, 탐색해야 하는 공간이 크거나 다양한 Box 크기에 대해 탐색 할 경우 연산에 너무 많은 시간이 걸리게 된다. - 이러한 Sliding Window 방식의 비효율성을 극복하기 위해 Selective Search를 사용한 Region Proposal 알고리즘이 제안되었다. # Selective Search 1. "Efficient Graph-Based Image .. 2023. 3. 12. [X:AI] DeepLAB V1 논문 이해하기 [ 사전 지식 ] Fully Convolutional Networks (FCN) : 기존 이미지 분류에서 성능이 좋은 CNN 기반 모델을 Semantic Segmentation Task를 수행할 수 있도록 변형시킨 모델 구조 1. Convolution Layer를 통해 Feature 추출 2. 1x1 Convolution Layer를 이용해 Feature map의 channel 수를 dataset 객체의 개수와 동일하게 변경 ( Heatmap 추출 ) 3. 낮은 해상도의 Heatmap을 Upsampling 하여 입력 이미지와 같은 크기의 Map을 생성 4. 최종 피처 맵과 라벨 피처 맵의 차이를 이용하여 Network 학습 하지만 FCN Network에서는 입력 이미지가 convolution 과정을 거치.. 2022. 8. 29. [X:AI] ASR(Automatic Speech Recognition) 이해하기 https://www.youtube.com/playlist?list=PL9mhQYIlKEhdrYpsGk8X4qj3tQUuaDhrl 토크ON 75차. 딥러닝 기반 음성인식 기초 | T아카데미 www.youtube.com https://plastic-distance-9d4.notion.site/cba5b3cdbb3e418f9a90346ec1540514 디지털신호처리 이해 (발표용) 0. Audio Task plastic-distance-9d4.notion.site https://velog.io/@tobigsvoice1516/2%EC%A3%BC%EC%B0%A8-%EB%94%A5%EB%9F%AC%EB%8B%9D-%EA%B8%B0%EB%B0%98-%EC%9D%8C%EC%84%B1%EC%9D%B8%.. 2022. 8. 17. [X:AI] EfficientNet 논문 이해하기 『 EfficientNet : Rethinking Model Scaling for Convolutional Neural Networks. 2019. 』 0. Abstract - Convolution Neural Network에서는 일반적으로 더 많은 자원을 사용할 수 있을 때, 더 좋은 정확도를 위해 스케일을 키운다. - 본 연구에서는 주로 Network의 깊이(Depth), 폭(Width), 해상도(Resolution)가 균형을 이룰 때 더 좋은 성능을 보인다는 것을 알아냈고, 따라서 이 3가지에 대한 관찰을 바탕으로 본 논문은 단순하지만 효과적으로 depth, width, resolution의 모든 차원을 균일하게 scaling하는 새로운 방법을 제안한다. - Neural architecture 검색.. 2022. 7. 25. 이전 1 ··· 3 4 5 6 7 다음
