Deep learning/논문

Deep learning/논문

YOLOv4

원문 YOLOv4: Optimal Speed and Accuracy of Object Detection Link : https://arxiv.org/abs/2004.10934v1 YOLOv4: Optimal Speed and Accuracy of Object Detection There are a huge number of features which are said to improve Convolutional Neural Network (CNN) accuracy. Practical testing of combinations of such features on large datasets, and theoretical justification of the result, is required. Some fea..

Deep learning/논문

YOLOv3

원문 YOLOv3: An Incremental Improvement Link : https://arxiv.org/abs/1804.02767 YOLOv3: An Incremental Improvement We present some updates to YOLO! We made a bunch of little design changes to make it better. We also trained this new network that's pretty swell. It's a little bigger than last time but more accurate. It's still fast though, don't worry. At 320x320 YOLOv3 arxiv.org Introduction yolov..

Deep learning/논문

YOLOv2

원문 YOLO9000: Better, Faster, Stronger Link : https://arxiv.org/abs/1612.08242 YOLO9000: Better, Faster, Stronger We introduce YOLO9000, a state-of-the-art, real-time object detection system that can detect over 9000 object categories. First we propose various improvements to the YOLO detection method, both novel and drawn from prior work. The improved model, YOLOv2, arxiv.org Introduction 해당 논문에..

Deep learning/논문

YOLOv1

원문 You Only Look Once:Unified, Real-Time Object Detection (2016) Link : https://arxiv.org/abs/1506.02640 You Only Look Once: Unified, Real-Time Object Detection We present YOLO, a new approach to object detection. Prior work on object detection repurposes classifiers to perform detection. Instead, we frame object detection as a regression problem to spatially separated bounding boxes and associa..

Deep learning/논문

RoBERTa

RoBERTa는 기존의 BERT를 활용한 모델에서 hyper paramter에 대한 실험이 제대로 진행되지 않았기 때문에 기존의 BERT모델을 유지하면서, 학습 단계의 hyper parameter들을 조정하여 성능을 높이는 방법을 공개했다. Dynamic Masking 기존의 BERT의 pre-training에서 사용한 MLM은 주막위로 token에 mask를 씌워서 예측하는 방식이다. 그리고 이러한 mask를 학습을 시작하기 전에 씌우기 때문에 학습단계에서 똑같은 mask를 보게 된다. 하지만 이러한 문제점을 해결하려고 기존의 BERT는 같은 문장을 여러번 복사한뒤 mask를 씌움으로써 해결하려고 했다. 하지만 이는 비효율적이다. 그렇기 때문에 RoBERTa에서는 epoch마다 mask를 새로 씌우는 ..

hogbal
'Deep learning/논문' 카테고리의 글 목록