보미의 Tech Blog

강의복습 1. 행렬 분해 - Low-rank approximation for model compression 더보기 1) 미니 코드: Approximation 2) 강의 주제 Three maps Matrix(Tensor) is a data modeling tool Matrix(Tensor) is a linear transformation(map) 3원 1차 연립방정식(Three-way first-order system of equations) Gaussian elimination Filter decomposition: ex) Conv. layers Matrix factorization: 2차원 데이터 Tensor factorization: 고차원 데이터 Kernel method Matrix decompo..

강의복습 1. 양자화 (Quantization) 더보기 1) 미니 코드: Floating-point operations 2) 강의 주제 Fixed point, floating point Fixed point: 메모리가 적게 들고 연산 속도 빠름 Floating point: 더 넓은 범위 표시 가능 Precision: Variance, Accuracy: Bias Quantization이란 여러 quantization들 Dynamic quantization Static quantization Quantization 결과 테이블 읽기 3) 토이 코드: Layer-wise histogram 2. 지식 증류 (Knowledge distillation) 더보기 1) 미니 코드: (Hard)Max, Argmax, S..

강의복습 1. Acceleration 더보기 1) 미니 코드: List operations 2) 강의 주제 Acceleration Hardwares (chip) Compression & acceleration Deep learning compiler 3) 토이 코드: Parallel processing 2. Pruning for network compression 더보기 1) 미니 코드: Masking 2) 강의 주제 Weighted sum Pruning이란 여러 Pruning들 Global Magnitude Pruning Layerwise Magnitude Pruning Global Gradient Magnitude Pruning Layerwise Gradient Magnitude Pruning Ran..

강의복습 1. 모델의 시공간 더보기 1) 미니 코드: Time complexity 2) 강의 주제 Space and time Parameter search Hyperparameter search Neural Architecture search NAS for edge devices 3) 토이 코드: Network profiling 2. Compression 더보기 1) 미니 코드: Codebook 2) 강의 주제 압축(Compression) Huffman coding velog.io/@junhok82/%ED%97%88%ED%94%84%EB%A7%8C-%EC%BD%94%EB%94%A9Huffman-coding 부호(Coding) 부호화(Encoding) 압축률(Compression rate) Compress..

강의복습 1. 가벼운 모델 더보기 1) 미니 코드: Object in memory 2) 미니 코드: Python bytecode 역어셈블러 3) 강의 주제 결정 (Decision making) 결정기 (Decision making machine) 가벼운 결정기 (Lightweight decision making machine) Backbone & dataset for model compression Edge devices Edge intelligence 4) 토이 코드: Model conversion 2. 동전의 뒷면 더보기 1) 미니 코드: System resource monitoring 2) 강의 주제 정방향, 역방향 AI에서 On-device AI에서 On-device AI Solution 사례 (..

강의복습 1. Multi-modal: Captioning and speaking 더보기 1) Overview of multi-modal learning multi-modal Challenge Different representations between modalities Unbalance between heterogeneous feature space biased on a specific modality 2) Multi-modal tasks(1) - Visual data & Text Text embedding Joint embedding Cross modal translation Cross modal reasoning 3) Multi-modal tasks(2) - Visualo data & audio S..

강의복습 1. Instance/Panoptic segmentation 더보기 1) Instance segmentation Instance segmentation = Semantic segmentation + distinguishing instances Mask R-CNN FasterR-CNN+Mask branch RoIAlign: 소수점 픽셀까지 정교하게 계산 YOLACT(You Only Look At CoefficientTs) Prototypes: mask를 합성할 수 있는 재료들 적은 개수의 prototypes의 선형결합으로 다양한 mask 생성 YolactEdge: video로 확장 2) Panoptic segmentation Semantic segmentations: Stuff(배경 관련) + T..

강의복습 1. Object detection 더보기 1) Object detection Sementic segmentation: 클래스만 구분 가능 Instane segmentation, Panopti segmentation: 개체 각각 구분 가능 object detection: Classification + Box localization 예시: Autonomous driving, Optical Character Recognition(OCR) 2) Two-stage detector(R-CNN family) Gradient-based detector (e.g. HOG) Selective search(Box proposal) R-CNN: Regions with CNN features, Directly lev..

강의복습 1. Image classification II 더보기 1) Problems with deeper layers Gradient vanishing / exploding Computationally coomplex Degradation 2) CNN architectures for image classification 2 GoogLeNet 채널 개수 줄이기 위해 1×1 convolution 적용 Stem network Stacked inception modules Auxiliary classifiers Classifier output (a single FC layer) ResNet Degradation 문제 해결하기 위해 Shortcut connection 적용 기타 DenseNet SENet Eff..

강의복습 1. Image classification 1 더보기 1) Course overview 2) Image classification k Nearest Neighbors(k-NN) Convolutional Neural Netwoks(CNN) 3) CNN architectures for image classification 1 AlexNet VGGNet GoogLeNet ResNet DenseNet, SENet, EfficientNet 2. Annotation data efficient learning 더보기 1) Data augmentation Brightness adjustment Rotate, flip Crop Affine transformation CutMix 2) Leveraging pre-..