보미의 Tech Blog

강의복습 1. Multi-modal: Captioning and speaking 더보기 1) Overview of multi-modal learning multi-modal Challenge Different representations between modalities Unbalance between heterogeneous feature space biased on a specific modality 2) Multi-modal tasks(1) - Visual data & Text Text embedding Joint embedding Cross modal translation Cross modal reasoning 3) Multi-modal tasks(2) - Visualo data & audio S..

강의복습 1. Instance/Panoptic segmentation 더보기 1) Instance segmentation Instance segmentation = Semantic segmentation + distinguishing instances Mask R-CNN FasterR-CNN+Mask branch RoIAlign: 소수점 픽셀까지 정교하게 계산 YOLACT(You Only Look At CoefficientTs) Prototypes: mask를 합성할 수 있는 재료들 적은 개수의 prototypes의 선형결합으로 다양한 mask 생성 YolactEdge: video로 확장 2) Panoptic segmentation Semantic segmentations: Stuff(배경 관련) + T..

강의복습 1. Object detection 더보기 1) Object detection Sementic segmentation: 클래스만 구분 가능 Instane segmentation, Panopti segmentation: 개체 각각 구분 가능 object detection: Classification + Box localization 예시: Autonomous driving, Optical Character Recognition(OCR) 2) Two-stage detector(R-CNN family) Gradient-based detector (e.g. HOG) Selective search(Box proposal) R-CNN: Regions with CNN features, Directly lev..

강의복습 1. Image classification II 더보기 1) Problems with deeper layers Gradient vanishing / exploding Computationally coomplex Degradation 2) CNN architectures for image classification 2 GoogLeNet 채널 개수 줄이기 위해 1×1 convolution 적용 Stem network Stacked inception modules Auxiliary classifiers Classifier output (a single FC layer) ResNet Degradation 문제 해결하기 위해 Shortcut connection 적용 기타 DenseNet SENet Eff..

강의복습 1. Image classification 1 더보기 1) Course overview 2) Image classification k Nearest Neighbors(k-NN) Convolutional Neural Netwoks(CNN) 3) CNN architectures for image classification 1 AlexNet VGGNet GoogLeNet ResNet DenseNet, SENet, EfficientNet 2. Annotation data efficient learning 더보기 1) Data augmentation Brightness adjustment Rotate, flip Crop Affine transformation CutMix 2) Leveraging pre-..

특강 및 마스터클래스를 들으면서 느낀 점 오늘 첫 번째 특강은 퀀트 트레이딩 관련 내용이었다. 구종만 마스터님께서 유명한 알고리즘 책 저자라서 그런지 금융뿐만 아니라 알고리즘에 대한 질문도 많았다. 두 번째 특강은 AI 윤리에 대한 내용이었다. 철학적이고 깊이있는 질문들이 많이 나왔는데 역시 마스터님도 명쾌한 답을 주시지는 못하셨다. AI 윤리는 어렵지만 개발자로서 반드시 고민해야 하는 주제라고 생각한다.

특강 및 마스터클래스를 들으면서 느낀 점 오늘 특강은 NLP와 저작권법에 관한 내용이었다. NLP 특강은 수업의 연장선 느낌이었다. 그리고 저작권법은 AI 엔지니어라면 항상 신경써야 하는 내용이라고 생각하는데 이렇게 특강으로 다뤄주셔서 좋았다.

특강 및 마스터클래스를 들으면서 느낀 점 저번에 부스트캠프에서 한 캐글 대회에 참가한 이후로 캐글에 관심을 가지게 되었는데 오늘 캐글 관련 특강이 있어서 유심히 들었다. 아직 실력이 많이 부족하지만 일단 타이타닉부터 도전해봐야겠다고 다짐했다. 그리고 두 번째 특강은 풀스택에 관한 내용이었다. 나도 전에 웹을 공부한 적이 있고 어느 정도 풀스택을 목표로 하고 있긴 하지만 현실적으로 프론트엔드, 백엔드에다 머신러닝까지 다 하기에는 너무 힘든 것 같다. 욕심부리지 말고 일단 하나라도 제대로 할 줄 아는 것을 목표로 해야겠다. 공부한 내용 오늘도 어제와 마찬가지로 알고리즘 문제를 풀고 저번 주에 대충 작성했던 학습정리 포스트를 다시 작성했다.

특강 및 마스터클래스를 들으면서 느낀 점 오늘 강사분 중 나와 같은 산업공학과 출신이 계셨는데 마스터클래스때 전공자에 비해 부족한 부분을 극복한 방법과 산업공학과의 장점에 대한 질문이 나왔다. 나도 계속 고민해왔던 질문이라 반가웠다. 내가 생각하는 산업공학과의 장점은 최적화를 잘 하고 폭넓은 시야를 가지고 있다는 것이다. 하지만 자칫하면 전문성이 떨어질 수 있기 때문에 한 가지 분야를 정해서 깊게 파는 것이 필요하다고 생각한다. 공부한 내용 저번 설 연휴때 Leetcode 챌린지를 하면서 매일매일 알고리즘을 풀었었는데 이번주는 특강이다보니 비교적 여유가 있어서 오늘부터 다시 챌린지를 시작했다. 어제것까지 두 문제를 풀었는데 둘 다 간단한 문제였는데 나중에 답을 확인해보니까 생각지도 못했던 여러가지 풀이가..

강의복습 1. 그래프 신경망이란 무엇일까? (기본) 더보기 1) 정점 표현 학습 그래프의 정점들을 벡터로 표현하는 것 (정점 임베딩) 그래프에서 정점 사이의 유사성을 계산하는 방법에 따라 인접성, 거리, 경로, 중첩, 임의보행 등 여러 접근법으로 구분됨 귀납식 정점 표현 학습의 장점 학습이 진행된 이후에 추가된 정점에 대해서도 임베딩을 얻을 수 있음 모든 정점에 대한 임베딩을 미리 계산하여 저장해둘 필요가 없음 정점이 속성(Attribute) 정보를 가진 경우 이를 활용할 수 있음 2) 그래프 신경망 기본 그래프 신경망: 그래프와 정점의 속성 정보를 입력으로 받음 이웃 정점들의 정보를 집계하는 과정을 반복하여 임베딩을 얻음 각 집계 단계를 층이라고 부름 계산 그래프(Computation Graph): 대..