인공지능 관련 잡부 라이프

이 글에서는 OpenAI의 유명 모델인 CLIP이 소개된 논문 Learning Transferable Visual Models From Natural Language Supervision에 관해 리뷰해보려 한다. 🟥 CLIP해당 논문에서 소개하는 모델이 CLIP이라고 불리는 이유는 논문에서 'which we call CLIP, for Contrastive Language-Image Pre-training' 라고 소개하고 있기 때문이다. 해당 모델은 나무위키에도 있을 정도로 유명 모델이라고 할 수 있다.https://namu.wiki/w/CLIP%20%EB%AA%A8%EB%8D%B8왜 그런고 하니 CLIP은 텍스트와 이미지를 함께 처리할 수 있는 방법을 제시하였고 그로 인해 AI 그림 생성과 같은 많은 ..

🟥결정트리(Decision Tree)의사결정트리, 의사결정나무라고도 하는 결정트리는 분류(Classification)와 회귀(Regression) 모두 가능한 지도 학습 모델의 한 종류이다. 결정트리는 트리 구조를 활용하여 entropy가 최소화 되는 방향으로 데이터를 예측한다. 쉽게 생각하면 스무고개와 비슷하다고 보면 된다. 이러한 결정트리는 1960년대에 처음 등장 하였음에도 XGBoost, LightBGM과 같이 현재까지 발전되어 많이 쓰이고 있다.• 발전과정- Concept Learning System(CLS)(1960년)결정트리는 처음에는 심리학에서 사용되다가 머신러닝에 사용되기 시작했다. 그 처음인 CLS는 얼 헌트에 의해 고안되었으며 처리 방법이 매우 간단하다. 모두 A의 요소이면 Posi..

OpenCV에서 제공하는 2D 이미지에 적용 가능한 선형, 비선형 필터링 함수들에 대해 알아보자. https://docs.opencv.org/4.x/d4/d86/group__imgproc__filter.html OpenCV: Image FilteringFunctions and classes described in this section are used to perform various linear or non-linear filtering operations on 2D images (represented as Mat's). It means that for each pixel location \((x,y)\) in the source image (normally, rectangular), its neigd..

Transformer 기반의 모델들이 우수한 성능을 보여주면서 그 활용도가 점점 높아지고 있다. 그리고 Transformer 모델을 소개하는 논문 "Attention is All You Need"에서 Positional Encoding라는 방법 또한 처음 등장하게 되었다. 이후 Transformer 기반의 자연어 모델들이 우수한 성능을 보였고 BERT 모델에서는 Positional Embedding을 사용하였다. 그러나 요즘 Positional Encoding과 Positional Embedding에 차이가 있음에도 이를 혼용하여 사용하고 있는것 같아 이에 관해 자세히 정리해보려고 한다.🟥 Encoding / Embedding먼저 Encoding과 Embedding이 무엇인지 어떤 차이가 있는지부터 확..

문제링크https://www.codetree.ai/training-field/frequent-problems/problems/ancient-ruin-exploration/description?page=1&pageSize=20 코드트리 | 코딩테스트 준비를 위한 알고리즘 정석국가대표가 만든 코딩 공부의 가이드북 코딩 왕초보부터 꿈의 직장 코테 합격까지, 국가대표가 엄선한 커리큘럼으로 준비해보세요.www.codetree.ai처음엔 BFS로 쉽게 할 것 같았는데이상한 곳에 꽂혀서 8시간 동안 헤맨 문제...(Flood Fill도 필요하다) 회전의 중심을 1, 1에서 시작하고그 다음은 2, 1에서 시작하도록 코드를 짜는거 까진 좋았는데,1,1을 중심으로 회전한 이후 board를 업데이트 하는게 아니라기존 boa..

문제링크https://www.codetree.ai/training-field/frequent-problems/problems/matrix-number-play/description?page=3&pageSize=20 코드트리 | 코딩테스트 준비를 위한 알고리즘 정석국가대표가 만든 코딩 공부의 가이드북 코딩 왕초보부터 꿈의 직장 코테 합격까지, 국가대표가 엄선한 커리큘럼으로 준비해보세요.www.codetree.ai numpy를 이용해서 남들과 다르게 풀어보기그치만 코드 실행하면 정상 제출 되지는 않는다는 점! 분명 일반 리스트보다 numpy를 이용하면코드 실행 속도가 빨라서 좋을텐데 🤔🤔 ※ 사용하고자 하는 리스트의 길이가 짧은 경우zip함수와 numpy의 transpose에 큰 차이가 없겠지만그 길이가..

본격적으로 컴퓨터비전 영역에 대해 공부하기에 앞서 이미지 분류 알고리즘이 어떤 종류가 있는지 알아두면 좋을거 같아 이미지 분류와 관련된 논문 top10을 읽어보고 리뷰해보려고 한다. 새로운 알고리즘이 등장할 때마다 정확도를 높이기 위해 도입한 새로운 방법들이 소개되고 있다. 어떻게 이런 방법들이 생겨났고 어떤 효과로 인해 분류 알고리즘의 정확도를 높일 수 있었는지 각각의 논문들을 리뷰해보면서 알아보도록 하겠다. 1. LeCun, Yann, et al. "Gradient-based Learning Applied to Document Recognition." Proceedings of the IEEE 86.11 (1998): 2278-2324. -LeNet LeCun이 만든 CNN 초기 모형으로 Poolin..

※ 본 글 시작 전에 앞서 해당 내용은 해당 교육에 참여했던 지극히 개인의 후기이기 때문에 개인적인 생각과 의견이 반영 되어 있다는 점 감안해주시길 바랍니다. 최근 SK쉴더스 루키즈 7기 교육생 모집 공고를 보고 옛날 생각이 나서 적어보는 교육 수료 후기 및 채용 후기입니다. 교육 후기나 채용 관련 후기들을 검색해봤을때 나오는 내용이 별로 없어서 혹시나 이번에 지원하거나 앞으로 지원하실 분들에게 조금이나마 정보가 전달되기를 바라면서 작성합니다. 해당 글에서는 교육생 선발 과정과 교육 내용과 진행 방식, 그리고 이어진 채용 방식에 대한 후기만을 작성 하였습니다. 자세한 교육 과정이나 진행 방식 등은 교육 기수별로 차이가 있기 때문에 이 점 감안해주시길 바랍니다 1. 교육 인지 경로 저의 경우 대학교 졸업 ..

파이썬에서는 다른 프로그래밍 언어에는 없는 문법인 for~ else~ 문을 지원한다. 우리가 아는 보통의 else문은 if문과 함께 사용하여 조건을 불만족할 때 처리하기 위한 로직으로 사용하고 있다. 하지만 특이하게 파이썬에서는 for~ else~ 라는 문법이 존재해 for문을 돌면서 for문 내부에서 break를 만나지 않았을 때의 동작을 제시할 수 있다. 아래의 코드를 보면 이해가 쉬울 것이다. n = 5 for i in range(10): if n == i: print('n: {} / i: {}'.format(n, i)) break else: print(i) 위 코드는 우리가 흔히 사용하는 for문과 if~ else~ 문의 형태이다. n과 i의 값이 같을 경우 break에 걸려 반복문의 실행이 중단..

딥러닝에 관해 공부를 시작할때 가장 먼저 접하는 분야가 이미지 분류일 것이다. 가장 흔하게 연구에 사용하는 데이터셋인 MNIST나 CIFAR-10 같은 경우도 모두 이미지 분류에 속하는 것을 알 것이다. 이런 이미지 인식(Visual Recognition) 영역에 대해서 이야기 해보려 한다. 이미지 인식(Visual Recognition) 이전 글에서 인공지능의 시작과 발전에 대해 설명했었다. https://bigsong.tistory.com/43?category=986883 [인공지능] 인공지능, 머신러닝, 딥러닝에 대하여(역사) 인공지능이란 인공지능의 등장 인공지능이란 용어을 처음 사용한 존 맥카시(John McCarthy)는 인공지능을 'Intelligence한 기계를 만드는 과학, 공학'이라고 정..