전체 글341 [메타러닝] 8. Continual Learning Continual Learning이라는 개념을 처음 접했던 건 23년 말 모두랜드라는 행사에 가서 논문 포스터 발표를 들었을 때였다. 그전까지 내가 찾고 있었던 개념이기에 큰 관심이 갔고, 이미지 관련 Continual Learning을 진행한 연구였기에 많은 질문을 드렸던 기억이 난다. Continual Learning은 개인적으로 AGI와 가장 가까운 연구 분야라고 생각하며, 결국 모든 딥러닝 모델이 추구해야 하는 학습 방법론이지 않나 싶다. 개념적인 부분은 알고 있었지만 그 디테일은 몰랐기에 이번 기회에 다시 복습하며 잘 정리해보려 한다.그렇다면 우선 Continual Learning이란 무엇일까?→ Continual Learning이란 모델이 시간이 지나면서 새로운 데이터를 학습하더라도 기존에 학.. 2025. 2. 7. [25.02.05] 영어 회화 스터디 [Daily Conversation]- 원하지 않는 사람을 멀리하다keep out unwanted people - 신뢰를 형성하다build a rapport - 거슬리다intrusive - 놀리다tease - 존댓말honorifics - 범죄를 막다deter crime - 공공장소를 감시하다keep an eye on public spaces - 투명성transparency - 번거롭다hassle - 데이터 유출data breach - 유명한 사이트reputable sites [오늘의 표현 정리]1. far apart: 멀리 떨어져 있는2. That was when it hit me~: 그때 깨달았다3. in a hurry: 서두르다 [지난 표현 복습]1. Feel the urge to: 충동을 느끼다2... 2025. 2. 5. [25.02.03] 영어 회화 스터디 [Daily Conversation]- 기분이 좋아지다 put ~ in a good mood - 에너지를 떨어뜨리다bring down the energy - 분위기를 띄우다lifts the mood - 일년 내내throughout the year - 한번은 이런적이 있었다There was this one time - 코를 킁킁거리다sniffling - 꽃이 피는 공원 blooming park - 각기 나름의 느낌its own vibe - 활발한 느낌lively feel - 추억에 젖는 감성nostalgic touch - ~ 해야할 것 같다I might have to ~ [오늘의 표현 정리]1. Feel the urge to: 충동을 느끼다2. Burn the midnight oil: 열심히 공부하다(좀 .. 2025. 2. 4. [2025.02] 1주차 Today I Learned 02/03 월1. 소프트웨어 검증시험 신청서 작성- 설 이전부터 작성하던 신청서 작성을 완료하였다. 신청서를 작성하다보니 코드를 새로 짜야하기도 하였고 변수명, 파일명 등 수정할 것들이 생각보다 많아 예상보다 오래 걸렸던 작업이었다. 다음에 작성할 때에는 더 빠르게 할 수 있기를 바라며... 관련 코드는 잘 정리해 두도록 하자2. 영어 회화 스터디- 다시 영어 회화 스터디 시작..!! 02/04 화1. Pose Estimation + LLM + 생성형 AI를 활용한 프로젝트 고안- 기술적으로 가능한 아이디어를 고안하여 실행 계획 정리2. 경제 관련 공부- 완전 공부라기 보다는 앞으로 자산 관리를 어떻게 진행하면 좋을지 정리- ISA 계좌라든지 ETF 라든지 관련 개념들을 배움3. 트레이딩 봇 제작- 밤에.. 2025. 2. 3. [메타러닝] 7. Hyperparameter Optimization 딥러닝 모델을 돌리다 보면 우리는 하이퍼파라미터를 어떻게 설정해야 할지 고민을 해야하는 상황에 맞닥뜨린다. 이 때 최적의 하이퍼파라미터를 설정하는 방법을 Hyperparameter Optimization이라고 하며 일반적으로 Hyperparameter Optimization 방법에는 2가지 종류가 존재한다. 특징예시Configuration하이퍼파라미터가 고정되어 사용Random Search, Grid Search, Succesive-halving, Hyperband, Bayesian OptimizationSchedule학습 과정동안 하이퍼파라미터가 변경될 수 있음Population-based training, Hypergradient 1. Grid Search: 하이퍼 파라미터의 주어진 조합을 모두 탐.. 2025. 2. 2. [박람회 전시] CES 2025 미국에 다녀온지 벌써 보름이 지났다. 한국에 오자마자 남은 논문 작업과 밀린 회사 업무를 진행하느라 정신없는 일주일을 보내고, 설 연휴를 보내고 나니 어느새 2월이 되었다. 앞으로는 다시 올 한 해를 의미있게 보낼 수 있도록 열심히 살아갈 예정이기에 지난 CES 박람회에 대한 리뷰를 미리 작성해보려 한다.본래 계획은 미국에서 그날그날 후기를 작성하는 것이었으나 내 체력이 그러지 못했다...참여 전시 : CES 2025전시 일정 : 25/01/07 ~ 25/01/10출국 기간 : 24/12/30 ~ 25/01/15 CES(Consumer Electrics Show)는 아마도 전세계에서 가장 유명한 IT 관련 박람회라고 생각한다. 매년 1월 미국 라스베가스에서 열리는 CES에는 워낙 많은 한국 기업들이 참여.. 2025. 2. 1. [2025.01] 5주차 Today I Learned 01/27 월1. Titan 및 DeepSeek 논문 내용 읽어보기- 자세히 읽어보지는 않고 대략적인 개념들을 확인해봄- Titan의 Surprise 개념과 DeepSeek의 강화학습을 활용한 학습 방법이 메인으로 보이는데, 이들이 추후 Transformer와 Diffusion만큼의 영향을 미칠 수 있을 지 시간이 되면 자세히 논문을 읽어보려 한다.DeepSeek 너 때문에 내 엔비디아 주식이... 01/28 화 ~ 01/30 목1. 설날 01/31 금1. 논문 Revision 완료 및 제출- 교수님 미팅 피드백을 반영하여 논문 원고와 Revision Letter 작성을 완료- 마지막 교수님 컨펌을 받은 후 Revision 제출- 확실히 Review 내용을 반영하여 수정한 원고가 이전 내용보다 읽기도 편.. 2025. 1. 28. [2025.01] 4주차 Today I Learned 01/20 월1. 회사 업무 복귀- CES 피드백 정리 및 25년도 진행할 사항 파악2. Github Organization 만드는 방법 파악- 회사 코드 공유를 위해 Github Organization 관련 정책, 가격 등을 확인하고 권한 및 관리 방안을 파악 01/21 화1. 논문 Revision 정리- 논문 Revision 진행(논문 본문 수정) 01/22 수1. 회사 외부 기업체 미팅- 외부 기업체 미팅 01/23 목1. 논문 Revision Letter 작성- 수정된 본문을 바탕으로 Revision Letter 작성 01/24 금1. 논문 Revision Letter 작성- Revision Letter 작성 및 교수님 미팅 자료 준비2. TTA 인증 제안서 작성- 정부 인증을 받는 방법과 필요한.. 2025. 1. 20. [2025.01] 3주차 Today I Learned 01/13 월1. 데스 밸리 관광- 떠나기전 마지막 날 데스 밸리 투어 01/14 화1. 귀국- 시차때문에 도착하니 15일2. 책 읽기- 비행기에서 읽은 01/15 수 ~ 01/19 일1. 귀국 후 휴식(병원..)2. 개인적인 자기계발 2025. 1. 16. [2025.01] 2주차 Today I Learned 01/06 월1. CES 부스 준비- CES 전시 부스인(LVCC South Hall)에 방문하여 전시 준비 및 최종 검토2. 논문 Revision 마무리 및 교정- CES 전시 준비로 바빠지기 전 Revision 러프하게 마무리 01/07 화1. CES 전시 1일차- 전시 부스 담당 01/08 수1. CES 전시 2일차- 전시 부스 담당 01/09 목1. CES 전시 3일차- 전시 부스 담당 및 관람(베네시안 & LVCC North & Central Hall) 01/10 금1. CES 전시 4일차- 전시 부스 담당 01/11 토1. CES 정리- 명함 및 링크드인 팔로우업 준비2. 휴식 01/12 일1. 숙소에서 휴식- 몸이 좋지 않아 하루종일 휴식 2025. 1. 12. [메타러닝] 6. AutoAugment 이번에 알아볼 내용은 AutoAugment이다. 일반적으로 우리가 알고 있는 내용은 Data Augmentation인데, 어떻게 하면 특정 데이터에 잘 맞는 Augmentation 기법을 찾아 적용할 수 있을지를 다룬 Autoaugment 기술에 대해 알아보도록 하자.1. Data AugmentationData Augmentation이란 보유하고 있는 데이터를 여러 방법으로 변형하여 더 많은 데이터를 만들어 내는 방법으로 학습 데이터가 부족한 경우 이를 보완하기 위해 주로 사용한다. 이미지 데이터의 경우 기본적으로 사용할 수 있는 Rotate, Flip 등 외에도 아래 기법들이 존재한다.CutoutMixupCutmixAugmixText 데이터의 경우에는 Synonym Replacement, Random.. 2024. 12. 31. [2025.01] 1주차 Today I Learned 12/30 월1. CES 고려대 서포터즈 미팅- 출국 전 CES 서포터즈로 합류할 대학원생 팀원 분과 미팅을 진행2. 출국 및 라스베가스 도착(현지시각 서울대비 -17)- 10시간 반정도 비행하여 현지 도착 후 짐풀고 휴식- 고려대 CES 미팅 진행3. GITEX 후기 작성 완료 및 메타러닝 정리https://rahites.tistory.com/346 [박람회 전시] GITEX GLOBAL 2024이번 후기는 벌써 다녀온지 2달이나 지난 GITEX GLOBAL 2024에 대한 후기이다. GITEX(Gulf Information Technology Exhibition)는 중동 최대 규모의 IT 박람회로 매년 10월 아랍에미리트 두바이에서 개최된다. 개인rahites.tistory.com 12/31 화1. .. 2024. 12. 31. 이전 1 2 3 4 ··· 29 다음
