AI & CS 지식/메타러닝4 [메타러닝] 4. Bayesian Meta-Learning 이번에 정리할 내용은 Bayesian Meta-Learning이다. 많이 다뤄본 Bayesian과 관련된 내용이며 추후 내가 이 글을 다시 보았을 때 어떤 내용이 있었는지 간단하게 짚고 넘어갈 수 있도록 핵심 위주로 작성해보도록 하겠다.1. Bayesian Learning일반적으로 우리가 Bayes' Rule을 왜 사용하는지를 생각해보면 Posterior를 바로 알기 어려워 Prior와 Likelihood만으로 이를 계산하려 하거나, 사용하려는 데이터가 작기 때문에 불확실성이 커서 Stochastic Model을 사용하는 것이 큰 이유이다. 모델의 파라미터를 확률분포로 계산하여 데이터에서 얻은 정보와 Prior를 결합하며 학습하는 과정을 거친다. Bayesian Modeling 과정에서는 Latent .. 2024. 12. 16. [메타러닝] 3. Meta Reinforcement Learning 이번에 알아볼 내용은 Meta Reinforcement Learning에 관한 내용이다. 강화학습을 이전에 공부해본 적이 없어서 기본적인 강화학습에 대한 내용을 가볍게 정리하고 넘어가도록 하겠다.1. Reinforcement Learning강화학습은 Agent가 Environment와 상호 작용을 수행하며 최적의 Policy를 학습하는 방법이다. 강화학습의 목표는 Agent가 Reward를 최대화하도록 학습시키는 것이다.Agent: 학습을 수행하는 주체, Environment와 상호작용하며 행동을 수행함Environment: Agent가 행동을 수행하고 Reward를 받는 곳State: Agent가 현재 위치한 Environment의 상태를 나타내는 정보Action: Agent가 State에서 선택할 .. 2024. 12. 16. [메타러닝] 2. Meta-Learning Methods 메타러닝의 방법론은 크게 3가지로 나눌 수 있다. (1) Model-based(2) Metric-based(3) Optimization-based 이번 시간에는 이 방법론들에 대해 중요한 부분들만 특징적으로 알아보도록 하자1. Model-Based Meta-LearrningModel-Based Meta-Learning은 학습 알고리즘 자체를 Model로써 설계하여 새로운 Task에 대한 빠른 Adaptation과 일반화를 가능하게 하는 방법론이다. 다시말하면 Model 자체가 새로운 Task에 빠르게 적응할 수 있는 매커니즘을 학습한다는 의미이다. 여기서 말하는 매커니즘이란 특정 메타 파라미터일 수도 있고, 정보를 담고 있는 특정 형태의 무언가 일 수 있다. 그렇다면 당연하게도 모델링을 얼마나 잘하는지가.. 2024. 12. 13. [메타러닝] 1. Meta-Learning이란? 벌써 2024년 2학기도 마지막을 바라보고 있다. 이번 학기를 마무리 하며 수강한 메타러닝 수업의 내용을 정리해 보려 한다(기말고사도 준비할겸..). 정말 정말 핵심만을 기록하고 내가 이해한 바를 정리해 보려 한다.메타러닝(Meta-Learning)이란?메타러닝은 일반적으로 "Learning to Learn" 이라는 말로 표현되며, 모델이 새로운 과제나 환경에 더 빠르고 효율적으로 적응할 수 있도록 돕는 기술이다. 일반적으로 딥러닝에서 사용하는 학습이 Data를 기반으로 학습을 진행한다면, 메타러닝에서는 Task를 기반으로 학습을 진행한다. vs Meta-Learning>Transfer Learning은 특정 Task에서 학습된 모델을 다른 Task에 적용하는 방법이지만, Meta-Learning.. 2024. 12. 13. 이전 1 다음
