전체 글440 [2025.03] 1주차 Today I Learned 03/03 월1. CMT 논문 리뷰 마무리https://rahites.tistory.com/373 [Paper Review] CMT 논문 이해하기『CMT: Convolutional Neural Networks Meet Vision Transformers. CVPR. 2022.』이번에 소개할 논문은 Convolutional Neural Networks Meet Vision Transformers 이다. ViT의 등장 이후 기존의 CNN에 활용된 기술을 그대로 사장시키는rahites.tistory.com 03/04 화1. 회사 업무2. ViTAE 논문 리딩 시작3. 책 읽기 03/05 수1. 개강!!- 인공지능을위한알고리즘 수업2. 영어회화 스터디 03/06 목1. 회사 업무2. 교수님 미팅 및 기업 박람.. 2025. 3. 3. [메타러닝] 11. Advanced Meta-Learning 벌써 메타러닝 관련 내용을 정리하는 마지막 시간이 되었다. 3월 개강 전까지는 마무리 하고 싶었는데, 다행이라고 생각하며 다음 수업 내용은 미리미리 복습하며 꼭 정리한다는 것을 다짐!한다(바쁘면 어쩔 수 없나..?). Advanced Meta-Learning 파트에서는 이전 Meta-Learning과 관련된 지식을 복기하며 최신 연구들을 파악한다.Meta-Learning에는 Memorization이라는 흥미로운 이슈가 있다. 이는 모델이 Meta-Learning 학습을 수행할 때 학습 알고리즘을 습득한다기보다, 단순히 학습용 Task의 해법을 파라미터에 직접 암기해버리는 현상을 말한다. 마치 문제집을 풀 때 문제를 푸는 방법을 학습하는 것이 아닌 문제집의 답지를 통째로 외워버리는 것 처럼. 물론 Meta.. 2025. 2. 28. [메타러닝] 10. Unsupervised Pre-training 이번에 정리할 내용은 Unsupervised Pre-training / Representation Learning과 관련된 내용이다. 이 파트는 우리가 메타러닝적으로 모델을 학습시킬 때, 만약 Task 자체가 많이 없거나 라벨이 없는 데이터만을 가지고 있을 때 어떤식으로 모델을 잘 학습할 수 있을지에 대해 다룬다. 일반적인 지도학습 모델보다 현실에서 직면할 수 있는 문제를 해결하고자 하는 방법론이라고 생각하면 좋다. 우리가 라벨이 없는 하나의 데이터 셋만을 가지고 있을 때, 문제를 해결하는 가장 좋은 방법은 Unsupervised Pre-training을 통해 학습한 모델(Representation)을 가지고 Few-shot이나 Meta-learning 기법을 활용한 Fine-Tuning을 수행하는 것이.. 2025. 2. 28. [25.02.26] 영어 회화 스터디 [Daily Conversation]- 시작하다kick off - 평범한, 현실적인down-to-earth - 우연히 만나다bump into - 노숙자hobo - 모욕하다insult - 일깨우다provoke - 영감을 주다inspire - 웃음이 빵 터지다burst into laughter - 향수의nostalgic - 거절하다pull off - 심히, 크게profoundly - 쭉 둘러보다a glimpse of - 순수한innocent - 집주인, 건물주landlord - 인수하다take over - 배울게 많은 사람someone who I can learn a lot from - ~하지 않을 수 없다cannot help ~ing (ex. I can't help smoking) [오늘의 표현 정리]1... 2025. 2. 26. [Paper Review] Titans 논문 이해하기 『Titans: Learning to Memorize at Test Time. arXiv preprint. 2024.』 2025년 1월 인공지능 학계를 떠들썩하게 만든 2가지 연구 결과가 발표 되었다. 그 중 하나는 대중적으로 이미 많이 알려진 DeepSeek이고 다른 하나는 상대적으로 조용하지만 강한 파급력을 가지고 있는 Titans 모델이다. 그 중 이번에는 Transformer의 대체제라는 이야기가 나오고 있는 Titans 모델에 대해 정리해 보려 한다. 기존 RNN이나 Transformer 모델들에 비해 어떤 장점을 가지는지를 위주로 논문을 정리하였다. NLP 분야가 메인 연구 분야는 아니기에 실험 내용을 자세히 파악하기보다는 새로운 방법론을 파악하는 것을 위주로 논문을 읽어 보았다.0. Abst.. 2025. 2. 26. [25.02.24] 영어 회화 스터디 [Daily Conversation]- 가치 상승appreciation - 시야를 넓히다broad one's perspective - 엄청난 가치가 있다be worth every penny - 벗어나다step out - 눅눅한soggy - 모든 면에서all aspects of - 적금installment saving - 예금deposit - 경쟁력competitive - 다변화하다diversify - 배당금dividend - 폭락plummet - 폭등skyrocket - 정점peak - 유망한promising - 칭찬하다compliment - 놀리다tease, provoke - 바람피다cheat on somebody - 노력하다make an effort - 진심이다I mean it / I'm seriou.. 2025. 2. 24. [2025.02] 4주차 Today I Learned 02/24 월1. 회사 업무..2. 영어 회화 스터디 02/25 화1. 회사 프로젝트 관련 의사 자문2. Perception Neuron Studio 구매 및 사용 방법 숙지- 모션 캡처 장비3. Face Identification 논문 미팅 02/26 수1. Titans 논문 리뷰 마무리https://rahites.tistory.com/367 [Paper Review] Titans 논문 이해하기『 Titans: Learning to Memorize at Test Time. arXiv preprint. 2024. 』 2025년 1월 인공지능 학계를 떠들썩하게 만든 2가지 연구 결과가 발표 되었다. 그 중 하나는 대중적으로 이미 많이 알려진 DeepSeek이고rahites.tistory.com 02/27 .. 2025. 2. 24. [25.02.19] 영어 회화 스터디 [Daily Conversation]- 잘 맞다hit it off - 평가하다size someone up - 좋아하게 되다warm up to - 결론을 내리다(오랜 고민 끝에 확실한 결정이나 선택을 하다)make up one's mind - 천천히 신중하게 진행하다take things slow - 안전하게 가다play it safe - 반영하다reflect - 마음을 뺐다(사로잡다)sweep someone off one's feet - 별을보다stargaze - 언급하다bring up - 깊은 인상big impression - 발산하다, 내뿜다(인상을 주다, 냄새를 발산하다 등으로 사용)give off - 도달하다, 점차 ~이 되다grow into - 모두에게 맞을 수 있는 정답, 프리사이즈의one-si.. 2025. 2. 19. [25.02.17] 영어 회화 스터디 [Daily Conversation]- 문화 상대주의culture relativism - 연관시키다associate - 영향 받지 않다immune - 최대한utmost - 반대 측면flip side - 벅차다daunting - 미리 상황 살피기test the water - 마구잡이로haphazardly - 복종obedience - ~에서 비롯된arise from - 질식하다suffocate - 중간에 끊다punctuate [오늘의 표현 정리]1. wandering around: 돌아다니다2. searched high and low: 철저히 검색하다3. stuck in: 갇혀있다 [지난 표현 복습]1. worked up: 짜증나다2. put up with: 참다3. be mindful: 신경을 쓰다 2025. 2. 17. [2025.02] 3주차 Today I Learned 02/17 월1. 마라톤 회의- 기획서를 다수 쓰는 시기이기에 많이 바쁘다..2. 영어 회화 스터디- 꾸준히 계속..!! 02/18 화1. 회사 업무 위주 기획서 작성2. Titans 논문 리딩 02/19 수1. 저널 영어 관련 문제 해결- 저널에서는 영어가 문제 있다고 하고... 교정 업체 측에서는 문제가 없다고 하고... 결국 다시 한번 교정을 맡기로 하였다.2. 영어 회화 스터디 02/20 목1. Face Recognition 논문 준비- 새 논문 관련 미팅을 꾸준히 진행중..2. Titans 논문 리딩- 꾸준히 읽으면서 정리중.. 02/21 금1. 프로젝트 관련 발표- 작년 9월부터 진행한 XR 프로젝트 발표를 맡게되었다. 그렇게 긴장하지는 않았지만, 열심히 준비해서 발표 완료..! 02/22 토.. 2025. 2. 17. [메타러닝] 9. In-Context Learning In-Context Learning(ICL) 이란 ICL은 모델이 별도의 파인튜닝 없이 입력 Context(Prompt)만을 기반으로 새로운 작업을 학습하는 능력을 의미한다. 즉, 예제 몇 개를 보여주었을 때 다음에 오는 질문에 대해 모델이 잘 대답할 수 있는 능력을 학습하는 방법론으로 볼 수 있다. 널리 알려진 학습 방법인 Few-shot Learning, Zero-shot Learning 등이 ICL 방법론에 포함되며, 전체 모델을 다시 학습할 필요 없이 Prompt 조정만으로 다양한 문제를 해결할 수 있다는 장점이 있다. 학습 방법(Learning) Gradient DescentICL(Conditioning)학습 방식Weight를 업데이트하면서 점진적으로 학습Weight를 변경하지 않고 Conte.. 2025. 2. 15. [25.02.12] 영어 회화 스터디 [Daily Conversation]- 대수롭지 않게 여기다shrug off - 헤어지다part ways (헤어진건 보통 과거니까 parted로 쓰는듯..?) - 공통점common ground - 주변surroundings - 정말 지겨운mind-numbingly - 살얼음 판 위를 걷다 walking on eggshells - 떼를 부리다throw a tantrum(tantrum: 갑자기 화를 내는 행동) - 으스스한spooky - 거금을 쓰다splurge on - 반삭buzz cut - 비대칭asymmetrical - 인상을 주다(특정한 인상이나 분위기를 만들어내다)make a statement - 시간이 꽤 걸리다take ages - 한참이 지나서halfway through - 완전히 망하다tota.. 2025. 2. 13. 이전 1 ··· 5 6 7 8 9 10 11 ··· 37 다음
