Test-time Adaptation (6) 썸네일형 리스트형 Test-Time Low Rank Adaptation via Confidence Maximization for Zero-Shot Generalization of Vision-Language Models 논문주소: https://arxiv.org/pdf/2407.15913깃허브: https://github.com/Razaimam45/TTL-Test-Time-Low-Rank-Adaptation Abstract사전 훈련된 VLM을 Test time adaptation 시키는 일반적인 방법은 학습 가능한 prompt를 조정하는 test-time prompt tuning입니다. 본 논문에서는 이 프롬프트 튜닝의 대안으로 Test-time Low-rank adaptation(TTL)을 제안합니다. TTL은 대규모 언어 모델을 효율적으로 fine-tuning 하는 기술에서 영감을 받아, 에측 confidence를 최대화하여 Transformer encoder에 attention 가중치를 업데이트하는 parame.. Test-Time Training with Masked Autoencoders 논문 주소: https://arxiv.org/pdf/2209.07522깃허브: https://yossigandelsman.github.io/ttt_mae/index.html AbstractTest-time training은 masked autoencoders를 사용하여 self-supervision 방식으로 각 테스트 입력에 대해 모델을 최적화함으로 써 새로운 테스트 분포에 즉각적으로 적응합니다. 이 논문에서는 이러한 단일 샘플 학습 문제에 마스킹된 auto-encoder를 사용합니다. 경험적으로, 본 연구의 간단한 방법은 많은 시각적 벤치마크에서 distribution shifts에 대한 일반화 성능을 향상시킵니다. 이론적으로 이 개선점을 bias-variance trade-off 관점에서 특징화합니.. Test-Time Training with Self-Supervision for Generalization under Distribution Shifts 논문 주소: https://arxiv.org/pdf/1909.13231깃허브: https://yueatsprograms.github.io/ttt/home.html Abstract이 논문에서는 훈련 및 테스트 데이터다 다른 분포에서 올 때 예측 모델의 성능을 향상시키기 위한 일반적인 접근 방식인 Test-Time training을 제안합니다. 단일 unlabeled 테스트 샘플을 self-supervised learning 문제로 전환하고, 예측을 하기 전에 이 문제에 대한 모델 매개변수를 업데이트합니다. 이 방법은 온랑니 데이터 스트림에도 자연스럽게 확장됩니다. 본 연구의 간단한 접근 방식은 distribution shift에 대한 견고성을 평가하기 위한 다양한 이미지 분류 벤치마크에서 성능 향상을 가져.. TENT: FULLY TEST-TIME ADAPTATION BY ENTROPY MINIMIZATION 논문 주소: https://arxiv.org/pdf/2006.10726깃허브: https://github.com/DequanWang/tent Abstract 모델은 Test 중에 새롭고 다른 데이터에 대해 일반화하기 위해 스스로 적응해야 합니다. 이러한 Fully TTA 설정에서 모델은 오직 테스트 데이터와 자체 매개 변수만을 사용합니다. 본 연구에서는 Test entropy minimization, Tent 를 통해 적응할 것을 제안합니다. 즉, 모델 예측의 엔트로피로 측정되는 confidence을 위해 모델을 최적화합니다. 본 연구의 방법은 배치마다 온라인으로 업데이트하기 위해 normalization statistics을 추정하고 channel-wise affine trasnformations을 .. VIDA: Homeostatic Visual Domain Adapter For Continual Test Time Adaptation 논문 주소: https://arxiv.org/pdf/2306.04344 깃허브: https://github.com/Yangsenqiao/vida ABSTRACT실제 기계 시스템은 non-stationary enviroments에서 작동하기 때문에, 사전 훈련된 모델을 지속적으로 변화하는 target domains에 적응시키기 위한 continous Test-time Adaptation(CTTA) 작업에 제안되었습니다. 최근 기존 방법들은 주로 model-based adaptation에 중점을 두고 있으며, self-training 방식을 활용하여 target domain knowledge를 추출하는 것을 목표로 합니다. 하지만 pseudo labels은 노이즈가 많을 수 있고, 동적인 데이터 분포 하.. Domain Adaptor: A Novel Approach to Test-time Adaptation 논문 주소: https://arxiv.org/pdf/2308.10297깃허브: https://github.com/koncle/DomainAdaptor Abstract훈련 샘플과 테스트 샘플 간의 domain shift를 다루기 위해, 현재 방법들은 주로 훈련 중에 일반화 가능한 특징을 학습 하는 데 초점을 맞춰왔고, 테스트 중에도 중요한 unseen samples의 특이성을 간과했습니다. 본 논문에서는 훈련된 CNN모델을 테스트 중에 보이지 않는 도메인에 적응시키는 것을 목표로 한 더욱 도전적인 작업을 연구합니다. 테스트 데이터의 정보를 최대한 활용하기 위해, AdaMixBN 모듈과 Generalized Entropy Minimization, GEM 손실로 구성된 Domain Adaptor라는 Tes.. 이전 1 다음
