Mixture of experts

전문가 혼합은 여러 전문가 네트워크를 사용하여 문제 공간을 동종 영역으로 나누는 기계 학습 기술입니다. MoE는 앙상블 학습의 한 형태를 나타냅니다.

See also

• 추천 시스템
• Moondream
• Flash-MoE - 노트북에서 3,970억 파라미터 모델을 실행

Favorite site

• Mixture of experts - Wikipedia
• Mixture-of-Experts 추천 시스템 개요 - ①
• MoE: Mixture of Experts (전문가 혼합) - 인공지능(AI) & 머신러닝(ML) 사전
• LLM 아키텍처에 Mixture of Experts(MoE)를 활용하기 - NVIDIA Technical Blog