‘LLM 최적화’ 키워드 기사 3건
노타, EMNLP 2026서 MoE 양자화 논문 2편 채택
AI 모델 경량화 기업 노타가 EMNLP 2026에서 초거대언어모델 최적화 논문 2편 채택을 확보했다. MoE 양자화 기술로 Qwen 3.8 Max 구동 시 필요한 GPU를 24장에서 4장으로 대폭 축소할 수 있음을 입증했다. 데이터센터 AI 인프라 운영 효율을 높이는…
2026.08.25 by 배종인 기자
노타, ICML 2026 챌린지 3위…Qwen 추론 최적화 기술 검증
AI 모델 경량화 기업 노타(Nota AI)가 국제 머신러닝 학회 ICML 2026의 ‘Efficient Qwen Competition’에서 3위를 차지했다. 양자화와 추측적 디코딩을 결합한 기술로 단일 A10G GPU 환경에서 Qwen3.5-4B의 추론 속도를 평균 …
2026.07.13 by 배종인 기자
노타, 국산 NPU서 LG K-엑사원 236B 최적화 성공
노타가 퓨리오사AI의 데이터센터용 NPU에서 LG의 K-엑사원 236B를 최적화하는 데 성공했다. 모델 크기를 71% 감소시키면서 99.2% 정확도를 유지한 이번 성과는 국산 AI 반도체, 국내 LLM, 최적화 소프트웨어가 연계된 소버린 AI 인프라 구성이 가능함을 보…
2026.06.30 by 배종인 기자