모델을 컴파일합니다.
Model Compiler는 SiMa.ai 학습된 모델을 배포 가능한 형태로 변환하는 도구 세트 Neat 런타임은 다음 환경에서 실행될 수 있습니다. MLSoC비전/ONNX 경로는 다음을 사용합니다. afe Python 호환성을 확인하고, 그래프를 준비하고, 양자화하고, 컴파일하고, 정확성과 성능을 검증하는 패키지입니다.
시작점을 선택하세요.
- 미리 컴파일된 모델을 사용합니다.적절한 모델이 이미 존재하는 경우 Model Zoo의 아티팩트부터 시작합니다.
- 비전 / ONNX 모델을 컴파일합니다.Model Compiler를 사용하여 준비, 양자화, 컴파일 및 유효성 검사를 수행합니다. 첫 번째 모델 워크스루부터 시작합니다.
- 양자화 인식 학습으로 훈련합니다.시뮬레이션된 INT8 효과로 PyTorch 모델을 미세 조정한 다음 컴파일을 위한 표준 QDQ ONNX 모델을 내보냅니다.
- GenAI / LLiMa 모델을 컴파일합니다.LLM 및 기타 생성 모델에 대해 LLiMa 도구 체인을 사용합니다.