Скомпілюйте модель.

Model Compiler — це набір інструментів SiMa.ai, який перетворює навчену модель на артефакт, який середовище виконання Neat може виконувати на MLSoC. У шляху vision/ONNX використовується пакет afe Python для перевірки сумісності, підготовки графа, квантування, компіляції та перевірки точності та продуктивності.

Оберіть початкову точку.

• Використовуйте попередньо скомпільовану модельПочніть з артефакту Model Zoo, якщо вже існує відповідна модель.
• Скомпілюйте модель для обробки зображень / ONNX модельПідготуйте, квантуйте, скомпілюйте та перевірте за допомогою Model Compiler. Почніть з першого покрокового керівництва.
• Навчайте з урахуванням квантуванняТонко налаштуйте модель PyTorch із симуляцією ефектів INT8, а потім експортуйте стандартну модель QDQ ONNX для компіляції.
• Скомпілюйте модель GenAI / LLiMa модельВикористовуйте набір інструментів LLiMa для великих мовних моделей (LLM) та інших генеративних моделей.