BoxDecode: типи декодування.
nodes::SimaBoxDecode перетворює необроблені тензори з вихідного шару детектора на результати детектування. Він виконується після висновування моделі, застосовує математичні обчислення декодування для обраної родини моделей, фільтрує рамки з низькою впевненістю, виконує непересічну придушення (NMS) і генерує тенз орний пакет, який починається з декодованих рамок. Моделі детектування можуть розібрати цей пакет як рамки; моделі для визначення поз і сегментації також можуть розібрати ключові точки або маски, які йдуть після рамок.
Для звичайного використання пакетів моделей, віддавайте перевагу конструктору, який враховує Model. Архів моделі надає порядок, розміщення, квантування тензорів, кількість класів, метадані зміни розміру та підказки щодо діапазону оцінок, необхідні декодеру. Ваш застосунок зазвичай лише вибирає родину декодування та порогові значення фільтрації.
Швидкий старт.
using namespace simaai::neat;
Model model("/path/to/yolov8_model.tar.gz");
auto boxdecode = nodes::SimaBoxDecode(
model,
BoxDecodeType::YoloV8,
/* detection_threshold */ 0.25,
/* nms_iou_threshold */ 0.45,
/* top_k */ 100);
Для використання в окремому середовищі розробки:
simaai::neat::stages::BoxDecodeOptions opt(simaai::neat::BoxDecodeType::YoloV8);
opt.detection_threshold = 0.25;
opt.nms_iou_threshold = 0.45;
opt.top_k = 100;
Аргументи
| Аргумент | Значення |
|---|---|
decode_type | Тип моделі/формат заголовка, наприклад, BoxDecodeType::YoloV8 або BoxDecodeType::YoloX. Обов’язково. |
detection_threshold | Мінімальний бал, необхідний для збереження результату виявлення. Використовуйте значення, що відповідає конкретній моделі, наприклад, 0.25. |
nms_iou_threshold | Поріг IoU, який використовується алгоритмом придушення не-максимумів. |
top_k | Максимальна кількість виявлених об’єктів, які потрібно зберегти. 0 використовує значення за замовчуванням для бекенду/моделі. |
original_width, original_height | Розмір вихідного зображення, що використовується для відображення координат під час застосува ння конструктора raw-geometry. |
model_width, model_height | Замінює розмір вхідних даних моделі. За допомогою Model цей конструктор змінює параметри просторового декодування, але не змінює структуру тензора, що використовується. |
resize_mode_override | Використовуйте лише тоді, коли на попередньому етапі обробки Preproc не записуються метадані щодо зміни розміру, і вам потрібно явно вказати поведінку для масштабування, заповнення або обрізання. |
decode_type_option | Розширений селектор підпорядкованих макетів. Залиште значення Auto, якщо використовуєте пакет моделей, якщо тільки ви не знаєте, який макет заголовка експортується. |
Вхідні та вихідні дані.
Вхідні дані: необроблені тензори виявлення, отримані від моделі. Очікувані розміри тензорів залежать від типу моделі. У випадку з MPK/архівом моделі, Neat зчитує ці деталі з упакованого контра кту.
Вихідні дані: один тензор BoxDecode, що містить декодовані виявлення. Моделі виявлення використовують стандартний формат BBOX. Моделі для визначення поз і сегментації зберігають початкові обмежувальні рамки та додають власні, специфічні для завдання, дані:
| Завдання моделі | Допоміжний код C++ | Допоміжний код Python | Декодовані тензори |
|---|---|---|---|
| Виявлення | decode_bbox(...) | pyneat.decode_bbox(...) | [N, 6] float32 boxes: x1, y1, x2, y2, score, class_id |
| Поза | decode_pose(...) | pyneat.decode_pose(...) | обмежувальні рамки [N, 6] та ключові точки [N, 17, 3] float32: x, y, visibility |
| Сегментація | decode_segmentation(...) | pyneat.decode_segmentation(...) | прямокутники [N, 6] float32 і маски [N, 160, 160] uint8. |
| Сегментація + поза | decode_segmentation_pose(...) | pyneat.decode_segmentation_pose(...) | рамки [N, 6] float32, маски [N, 160, 160] uint8, ключові точки [N, 17, 3] float32 |
| SuperPoint | decode_superpoint(...) | pyneat.decode_superpoint(...) | ключові точки [N,2], оцінки [N], дескриптори [N,D]. |
Графи, що використовуються для відображення результатів виявлення, можуть передавати дані до SimaRender. Код застосунку, якому потрібні лише обмежувальні рамки, може продовжувати використовувати decode_bbox(...) для обробки вихідних даних BoxDecode.
Суперточка
SuperPoint залишається частиною продукту BoxDecode, але генерує ключові точки, а не намагається видавати їх за прямокутники. Мінімальна конфігурація за замовчуванням A65:
BoxDecodeOptions options{BoxDecodeType::SuperPoint};
options.superpoint.descriptor_output_dtype = TensorDType::Float32;
auto decoder = nodes::SimaBoxDecode(model, options);
У Python використовуються ті самі значення за замовчуванням:
options = pyneat.BoxDecodeOptions(pyneat.BoxDecodeType.SuperPoint)
options.superpoint.descriptor_output_dtype = pyneat.TensorDType.Float32
decoder = pyneat.nodes.sima_box_decode(model, options=options)
A65V1 є профілем за замовчуванням. Обирайте інший профіль, якщо моделі потрібна інша числова поведінка; Neat не визначає поведінку на основі форми або значень тензора:
| Профіль | Коли його слід обрати | Статус виробництва |
|---|---|---|
LightGlueV1 | Детектор, NMS, координати та поведінка дескриптора, сумісні з LightGlue | Підтримується |
MagicLeapDemoV1 | Поведінка закріпленої демонстраційної програми Magic Leap | Підтримується |
A65V1 | Сумісність зі старим декодером A65 SuperPoint | Підтримується; встановлено за замовчуванням |
PaperBicubicV1 | Зарезервовано числовий ідентифікатор для майбутньої повністю визначеної бікубічної політики. | Відхилено до моменту визначення у виробничому середовищі. |
Числовий формат і кодування вихідних даних є незалежними. Наприклад, можна вибрати числовий формат A65 із використанням стандартного вихідного формату V1:
BoxDecodeOptions options{BoxDecodeType::SuperPoint};
options.superpoint.profile = SuperPointProfile::A65V1;
options.superpoint.output_format = SuperPointOutputFormat::FeaturePointsV1;
Використання застарілої схеми розміщення байтів є опціональним і має додаткові обмеження:
options.superpoint.profile = SuperPointProfile::A65V1;
options.superpoint.output_format = SuperPointOutputFormat::LegacyA65InterleavedV0;
options.superpoint.descriptor_output_dtype = TensorDType::Int8;
SuperPointProfile::Auto спочатку використовує авторитетні метадані MPK superpoint.profile. Якщо ні API, Model::Options.superpoint.profile, ні MPK не надають профіль, то використовується A65V1.
Neat ніколи не визначає профіль на основі розмірів тензорів, значень, імен файлів або наступних вузлів.
Коли їхні загальнодоступні значення-за замовчуванням залишаються незмінними, detection_threshold=0.0, top_k=0, nms_radius=-1 і border_margin=-1 визначаються з обраного профілю. A65V1 визначає порогове значення 0.1, Top-K 600, радіус NMS 4 і межу 0. LightGlueV1 і MagicLeapDemoV1 використовують порогові значення 0.0005 і 0.015 відповідно; обидва використовують Top-K 600, радіус NMS 4 і межу 4.
nms_iou_threshold не застосовується до SuperPoint; використовуйте радіус у пікселях superpoint.nms_radius. За замовчуванням виводиться структурований масив FEATURE_POINTS_V1 версії. LegacyA65InterleavedV0 є явним форматом міграції та вимагає 256-вимірних дескрипторів INT8. Використовуйте decode_superpoint замість decode_bbox або BoxDecodeResults.
Версіоновані записи схеми MPK superpoint v1 мають режим відмови за замовчуванням. Вони повинні містити назву профілю, окремі ідентифікатори тензорів детектора та дескриптора, sha256: відбиток, що містить 64 шістнадцяткових цифри, і підтримувані вхідні представлення raw-logits-65 і coarse-pre-l2. Схема 0 залишається прийнятною лише як запис для міграції/ручного використання; відсутні поля представлення схеми 0 канонізуються до цих двох представлень необроблених даних і записуються як значення за замовчуванням у діагностиці. Невідомі версії схеми або маркери представлення призводять до помилки під час компіляції.
Якщо перевантаження профілю API суперечить відбитку, який було встановлено для іншого профілю MPK, повторно встан овіть відбиток MPK для вибраного профілю; Neat не відкидає та не переінтерпретує ці дані про походження.
Корисне навантаження BBOX у форматі wire.
Модуль декодування вихідних даних детектора генерує один тензор, позначений як BBOX, для кожного вхідного кадру. Цей тензор є буфером байтів першого рангу, що має тип UInt8.
| Поле | Значення |
|---|---|
semantic.detection.format | "BBOX" |
dtype | UInt8 |
shape | [N_bytes], де N_bytes – це обсяг запакованого буфера з архіву моделі. |
Розмір тензора визначається в байтах, а не кількістю виявлених об’єктів. Структура даних використовує порядок байтів little-endian:
offset size content
------ ---- -------
0 4 uint32 N = valid detections in this frame
4 24 RawBox[0]
28 24 RawBox[1]
. . ...
. . RawBox[N-1]
trailing bytes are padding and must be ignored
Кожен запис RawBox має розмір 24 байти:
| Зміщення | Розмір | Тип | Поле | Значення |
|---|---|---|---|---|
| 0 | 4 | int32 | x | Координата X у верхньому лівому куті у вихідних пікселях. |
| 4 | 4 | int32 | y | Верхня ліва координата y у вихідних пікселях. |
| 8 | 4 | int32 | w | Ширина в пікселях вихідного зображення. |
| 12 | 4 | int32 | h | Висота в пікселях вихідного зображення. |
| 16 | 4 | float32 | score | Впевненість після застосування NMS для [0.0, 1.0]. |
| 20 | 4 | int32 | class_id | Ідентифікатор класу, визначений моделлю. |
Відповідний формат Python struct для одного запису — "<iiiifi".
Координати вказуються в пікселях вихідного зображення, якщо наявні метадані попередньої обробки. Вони не нормалізовані до [0, 1] і не представлені у внутрішньому просторі вхідних даних моделі, який має форму прямокутника.
Поєднане корисне навантаження сегментації та пози
yolox-seg-pose видає один буфер із трьома регіонами. Розміщення кожного регіону визначається однаковою кількістю слотів top_k:
| Регіон | Зсув | Крок | Вміст |
|---|---|---|---|
| заголовок | 0 | 4 | кількість виявлень int32 |
| рамки | 4 | 24 | записи BoundingBoxOut, описані вище |
| маски | 4 + 24*top_k | mask_w * mask_h | uint8, одна площина на слот |
| пози | 4 + (24 + mask_w*mask_h)*top_k | 204 | 17 x {uint32 x, uint32 y, float32 visibility} |
Використовуйте decode_segmentation_pose(...), щоб отримати рамки, маски й ключові точки. Рядок i кожного тензора описує те саме виявлення. Якщо потрібні лише рамки, використовуйте decode_bbox(...) або BoxDecodeResults(...).
Кожне виявлення має 17 слотів ключових точок. Бекенд обнуляє невикористані слоти та ключові точки класів, виключених через pose_classes. Допоміжна функція копіює ці значення без змін.
Core визначає num_classes як глибину голови класів мінус один, оскільки канал 0 містить оцінку наявності об’єкта. Наприклад, 30 каналів означають 29 класів. Явно задане num_classes має збігатися з цим значенням.
Класи ключових точок
Задайте ID класів, які мають ключові точки:
options = pyneat.BoxDecodeOptions(pyneat.BoxDecodeType.YoloXSegPose)
options.yolox_seg_pose.pose_classes = [0, 5]
ModelOptions.yolox_seg_pose приймає таке саме налаштування.
- Класи поза списком отримують нульові координати ключових точок і видимість.
- Порожній список
BoxDecodeOptionsуспадковує налаштування моделі. Якщо список не задано, ключові точки отримують усі класи. - ID мають бути унікальними та належати діапазону
[0, num_classes). Цей параметр підтримується лише дляYoloXSegPose.
Коли model.run повертає необроблені результати.
Деякі маршрути моделі повертають необроблені вихідні дані у вигляді карт ознак замість декодованого тензора BBOX з model.run(...). Це не означає, що виконання моделі завершилося з помилкою. Це означає, що модель була виконана, але вказаний маршрут не містив етап декодування обмежувальних рамок (BoxDecode) в точці, де ви зчитуєте вихідні дані.
Використовуйте це правило:
detections=...або тензорBBOX: розпакуйте дані BBOX або використовуйте їх. допоміжні функції для декодування.raw_output_heads=...: додайте етап BoxDecode, перевірте маршрут моделі або обробляйте необроблені тензори за допомогою спеціалізованої постобробки для конкретної моделі.
Не розглядайте необроблені дані як обмежувальні рамки. Структура необроблених тензорів залежить від експортованої родини моделей та специфікацій архіву моделі.
Замінити контракт.
Архів моделі може містити значення за замовчуванням для типу декодування, порогів, top_k та вихідної геометрії. Аргументи, що передаються в середовище виконання, замінюють ці значення за замовчуванням лише тоді, коли ви передаєте непустий або додатний параметр.
| Аргумент середовища виконання | Значення, що передається | Поведінка |
|---|---|---|
decode_type | порожньо / Unspecified | Зберігайте архів моделі або використовуйте функцію планування маршруту, якщо це підтримується. |
decode_type | конкретний тип | Замініть сімейство декодувань для цього запуску. |
original_width / original_height | 0 | Збережіть геометрію, що входить до пакета, або метадані попередньої обробки. |
original_width / original_height | додатне ціле число | Замініть вихідні розміри для відображення координат. |
detection_threshold / score_threshold | 0.0 | Збережіть встановлені значення. |
detection_threshold / score_threshold | > 0.0 | Обхід порогу оцінки. |
nms_iou_threshold | 0.0 | Збережіть значення IoU для NMS, що використовується в пакетному режимі. |
nms_iou_threshold | > 0.0 | Замініть порогове значення IoU для NMS. |
top_k | 0 | Збережіть упаковані дані про топ-K. |
top_k | > 0 | Замініть максимальну кількість збережених виявлених об’єктів. |
num_classes порівнює значення, налаштоване викликачем, із кількістю класів, отриманою з тензорного контракту MPK:
| Сімейство моделей | Налаштоване num_classes | num_classes з MPK | Поведінка |
|---|---|---|---|
| Будь-яка підтримувана модель | 0 | додатне значення, яке можна вивести | Використовується кількість класів з MPK. |
| Будь-яка підтримувана модель | додатне ціле число | те саме значення | Використовується налаштована кількість класів. |
| Модель із неоднозначним поділом класів | додатне ціле число | недоступно | Використовується налаштована кількість класів. Це потрібно, коли поділ голови з одним класом не можна надійно вивести. |
| YOLOv5 або YOLO26 | додатне ціле число | інше значення | Помилка до побудови конвеєра з повідомленням обох значень. Ці необроблені розкладки голів виводять кількість класів із глибини тензора. |
| SSD або інше сімейство YOLO до YOLO26 без оцінки пози | додатне ціле число | інше значення | Застосовується наявна поведінка явного перевизначення для цього сімейства. Декодери пози та SuperPoint зберігають свої правила. |
detection_threshold – це назва, яка використовується конструкторами вузлів/етапів BoxDecode. ModelOptions.score_threshold – це опція моделі, яка передає дані до того ж модуля керування.
Розшифруйте відображення типів даних.
| Перелік API | Бекенд-токен | Типова модельна лінійка |
|---|---|---|
BoxDecodeType::Yolo | yolo | Загальні голови у стилі YOLO |
BoxDecodeType::YoloV5 | yolov5 | виявлення об’єктів за допомогою YOLOv5 |
BoxDecodeType::YoloV5Seg | yolov5-seg | Сегментація YOLOv5 |
BoxDecodeType::YoloV7 | yolov7 | виявлення об’єктів за допомогою YOLOv7 |
BoxDecodeType::YoloV7Seg | yolov7-seg | Сегментація YOLOv7 |
BoxDecodeType::YoloV8 | yolov8 | виявлення об’єктів за допомогою YOLOv8 |
BoxDecodeType::YoloV8Seg | yolov8-seg | Сегментація YOLOv8 |
BoxDecodeType::YoloV8Pose | yolov8-pose | YOLOv8 pose |
BoxDecodeType::YoloV9 | yolov9 | виявлення об’єктів за допомогою YOLOv9 |
BoxDecodeType::YoloV9Seg | yolov9-seg | Сегментація YOLOv9 |
BoxDecodeType::YoloV10 | yolov10 | виявлення об’єктів за допомогою YOLOv10 |
BoxDecodeType::YoloV10Seg | yolov10-seg | Сегментація YOLOv10 |
BoxDecodeType::YoloV26 | yolo26 | Виявлення об’єктів за допомогою YOLO26 |
BoxDecodeType::YoloV26Pose | yolo26-pose | YOLO26 pose |
BoxDecodeType::YoloV26Seg | yolo26-seg | Сегментація YOLO26 |
BoxDecodeType::YoloV6 | yolov6 | виявлення об’єктів за допомогою YOLOv6 |
BoxDecodeType::YoloX | yolox | виявлення об’єктів за допомогою YOLOX |
BoxDecodeType::YoloXSegPose | yolox-seg-pose | Упакований експорт YOLOX, що разом містить голови рамок, масок і ключових точок |
BoxDecodeType::Ssd | ssd | Точний підготовлений контракт SSD300, SSD-Mobile-300, SSD-Mobile-320 або SSDlite-Mobile-320, обраний із впорядкованої головної геометрії. |
BoxDecodeType::SuperPoint | superpoint | Постпроцесинг детектора та дескриптора SuperPoint |
BoxDecodeType::Detr | detr | Виявлення об’єктів за допомогою трансформера в стилі DETR |
BoxDecodeType::EffDet | effdet | Ефективне виявлення об’єктів за допомогою EfficientDet |
BoxDecodeType::RcnnStage1 | rcnn-stage1 | Етап генерації пропозицій R-CNN |
BoxDecodeType::Centernet | centernet | Детекція CenterNet |
BoxDecodeType::Unspecified є невизначеним маркером і викликає помилку до початку роботи середовища виконання. Ідентифікатор рецепту SSD є внутрішнім контрактом Core (ssd300-v1, ssd-mobile-300-v1, ssd-mobile-320-v1 або ssdlite-mobile-320-v1), а не іншим загальнодоступним типом декодування або токеном бекенду. Core визначає його перед початком процесу оптимізації, тоді як встановлений об’єктний декодер продовжує отримувати підтримуваний токен ssd і вибирає відповідну фіксовану реалізацію з уже перевіреної геометрії заголовка.