TOPS
TOPS (Tera Operations Per Second) — это единица производительности вычислителя для нейросетей: сколько триллионов целочисленных операций в секунду выполняет нейроускоритель. В характеристиках одноплатных компьютеров TOPS показывают, какие модели компьютерного зрения можно запускать на борту дрона в реальном времени.
При выборе бортового компьютера TOPS — первая цифра для сравнения, но не единственная. Реальная скорость зависит от модели, точности вычислений и памяти, поэтому одна и та же детекция дефектов может идти плавно на плате с меньшим TOPS и тормозить на более мощной.
Что стоит за цифрой TOPS
Производители считают TOPS для операций INT8 на пиковой частоте — это теоретический максимум. Та же плата на моделях с FP16 дает вдвое меньше, а если модель не помещается в память ускорителя, узким местом становится обмен данными, а не вычисления. Поэтому две платы с одинаковыми TOPS могут отличаться по кадрам в секунду в разы.
Сколько TOPS нужно дрону
Ориентиры для типовых задач на борту:
- Навигация по камере и облет препятствий — хватает нескольких TOPS
- Поиск дефектов изоляторов или техники нейросетью YOLO в реальном времени (10–30 кадров в секунду) — нужно около 6–10 TOPS
- Несколько нейросетей одновременно и видео 4K — нужны десятки TOPS
- Обучать нейросети на борту не нужно — на дроне их только запускают, а учат на сервере
Где применяется
Энергетики подбирают вычислитель так, чтобы дефекты на опорах ЛЭП отмечались прямо в полете, а не при обработке на земле. В строительстве бортовой Edge AI отмечает технику и нарушения требований безопасности в реальном времени. В логистике на складе дрону хватает небольшой мощности, если распознавание штрихкодов вынесено в облако.
Как проверить реальную производительность
Надежнее цифры в спецификации — бенчмарк вашей модели на конкретной плате: формат ONNX или TensorRT, квантование до INT8, реальный размер кадра. По результату понятно, нужен ли NVIDIA Jetson или достаточно Orange Pi 5 с нейроускорителем.
— Чем больше TOPS, тем лучше?
Не обязательно: важнее, чтобы ваша модель на этой плате давала нужные кадры в секунду при допустимом нагреве и энергопотреблении.
— Что важнее для дрона — TOPS или память?
Для крупных моделей и видео высокого разрешения часто память: если модель не помещается, TOPS простаивают.
Связанные термины: Edge AI, Бортовой компьютер, Бенчмарк, Inference (инференс)