Автоматизация сценариев инференса

💻 PROGRAMMING · DevOps advanced ⭐ 87

Инструмент, который автоматически подготавливает окружение, запускает выбранную модель на входных данных и фиксирует результаты для дальнейшего анализа.

Заполните поля:

Значения подставятся в промпт ниже.

Представьте себя специалистом по автоматизации инференса. Ваша задача — спроектировать универсальный скрипт, который будет:
1. Подготавливать и конфигурировать окружение для выполнения инференса;
2. Запускать указанную модель ${modelName} с данными из ${inputData} и параметрами ${executionParameters};
3. Собирать выводы и сохранять их в лог для последующего анализа.
При этом необходимо обеспечить воспроизводимость запусков, минимизировать время выполнения и эффективно использовать вычислительные ресурсы.
#inference#automation#mlops#machine-learning

💡 Как выжать максимум

  • Используйте виртуальные окружения (venv, conda) для изоляции зависимостей.
  • Записывайте версии библиотек и хэш входных данных в лог для полной воспроизводимости.
  • Применяйте батчинг и асинхронный ввод‑вывод, чтобы ускорить обработку больших наборов данных.
  • Настраивайте автоматический очистку временных файлов, чтобы избежать утечек памяти.
Пример применения

Для модели resnet50, входных изображений в /data/images и параметров "--batch_size 32 --fp16", скрипт создаст окружение, запустит инференс и сохранит метрики точности и время выполнения в results.log.

Вариации этого промпта:
  • Автоматизировать инференс: подготовка окружения, запуск модели и логирование результатов с учётом версии данных.
  • Создать пайплайн инференса, который автоматически конфигурирует среду, исполняет модель с заданными параметрами и сохраняет воспроизводимые отчёты.
  • Разработать скрипт для бесшовного инференса: настройка окружения, выполнение модели и детальное логирование всех этапов.

Кураторская подборка fizoni.com · структура, примеры использования и рабочие сценарии

Похожие промпты

💡 Понравился этот промпт?

📦 Prompts for Programmers — 411 промптов

Вместо одного промпта — целый набор по теме. Готовые процессы, структура, быстрый старт. Код, рефакторинг, дебаг, архитектура, ревью, SQL и API.…

Забрать набор — $2.99 🎁 6 бесплатных промптов

Всего $2.99 · мгновенный доступ · оплата картой

🎁 Забери 6 лучших промптов бесплатно

Понравился этот промпт? Мы собрали ещё 6 отборных — для бизнеса, кода и продуктивности. Плюс доступ к полной библиотеке 2000+ промптов.