Альтернатива Replicate: когда «холодный старт» становится критическим препятствием в продакшене Replicate — известная в сообществе разработчиков платформа для хостинга ML-моделей, которая завоевала популярность благодаря простому API и огромному количеству моделей от сообщества. Однако в производственной среде разработчиков постоянно преследует одна архитектурная проблема: задержка при «холодном старте» может достигать 10–60 секунд и более, что абсолютно неприемлемо…