Система парсинга и валидации прокси
🌐 Интернет-разведка требует качественных инструментов доступа.
Я разработал систему Ananas, которая агрегирует прокси из множества источников, проверяет их и предоставляет через API.
Архитектура
- Harvester — сбор прокси из открытых источников
- Updater + Saver — проверка доступности и сохранение в MongoDB
- Фоновая ревалидация каждые 3 минуты
- API (Swagger + JWT) — доступ к данным для клиентов
- Stripe — интеграция оплаты и биллинга
Инновации
- Автоматическая ревалидация и отслеживание TTL
- Кеширование и логирование в Elastic
- Реферальная система для роста аудитории
Практическая польза
- Готовая инфраструктура для работы в сети
- Поддержка анализа и сканирования сайтов
- Надёжный API для разработчиков и исследователей