Система парсинга и валидации прокси | IT - архитектор

Система парсинга и валидации прокси

🌐 Интернет-разведка требует качественных инструментов доступа.
Я разработал систему Ananas, которая агрегирует прокси из множества источников, проверяет их и предоставляет через API.

Архитектура

  1. Harvester — сбор прокси из открытых источников
  2. Updater + Saver — проверка доступности и сохранение в MongoDB
  3. Фоновая ревалидация каждые 3 минуты
  4. API (Swagger + JWT) — доступ к данным для клиентов
  5. Stripe — интеграция оплаты и биллинга

Инновации

  • Автоматическая ревалидация и отслеживание TTL
  • Кеширование и логирование в Elastic
  • Реферальная система для роста аудитории

Практическая польза

  • Готовая инфраструктура для работы в сети
  • Поддержка анализа и сканирования сайтов
  • Надёжный API для разработчиков и исследователей