RubyGems Navigation menu

arachnid 0.4.0

Arachnid is a web crawler that relies on Bloom Filters to efficiently store visited urls and Typhoeus to avoid the overhead of Mechanize when crawling every page on a domain.

Gemfile:
=

installation:
=

Versions:

  1. 0.4.1 January 17, 2014 (5 ko)
  2. 0.4.0 January 16, 2014 (4,5 ko)
  3. 0.3.2 January 16, 2014 (5 ko)
  4. 0.3.1 January 16, 2014 (5 ko)
  5. 0.3.0 January 16, 2014 (4,5 ko)
Voir toutes les versions (12)

Dépendances de Runtime (4):

bloomfilter-rb = 2.1.1
domainatrix >= 0
nokogiri = 1.5.0
typhoeus = 0.3.2
Show all transitive dependencies

Propriétaires:

Auteurs:

  • dchuk

Total de contrôle SHA 256:

=
← Version précédente Version suivante →

Total de téléchargements 50 085

Pour cette version 3 441

Version publiée:

License:

aucune

Version de Ruby requise: None

Liens:

Page d'accueil Documentation Télécharger Review changes Badge Abonnement RSS Signaler un abus Reverse dependencies