Top 50 open source web crawlers for data mining

 

web crawler (also known in other terms like ants, automatic indexers, bots, web spiders, web robots or web scutters) is an automated program, or script, that methodically scans or “crawls” through web pages to create an index of the data it is set to look for. This process is called Web crawling or spidering.

There are various uses for web crawlers, but essentially a web crawler is used to collect/mine data from the Internet. Most search engines use it as a means of providing up-to-date data and to find what’s new on the Internet. Analytics companies and market researchers use web crawlers to determine customer and market trends in a given geography. In this article, we present top 50 open source web crawlers available on the web for data mining.

Name Language Platform
Heritrix Java Linux
Nutch Java Cross-platform
Scrapy Python Cross-platform
DataparkSearch C++ Cross-platform
GNU Wget C Linux
GRUB C#, C, Python, Perl Cross-platform
ht://Dig C++ Unix
HTTrack C/C++ Cross-platform
ICDL Crawler C++ Cross-platform
mnoGoSearch C Windows
Norconex HTTP Collector Java Cross-platform
Open Source Server C/C++, Java PHP Cross-platform
PHP-Crawler PHP Cross-platform
YaCy Java Cross-platform
WebSPHINX Java Cross-platform
WebLech Java Cross-platform
Arale Java Cross-platform
JSpider Java Cross-platform
HyperSpider Java Cross-platform
Arachnid Java Cross-platform
Spindle Java Cross-platform
Spider Java Cross-platform
LARM Java Cross-platform
Metis Java Cross-platform
SimpleSpider Java Cross-platform
Grunk Java Cross-platform
CAPEK Java Cross-platform
Aperture Java Cross-platform
Smart and Simple Web Crawler Java Cross-platform
Web Harvest Java Cross-platform
Aspseek C++ Linux
Bixo Java Cross-platform
crawler4j Java Cross-platform
Ebot Erland Linux
Hounder Java Cross-platform
Hyper Estraier C/C++ Cross-platform
OpenWebSpider C#, PHP Cross-platform
Pavuk C Lunix
Sphider PHP Cross-platform
Xapian C++ Cross-platform
Arachnode.net C# Windows
Crawwwler C++ Java
Distributed Web Crawler C, Java, Python Cross-platform
iCrawler Java Cross-platform
pycreep Java Cross-platform
Opese C++ Linux
Andjing Java  
Ccrawler C# Windows
WebEater Java Cross-platform
JoBo Java Cross-platform

- See more at: http://bigdata-madesimple.com/top-50-open-source-web-crawlers-for-data-mining/#sthash.mhZswDtJ.dpuf

경축! 아무것도 안하여 에스천사게임즈가 새로운 모습으로 재오픈 하였습니다.
어린이용이며, 설치가 필요없는 브라우저 게임입니다.
https://s1004games.com

 

[출처] http://bigdata-madesimple.com/top-50-open-source-web-crawlers-for-data-mining/

 

본 웹사이트는 광고를 포함하고 있습니다.
광고 클릭에서 발생하는 수익금은 모두 웹사이트 서버의 유지 및 관리, 그리고 기술 콘텐츠 향상을 위해 쓰여집니다.
번호 제목 글쓴이 날짜 조회 수
» Top 50 open source web crawlers for data mining 졸리운_곰 2016.05.05 102
417 [딜라이트닷넷 창간기획/빅데이터 보안] 빅데이터가 된 로그, 그 로그를 분석하는 통합로그분석시스템 : 어차피 정보를 잘 출력하는 로그를 분석하면 되지 하둡으로 장애 잘 일으키는 시스템 을 빅데이터로 포장하면 모가달라지남 file 졸리운_곰 2016.05.04 255
416 머신러닝 / 기계학습 / 학습용 좋은 링크 모음 졸리운_곰 2016.05.03 754
415 [한글 형태소 분석기] 은전한닢 프로젝트 졸리운_곰 2016.05.03 759
414 [한나눔 형태소 분석기] 한나눔 형태소 분석기 오픈소스 이클립스 설치 file 졸리운_곰 2016.05.03 469
413 [한나눔 형태소 분석기] 카이스트 Hannanum형태소 분석기 소개 졸리운_곰 2016.05.03 533
412 [한글 형태소 분석기] MeCab 설치 및 PHP 바인딩 file 졸리운_곰 2016.05.03 390
411 한글 형태소 분석기 RHINO file 졸리운_곰 2016.05.03 620
410 How can I make my own version of IBM Watson? IBM 왓슨 제작 졸리운_곰 2016.04.30 90
409 Windows 7] 윈도우 7 포맷 후 업데이트 확인 중 오래 뜰때.... file 졸리운_곰 2016.04.25 1319
408 윈도우 10에서 Bash shell 지원 졸리운_곰 2016.04.24 534
407 libtorrent manual p2p 라이브러리 p2p library 졸리운_곰 2016.04.19 105
406 Pig + Hive, not Pig or Hive 졸리운_곰 2016.04.19 159
405 데이터 처리를 위한 오픈 소스 – Hive file 졸리운_곰 2016.04.19 115
404 Map Reduce aka MR. 그이름도 찬란한 맵 리듀스 file 졸리운_곰 2016.04.19 403
403 맵/리듀스 (Map/Reduce) 이해하기 file 졸리운_곰 2016.04.19 209
402 IBM Watson -- How to replicate Watson hardware and systems design for your own use in your basement file 졸리운_곰 2016.04.18 410
401 Hive & Pig - 하둡(Hadoop)의 맵리듀스를 보다 편하게~ file 졸리운_곰 2016.04.16 244
400 하둡 데이터의 거버넌스(governance) 체계를 자동화하는 방법 (Apache Palcon) file 졸리운_곰 2016.04.15 119
399 스타트업에게 비즈니스 모델(Business Model)의 본질은 무엇인가? file 졸리운_곰 2016.03.23 187
대표 김성준 주소 : 경기 용인 분당수지 U타워 등록번호 : 142-07-27414
통신판매업 신고 : 제2012-용인수지-0185호 출판업 신고 : 수지구청 제 123호 개인정보보호최고책임자 : 김성준 sjkim70@stechstar.com
대표전화 : 010-4589-2193 [fax] 02-6280-1294 COPYRIGHT(C) stechstar.com ALL RIGHTS RESERVED