big data (빅데이터) Spark를 설치해서 무작정 돌려보자.

2016.06.12 20:19

졸리운_곰 조회 수:1920

Spark를 설치해서 무작정 돌려보자.

일단 Spark 다운로드... 현재 최신 버전은 1.2.1이다.(2015/02/26 기준)

https://spark.apache.org/downloads.html 에 접속해서 spark 다운로드를 받는다.

hadoop을 포함한 pre-built 버전으로 설치해 본다. (추후 소스코드 받아서 compile해보자.)

위 처럼 지정하고 Download 받아 압축을 해제하면 된다.

편의상 심볼릭 링크를 생성해 두었다.

설치 끝? Spark-Shell을 이용하여 Spark를 간단히 돌려보자.

./bin/spark-shell 을 수행하면 아래처럼 확인할 수 있다.

({SPARK_HOME} 설치 디렉토리에서 위처럼 수행하자. 테스트 샘플 데이터 파일이 Spark 설치 디렉토리에 존재하니.)

# README.md 파일을 읽어서 count()와 first()를 돌려보자.

var textFile = sc.textFile("README.md")
textFile.count()
textFile.first()

라인수와 첫 라인 정보를 확인할 수 있다.(아직까진 어려운게 없다)

# filter() 를 통해 변환을 해보자.

# Spark 단어를 포함한 라인만 추출하기.

var textFile = sc.textFile("README.md")

var linesWithSpark = textFile.filter(line => line.contains("Spark"))
linesWithSpark.count()
linesWithSpark.first()

Spark라는 단어를 포함한 라인은 19줄이며, 첫번째 라인은 "# Apache Spark" 임을 확인할 수 있다.

이외에도 spark-shell을 이용하여 여러 가지를 수행해 볼 수 있다.

좀 더 많은 샘플을 보고 싶으면 https://spark.apache.org/docs/latest/quick-start.html 에 참조하길 바란다.

본 웹사이트는 광고를 포함하고 있습니다.
광고 클릭에서 발생하는 수익금은 모두 웹사이트 서버의 유지 및 관리, 그리고 기술 콘텐츠 향상을 위해 쓰여집니다.

번호	제목	글쓴이	날짜	조회 수
공지	오라클 기본 샘플 데이터베이스	졸리운_곰	2014.01.02	86308
공지	[SQL컨셉] 서적 "SQL컨셉"의 샘플 데이타 베이스 SAMPLE DATABASE of ORACLE	가을의 곰을...	2013.02.10	78763
공지	[G_SQL] Sample Database	가을의 곰을...	2012.05.20	95509
8	DBeaver 설치 및 실행 (Window10)	졸리운_곰	2020.05.26	1740
7	[Greenplum DB] 세계 최초 오픈소스 대용량 데이터 병렬 처리 데이터 분석 플랫폼, Greenplum Database (GPDB)	졸리운_곰	2020.05.12	2217
6	symmetricDS 간단 소개(매뉴얼 속독정리)	졸리운_곰	2019.02.25	1484
5	Sync Framework Tutorial	졸리운_곰	2017.05.05	1828
4	Database Synchronization with Microsoft Sync Framework	졸리운_곰	2017.05.05	10402
3	Microsoft Sync Framework	졸리운_곰	2017.05.05	1571
2	Microsoft Sync Framework (MSF)	졸리운_곰	2017.05.05	1474
1	쿼리박스(QueryBox), 사용이 편리한 무료 멀티 데이터베이스 쿼리 툴	졸리운_곰	2017.05.05	1781

쓰기