big data (빅데이터) Spark를 설치해서 무작정 돌려보자.

2016.06.12 20:19

졸리운_곰 조회 수:1920

Spark를 설치해서 무작정 돌려보자.

일단 Spark 다운로드... 현재 최신 버전은 1.2.1이다.(2015/02/26 기준)

https://spark.apache.org/downloads.html 에 접속해서 spark 다운로드를 받는다.

hadoop을 포함한 pre-built 버전으로 설치해 본다. (추후 소스코드 받아서 compile해보자.)

위 처럼 지정하고 Download 받아 압축을 해제하면 된다.

편의상 심볼릭 링크를 생성해 두었다.

설치 끝? Spark-Shell을 이용하여 Spark를 간단히 돌려보자.

./bin/spark-shell 을 수행하면 아래처럼 확인할 수 있다.

({SPARK_HOME} 설치 디렉토리에서 위처럼 수행하자. 테스트 샘플 데이터 파일이 Spark 설치 디렉토리에 존재하니.)

# README.md 파일을 읽어서 count()와 first()를 돌려보자.

var textFile = sc.textFile("README.md")
textFile.count()
textFile.first()

라인수와 첫 라인 정보를 확인할 수 있다.(아직까진 어려운게 없다)

# filter() 를 통해 변환을 해보자.

# Spark 단어를 포함한 라인만 추출하기.

var textFile = sc.textFile("README.md")

var linesWithSpark = textFile.filter(line => line.contains("Spark"))
linesWithSpark.count()
linesWithSpark.first()

Spark라는 단어를 포함한 라인은 19줄이며, 첫번째 라인은 "# Apache Spark" 임을 확인할 수 있다.

이외에도 spark-shell을 이용하여 여러 가지를 수행해 볼 수 있다.

좀 더 많은 샘플을 보고 싶으면 https://spark.apache.org/docs/latest/quick-start.html 에 참조하길 바란다.

본 웹사이트는 광고를 포함하고 있습니다.
광고 클릭에서 발생하는 수익금은 모두 웹사이트 서버의 유지 및 관리, 그리고 기술 콘텐츠 향상을 위해 쓰여집니다.

번호	제목	글쓴이	날짜	조회 수
공지	오라클 기본 샘플 데이터베이스	졸리운_곰	2014.01.02	86186
공지	[SQL컨셉] 서적 "SQL컨셉"의 샘플 데이타 베이스 SAMPLE DATABASE of ORACLE	가을의 곰을...	2013.02.10	78668
공지	[G_SQL] Sample Database	가을의 곰을...	2012.05.20	95404
6	품질경영기사 자료와 정보 (응시자격, 출제기준, 시험과목, 시험방법, 합격기준, 합격률 등)	졸리운_곰	2018.02.05	2627
5	품질경영기사 독학 난이도	졸리운_곰	2018.02.05	3424
4	품질경영기사_공식요약(필기, 실기)_요점 및 핵심정리	졸리운_곰	2018.02.05	4354
3	품질경영기사 요점정리	졸리운_곰	2018.02.04	3049
2	[품질경영산업기사]직접 시험 본 후기 및 조언입니다	졸리운_곰	2018.02.03	2572
1	<품질경영기사 독학하시는 분들을 위한 공부방법 TIP!>	졸리운_곰	2018.02.03	3066

쓰기