[python 트린드 홈페이지개발] 5 - 다른 페이지 크롤링

일단은 폴더를 하나 새로 만듭니다.

 

 

 

# 크롤링 라이브러리 import
import requests
from bs4 import BeautifulSoup

def daum() :
    # 엔터치기
    req = requests.get('https://www.daum.net/')

    # 이런 식으로 HTML에 있는 코드를 다 가져온다
    soup = BeautifulSoup(req.text, 'html.parser')

    myList = []

    for i in soup.select("#mArticle > div.cmain_tmp > div.section_media > div.hotissue_builtin > div.realtime_part > ol > li"):
        myList.append(i.find("a").text)

    return myList


def today_humor() :
    # 엔터치기
    req = requests.get('http://www.todayhumor.co.kr/board/list.php?table=bestofbest')

    # 이런 식으로 HTML에 있는 코드를 다 가져온다
    soup = BeautifulSoup(req.text, 'html.parser')

    myList = []

    for i in soup.find_all("td", class_="subject") :
        myList.append(i.text)

    return myList


def clien():
    # 엔터치기
    req = requests.get('https://www.clien.net/service/recommend')

    # 이런 식으로 HTML에 있는 코드를 다 가져온다
    soup = BeautifulSoup(req.text, 'html.parser')

    myList = []

    for i in soup.find_all("span", class_="subject_fixed") :
        myList.append(i.text)

    return myList



html 파일도 설정해주고

경축! 아무것도 안하여 에스천사게임즈가 새로운 모습으로 재오픈 하였습니다.
어린이용이며, 설치가 필요없는 브라우저 게임입니다.
https://s1004games.com

<!DOCTYPE html>
<html lang="en">
<head>
    <meta charset="UTF-8">
    <title>Title</title>

    <link rel="stylesheet" href="{{ url_for('static', filename='css/index_style.css') }}">

</head>
<body>

    <div>

        여기는 html영역입니다.

        <a href="/about">어바웃페이지로 이동</a>

    </div>

    <div class="daum_content">
        <h1>여기는 다음 인기검색어입니다.</h1>
        <ul>
            {% for i in list %}
                <li>{{i}}</li>
            {% endfor %}

        </ul>

    </div>

    <div class="daum_content">
        <h1>여기는 오늘의유머</h1>
        <ul>
            {% for i in list2 %}
                <li>{{i}}</li>
            {% endfor %}

        </ul>

    </div>

    <div class="daum_content">
        <h1>여기는 클리앙</h1>
        <ul>
            {% for i in list2 %}
                <li>{{i}}</li>
            {% endfor %}

        </ul>

    </div>



</body>
</html>

app.py파일을 수정하면

from flask import Flask, render_template
app = Flask(__name__)

import crawling


@app.route('/')
def hello():

    myList = crawling.daum()
    todayhumor = crawling.today_humor()
    clien = crawling.clien()

    return render_template("index.html", list = myList, list2 = todayhumor, list3 = clien)

@app.route('/about')
def about():
    return "여기는 어바웃입니다."


if __name__ == '__main__':
    app.run()

여기까지 하면

 

 

[출처] https://philosopher-chan.tistory.com/431

본 웹사이트는 광고를 포함하고 있습니다.
광고 클릭에서 발생하는 수익금은 모두 웹사이트 서버의 유지 및 관리, 그리고 기술 콘텐츠 향상을 위해 쓰여집니다.
번호 제목 글쓴이 날짜 조회 수
44 [python] 크롤링한 데이터 DB에 저장하기 file 졸리운_곰 2021.01.29 3215
43 [python] 크롤러 만들어 db에 정보 insert 하기 졸리운_곰 2021.01.29 356
42 Python - mongoDB 다루기 졸리운_곰 2020.12.05 345
41 XML to JSON ( JSON to XML ) 파이썬 스크립트 변환 졸리운_곰 2020.10.04 365
40 [python] 크롤러 만들어 db에 정보 insert 하기 졸리운_곰 2020.10.02 525
39 python 으로 pdf 에서 text 문자열 추출 (뽑아내기) file 졸리운_곰 2020.09.05 1001
38 [파이썬] sqlite3 모듈 사용법 졸리운_곰 2020.05.06 510
37 Python 데이터 시각화 file 졸리운_곰 2020.05.06 587
36 파이썬 SQLite3 사용법 file 졸리운_곰 2020.05.06 450
35 How to create an SQLite3 database in Python 3 졸리운_곰 2020.04.30 40569
34 Python - Linked Lists 졸리운_곰 2020.03.25 439
33 python으로 GUID 만들기 졸리운_곰 2019.02.27 545
32 파이썬으로 구현한 기본적인 블록체인 : A Practical Introduction to Blockchain with Python file 졸리운_곰 2019.02.22 1078
31 파이썬-sql알케미-tutorial, sqlalchemy tutorial file 졸리운_곰 2018.08.27 524
30 node.js python-shell을 활용하여 python 실행 file 졸리운_곰 2018.08.14 689
29 Python, PyV8로 javascript 실행하기 file 졸리운_곰 2018.08.14 623
28 Does Python SciPy need BLAS? 졸리운_곰 2018.05.26 487
27 [파이썬으로 구현한 알고리즘] (7) 트리(Tree) file 졸리운_곰 2018.02.27 1957
26 [파이썬으로 구현한 알고리즘] (6) 쉘 정렬(Shell Sort) file 졸리운_곰 2018.02.27 771
25 [파이썬으로 구현한 알고리즘] (5) 삽입 정렬(Insertion Sort) file 졸리운_곰 2018.02.27 1033
대표 김성준 주소 : 경기 용인 분당수지 U타워 등록번호 : 142-07-27414
통신판매업 신고 : 제2012-용인수지-0185호 출판업 신고 : 수지구청 제 123호 개인정보보호최고책임자 : 김성준 sjkim70@stechstar.com
대표전화 : 010-4589-2193 [fax] 02-6280-1294 COPYRIGHT(C) stechstar.com ALL RIGHTS RESERVED