[Python 인터넷] 5 - 다른 페이지 크롤링

일단은 폴더를 하나 새로 만듭니다.

 

 

 

# 크롤링 라이브러리 import
import requests
from bs4 import BeautifulSoup

def daum() :
    # 엔터치기
    req = requests.get('https://www.daum.net/')

    # 이런 식으로 HTML에 있는 코드를 다 가져온다
    soup = BeautifulSoup(req.text, 'html.parser')

    myList = []

    for i in soup.select("#mArticle > div.cmain_tmp > div.section_media > div.hotissue_builtin > div.realtime_part > ol > li"):
        myList.append(i.find("a").text)

    return myList


def today_humor() :
    # 엔터치기
    req = requests.get('http://www.todayhumor.co.kr/board/list.php?table=bestofbest')

    # 이런 식으로 HTML에 있는 코드를 다 가져온다
    soup = BeautifulSoup(req.text, 'html.parser')

    myList = []

    for i in soup.find_all("td", class_="subject") :
        myList.append(i.text)

    return myList


def clien():
    # 엔터치기
    req = requests.get('https://www.clien.net/service/recommend')

    # 이런 식으로 HTML에 있는 코드를 다 가져온다
    soup = BeautifulSoup(req.text, 'html.parser')

    myList = []

    for i in soup.find_all("span", class_="subject_fixed") :
        myList.append(i.text)

    return myList



html 파일도 설정해주고

<!DOCTYPE html>
<html lang="en">
<head>
    <meta charset="UTF-8">
    <title>Title</title>

    <link rel="stylesheet" href="{{ url_for('static', filename='css/index_style.css') }}">

</head>
<body>

    <div>

        여기는 html영역입니다.

        <a href="/about">어바웃페이지로 이동</a>

    </div>

    <div class="daum_content">
        <h1>여기는 다음 인기검색어입니다.</h1>
        <ul>
            {% for i in list %}
                <li>{{i}}</li>
            {% endfor %}

        </ul>

    </div>

    <div class="daum_content">
        <h1>여기는 오늘의유머</h1>
        <ul>
            {% for i in list2 %}
                <li>{{i}}</li>
            {% endfor %}

        </ul>

    </div>

    <div class="daum_content">
        <h1>여기는 클리앙</h1>
        <ul>
            {% for i in list2 %}
                <li>{{i}}</li>
            {% endfor %}

        </ul>

    </div>



</body>
</html>

app.py파일을 수정하면

from flask import Flask, render_template
app = Flask(__name__)

import crawling


@app.route('/')
def hello():

    myList = crawling.daum()
    todayhumor = crawling.today_humor()
    clien = crawling.clien()

    return render_template("index.html", list = myList, list2 = todayhumor, list3 = clien)

@app.route('/about')
def about():
    return "여기는 어바웃입니다."


if __name__ == '__main__':
    app.run()

여기까지 하면

경축! 아무것도 안하여 에스천사게임즈가 새로운 모습으로 재오픈 하였습니다.
어린이용이며, 설치가 필요없는 브라우저 게임입니다.
https://s1004games.com

 

 

 

 

[출처] https://philosopher-chan.tistory.com/431

본 웹사이트는 광고를 포함하고 있습니다.
광고 클릭에서 발생하는 수익금은 모두 웹사이트 서버의 유지 및 관리, 그리고 기술 콘텐츠 향상을 위해 쓰여집니다.
번호 제목 글쓴이 날짜 조회 수
457 [Python 인터넷] 12 - 데이터 엑셀로 저장 file 졸리운_곰 2023.03.31 334
456 [Python 인터넷] 11 - Page 숫자 설정 file 졸리운_곰 2023.03.31 387
455 [Python 인터넷] 10 - 다음 뉴스 키워드로 크롤링 file 졸리운_곰 2023.03.30 363
454 [Python 인터넷] 9 - Flask POST file 졸리운_곰 2023.03.30 489
453 [Python 인터넷] 8 - 약간의 레이아웃 설정하기 file 졸리운_곰 2023.03.30 347
452 [Python 인터넷] 7 - 개요 file 졸리운_곰 2023.03.30 402
451 [Python 인터넷] 6 - href 연결하기 file 졸리운_곰 2023.03.26 363
» [Python 인터넷] 5 - 다른 페이지 크롤링 file 졸리운_곰 2023.03.26 275
449 [Python 인터넷] 4 - flask에 css 적용하기 file 졸리운_곰 2023.03.26 349
448 [Python 인터넷] 3 - 크롤링한 데이터 html에 보여주기 file 졸리운_곰 2023.03.26 428
447 [Python 인터넷] 2 - flask 프로젝트 생성, 세팅 file 졸리운_곰 2023.03.26 399
446 [Python 인터넷] 1 - 트렌드 홈페이지 개발 개요 file 졸리운_곰 2023.03.26 381
445 [python][자료구조] [Python] Logging to MongoDB (로그 남기기) file 졸리운_곰 2023.03.24 428
444 [Python 인터넷] Python Python - 파이썬 REST API 통신 예제(POST 요청하기, 서버만들기) file 졸리운_곰 2023.03.21 460
443 [python][Django] Python Package Trends: Visualize Package Download Stats in Django file 졸리운_곰 2023.03.18 368
442 [Python 데이터분석] [Python 환경설정] VS code 설치 및 Anaconda와 연동하기 file 졸리운_곰 2023.03.17 527
441 [Python 일반] 파이썬에서 프로그램 일시중지하는 세가지 방법 How to Pause in python 졸리운_곰 2023.03.17 435
440 [python][Django] Django Workflow and Architecture 장고 개발 워크플로우 및 구조 file 졸리운_곰 2023.03.12 338
439 [python][Django] DRF(장고 rest framework)와 REST API서버 개발 file 졸리운_곰 2023.03.12 341
438 [python][자료구조] [스파르타 웹 개발 종합] 파이썬으로 크롤링하고 DB에 저장하기(request, bs4, mongoDB 패키지 사용) 졸리운_곰 2023.03.12 461
대표 김성준 주소 : 경기 용인 분당수지 U타워 등록번호 : 142-07-27414
통신판매업 신고 : 제2012-용인수지-0185호 출판업 신고 : 수지구청 제 123호 개인정보보호최고책임자 : 김성준 sjkim70@stechstar.com
대표전화 : 010-4589-2193 [fax] 02-6280-1294 COPYRIGHT(C) stechstar.com ALL RIGHTS RESERVED