9GAG: Sử dụng Python lấy dữ liệu ảnh GIF
Python
40
White

Trương Tuấn Quang viết ngày 31/03/2016

Mở đầu

Hồi đầu tiên bắt đầu tìm hiểu Python, đó là việc sử dụng nó để scraping dữ liệu từ những trang web khác nhưng bị em Python tán tính mạnh quá cho nên cũng tập tành đi chơi đêm với em ấy. Và giờ thì em cũng chính thức để em ấy thành cô vợ cả và rất nhiều cô vợ hai.

Trong phần hướng dẫn này thì em sẽ làm một ví dụ nhỏ sử dụng Python để lấy dữ liệu ảnh GIF trên trang 9GAG. Tại cứ rảnh là em lên trang này coi mấy cái ảnh GIF giải trí. Nên tại sao ta không thử phân tích dữ liệu của nó và viết một tool tự động lấy về cài mới nhất khi có.

Những module sẽ sử dụng lần này:

Phân tích

Địa chỉ url mình sẽ lấy dữ liệu ở đây là 9GAG. Khi vào trình trang, bật trình debug trang web lên bạn để ý bạn sẽ thấy mỗi bài đăng gif tương ứng với 1 article. Trong mỗi article này sẽ có nội dung tương ứng như (tiêu đề, địa chỉ url, ảnh đại diện, đường dẫn file mp4, wbm). Ở trang 9gag này thì ảnh gif được chuyển đổi thành 1 file mp4 ngắn hoặc là file có định dạng wbm (muốn biết chuẩn này là gì anh em có thể gg để tìm hiểu tiếp nhé)

Phân tích dữ liệu trang 9gag gif

Viết code

Phần thú vị nhất đây rồi. Ở đây mình sẽ chia làm hai bước. Đầu tiên chúng ta sẽ gọi đến trang để lấy về đống bầy nhầy HTML.

1. Lấy về đống bầy nhầy

from bs4 import BeautifulSoup
import requests

def get_home_page():
        try:
            body = requests.get('http://9gag.com/gif')
            if body.status_code == 200:
                html = BeautifulSoup(body.text)
                articles = html.find_all('article')
                return articles
        except:
            print("Fuck Error!")
        return False

Giờ là phần giải thích cho anh em đoạn code trên nó xử lý thế nào nhé. Đầu tiên sẽ là module (requests).

body = requests.get('http://9gag.com/gif')

Ta sẽ gửi request get đến url của trang 9gag để nhận về dữ liệu thuần HTML.

if body.status_code == 200:
    html = BeautifulSoup(body.text)

Tiếp đến để kiểm tra xem request trả về có thành công hay không, ta sẽ kiểm tra trạng thái hay tên tiêng anh là status (đọc sờ ta tút). Nếu status == 200. Tức là ta đã lấy về cái đống bầy nhầy rồi. Bây giờ anh em để ý cái bước phân tích bên trên mình có nói qua nha. Giờ là lúc mình sử dụng nó nè.

html = BeautifulSoup(body.text)
articles = html.find_all('article')

Ta sử dụng module Beautiful Soup để có thể lọc ra các đối tượng Html mà mình cần. Load html vào beautiful soup html = BeautifulSoup(body.text) sau đó ta lọc ra các ảnh gif (mỗi ảnh gif tương ứng với 1 article). Câu lệnh này articles = html.find_all('article') sẽ trả về một mảng các article.

2. Xử lý triệt để đống bầy nhầy.

Phần này sẽ là phần quan trọng nhất giúp mọi người lấy ra được những thông tin cần thiết nhé. Có được mảng các article rồi, ta sẽ truyền mảng đó vào hàm sau để lấy ra các thông tin cần thiết.

def parse_data(origin_data):
    # Mảng lưu dữ liệu đã xử lý thành công
    list_parse_data = []

    for value in origin_data:
        # Tạo một object để lưu lại thông tin ta trích xuất
        obj_save = {
            'name': '',
            'slug': '',
            'webm': '',
            'mp4': '',
            'image': '',
        }
        html = BeautifulSoup(str(value))
        try:
            obj_save['name'] = html.find('h2', {'class': 'badge-item-title'}).text.strip()
            obj_save['image'] = html.find('img', {'class': 'badge-item-img'}).attrs['src'].strip()

            sources = html.find_all('source')
            for source in sources:
                src = source.attrs['src']
                if 'mp4' in src:
                    obj_save['mp4'] = src
                elif 'webm' in src:
                    obj_save['webm'] = src

            list_parse_data.append(source)
        except:
            print('Some parse data error: ')
        return list_parse_data

Chúng ta sẽ for lần lượt các phần tử trong mảng article. Tiếp tục truyền vào Beautiful Soup để phân tích ra thẻ image, tiêu đề (h2) và slug của ảnh gif.

Tiếp đến chúng ta sẽ tìm tất cả thẻ source và lấy ra thuộc tính src để lấy ra đường dẫn mp4 và webm. Sau đó lưu đối tượng vào mảng và trả về khi xử lý hoàn tất.

Thực tiễn

Bạn đã thực sự hiểu cách làm việc của đoạn code trên. Nếu chưa hiểu, bạn có thể ngẫm thêm :D. Vì năng lực sư phạm của mình chưa đạt trình độ cao siêu, hoặc nếu bạn có khả năng giải thích ngắn gọn xúc tích hơn hãy đóng góp để mình sửa nhé.

Bạn có thể lấy code trên để chạy. Mình tin là chạy được vì mình đã thử :). Hoặc bạn có thể xem ngay trực tiếp demo tại địa chỉ [http://bideox.com/post/]. Tool được viết nhắm mục đích nghịch là chính, để áp dụng và một số ví dụ sau này. Lưu ý, địa chỉ trên có thể chết bất cứ lúc nào nên demo chỉ mang tính chất tham khảo :D.

Mở rộng

Bạn thử viết thêm một số chức năng như lưu vào CSDL. Lấy thêm dữ liệu trước đó. Vừa học vừa làm là một cách nhanh nhất để tăng khả năng của bản thân mà.

Bình luận


White
{{ comment.user.name }}
Bỏ hay Hay
{{comment.like_count}}
Male avatar
{{ comment_error }}
Hủy
   

Hiển thị thử

Chỉnh sửa

White

Trương Tuấn Quang

7 bài viết.
21 người follow
Kipalog
{{userFollowed ? 'Following' : 'Follow'}}
Cùng một tác giả
White
13 3
(Ảnh) Agile là gì ?, Scrum là gì ?. Hẳn có rất nhiều bạn nghe đến khái niệm này. Liệu Agile và Scrum có phải là một ?. Bài viết này mình sẽ đi vào...
Trương Tuấn Quang viết hơn 1 năm trước
13 3
White
11 5
(Ảnh) Note: Bài viết giới thiệu và thảo luận về một số chức năng từ phiên bản python 3.4. Và chức năng native coroutines, async/await syntax thì...
Trương Tuấn Quang viết hơn 2 năm trước
11 5
White
11 1
1. Division operator Nếu bạn đang có một công việc nâng cấp phiên bản Python, vậy hãy chú ý tới phép chia. Xem ví dụ sau đây nhé. Python print 7 ...
Trương Tuấn Quang viết hơn 2 năm trước
11 1
Bài viết liên quan
White
1 0
Mở đầu Như đã nói ở bài trước, mình đang nghiên cứu về Spark nên cần log lại một số thứ để dành sau này dùng đến :smile: Đối tượng hướng đến vẫn ...
Phạm Quốc Thắng viết hơn 2 năm trước
1 0
White
5 3
Observer pattern (python example) 1. Observer là gì : Theo như (Link) Observer Pattern là : A software design pattern in which an object, calle...
Khôi Trọng Nguyễn viết gần 2 năm trước
5 3
White
0 0
Web Framework Flask định nghĩa route bằng annotations kiểu như @route('/users/add', methods='GET']) def user_add(): pass Lợi thế của cách là...
studybot viết gần 3 năm trước
0 0
{{like_count}}

kipalog

{{ comment_count }}

bình luận

{{liked ? "Đã kipalog" : "Kipalog"}}


White
{{userFollowed ? 'Following' : 'Follow'}}
7 bài viết.
21 người follow

 Đầu mục bài viết

Vẫn còn nữa! x

Kipalog vẫn còn rất nhiều bài viết hay và chủ đề thú vị chờ bạn khám phá!