[odnoklassniki] Fix extraction and extend _VALID_URL (closes #6726)
[youtube-dl] / youtube_dl / extractor / odnoklassniki.py
1 # coding: utf-8
2 from __future__ import unicode_literals
3
4 from .common import InfoExtractor
5 from ..compat import compat_urllib_parse_unquote
6 from ..utils import (
7     unified_strdate,
8     int_or_none,
9     qualities,
10     unescapeHTML,
11 )
12
13
14 class OdnoklassnikiIE(InfoExtractor):
15     _VALID_URL = r'https?://(?:www\.)?(?:odnoklassniki|ok)\.ru/(?:video|web-api/video/moviePlayer)/(?P<id>[\d-]+)'
16     _TESTS = [{
17         # metadata in JSON
18         'url': 'http://ok.ru/video/20079905452',
19         'md5': '6ba728d85d60aa2e6dd37c9e70fdc6bc',
20         'info_dict': {
21             'id': '20079905452',
22             'ext': 'mp4',
23             'title': 'Культура меняет нас (прекрасный ролик!))',
24             'duration': 100,
25             'upload_date': '20141207',
26             'uploader_id': '330537914540',
27             'uploader': 'Виталий Добровольский',
28             'like_count': int,
29             'age_limit': 0,
30         },
31     }, {
32         # metadataUrl
33         'url': 'http://ok.ru/video/63567059965189-0',
34         'md5': '9676cf86eff5391d35dea675d224e131',
35         'info_dict': {
36             'id': '63567059965189-0',
37             'ext': 'mp4',
38             'title': 'Девушка без комплексов ...',
39             'duration': 191,
40             'upload_date': '20150518',
41             'uploader_id': '534380003155',
42             'uploader': '☭ Андрей Мещанинов ☭',
43             'like_count': int,
44             'age_limit': 0,
45         },
46     }, {
47         'url': 'http://ok.ru/web-api/video/moviePlayer/20079905452',
48         'only_matching': True,
49     }, {
50         'url': 'http://www.ok.ru/video/20648036891',
51         'only_matching': True,
52     }]
53
54     def _real_extract(self, url):
55         video_id = self._match_id(url)
56
57         webpage = self._download_webpage(
58             'http://ok.ru/video/%s' % video_id, video_id)
59
60         player = self._parse_json(
61             unescapeHTML(self._search_regex(
62                 r'data-options="([^"]+)"', webpage, 'player')),
63             video_id)
64
65         flashvars = player['flashvars']
66
67         metadata = flashvars.get('metadata')
68         if metadata:
69             metadata = self._parse_json(metadata, video_id)
70         else:
71             metadata = self._download_json(
72                 compat_urllib_parse_unquote(flashvars['metadataUrl']),
73                 video_id, 'Downloading metadata JSON')
74
75         movie = metadata['movie']
76         title = movie['title']
77         thumbnail = movie.get('poster')
78         duration = int_or_none(movie.get('duration'))
79
80         author = metadata.get('author', {})
81         uploader_id = author.get('id')
82         uploader = author.get('name')
83
84         upload_date = unified_strdate(self._html_search_meta(
85             'ya:ovs:upload_date', webpage, 'upload date', default=None))
86
87         age_limit = None
88         adult = self._html_search_meta(
89             'ya:ovs:adult', webpage, 'age limit', default=None)
90         if adult:
91             age_limit = 18 if adult == 'true' else 0
92
93         like_count = int_or_none(metadata.get('likeCount'))
94
95         quality = qualities(('mobile', 'lowest', 'low', 'sd', 'hd'))
96
97         formats = [{
98             'url': f['url'],
99             'ext': 'mp4',
100             'format_id': f['name'],
101             'quality': quality(f['name']),
102         } for f in metadata['videos']]
103
104         return {
105             'id': video_id,
106             'title': title,
107             'thumbnail': thumbnail,
108             'duration': duration,
109             'upload_date': upload_date,
110             'uploader': uploader,
111             'uploader_id': uploader_id,
112             'like_count': like_count,
113             'age_limit': age_limit,
114             'formats': formats,
115         }