[nick.com] improve extraction(fixes #14876)
[youtube-dl] / youtube_dl / extractor / nick.py
1 # coding: utf-8
2 from __future__ import unicode_literals
3
4 import re
5
6 from .mtv import MTVServicesInfoExtractor
7 from ..utils import update_url_query
8
9
10 class NickIE(MTVServicesInfoExtractor):
11     # None of videos on the website are still alive?
12     IE_NAME = 'nick.com'
13     _VALID_URL = r'https?://(?P<domain>(?:(?:www|beta)\.)?nick(?:jr)?\.com)/(?:[^/]+/)?(?:videos/clip|[^/]+/videos)/(?P<id>[^/?#.]+)'
14     _FEED_URL = 'http://udat.mtvnservices.com/service1/dispatch.htm'
15     _GEO_COUNTRIES = ['US']
16     _TESTS = [{
17         'url': 'http://www.nick.com/videos/clip/alvinnn-and-the-chipmunks-112-full-episode.html',
18         'playlist': [
19             {
20                 'md5': '6e5adc1e28253bbb1b28ab05403dd4d4',
21                 'info_dict': {
22                     'id': 'be6a17b0-412d-11e5-8ff7-0026b9414f30',
23                     'ext': 'mp4',
24                     'title': 'ALVINNN!!! and The Chipmunks: "Mojo Missing/Who\'s The Animal" S1',
25                     'description': 'Alvin is convinced his mojo was in a cap he gave to a fan, and must find a way to get his hat back before the Chipmunks’ big concert.\nDuring a costume visit to the zoo, Alvin finds himself mistaken for the real Tasmanian devil.',
26
27                 }
28             },
29             {
30                 'md5': 'd7be441fc53a1d4882fa9508a1e5b3ce',
31                 'info_dict': {
32                     'id': 'be6b8f96-412d-11e5-8ff7-0026b9414f30',
33                     'ext': 'mp4',
34                     'title': 'ALVINNN!!! and The Chipmunks: "Mojo Missing/Who\'s The Animal" S2',
35                     'description': 'Alvin is convinced his mojo was in a cap he gave to a fan, and must find a way to get his hat back before the Chipmunks’ big concert.\nDuring a costume visit to the zoo, Alvin finds himself mistaken for the real Tasmanian devil.',
36
37                 }
38             },
39             {
40                 'md5': 'efffe1728a234b2b0d2f2b343dd1946f',
41                 'info_dict': {
42                     'id': 'be6cf7e6-412d-11e5-8ff7-0026b9414f30',
43                     'ext': 'mp4',
44                     'title': 'ALVINNN!!! and The Chipmunks: "Mojo Missing/Who\'s The Animal" S3',
45                     'description': 'Alvin is convinced his mojo was in a cap he gave to a fan, and must find a way to get his hat back before the Chipmunks’ big concert.\nDuring a costume visit to the zoo, Alvin finds himself mistaken for the real Tasmanian devil.',
46                 }
47             },
48             {
49                 'md5': '1ec6690733ab9f41709e274a1d5c7556',
50                 'info_dict': {
51                     'id': 'be6e3354-412d-11e5-8ff7-0026b9414f30',
52                     'ext': 'mp4',
53                     'title': 'ALVINNN!!! and The Chipmunks: "Mojo Missing/Who\'s The Animal" S4',
54                     'description': 'Alvin is convinced his mojo was in a cap he gave to a fan, and must find a way to get his hat back before the Chipmunks’ big concert.\nDuring a costume visit to the zoo, Alvin finds himself mistaken for the real Tasmanian devil.',
55                 }
56             },
57         ],
58     }, {
59         'url': 'http://www.nickjr.com/paw-patrol/videos/pups-save-a-goldrush-s3-ep302-full-episode/',
60         'only_matching': True,
61     }, {
62         'url': 'http://beta.nick.com/nicky-ricky-dicky-and-dawn/videos/nicky-ricky-dicky-dawn-301-full-episode/',
63         'only_matching': True,
64     }]
65
66     def _get_feed_query(self, uri):
67         return {
68             'feed': 'nick_arc_player_prime',
69             'mgid': uri,
70         }
71
72     def _real_extract(self, url):
73         domain, display_id = re.match(self._VALID_URL, url).groups()
74         video_data = self._download_json(
75             'http://%s/data/video.endLevel.json' % domain,
76             display_id, query={
77                 'urlKey': display_id,
78             })
79         return self._get_videos_info(video_data['player'] + video_data['id'])
80
81
82 class NickDeIE(MTVServicesInfoExtractor):
83     IE_NAME = 'nick.de'
84     _VALID_URL = r'https?://(?:www\.)?(?P<host>nick\.(?:de|com\.pl|ch)|nickelodeon\.(?:nl|be|at|dk|no|se))/[^/]+/(?:[^/]+/)*(?P<id>[^/?#&]+)'
85     _TESTS = [{
86         'url': 'http://www.nick.de/playlist/3773-top-videos/videos/episode/17306-zu-wasser-und-zu-land-rauchende-erdnusse',
87         'only_matching': True,
88     }, {
89         'url': 'http://www.nick.de/shows/342-icarly',
90         'only_matching': True,
91     }, {
92         'url': 'http://www.nickelodeon.nl/shows/474-spongebob/videos/17403-een-kijkje-in-de-keuken-met-sandy-van-binnenuit',
93         'only_matching': True,
94     }, {
95         'url': 'http://www.nickelodeon.at/playlist/3773-top-videos/videos/episode/77993-das-letzte-gefecht',
96         'only_matching': True,
97     }, {
98         'url': 'http://www.nick.com.pl/seriale/474-spongebob-kanciastoporty/wideo/17412-teatr-to-jest-to-rodeo-oszolom',
99         'only_matching': True,
100     }, {
101         'url': 'http://www.nickelodeon.no/program/2626-bulderhuset/videoer/90947-femteklasse-veronica-vs-vanzilla',
102         'only_matching': True,
103     }, {
104         'url': 'http://www.nickelodeon.dk/serier/2626-hojs-hus/videoer/761-tissepause',
105         'only_matching': True,
106     }, {
107         'url': 'http://www.nickelodeon.se/serier/2626-lugn-i-stormen/videos/998-',
108         'only_matching': True,
109     }, {
110         'url': 'http://www.nick.ch/shows/2304-adventure-time-abenteuerzeit-mit-finn-und-jake',
111         'only_matching': True,
112     }, {
113         'url': 'http://www.nickelodeon.be/afspeellijst/4530-top-videos/videos/episode/73917-inval-broodschapper-lariekoek-arie',
114         'only_matching': True,
115     }]
116
117     def _extract_mrss_url(self, webpage, host):
118         return update_url_query(self._search_regex(
119             r'data-mrss=(["\'])(?P<url>http.+?)\1', webpage, 'mrss url', group='url'),
120             {'siteKey': host})
121
122     def _real_extract(self, url):
123         mobj = re.match(self._VALID_URL, url)
124         video_id = mobj.group('id')
125         host = mobj.group('host')
126
127         webpage = self._download_webpage(url, video_id)
128
129         mrss_url = self._extract_mrss_url(webpage, host)
130
131         return self._get_videos_info_from_url(mrss_url, video_id)
132
133
134 class NickNightIE(NickDeIE):
135     IE_NAME = 'nicknight'
136     _VALID_URL = r'https?://(?:www\.)(?P<host>nicknight\.(?:de|at|tv))/(?:playlist|shows)/(?:[^/]+/)*(?P<id>[^/?#&]+)'
137     _TESTS = [{
138         'url': 'http://www.nicknight.at/shows/977-awkward/videos/85987-nimmer-beste-freunde',
139         'only_matching': True,
140     }, {
141         'url': 'http://www.nicknight.at/shows/977-awkward',
142         'only_matching': True,
143     }, {
144         'url': 'http://www.nicknight.at/shows/1900-faking-it',
145         'only_matching': True,
146     }]
147
148     def _extract_mrss_url(self, webpage, *args):
149         return self._search_regex(
150             r'mrss\s*:\s*(["\'])(?P<url>http.+?)\1', webpage,
151             'mrss url', group='url')
152
153
154 class NickRuIE(MTVServicesInfoExtractor):
155     IE_NAME = 'nickelodeonru'
156     _VALID_URL = r'https?://(?:www\.)nickelodeon\.(?:ru|fr|es|pt|ro|hu)/[^/]+/(?:[^/]+/)*(?P<id>[^/?#&]+)'
157     _TESTS = [{
158         'url': 'http://www.nickelodeon.ru/shows/henrydanger/videos/episodes/3-sezon-15-seriya-licenziya-na-polyot/pmomfb#playlist/7airc6',
159         'only_matching': True,
160     }, {
161         'url': 'http://www.nickelodeon.ru/videos/smotri-na-nickelodeon-v-iyule/g9hvh7',
162         'only_matching': True,
163     }, {
164         'url': 'http://www.nickelodeon.fr/programmes/bob-l-eponge/videos/le-marathon-de-booh-kini-bottom-mardi-31-octobre/nfn7z0',
165         'only_matching': True,
166     }, {
167         'url': 'http://www.nickelodeon.es/videos/nickelodeon-consejos-tortitas/f7w7xy',
168         'only_matching': True,
169     }, {
170         'url': 'http://www.nickelodeon.pt/series/spongebob-squarepants/videos/a-bolha-de-tinta-gigante/xutq1b',
171         'only_matching': True,
172     }, {
173         'url': 'http://www.nickelodeon.ro/emisiuni/shimmer-si-shine/video/nahal-din-bomboane/uw5u2k',
174         'only_matching': True,
175     }, {
176         'url': 'http://www.nickelodeon.hu/musorok/spongyabob-kockanadrag/videok/episodes/buborekfujas-az-elszakadt-nadrag/q57iob#playlist/k6te4y',
177         'only_matching': True,
178     }]
179
180     def _real_extract(self, url):
181         video_id = self._match_id(url)
182         webpage = self._download_webpage(url, video_id)
183         mgid = self._extract_mgid(webpage)
184         return self.url_result('http://media.mtvnservices.com/embed/%s' % mgid)