_ Git - youtube-dl/blob - youtube_dl/extractor/tvplay.py

   1 # coding: utf-8
   2 from __future__ import unicode_literals
   3
   4 import re
   5
   6 from .common import InfoExtractor
   7 from ..compat import (
   8     compat_HTTPError,
   9     compat_str,
  10     compat_urlparse,
  11 )
  12 from ..utils import (
  13     determine_ext,
  14     ExtractorError,
  15     int_or_none,
  16     parse_iso8601,
  17     qualities,
  18     try_get,
  19     js_to_json,
  20     update_url_query,
  21 )
  22
  23
  24 class TVPlayIE(InfoExtractor):
  25     IE_NAME = 'mtg'
  26     IE_DESC = 'MTG services'
  27     _VALID_URL = r'''(?x)
  28                     (?:
  29                         mtg:|
  30                         https?://
  31                             (?:www\.)?
  32                             (?:
  33                                 tvplay(?:\.skaties)?\.lv/parraides|
  34                                 (?:tv3play|play\.tv3)\.lt/programos|
  35                                 tv3play(?:\.tv3)?\.ee/sisu|
  36                                 (?:tv(?:3|6|8|10)play|viafree)\.se/program|
  37                                 (?:(?:tv3play|viasat4play|tv6play|viafree)\.no|(?:tv3play|viafree)\.dk)/programmer|
  38                                 play\.novatv\.bg/programi
  39                             )
  40                             /(?:[^/]+/)+
  41                         )
  42                         (?P<id>\d+)
  43                     '''
  44     _TESTS = [
  45         {
  46             'url': 'http://www.tvplay.lv/parraides/vinas-melo-labak/418113?autostart=true',
  47             'md5': 'a1612fe0849455423ad8718fe049be21',
  48             'info_dict': {
  49                 'id': '418113',
  50                 'ext': 'mp4',
  51                 'title': 'Kādi ir īri? - Viņas melo labāk',
  52                 'description': 'Baiba apsmej īrus, kādi tie ir un ko viņi dara.',
  53                 'series': 'Viņas melo labāk',
  54                 'season': '2.sezona',
  55                 'season_number': 2,
  56                 'duration': 25,
  57                 'timestamp': 1406097056,
  58                 'upload_date': '20140723',
  59             },
  60         },
  61         {
  62             'url': 'http://play.tv3.lt/programos/moterys-meluoja-geriau/409229?autostart=true',
  63             'info_dict': {
  64                 'id': '409229',
  65                 'ext': 'flv',
  66                 'title': 'Moterys meluoja geriau',
  67                 'description': 'md5:9aec0fc68e2cbc992d2a140bd41fa89e',
  68                 'series': 'Moterys meluoja geriau',
  69                 'episode_number': 47,
  70                 'season': '1 sezonas',
  71                 'season_number': 1,
  72                 'duration': 1330,
  73                 'timestamp': 1403769181,
  74                 'upload_date': '20140626',
  75             },
  76             'params': {
  77                 # rtmp download
  78                 'skip_download': True,
  79             },
  80         },
  81         {
  82             'url': 'http://www.tv3play.ee/sisu/kodu-keset-linna/238551?autostart=true',
  83             'info_dict': {
  84                 'id': '238551',
  85                 'ext': 'flv',
  86                 'title': 'Kodu keset linna 398537',
  87                 'description': 'md5:7df175e3c94db9e47c0d81ffa5d68701',
  88                 'duration': 1257,
  89                 'timestamp': 1292449761,
  90                 'upload_date': '20101215',
  91             },
  92             'params': {
  93                 # rtmp download
  94                 'skip_download': True,
  95             },
  96         },
  97         {
  98             'url': 'http://www.tv3play.se/program/husraddarna/395385?autostart=true',
  99             'info_dict': {
 100                 'id': '395385',
 101                 'ext': 'mp4',
 102                 'title': 'Husräddarna S02E07',
 103                 'description': 'md5:f210c6c89f42d4fc39faa551be813777',
 104                 'duration': 2574,
 105                 'timestamp': 1400596321,
 106                 'upload_date': '20140520',
 107             },
 108             'params': {
 109                 'skip_download': True,
 110             },
 111         },
 112         {
 113             'url': 'http://www.tv6play.se/program/den-sista-dokusapan/266636?autostart=true',
 114             'info_dict': {
 115                 'id': '266636',
 116                 'ext': 'mp4',
 117                 'title': 'Den sista dokusåpan S01E08',
 118                 'description': 'md5:295be39c872520221b933830f660b110',
 119                 'duration': 1492,
 120                 'timestamp': 1330522854,
 121                 'upload_date': '20120229',
 122                 'age_limit': 18,
 123             },
 124             'params': {
 125                 'skip_download': True,
 126             },
 127         },
 128         {
 129             'url': 'http://www.tv8play.se/program/antikjakten/282756?autostart=true',
 130             'info_dict': {
 131                 'id': '282756',
 132                 'ext': 'mp4',
 133                 'title': 'Antikjakten S01E10',
 134                 'description': 'md5:1b201169beabd97e20c5ad0ad67b13b8',
 135                 'duration': 2646,
 136                 'timestamp': 1348575868,
 137                 'upload_date': '20120925',
 138             },
 139             'params': {
 140                 'skip_download': True,
 141             },
 142         },
 143         {
 144             'url': 'http://www.tv3play.no/programmer/anna-anka-soker-assistent/230898?autostart=true',
 145             'info_dict': {
 146                 'id': '230898',
 147                 'ext': 'mp4',
 148                 'title': 'Anna Anka søker assistent - Ep. 8',
 149                 'description': 'md5:f80916bf5bbe1c5f760d127f8dd71474',
 150                 'duration': 2656,
 151                 'timestamp': 1277720005,
 152                 'upload_date': '20100628',
 153             },
 154             'params': {
 155                 'skip_download': True,
 156             },
 157         },
 158         {
 159             'url': 'http://www.viasat4play.no/programmer/budbringerne/21873?autostart=true',
 160             'info_dict': {
 161                 'id': '21873',
 162                 'ext': 'mp4',
 163                 'title': 'Budbringerne program 10',
 164                 'description': 'md5:4db78dc4ec8a85bb04fd322a3ee5092d',
 165                 'duration': 1297,
 166                 'timestamp': 1254205102,
 167                 'upload_date': '20090929',
 168             },
 169             'params': {
 170                 'skip_download': True,
 171             },
 172         },
 173         {
 174             'url': 'http://www.tv6play.no/programmer/hotelinspektor-alex-polizzi/361883?autostart=true',
 175             'info_dict': {
 176                 'id': '361883',
 177                 'ext': 'mp4',
 178                 'title': 'Hotelinspektør Alex Polizzi - Ep. 10',
 179                 'description': 'md5:3ecf808db9ec96c862c8ecb3a7fdaf81',
 180                 'duration': 2594,
 181                 'timestamp': 1393236292,
 182                 'upload_date': '20140224',
 183             },
 184             'params': {
 185                 'skip_download': True,
 186             },
 187         },
 188         {
 189             'url': 'http://play.novatv.bg/programi/zdravei-bulgariya/624952?autostart=true',
 190             'info_dict': {
 191                 'id': '624952',
 192                 'ext': 'flv',
 193                 'title': 'Здравей, България (12.06.2015 г.) ',
 194                 'description': 'md5:99f3700451ac5bb71a260268b8daefd7',
 195                 'duration': 8838,
 196                 'timestamp': 1434100372,
 197                 'upload_date': '20150612',
 198             },
 199             'params': {
 200                 # rtmp download
 201                 'skip_download': True,
 202             },
 203         },
 204         {
 205             'url': 'http://tvplay.skaties.lv/parraides/vinas-melo-labak/418113?autostart=true',
 206             'only_matching': True,
 207         },
 208         {
 209             # views is null
 210             'url': 'http://tvplay.skaties.lv/parraides/tv3-zinas/760183',
 211             'only_matching': True,
 212         },
 213         {
 214             'url': 'http://tv3play.tv3.ee/sisu/kodu-keset-linna/238551?autostart=true',
 215             'only_matching': True,
 216         },
 217         {
 218             'url': 'http://www.viafree.se/program/underhallning/i-like-radio-live/sasong-1/676869',
 219             'only_matching': True,
 220         },
 221         {
 222             'url': 'mtg:418113',
 223             'only_matching': True,
 224         }
 225     ]
 226
 227     def _real_extract(self, url):
 228         video_id = self._match_id(url)
 229
 230         video = self._download_json(
 231             'http://playapi.mtgx.tv/v3/videos/%s' % video_id, video_id, 'Downloading video JSON')
 232
 233         title = video['title']
 234
 235         try:
 236             streams = self._download_json(
 237                 'http://playapi.mtgx.tv/v3/videos/stream/%s' % video_id,
 238                 video_id, 'Downloading streams JSON')
 239         except ExtractorError as e:
 240             if isinstance(e.cause, compat_HTTPError) and e.cause.code == 403:
 241                 msg = self._parse_json(e.cause.read().decode('utf-8'), video_id)
 242                 raise ExtractorError(msg['msg'], expected=True)
 243             raise
 244
 245         quality = qualities(['hls', 'medium', 'high'])
 246         formats = []
 247         for format_id, video_url in streams.get('streams', {}).items():
 248             if not video_url or not isinstance(video_url, compat_str):
 249                 continue
 250             ext = determine_ext(video_url)
 251             if ext == 'f4m':
 252                 formats.extend(self._extract_f4m_formats(
 253                     update_url_query(video_url, {
 254                         'hdcore': '3.5.0',
 255                         'plugin': 'aasp-3.5.0.151.81'
 256                     }), video_id, f4m_id='hds', fatal=False))
 257             elif ext == 'm3u8':
 258                 formats.extend(self._extract_m3u8_formats(
 259                     video_url, video_id, 'mp4', 'm3u8_native',
 260                     m3u8_id='hls', fatal=False))
 261             else:
 262                 fmt = {
 263                     'format_id': format_id,
 264                     'quality': quality(format_id),
 265                     'ext': ext,
 266                 }
 267                 if video_url.startswith('rtmp'):
 268                     m = re.search(
 269                         r'^(?P<url>rtmp://[^/]+/(?P<app>[^/]+))/(?P<playpath>.+)$', video_url)
 270                     if not m:
 271                         continue
 272                     fmt.update({
 273                         'ext': 'flv',
 274                         'url': m.group('url'),
 275                         'app': m.group('app'),
 276                         'play_path': m.group('playpath'),
 277                     })
 278                 else:
 279                     fmt.update({
 280                         'url': video_url,
 281                     })
 282                 formats.append(fmt)
 283
 284         if not formats and video.get('is_geo_blocked'):
 285             self.raise_geo_restricted(
 286                 'This content might not be available in your country due to copyright reasons')
 287
 288         self._sort_formats(formats)
 289
 290         # TODO: webvtt in m3u8
 291         subtitles = {}
 292         sami_path = video.get('sami_path')
 293         if sami_path:
 294             lang = self._search_regex(
 295                 r'_([a-z]{2})\.xml', sami_path, 'lang',
 296                 default=compat_urlparse.urlparse(url).netloc.rsplit('.', 1)[-1])
 297             subtitles[lang] = [{
 298                 'url': sami_path,
 299             }]
 300
 301         series = video.get('format_title')
 302         episode_number = int_or_none(video.get('format_position', {}).get('episode'))
 303         season = video.get('_embedded', {}).get('season', {}).get('title')
 304         season_number = int_or_none(video.get('format_position', {}).get('season'))
 305
 306         return {
 307             'id': video_id,
 308             'title': title,
 309             'description': video.get('description'),
 310             'series': series,
 311             'episode_number': episode_number,
 312             'season': season,
 313             'season_number': season_number,
 314             'duration': int_or_none(video.get('duration')),
 315             'timestamp': parse_iso8601(video.get('created_at')),
 316             'view_count': try_get(video, lambda x: x['views']['total'], int),
 317             'age_limit': int_or_none(video.get('age_limit', 0)),
 318             'formats': formats,
 319             'subtitles': subtitles,
 320         }
 321
 322
 323 class ViafreeIE(InfoExtractor):
 324     _VALID_URL = r'''(?x)
 325                     https?://
 326                         (?:www\.)?
 327                         viafree\.
 328                         (?:
 329                             (?:dk|no)/programmer|
 330                             se/program
 331                         )
 332                         /(?:[^/]+/)+(?P<id>[^/?#&]+)
 333                     '''
 334     _TESTS = [{
 335         'url': 'http://www.viafree.se/program/livsstil/husraddarna/sasong-2/avsnitt-2',
 336         'info_dict': {
 337             'id': '395375',
 338             'ext': 'mp4',
 339             'title': 'Husräddarna S02E02',
 340             'description': 'md5:4db5c933e37db629b5a2f75dfb34829e',
 341             'series': 'Husräddarna',
 342             'season': 'Säsong 2',
 343             'season_number': 2,
 344             'duration': 2576,
 345             'timestamp': 1400596321,
 346             'upload_date': '20140520',
 347         },
 348         'params': {
 349             'skip_download': True,
 350         },
 351         'add_ie': [TVPlayIE.ie_key()],
 352     }, {
 353         # with relatedClips
 354         'url': 'http://www.viafree.se/program/reality/sommaren-med-youtube-stjarnorna/sasong-1/avsnitt-1',
 355         'info_dict': {
 356             'id': '758770',
 357             'ext': 'mp4',
 358             'title': 'Sommaren med YouTube-stjärnorna S01E01',
 359             'description': 'md5:2bc69dce2c4bb48391e858539bbb0e3f',
 360             'series': 'Sommaren med YouTube-stjärnorna',
 361             'season': 'Säsong 1',
 362             'season_number': 1,
 363             'duration': 1326,
 364             'timestamp': 1470905572,
 365             'upload_date': '20160811',
 366         },
 367         'params': {
 368             'skip_download': True,
 369         },
 370         'add_ie': [TVPlayIE.ie_key()],
 371     }, {
 372         # Different og:image URL schema
 373         'url': 'www.viafree.se/program/reality/sommaren-med-youtube-stjarnorna/sasong-1/avsnitt-2',
 374         'only_matching': True,
 375     }, {
 376         'url': 'http://www.viafree.no/programmer/underholdning/det-beste-vorspielet/sesong-2/episode-1',
 377         'only_matching': True,
 378     }, {
 379         'url': 'http://www.viafree.dk/programmer/reality/paradise-hotel/saeson-7/episode-5',
 380         'only_matching': True,
 381     }]
 382
 383     @classmethod
 384     def suitable(cls, url):
 385         return False if TVPlayIE.suitable(url) else super(ViafreeIE, cls).suitable(url)
 386
 387     def _real_extract(self, url):
 388         video_id = self._match_id(url)
 389
 390         webpage = self._download_webpage(url, video_id)
 391
 392         data = self._parse_json(
 393             self._search_regex(
 394                 r'(?s)window\.App\s*=\s*({.+?})\s*;\s*</script',
 395                 webpage, 'data', default='{}'),
 396             video_id, transform_source=lambda x: re.sub(
 397                 r'(?s)function\s+[a-zA-Z_][\da-zA-Z_]*\s*\([^)]*\)\s*{[^}]*}\s*',
 398                 'null', x), fatal=False)
 399
 400         video_id = None
 401
 402         if data:
 403             video_id = try_get(
 404                 data, lambda x: x['context']['dispatcher']['stores'][
 405                     'ContentPageProgramStore']['currentVideo']['id'],
 406                 compat_str)
 407
 408         # Fallback #1 (extract from og:image URL schema)
 409         if not video_id:
 410             thumbnail = self._og_search_thumbnail(webpage, default=None)
 411             if thumbnail:
 412                 video_id = self._search_regex(
 413                     # Patterns seen:
 414                     #  http://cdn.playapi.mtgx.tv/imagecache/600x315/cloud/content-images/inbox/765166/a2e95e5f1d735bab9f309fa345cc3f25.jpg
 415                     #  http://cdn.playapi.mtgx.tv/imagecache/600x315/cloud/content-images/seasons/15204/758770/4a5ba509ca8bc043e1ebd1a76131cdf2.jpg
 416                     r'https?://[^/]+/imagecache/(?:[^/]+/)+(\d{6,})/',
 417                     thumbnail, 'video id', default=None)
 418
 419         # Fallback #2. Extract from raw JSON string.
 420         # May extract wrong video id if relatedClips is present.
 421         if not video_id:
 422             video_id = self._search_regex(
 423                 r'currentVideo["\']\s*:\s*.+?["\']id["\']\s*:\s*["\'](\d{6,})',
 424                 webpage, 'video id')
 425
 426         return self.url_result('mtg:%s' % video_id, TVPlayIE.ie_key())