_ Git - youtube-dl/blob - youtube_dl/extractor/vesti.py

   1 # encoding: utf-8
   2 from __future__ import unicode_literals
   3
   4 import re
   5
   6 from .common import InfoExtractor
   7 from ..utils import (
   8     ExtractorError,
   9     int_or_none
  10 )
  11
  12
  13 class VestiIE(InfoExtractor):
  14     IE_NAME = 'vesti'
  15     IE_DESC = 'Вести.Ru'
  16     _VALID_URL = r'http://(?:(?:.+?\.)?vesti\.ru|(?:2\.)?russia\.tv|tvkultura\.ru|rutv\.ru)/(?P<id>.+)'
  17
  18     _TESTS = [
  19         {
  20             'url': 'http://www.vesti.ru/videos?vid=575582&cid=1',
  21             'info_dict': {
  22                 'id': '765035',
  23                 'ext': 'mp4',
  24                 'title': 'Вести.net: биткоины в России не являются законными',
  25                 'description': 'md5:d4bb3859dc1177b28a94c5014c35a36b',
  26                 'duration': 302,
  27             },
  28             'params': {
  29                 # m3u8 download
  30                 'skip_download': True,
  31             },
  32         },
  33         {
  34             'url': 'http://www.vesti.ru/doc.html?id=1349233',
  35             'info_dict': {
  36                 'id': '773865',
  37                 'ext': 'mp4',
  38                 'title': 'Участники митинга штурмуют Донецкую областную администрацию',
  39                 'description': 'md5:1a160e98b3195379b4c849f2f4958009',
  40                 'duration': 210,
  41             },
  42             'params': {
  43                 # m3u8 download
  44                 'skip_download': True,
  45             },
  46         },
  47         {
  48             'url': 'http://www.vesti.ru/only_video.html?vid=576180',
  49             'info_dict': {
  50                 'id': '766048',
  51                 'ext': 'mp4',
  52                 'title': 'США заморозило, Британию затопило',
  53                 'description': 'md5:f0ed0695ec05aed27c56a70a58dc4cc1',
  54                 'duration': 87,
  55             },
  56             'params': {
  57                 # m3u8 download
  58                 'skip_download': True,
  59             },
  60         },
  61         {
  62             'url': 'http://hitech.vesti.ru/news/view/id/4000',
  63             'info_dict': {
  64                 'id': '766888',
  65                 'ext': 'mp4',
  66                 'title': 'Вести.net: интернет-гиганты начали перетягивание программных "одеял"',
  67                 'description': 'md5:65ddd47f9830c4f42ed6475f8730c995',
  68                 'duration': 279,
  69             },
  70             'params': {
  71                 # m3u8 download
  72                 'skip_download': True,
  73             },
  74         },
  75         {
  76             'url': 'http://sochi2014.vesti.ru/video/index/video_id/766403',
  77             'info_dict': {
  78                 'id': '766403',
  79                 'ext': 'mp4',
  80                 'title': 'XXII зимние Олимпийские игры. Российские хоккеисты стартовали на Олимпиаде с победы',
  81                 'description': 'md5:55805dfd35763a890ff50fa9e35e31b3',
  82                 'duration': 271,
  83             },
  84             'params': {
  85                 # m3u8 download
  86                 'skip_download': True,
  87             },
  88             'skip': 'Blocked outside Russia',
  89         },
  90         {
  91             'url': 'http://sochi2014.vesti.ru/live/play/live_id/301',
  92             'info_dict': {
  93                 'id': '51499',
  94                 'ext': 'flv',
  95                 'title': 'Сочи-2014. Биатлон. Индивидуальная гонка. Мужчины ',
  96                 'description': 'md5:9e0ed5c9d2fa1efbfdfed90c9a6d179c',
  97             },
  98             'params': {
  99                 # rtmp download
 100                 'skip_download': True,
 101             },
 102             'skip': 'Translation has finished'
 103         },
 104         {
 105             'url': 'http://russia.tv/video/show/brand_id/5169/episode_id/970443/video_id/975648',
 106             'info_dict': {
 107                 'id': '771852',
 108                 'ext': 'mp4',
 109                 'title': 'Прямой эфир. Жертвы загадочной болезни: смерть от старости в 17 лет',
 110                 'description': 'md5:b81c8c55247a4bd996b43ce17395b2d8',
 111                 'duration': 3096,
 112             },
 113             'params': {
 114                 # m3u8 download
 115                 'skip_download': True,
 116             },
 117         },
 118         {
 119             'url': 'http://russia.tv/brand/show/brand_id/57638',
 120             'info_dict': {
 121                 'id': '774016',
 122                 'ext': 'mp4',
 123                 'title': 'Чужой в семье Сталина',
 124                 'description': '',
 125                 'duration': 2539,
 126             },
 127             'params': {
 128                 # m3u8 download
 129                 'skip_download': True,
 130             },
 131         },
 132         {
 133             'url': 'http://2.russia.tv/video/show/brand_id/48863/episode_id/972920/video_id/978667/viewtype/picture',
 134             'info_dict': {
 135                 'id': '775081',
 136                 'ext': 'mp4',
 137                 'title': 'XXII зимние Олимпийские игры. Россияне заняли весь пьедестал в лыжных гонках',
 138                 'description': 'md5:15d3741dd8d04b203fbc031c6a47fb0f',
 139                 'duration': 101,
 140             },
 141             'params': {
 142                 # m3u8 download
 143                 'skip_download': True,
 144             },
 145             'skip': 'Blocked outside Russia',
 146         },
 147         {
 148             'url': 'http://tvkultura.ru/video/show/brand_id/31724/episode_id/972347/video_id/978186',
 149             'info_dict': {
 150                 'id': '774471',
 151                 'ext': 'mp4',
 152                 'title': 'Монологи на все времена',
 153                 'description': 'md5:18d8b5e6a41fb1faa53819471852d5d5',
 154                 'duration': 2906,
 155             },
 156             'params': {
 157                 # m3u8 download
 158                 'skip_download': True,
 159             },
 160         },
 161         {
 162             'url': 'http://rutv.ru/brand/show/id/6792/channel/75',
 163             'info_dict': {
 164                 'id': '125521',
 165                 'ext': 'mp4',
 166                 'title': 'Грустная дама червей. Х/ф',
 167                 'description': '',
 168                 'duration': 4882,
 169             },
 170             'params': {
 171                 # m3u8 download
 172                 'skip_download': True,
 173             },
 174         },
 175     ]
 176
 177     def _real_extract(self, url):
 178         mobj = re.match(self._VALID_URL, url)
 179         video_id = mobj.group('id')
 180
 181         page = self._download_webpage(url, video_id, 'Downloading page')
 182
 183         mobj = re.search(
 184             r'<meta property="og:video" content="http://www\.vesti\.ru/i/flvplayer_videoHost\.swf\?vid=(?P<id>\d+)',
 185             page)
 186         if mobj:
 187             video_id = mobj.group('id')
 188             page = self._download_webpage('http://www.vesti.ru/only_video.html?vid=%s' % video_id, video_id,
 189                 'Downloading video page')
 190
 191         mobj = re.search(
 192             r'<meta property="og:video" content="http://player\.rutv\.ru/flash2v/container\.swf\?id=(?P<id>\d+)', page)
 193         if mobj:
 194             video_type = 'video'
 195             video_id = mobj.group('id')
 196         else:
 197             mobj = re.search(
 198                 r'<iframe.+?src="http://player\.rutv\.ru/iframe/(?P<type>[^/]+)/id/(?P<id>\d+)[^"]*".*?></iframe>',
 199                 page)
 200
 201             if not mobj:
 202                 raise ExtractorError('No media found', expected=True)
 203
 204             video_type = mobj.group('type')
 205             video_id = mobj.group('id')
 206
 207         json_data = self._download_json(
 208             'http://player.rutv.ru/iframe/%splay/id/%s' % ('live-' if video_type == 'live' else '', video_id),
 209             video_id, 'Downloading JSON')
 210
 211         if json_data['errors']:
 212             raise ExtractorError('vesti returned error: %s' % json_data['errors'], expected=True)
 213
 214         playlist = json_data['data']['playlist']
 215         medialist = playlist['medialist']
 216         media = medialist[0]
 217
 218         if media['errors']:
 219             raise ExtractorError('vesti returned error: %s' % media['errors'], expected=True)
 220
 221         view_count = playlist.get('count_views')
 222         priority_transport = playlist['priority_transport']
 223
 224         thumbnail = media['picture']
 225         width = int_or_none(media['width'])
 226         height = int_or_none(media['height'])
 227         description = media['anons']
 228         title = media['title']
 229         duration = int_or_none(media.get('duration'))
 230
 231         formats = []
 232
 233         for transport, links in media['sources'].items():
 234             for quality, url in links.items():
 235                 if transport == 'rtmp':
 236                     mobj = re.search(r'^(?P<url>rtmp://[^/]+/(?P<app>.+))/(?P<playpath>.+)$', url)
 237                     if not mobj:
 238                         continue
 239                     fmt = {
 240                         'url': mobj.group('url'),
 241                         'play_path': mobj.group('playpath'),
 242                         'app': mobj.group('app'),
 243                         'page_url': 'http://player.rutv.ru',
 244                         'player_url': 'http://player.rutv.ru/flash2v/osmf.swf?i=22',
 245                         'rtmp_live': True,
 246                         'ext': 'flv',
 247                         'vbr': int(quality),
 248                     }
 249                 elif transport == 'm3u8':
 250                     fmt = {
 251                         'url': url,
 252                         'ext': 'mp4',
 253                     }
 254                 else:
 255                     fmt = {
 256                         'url': url
 257                     }
 258                 fmt.update({
 259                     'width': width,
 260                     'height': height,
 261                     'format_id': '%s-%s' % (transport, quality),
 262                     'preference': -1 if priority_transport == transport else -2,
 263                 })
 264                 formats.append(fmt)
 265
 266         if not formats:
 267             raise ExtractorError('No media links available for %s' % video_id)
 268
 269         self._sort_formats(formats)
 270
 271         return {
 272             'id': video_id,
 273             'title': title,
 274             'description': description,
 275             'thumbnail': thumbnail,
 276             'view_count': view_count,
 277             'duration': duration,
 278             'formats': formats,
 279         }