_ Git - youtube-dl/blob - youtube_dl/extractor/vesti.py

   1 # encoding: utf-8
   2 from __future__ import unicode_literals
   3
   4 import re
   5
   6 from .common import InfoExtractor
   7 from ..utils import (
   8     ExtractorError,
   9     int_or_none
  10 )
  11
  12
  13 class VestiIE(InfoExtractor):
  14     IE_NAME = 'vesti'
  15     IE_DESC = 'Вести.Ru'
  16     _VALID_URL = r'http://(?:.+?\.)?(?:vesti\.ru|russia\.tv)/(?P<id>.+)'
  17
  18     _TESTS = [
  19         {
  20             'url': 'http://www.vesti.ru/videos?vid=575582&cid=1',
  21             'info_dict': {
  22                 'id': '765035',
  23                 'ext': 'mp4',
  24                 'title': 'Вести.net: биткоины в России не являются законными',
  25                 'description': 'md5:d4bb3859dc1177b28a94c5014c35a36b',
  26                 'duration': 302,
  27             },
  28             'params': {
  29                 # m3u8 download
  30                 'skip_download': True,
  31             },
  32         },
  33         {
  34             'url': 'http://www.vesti.ru/doc.html?id=1349233',
  35             'info_dict': {
  36                 'id': '773865',
  37                 'ext': 'mp4',
  38                 'title': 'Участники митинга штурмуют Донецкую областную администрацию',
  39                 'description': 'md5:1a160e98b3195379b4c849f2f4958009',
  40                 'duration': 210,
  41             },
  42             'params': {
  43                 # m3u8 download
  44                 'skip_download': True,
  45             },
  46         },
  47         {
  48             'url': 'http://www.vesti.ru/only_video.html?vid=576180',
  49             'info_dict': {
  50                 'id': '766048',
  51                 'ext': 'mp4',
  52                 'title': 'США заморозило, Британию затопило',
  53                 'description': 'md5:f0ed0695ec05aed27c56a70a58dc4cc1',
  54                 'duration': 87,
  55             },
  56             'params': {
  57                 # m3u8 download
  58                 'skip_download': True,
  59             },
  60         },
  61         {
  62             'url': 'http://hitech.vesti.ru/news/view/id/4000',
  63             'info_dict': {
  64                 'id': '766888',
  65                 'ext': 'mp4',
  66                 'title': 'Вести.net: интернет-гиганты начали перетягивание программных "одеял"',
  67                 'description': 'md5:65ddd47f9830c4f42ed6475f8730c995',
  68                 'duration': 279,
  69             },
  70             'params': {
  71                 # m3u8 download
  72                 'skip_download': True,
  73             },
  74         },
  75         {
  76             'url': 'http://russia.tv/video/show/brand_id/5169/episode_id/970443/video_id/975648',
  77             'info_dict': {
  78                 'id': '771852',
  79                 'ext': 'mp4',
  80                 'title': 'Прямой эфир. Жертвы загадочной болезни: смерть от старости в 17 лет',
  81                 'description': 'md5:b81c8c55247a4bd996b43ce17395b2d8',
  82                 'duration': 3096,
  83             },
  84             'params': {
  85                 # m3u8 download
  86                 'skip_download': True,
  87             },
  88         },
  89         {
  90             'url': 'http://russia.tv/brand/show/brand_id/57638',
  91             'info_dict': {
  92                 'id': '774016',
  93                 'ext': 'mp4',
  94                 'title': 'Чужой в семье Сталина',
  95                 'description': '',
  96                 'duration': 2539,
  97             },
  98             'params': {
  99                 # m3u8 download
 100                 'skip_download': True,
 101             },
 102         },
 103         {
 104             'url': 'http://sochi2014.vesti.ru/video/index/video_id/766403',
 105             'info_dict': {
 106                 'id': '766403',
 107                 'ext': 'mp4',
 108                 'title': 'XXII зимние Олимпийские игры. Российские хоккеисты стартовали на Олимпиаде с победы',
 109                 'description': 'md5:55805dfd35763a890ff50fa9e35e31b3',
 110                 'duration': 271,
 111             },
 112             'params': {
 113                 # m3u8 download
 114                 'skip_download': True,
 115             },
 116             'skip': 'Blocked outside Russia'
 117         },
 118         {
 119             'url': 'http://sochi2014.vesti.ru/live/play/live_id/301',
 120             'info_dict': {
 121                 'id': '51499',
 122                 'ext': 'flv',
 123                 'title': 'Сочи-2014. Биатлон. Индивидуальная гонка. Мужчины ',
 124                 'description': 'md5:9e0ed5c9d2fa1efbfdfed90c9a6d179c',
 125             },
 126             'params': {
 127                 # rtmp download
 128                 'skip_download': True,
 129             },
 130             'skip': 'Translation has finished'
 131         }
 132     ]
 133
 134     def _real_extract(self, url):
 135         mobj = re.match(self._VALID_URL, url)
 136         video_id = mobj.group('id')
 137
 138         page = self._download_webpage(url, video_id, 'Downloading page')
 139
 140         mobj = re.search(
 141             r'<meta property="og:video" content="http://www\.vesti\.ru/i/flvplayer_videoHost\.swf\?vid=(?P<id>\d+)',
 142             page)
 143         if mobj:
 144             video_id = mobj.group('id')
 145             page = self._download_webpage('http://www.vesti.ru/only_video.html?vid=%s' % video_id, video_id,
 146                 'Downloading video page')
 147
 148         mobj = re.search(
 149             r'<meta property="og:video" content="http://player\.rutv\.ru/flash2v/container\.swf\?id=(?P<id>\d+)', page)
 150         if mobj:
 151             video_type = 'video'
 152             video_id = mobj.group('id')
 153         else:
 154             mobj = re.search(
 155                 r'<iframe.+?src="http://player\.rutv\.ru/iframe/(?P<type>[^/]+)/id/(?P<id>\d+)[^"]*".*?></iframe>',
 156                 page)
 157
 158             if not mobj:
 159                 raise ExtractorError('No media found', expected=True)
 160
 161             video_type = mobj.group('type')
 162             video_id = mobj.group('id')
 163
 164         json_data = self._download_json(
 165             'http://player.rutv.ru/iframe/%splay/id/%s' % ('live-' if video_type == 'live' else '', video_id),
 166             video_id, 'Downloading JSON')
 167
 168         if json_data['errors']:
 169             raise ExtractorError('vesti returned error: %s' % json_data['errors'], expected=True)
 170
 171         playlist = json_data['data']['playlist']
 172         medialist = playlist['medialist']
 173         media = medialist[0]
 174
 175         if media['errors']:
 176             raise ExtractorError('vesti returned error: %s' % media['errors'], expected=True)
 177
 178         view_count = playlist.get('count_views')
 179         priority_transport = playlist['priority_transport']
 180
 181         thumbnail = media['picture']
 182         width = int_or_none(media['width'])
 183         height = int_or_none(media['height'])
 184         description = media['anons']
 185         title = media['title']
 186         duration = int_or_none(media.get('duration'))
 187
 188         formats = []
 189
 190         for transport, links in media['sources'].items():
 191             for quality, url in links.items():
 192                 if transport == 'rtmp':
 193                     mobj = re.search(r'^(?P<url>rtmp://[^/]+/(?P<app>.+))/(?P<playpath>.+)$', url)
 194                     if not mobj:
 195                         continue
 196                     fmt = {
 197                         'url': mobj.group('url'),
 198                         'play_path': mobj.group('playpath'),
 199                         'app': mobj.group('app'),
 200                         'page_url': 'http://player.rutv.ru',
 201                         'player_url': 'http://player.rutv.ru/flash2v/osmf.swf?i=22',
 202                         'rtmp_live': True,
 203                         'ext': 'flv',
 204                         'vbr': int(quality),
 205                     }
 206                 elif transport == 'm3u8':
 207                     fmt = {
 208                         'url': url,
 209                         'ext': 'mp4',
 210                     }
 211                 else:
 212                     fmt = {
 213                         'url': url
 214                     }
 215                 fmt.update({
 216                     'width': width,
 217                     'height': height,
 218                     'format_id': '%s-%s' % (transport, quality),
 219                     'preference': -1 if priority_transport == transport else -2,
 220                 })
 221                 formats.append(fmt)
 222
 223         if not formats:
 224             raise ExtractorError('No media links available for %s' % video_id)
 225
 226         self._sort_formats(formats)
 227
 228         return {
 229             'id': video_id,
 230             'title': title,
 231             'description': description,
 232             'thumbnail': thumbnail,
 233             'view_count': view_count,
 234             'duration': duration,
 235             'formats': formats,
 236         }