[Ruutu] Add new extractor
[youtube-dl] / youtube_dl / extractor / ruutu.py
1 # coding: utf-8
2 from __future__ import unicode_literals
3
4 from .common import InfoExtractor
5 from ..compat import compat_urllib_parse_urlparse
6 import re
7
8
9 class RuutuIE(InfoExtractor):
10     _VALID_URL = r'http://(www\.)?ruutu\.fi/ohjelmat/(?:[^/]+/)?(?P<id>.*)$'
11     _TESTS = [
12         {
13             'url': 'http://www.ruutu.fi/ohjelmat/oletko-aina-halunnut-tietaa-mita-tapahtuu-vain-hetki-ennen-lahetysta-nyt-se-selvisi',
14             'md5': 'ab2093f39be1ca8581963451b3c0234f',
15             'info_dict': {
16                 'id': 'oletko-aina-halunnut-tietaa-mita-tapahtuu-vain-hetki-ennen-lahetysta-nyt-se-selvisi',
17                 'ext': 'mp4',
18                 'title': 'Oletko aina halunnut tietää mitä tapahtuu vain hetki ennen lähetystä? - Nyt se selvisi!',
19                 'description': 'Toinen toistaan huikeampia ohjelmaideoita ja täysin päätöntä sekoilua? No sitä juuri nimenomaan. Metro Helsingin Iltapäivän vieraaksi saapui Tuomas Kauhanen ja he Petra Kalliomaan kanssa keskustelivat hieman ennen lähetyksen alkua, mutta kamerat olivatkin jo päällä.',
20             },
21             'params': {
22                 'format': 'http-1000',
23             }
24         },
25         {
26             'url': 'http://www.ruutu.fi/ohjelmat/superpesis/superpesis-katso-koko-kausi-ruudussa',
27             'md5': '065a10ae4d5b8cfd9d0c3d332465e3d9',
28             'info_dict': {
29                 'id': 'superpesis-katso-koko-kausi-ruudussa',
30                 'ext': 'mp4',
31                 'title': 'Superpesis: katso koko kausi Ruudussa',
32                 'description': 'Huippujännittävän Superpesiksen suoria ottelulähetyksiä seurataan Ruudussa kauden alusta viimeiseen finaaliin asti. Katso lisätiedot osoitteesta ruutu.fi/superpesis.',
33             },
34             'params': {
35                 'format': 'http-1000',
36             }
37         },
38     ]
39
40     def _real_extract(self, url):
41         mobj = re.match(self._VALID_URL, url)
42
43         video_id = mobj.group('id')
44         webpage = self._download_webpage(url, video_id)
45         media_id = self._html_search_regex(r'data-media-id="(\d+)"', webpage, 'media_id')
46         media_json = self._parse_json(self._search_regex(r'jQuery.extend\([^,]+, (.*)\);', webpage, 'media_data'), video_id)
47         xml_url = media_json['ruutuplayer']['xmlUrl'].replace('{ID}', media_id)
48         media_xml = self._download_xml(xml_url, media_id)
49
50         formats = []
51         parsed_urls = []
52         for fmt in media_xml.findall('.//Clip//'):
53             url = fmt.text
54             if not fmt.tag.endswith('File') or url in parsed_urls or \
55                     'NOT_USED' in url:
56                 continue
57
58             if url.endswith('m3u8'):
59                 formats.extend(self._extract_m3u8_formats(url, media_id, m3u8_id='hls'))
60                 parsed_urls.append(url)
61             elif url.endswith('f4m'):
62                 formats.extend(self._extract_f4m_formats(url, media_id, f4m_id='hds'))
63                 parsed_urls.append(url)
64             else:
65                 proto = compat_urllib_parse_urlparse(url).scheme
66                 width_str, height_str = fmt.get('resolution').split('x')
67                 tbr = int(fmt.get('bitrate', 0))
68                 formats.append({
69                     'format_id': '%s-%d' % (proto, tbr),
70                     'url': url,
71                     'width': int(width_str),
72                     'height': int(height_str),
73                     'tbr': tbr,
74                     'ext': url.rsplit('.', 1)[-1],
75                     'live': True,
76                     'protocol': proto,
77                 })
78         self._sort_formats(formats)
79
80         return {
81             'id': video_id,
82             'title': self._og_search_title(webpage),
83             'formats': formats,
84             'description': self._og_search_description(webpage),
85             'thumbnail': self._og_search_thumbnail(webpage),
86             'duration': int(media_xml.find('.//Runtime').text),
87             'age_limit': int(media_xml.find('.//AgeLimit').text),
88         }