PEP8: E225,E227
[youtube-dl] / youtube_dl / update.py
1 import io
2 import json
3 import traceback
4 import hashlib
5 import os
6 import subprocess
7 import sys
8 from zipimport import zipimporter
9
10 from .utils import (
11     compat_str,
12     compat_urllib_request,
13 )
14 from .version import __version__
15
16
17 def rsa_verify(message, signature, key):
18     from struct import pack
19     from hashlib import sha256
20     from sys import version_info
21
22     def b(x):
23         if version_info[0] == 2:
24             return x
25         else:
26             return x.encode('latin1')
27     assert(type(message) == type(b('')))
28     block_size = 0
29     n = key[0]
30     while n:
31         block_size += 1
32         n >>= 8
33     signature = pow(int(signature, 16), key[1], key[0])
34     raw_bytes = []
35     while signature:
36         raw_bytes.insert(0, pack("B", signature & 0xFF))
37         signature >>= 8
38     signature = (block_size - len(raw_bytes)) * b('\x00') + b('').join(raw_bytes)
39     if signature[0:2] != b('\x00\x01'):
40         return False
41     signature = signature[2:]
42     if not b('\x00') in signature:
43         return False
44     signature = signature[signature.index(b('\x00')) + 1:]
45     if not signature.startswith(b('\x30\x31\x30\x0D\x06\x09\x60\x86\x48\x01\x65\x03\x04\x02\x01\x05\x00\x04\x20')):
46         return False
47     signature = signature[19:]
48     if signature != sha256(message).digest():
49         return False
50     return True
51
52
53 def update_self(to_screen, verbose):
54     """Update the program file with the latest version from the repository"""
55
56     UPDATE_URL = "http://rg3.github.io/youtube-dl/update/"
57     VERSION_URL = UPDATE_URL + 'LATEST_VERSION'
58     JSON_URL = UPDATE_URL + 'versions.json'
59     UPDATES_RSA_KEY = (0x9d60ee4d8f805312fdb15a62f87b95bd66177b91df176765d13514a0f1754bcd2057295c5b6f1d35daa6742c3ffc9a82d3e118861c207995a8031e151d863c9927e304576bc80692bc8e094896fcf11b66f3e29e04e3a71e9a11558558acea1840aec37fc396fb6b65dc81a1c4144e03bd1c011de62e3f1357b327d08426fe93, 65537)
60
61     if not isinstance(globals().get('__loader__'), zipimporter) and not hasattr(sys, "frozen"):
62         to_screen(u'It looks like you installed youtube-dl with a package manager, pip, setup.py or a tarball. Please use that to update.')
63         return
64
65     # Check if there is a new version
66     try:
67         newversion = compat_urllib_request.urlopen(VERSION_URL).read().decode('utf-8').strip()
68     except:
69         if verbose:
70             to_screen(compat_str(traceback.format_exc()))
71         to_screen(u'ERROR: can\'t find the current version. Please try again later.')
72         return
73     if newversion == __version__:
74         to_screen(u'youtube-dl is up-to-date (' + __version__ + ')')
75         return
76
77     # Download and check versions info
78     try:
79         versions_info = compat_urllib_request.urlopen(JSON_URL).read().decode('utf-8')
80         versions_info = json.loads(versions_info)
81     except:
82         if verbose:
83             to_screen(compat_str(traceback.format_exc()))
84         to_screen(u'ERROR: can\'t obtain versions info. Please try again later.')
85         return
86     if not 'signature' in versions_info:
87         to_screen(u'ERROR: the versions file is not signed or corrupted. Aborting.')
88         return
89     signature = versions_info['signature']
90     del versions_info['signature']
91     if not rsa_verify(json.dumps(versions_info, sort_keys=True).encode('utf-8'), signature, UPDATES_RSA_KEY):
92         to_screen(u'ERROR: the versions file signature is invalid. Aborting.')
93         return
94
95     version_id = versions_info['latest']
96
97     def version_tuple(version_str):
98         return tuple(map(int, version_str.split('.')))
99     if version_tuple(__version__) >= version_tuple(version_id):
100         to_screen(u'youtube-dl is up to date (%s)' % __version__)
101         return
102
103     to_screen(u'Updating to version ' + version_id + ' ...')
104     version = versions_info['versions'][version_id]
105
106     print_notes(to_screen, versions_info['versions'])
107
108     filename = sys.argv[0]
109     # Py2EXE: Filename could be different
110     if hasattr(sys, "frozen") and not os.path.isfile(filename):
111         if os.path.isfile(filename + u'.exe'):
112             filename += u'.exe'
113
114     if not os.access(filename, os.W_OK):
115         to_screen(u'ERROR: no write permissions on %s' % filename)
116         return
117
118     # Py2EXE
119     if hasattr(sys, "frozen"):
120         exe = os.path.abspath(filename)
121         directory = os.path.dirname(exe)
122         if not os.access(directory, os.W_OK):
123             to_screen(u'ERROR: no write permissions on %s' % directory)
124             return
125
126         try:
127             urlh = compat_urllib_request.urlopen(version['exe'][0])
128             newcontent = urlh.read()
129             urlh.close()
130         except (IOError, OSError):
131             if verbose:
132                 to_screen(compat_str(traceback.format_exc()))
133             to_screen(u'ERROR: unable to download latest version')
134             return
135
136         newcontent_hash = hashlib.sha256(newcontent).hexdigest()
137         if newcontent_hash != version['exe'][1]:
138             to_screen(u'ERROR: the downloaded file hash does not match. Aborting.')
139             return
140
141         try:
142             with open(exe + '.new', 'wb') as outf:
143                 outf.write(newcontent)
144         except (IOError, OSError):
145             if verbose:
146                 to_screen(compat_str(traceback.format_exc()))
147             to_screen(u'ERROR: unable to write the new version')
148             return
149
150         try:
151             bat = os.path.join(directory, 'youtube-dl-updater.bat')
152             with io.open(bat, 'w') as batfile:
153                 batfile.write(u"""
154 @echo off
155 echo Waiting for file handle to be closed ...
156 ping 127.0.0.1 -n 5 -w 1000 > NUL
157 move /Y "%s.new" "%s" > NUL
158 echo Updated youtube-dl to version %s.
159 start /b "" cmd /c del "%%~f0"&exit /b"
160                 \n""" % (exe, exe, version_id))
161
162             subprocess.Popen([bat])  # Continues to run in the background
163             return  # Do not show premature success messages
164         except (IOError, OSError):
165             if verbose:
166                 to_screen(compat_str(traceback.format_exc()))
167             to_screen(u'ERROR: unable to overwrite current version')
168             return
169
170     # Zip unix package
171     elif isinstance(globals().get('__loader__'), zipimporter):
172         try:
173             urlh = compat_urllib_request.urlopen(version['bin'][0])
174             newcontent = urlh.read()
175             urlh.close()
176         except (IOError, OSError):
177             if verbose:
178                 to_screen(compat_str(traceback.format_exc()))
179             to_screen(u'ERROR: unable to download latest version')
180             return
181
182         newcontent_hash = hashlib.sha256(newcontent).hexdigest()
183         if newcontent_hash != version['bin'][1]:
184             to_screen(u'ERROR: the downloaded file hash does not match. Aborting.')
185             return
186
187         try:
188             with open(filename, 'wb') as outf:
189                 outf.write(newcontent)
190         except (IOError, OSError):
191             if verbose:
192                 to_screen(compat_str(traceback.format_exc()))
193             to_screen(u'ERROR: unable to overwrite current version')
194             return
195
196     to_screen(u'Updated youtube-dl. Restart youtube-dl to use the new version.')
197
198
199 def get_notes(versions, fromVersion):
200     notes = []
201     for v, vdata in sorted(versions.items()):
202         if v > fromVersion:
203             notes.extend(vdata.get('notes', []))
204     return notes
205
206
207 def print_notes(to_screen, versions, fromVersion=__version__):
208     notes = get_notes(versions, fromVersion)
209     if notes:
210         to_screen(u'PLEASE NOTE:')
211         for note in notes:
212             to_screen(note)