]> git.llucax.com Git - software/sercom-old.git/blob - src/sc_test
1e3010a63f741f009ac7853003cd67f7175afcd5
[software/sercom-old.git] / src / sc_test
1 #!/usr/bin/env python2.4
2 # -*- encoding: iso-8859-1 -*-
3 # vim: set et sw=4 sts=4 :
4
5 # Módulos estándar
6 import os
7 import pwd
8 import time
9 import signal
10 import glob
11 import shutil
12 import datetime
13 import subprocess
14 import email.MIMEMultipart
15 # Módulos locales
16 import sercom
17 import sercom.sqlo
18 from sercom.sqlo import *
19
20 class secure_process:
21     def __init__(self, chroot, uid, gid, cpu):
22         self.chroot = chroot
23         self.uid = uid
24         self.gid = gid
25         self.cpu = cpu
26     def __call__(self):
27         from os import chroot, setuid, setgid
28         import resource
29         chroot(self.chroot)
30         setgid(self.gid)
31         setuid(self.uid)
32         x2 = lambda val: (val, val) # Devuelve una tupla con val 2 veces
33         resource.setrlimit(resource.RLIMIT_AS, x2(20*1024*1024))
34         resource.setrlimit(resource.RLIMIT_CORE, x2(0))
35         resource.setrlimit(resource.RLIMIT_CPU, x2(self.cpu))
36         resource.setrlimit(resource.RLIMIT_DATA, x2(20*1024*1024))
37         resource.setrlimit(resource.RLIMIT_FSIZE, x2(20*1024*1024)) #XXX Obtener de archivos esperados?
38         #resource.setrlimit(resource.RLIMIT_LOCKS, x2(100)) XXX NO EXISTE EN python
39         resource.setrlimit(resource.RLIMIT_MEMLOCK, x2(100))
40         resource.setrlimit(resource.RLIMIT_NOFILE, x2(100))
41         resource.setrlimit(resource.RLIMIT_NPROC, x2(0))
42         # Tratamos de forzar un sync para que entre al sleep del padre
43         time.sleep(0)
44
45 def sigchld(signum, frame):
46     """Signal handler para SIGCHILD."""
47     global hijo_muerto, log
48     log.debug('Murió el hijo')
49     hijo_muerto = True
50
51 def sigterm(signum, frame):
52     """Signal handler para SIGTERM y SIGINT."""
53     global continuar, log
54     continuar = False
55     log.debug('Señal %d recibida', signum)
56
57 def compilar(intento, mail):
58     global log
59     # Busco makefile
60     makefile = os.path.join(intento.entrega.ejercicio.path, 'Makefile')
61     # Compilo
62     log.debug('Ejecutando: make -f %s', makefile)
63     intento.inicioCompila = datetime.datetime.now()
64     make = subprocess.Popen(('make', '-f', makefile), stderr=subprocess.PIPE,
65         cwd=intento.path)
66     make.wait()
67     intento.finCompila = datetime.datetime.now()
68     log.debug('Fin del comando: make -f %s', makefile)
69     # Verifico compilación
70     stderr = make.stderr.read()
71     intento.compila = not make.returncode
72     msg = 'Compilación: '
73     if intento.compila and not stderr:
74         msg += 'BIEN'
75     elif intento.compila:
76         msg += 'CON ADVERTENCIAS'
77     else:
78         msg += 'ERROR (código de retorno: %d)' % make.returncode
79     mail.body += msg
80     if stderr:
81         msg += '''
82 Salida:
83 ------------------------------------------------------------------------
84 %s
85 ------------------------------------------------------------------------
86
87 ''' % stderr
88         mail.body += "\n(se adjunta salida, archivo 'make.stderr')\n"
89         mail.attachText(stderr, 'make.stderr')
90     mail.body += '\n\n'
91     intento.observaciones = msg + '\n\n'
92     log.debug(msg)
93
94 def preparar(intento):
95     # Creo chroot - TODO copiarlo de algún lado donde ande el valgrind?
96     os.mkdir(intento.chrootPath)
97     shutil.copy(os.path.join(intento.path, 'tp'),
98         os.path.join(intento.chrootPath, 'tp'))
99
100 def limpiar(intento):
101     # Borro chroot entero
102     shutil.rmtree(intento.chrootPath)
103
104 def probar(intento, caso_de_prueba, mail):
105     def diff(prueba, mail, orig, new, name, origname='alumno', newname='catedra', longname=None):
106         from difflib import unified_diff, HtmlDiff
107         if longname is None: longname = name
108         diff = ''.join(list(unified_diff(orig, new, fromfile=name+'.'+origname, tofile=name+'.'+newname)))
109         nota = ''
110         if diff:
111             prueba.pasada = False
112             nota += "* %s no coincide con lo esperado (archivo '%s.diff').\n" % (longname, name)
113             nota += ('-' * 72) + '\n' + diff + ('-' * 72) + '\n'
114             if not prueba.casoDePrueba.privado:
115                 mail.attachText(diff, name + '.diff')
116                 diff = HtmlDiff().make_file(orig, new, fromdesc=name+'.'+origname, todesc=name+'.'+newname, context=True, numlines=3)
117                 mail.attachText(diff, name + '.diff.html', 'html')
118         return nota
119     def usa_stdin():
120         return os.path.exists(os.path.join(caso_de_prueba.path, 'stdin'))
121     def usa_stdout():
122         return os.path.exists(os.path.join(caso_de_prueba.path, 'stdout'))
123     def usa_stderr():
124         return os.path.exists(os.path.join(caso_de_prueba.path, 'stderr'))
125
126     # Cosas útiles
127     global log, conn, conf, uid, gid
128     # Para manejo de SIGCHLD
129     global hijo_muerto
130     hijo_muerto = False
131     # Obtengo datos útiles del caso de prueba
132     tiempo_cpu = caso_de_prueba.tiempoCpu
133     if tiempo_cpu is None:
134         tiempo_cpu = conf.get('general', 'tiempo_cpu')
135     tiempo_cpu = int(tiempo_cpu)
136     # Creo prueba nueva
137     prueba = Prueba(intento=intento, casoDePrueba=caso_de_prueba,
138         inicio=datetime.datetime.now(), connection=conn)
139     log.debug('Iniciando prueba: %s', prueba)
140     log.debug('Caso de prueba: %s', prueba.casoDePrueba)
141     # Abro archivos para fds básicos
142     options = {
143         'cwd': intento.chrootPath,
144         'close_fds': True,
145         'preexec_fn': secure_process(intento.chrootPath, uid, gid, tiempo_cpu),
146     }
147     if usa_stdin():
148         options['stdin'] = file(os.path.join(caso_de_prueba.path, 'stdin'), 'r')
149     if usa_stdout():
150         options['stdout'] = subprocess.PIPE
151     if usa_stderr():
152         options['stderr'] = subprocess.PIPE
153     # Ejecuto programa
154     params = ['/tp']
155     if caso_de_prueba.parametros:
156         params += params2seq(caso_de_prueba.parametros)
157     log.debug('Ejecutando %s', ' '.join(params))
158     os.seteuid(0) # Dios! (para chroot)
159     try:
160         proc = subprocess.Popen(params, **options)
161     except Exception, e: # FIXME poner en el manejo de exceptiones estandar
162         try:
163             log.debug('ERROR! Trace del hijo: %s', e.child_traceback)
164             raise
165         except:
166             raise
167     os.seteuid(uid) # Mortal de nuevo
168     if not hijo_muerto: # Recibido por el sigchld, para saber si murió
169         time.sleep(tiempo_cpu) # Controlo que no tarde mucho
170     # Si el proceso sigue andando lo tenemos que matar
171     if not hijo_muerto:
172         log.debug('La prueba tardó más del tiempo permitido (%d segundos)',
173             tiempo_cpu)
174         os.seteuid(0) # Dios! (corre como Dios, hay que matarlo como Dios)
175         os.kill(proc.pid, signal.SIGKILL)
176         os.seteuid(uid) # Mortal de nuevo
177         log.debug('Prueba cancelada (kill)')
178         proc.wait()
179         prueba.observaciones = 'Excedió el límite de tiempo de ejecución ' \
180             '(%d seg)' % tiempo_cpu
181         prueba.fin = datetime.datetime.now()
182         prueba.pasada = False
183         mail.agregarResultado(prueba)
184         return prueba
185     proc.wait() # Para que no queden zombies
186     prueba.fin = datetime.datetime.now()
187     # Salió con una señal?
188     if proc.returncode < 0:
189         sig = -proc.returncode
190         # Conversor de nro de señal a string
191         sigs = {}
192         for s in [s for s in dir(signal) if s.startswith('SIG') and s.isalpha()]:
193             sigs[getattr(signal, s)] = s
194         log.debug('El programa salió con la señal %s', sigs[sig])
195         prueba.pasada = False
196         #TODO otras señales conocidas
197         if sig == signal.SIGXCPU:
198             prueba.observaciones = 'Excedió el límite de tiempo de CPU ' \
199                 '(%d seg)' % tiempo_cpu
200         else:
201             prueba.observaciones = 'Salió con la señal %s' % sigs[sig]
202         mail.agregarResultado(prueba)
203         return prueba
204     # Si tenemos que verificar el código de retorno
205     if caso_de_prueba.codigoRetorno is not None:
206         #FIXME trucho lo de 256
207         # Si el código de error esperado es 256 => el código de error debe ser != 0
208         # Si no el código de error esperado debe ser igual al obtenido
209         if caso_de_prueba.codigoRetorno != proc.returncode \
210                 or caso_de_prueba.codigoRetorno == 256 \
211                     and proc.returncode != 0:
212             log.debug('Código de retorno incorrecto (debía ser %d y se obtuvo %d)',
213                 caso_de_prueba.codigoRetorno, proc.returncode)
214             prueba.pasada = False
215             prueba.observaciones = 'Código de retorno incorrecto (debía ' \
216                 'ser %d y se obtuvo %d)' % (caso_de_prueba.codigoRetorno,
217                 proc.returncode)
218             mail.agregarResultado(prueba)
219             return prueba
220     # Verifico salidas estándar/de error
221     prueba.pasada = True # Asumo que está bien, ya habrá tiempo para cambiarlo
222     obs = ''
223     if usa_stdout():
224         obs += diff(prueba, mail, proc.stdout.readlines(),
225             file(os.path.join(caso_de_prueba.path, 'stdout')).readlines(),
226             caso_de_prueba.nombre + '.stdout', longname='La salida estándar')
227     if usa_stderr():
228         obs += diff(prueba, mail, proc.stderr.readlines(),
229             file(os.path.join(caso_de_prueba.path, 'stderr')).readlines(),
230         caso_de_prueba.nombre + '.stderr', longname='La salida de error')
231     for f in caso_de_prueba.archivosSalida:
232         if f not in prueba.archivosSalida:
233             log.debug('Falta el archivo %s y no lo hizo.', f)
234             prueba.pasada = False
235             obs += "* Falta el archivo de salida '%s'.\n" % f
236             continue
237         obs += diff(prueba, mail,
238             file(os.path.join(intento.chrootPath, f)).readlines(),
239             file(os.path.join(caso_de_prueba.pathSalidas, f)).readlines(),
240             caso_de_prueba.nombre + '.' + f)
241     for f in prueba.archivosSalida - (caso_de_prueba.archivosSalida | caso_de_prueba.archivosEntrada):
242         log.debug('El programa debía generar el archivo %s y no lo hizo.', f)
243         prueba.pasada = False
244         obs += "* Se generó un archivo ('%s') que no se esperaba.\n" % f
245     log.debug('Fin de ejecución de caso de prueba (hijo: %d, ret: %d)',
246         proc.pid, proc.returncode)
247     if obs:
248         prueba.observaciones = obs
249     mail.agregarResultado(prueba)
250     log.debug('Resultado de la prueba: %s', prueba)
251     return prueba
252
253 def params2seq(params):
254     r"""Parsea un string de forma similar al bash, separando por espacios y
255     teniendo en cuenta comillas simples y dobles para agrupar. Para poner
256     comillas se puede usar el \ como caracter de escape (\' y \") y también
257     interpreta \n y \t. Devuelve una lista con los parámetros encontrados."""
258     # Constantes
259     SEP, TOKEN, DQUOTE, SQUOTE = ' ', None, '"', "'"
260     seq = []
261     buff = ''
262     escape = False
263     state = SEP
264     for c in params:
265         # Es un caracter escapado
266         if escape:
267             if c == 'n':
268                 buff += '\n'
269             elif c == 't':
270                 buff += '\t'
271             else:
272                 buff += c
273             escape = False
274             continue
275         # Es una secuencia de escape
276         if c == '\\':
277             escape = True
278             continue
279         # Si está buscando espacios
280         if state == SEP:
281             if c == SEP:
282                 continue
283             else:
284                 state = TOKEN # Encontró
285         if state == TOKEN:
286             if c == DQUOTE:
287                 state = DQUOTE
288                 continue
289             if c == SQUOTE:
290                 state = SQUOTE
291                 continue
292             if c == SEP:
293                 state = SEP
294                 seq.append(buff)
295                 buff = ''
296                 continue
297             buff += c
298             continue
299         if state == DQUOTE:
300             if c == DQUOTE:
301                 state = TOKEN
302                 continue
303             buff += c
304             continue
305         if state == SQUOTE:
306             if c == SQUOTE:
307                 state = TOKEN
308                 continue
309             buff += c
310             continue
311         raise Exception, 'No tiene sentido'
312     if state == DQUOTE or state == SQUOTE:
313         raise Exception, 'Parse error, falta cerrar comilla (%s)' % state
314     if buff:
315         seq.append(buff)
316     return seq
317
318 class MailIntento(email.MIMEMultipart.MIMEMultipart, object):
319     def __init__(self, intento):
320         global conf
321         from email.MIMEMultipart import MIMEMultipart
322         from email.MIMEMessage import MIMEMessage
323         from email.MIMEText import MIMEText
324         MIMEMultipart.__init__(self)
325         self.subject = '[%s] Resultado del intento %d (ejercicio %d.%d)' % \
326             (conf.get('mail', 'prefijo'), intento.numero,
327                 intento.entrega.nroEjercicio, intento.entrega.entrega)
328         self['From'] = conf.get('mail', 'from')
329         self['To'] = intento.mailRespuesta
330         self['Reply-To'] = conf.get('mail', 'admin')
331         self['Return-Path'] = conf.get('mail', 'admin')
332         self['X-Mailer'] = 'sercom ' + sercom.VERSION
333         self['X-Priority'] = '5'
334         self.epilogue = 'Para ver correctamente este e-mail su cliente debe ' \
335             'soportar MIME.\n\n'
336         self.prologue = '' # Garantiza que termine en \n el mensaje
337         self.attach(MIMEMessage(MIMEText('', 'plain', 'iso-8859-1')))
338         self.resultado = None
339     def __set_body(self, body):
340         self.get_payload(0).get_payload(0).set_payload(body)
341     def __get_body(self):
342         return self.get_payload(0).get_payload(0).get_payload()
343     body = property(__get_body, __set_body, doc='Cuerpo del mensaje.')
344     def attachText(self, text, nombre=None, subtype='plain'):
345         from email.MIMEText import MIMEText
346         attach = MIMEText(text, subtype, 'iso-8859-1')
347         if nombre:
348             attach.add_header('Content-Disposition', 'attachment', filename=nombre)
349         self.attach(attach)
350     def send(self, resultado=None):
351         import smtplib
352         global conf
353         smtp = smtplib.SMTP(conf.get('mail', 'smtp'))
354         if resultado:
355             self.subject += ': ' + resultado
356         self['Subject'] = self.subject
357         smtp.sendmail(self['From'], self['To'], self.as_string())
358         smtp.close()
359     def agregarResultado(self, prueba):
360         if not prueba.casoDePrueba.privado:
361             if prueba.pasada:
362                 result = 'BIEN'
363             else:
364                 result = 'ERROR'
365             self.body += '''
366 Prueba '%s': %s
367 %s
368 ''' % (prueba.casoDePrueba.nombre, result, prueba.observaciones or '')
369         pass
370
371
372 # Manejadores de señales
373 signal.signal(signal.SIGTERM, sigterm)
374 signal.signal(signal.SIGINT, sigterm)
375 signal.signal(signal.SIGCHLD, sigchld)
376 hijo_muerto = False # Cambia con SIGCHLD
377 continuar = True # Cambia con SIGTERM o SIGINT
378
379 # Inicializo
380 conf, conn, log = sercom.init('test')
381 log.info('Iniciado')
382
383 # Obtengo id de usuario con el cual ejecutar las pruebas
384 uid, gid = pwd.getpwnam(conf.get('general', 'user'))[2:4]
385
386 # Cambio UID efectivo
387 os.seteuid(uid)
388
389 # Atajo
390 intervalo = float(conf.get('general', 'intervalo'))
391
392 # Utilizo el directorio de datos como base para todos los SQLObjects
393 sercom.sqlo.dir_base = conf.get('general', 'data_dir')
394
395 # Hasta que nos maten
396 while continuar:
397     # Busco intento a probar
398     intento = Intento.getProximoAProbar(conn)
399     if not intento:
400         log.debug('No hay intento para probar')
401         time.sleep(intervalo)
402         continue
403     log.info('Nuevo intento a probar (%d %d.%d.%d %d%d%d)',
404         intento.inscripto.padron, intento.entrega.nroEjercicio,
405         intento.entrega.entrega, intento.numero, intento.entrega.curso.anio,
406         intento.entrega.curso.cuatrimestre, intento.entrega.curso.curso)
407     mail = MailIntento(intento)
408     # Compila
409     compilar(intento, mail)
410     if not intento.compila:
411         log.info('Intento no compila')
412         mail.send('NO COMPILA')
413         continue
414     # Ejecución de casos de prueba
415     intento.inicioPruebas = datetime.datetime.now()
416     resultado = True
417     for caso_de_prueba in intento.entrega.ejercicio.casosDePrueba:
418         # Preparo chroot
419         preparar(intento)
420         # Pruebo y agrego prueba a la lista
421         prueba = probar(intento, caso_de_prueba, mail)
422         if not prueba.casoDePrueba.privado and not prueba.pasada:
423             log.info('Prueba %s no pasada' % prueba.casoDePrueba.nombre)
424             resultado = False
425         # Limpio chroot
426         limpiar(intento)
427     intento.finPruebas = datetime.datetime.now()
428     # Envío mail con resultado al alumno
429     if resultado:
430         mail.send('ACEPTADO')
431     else:
432         mail.send('FALLA PRUEBAS')
433     # Limpio directorio
434     log.debug('Borrando ejecutable y código objeto (*.o)')
435     os.remove(os.path.join(intento.path, 'tp'))
436     [os.remove(obj) for obj in glob.glob(os.path.join(intento.path, '*.o'))]
437     # time.sleep(intervalo) #XXX Puede servir para enlentecer el server
438