1 #!/usr/bin/env python2.4
2 # -*- encoding: iso-8859-1 -*-
3 # vim: set et sw=4 sts=4 :
14 import email.MIMEMultipart
18 from sercom.sqlo import *
21 def __init__(self, chroot, uid, gid, cpu):
27 from os import chroot, setuid, setgid
32 x2 = lambda val: (val, val) # Devuelve una tupla con val 2 veces
33 resource.setrlimit(resource.RLIMIT_AS, x2(20*1024*1024))
34 resource.setrlimit(resource.RLIMIT_CORE, x2(0))
35 resource.setrlimit(resource.RLIMIT_CPU, x2(self.cpu))
36 resource.setrlimit(resource.RLIMIT_DATA, x2(20*1024*1024))
37 resource.setrlimit(resource.RLIMIT_FSIZE, x2(20*1024*1024)) #XXX Obtener de archivos esperados?
38 #resource.setrlimit(resource.RLIMIT_LOCKS, x2(100)) XXX NO EXISTE EN python
39 resource.setrlimit(resource.RLIMIT_MEMLOCK, x2(100))
40 resource.setrlimit(resource.RLIMIT_NOFILE, x2(100))
41 resource.setrlimit(resource.RLIMIT_NPROC, x2(0))
42 # Tratamos de forzar un sync para que entre al sleep del padre
45 def sigchld(signum, frame):
46 """Signal handler para SIGCHILD."""
47 global hijo_muerto, log
48 log.debug('Murió el hijo')
51 def sigterm(signum, frame):
52 """Signal handler para SIGTERM y SIGINT."""
55 log.debug('Señal %d recibida', signum)
57 def compilar(intento, mail):
60 makefile = os.path.join(intento.entrega.ejercicio.path, 'Makefile')
62 log.debug('Ejecutando: make -f %s', makefile)
63 intento.inicioCompila = datetime.datetime.now()
64 make = subprocess.Popen(('make', '-f', makefile), stderr=subprocess.PIPE,
67 intento.finCompila = datetime.datetime.now()
68 log.debug('Fin del comando: make -f %s', makefile)
69 # Verifico compilación
70 stderr = make.stderr.read()
71 intento.compila = not make.returncode
73 if intento.compila and not stderr:
76 msg += 'CON ADVERTENCIAS'
78 msg += 'ERROR (código de retorno: %d)' % make.returncode
83 ------------------------------------------------------------------------
85 ------------------------------------------------------------------------
88 mail.body += "\n(se adjunta salida, archivo 'make.stderr')\n"
89 mail.attachText(stderr, 'make.stderr')
91 intento.observaciones = msg + '\n\n'
94 def preparar(intento):
95 # Creo chroot - TODO copiarlo de algún lado donde ande el valgrind?
96 os.mkdir(intento.chrootPath)
97 shutil.copy(os.path.join(intento.path, 'tp'),
98 os.path.join(intento.chrootPath, 'tp'))
100 def limpiar(intento):
101 # Borro chroot entero
102 shutil.rmtree(intento.chrootPath)
104 def probar(intento, caso_de_prueba, mail):
105 def diff(prueba, mail, orig, new, name, origname='alumno', newname='catedra', longname=None):
106 from difflib import unified_diff, HtmlDiff
107 if longname is None: longname = name
108 diff = ''.join(list(unified_diff(orig, new, fromfile=name+'.'+origname, tofile=name+'.'+newname)))
111 prueba.pasada = False
112 nota += "* %s no coincide con lo esperado (archivo '%s.diff').\n" % (longname, name)
113 nota += ('-' * 72) + '\n' + diff + ('-' * 72) + '\n'
114 if not prueba.casoDePrueba.privado:
115 mail.attachText(diff, name + '.diff')
116 diff = HtmlDiff().make_file(orig, new, fromdesc=name+'.'+origname, todesc=name+'.'+newname, context=True, numlines=3)
117 mail.attachText(diff, name + '.diff.html', 'html')
120 return os.path.exists(os.path.join(caso_de_prueba.path, 'stdin'))
122 return os.path.exists(os.path.join(caso_de_prueba.path, 'stdout'))
124 return os.path.exists(os.path.join(caso_de_prueba.path, 'stderr'))
127 global log, conn, conf, uid, gid
128 # Para manejo de SIGCHLD
131 # Obtengo datos útiles del caso de prueba
132 tiempo_cpu = caso_de_prueba.tiempoCpu
133 if tiempo_cpu is None:
134 tiempo_cpu = conf.get('general', 'tiempo_cpu')
135 tiempo_cpu = int(tiempo_cpu)
137 prueba = Prueba(intento=intento, casoDePrueba=caso_de_prueba,
138 inicio=datetime.datetime.now(), connection=conn)
139 log.debug('Iniciando prueba: %s', prueba)
140 log.debug('Caso de prueba: %s', prueba.casoDePrueba)
141 # Abro archivos para fds básicos
143 'cwd': intento.chrootPath,
145 'preexec_fn': secure_process(intento.chrootPath, uid, gid, tiempo_cpu),
148 options['stdin'] = file(os.path.join(caso_de_prueba.path, 'stdin'), 'r')
150 options['stdout'] = subprocess.PIPE
152 options['stderr'] = subprocess.PIPE
155 if caso_de_prueba.parametros:
156 params += params2seq(caso_de_prueba.parametros)
157 log.debug('Ejecutando %s', ' '.join(params))
158 os.seteuid(0) # Dios! (para chroot)
160 proc = subprocess.Popen(params, **options)
161 except Exception, e: # FIXME poner en el manejo de exceptiones estandar
163 log.debug('ERROR! Trace del hijo: %s', e.child_traceback)
167 os.seteuid(uid) # Mortal de nuevo
168 if not hijo_muerto: # Recibido por el sigchld, para saber si murió
169 time.sleep(tiempo_cpu) # Controlo que no tarde mucho
170 # Si el proceso sigue andando lo tenemos que matar
172 log.debug('La prueba tardó más del tiempo permitido (%d segundos)',
174 os.seteuid(0) # Dios! (corre como Dios, hay que matarlo como Dios)
175 os.kill(proc.pid, signal.SIGKILL)
176 os.seteuid(uid) # Mortal de nuevo
177 log.debug('Prueba cancelada (kill)')
179 prueba.observaciones = 'Excedió el límite de tiempo de ejecución ' \
180 '(%d seg)' % tiempo_cpu
181 prueba.fin = datetime.datetime.now()
182 prueba.pasada = False
183 mail.agregarResultado(prueba)
185 proc.wait() # Para que no queden zombies
186 prueba.fin = datetime.datetime.now()
187 # Salió con una señal?
188 if proc.returncode < 0:
189 sig = -proc.returncode
190 # Conversor de nro de señal a string
192 for s in [s for s in dir(signal) if s.startswith('SIG') and s.isalpha()]:
193 sigs[getattr(signal, s)] = s
194 log.debug('El programa salió con la señal %s', sigs[sig])
195 prueba.pasada = False
196 #TODO otras señales conocidas
197 if sig == signal.SIGXCPU:
198 prueba.observaciones = 'Excedió el límite de tiempo de CPU ' \
199 '(%d seg)' % tiempo_cpu
201 prueba.observaciones = 'Salió con la señal %s' % sigs[sig]
202 mail.agregarResultado(prueba)
204 # Si tenemos que verificar el código de retorno
205 if caso_de_prueba.codigoRetorno is not None:
206 #FIXME trucho lo de 256
207 # Si el código de error esperado es 256 => el código de error debe ser != 0
208 # Si no el código de error esperado debe ser igual al obtenido
209 if caso_de_prueba.codigoRetorno != proc.returncode \
210 or caso_de_prueba.codigoRetorno == 256 \
211 and proc.returncode != 0:
212 log.debug('Código de retorno incorrecto (debía ser %d y se obtuvo %d)',
213 caso_de_prueba.codigoRetorno, proc.returncode)
214 prueba.pasada = False
215 prueba.observaciones = 'Código de retorno incorrecto (debía ' \
216 'ser %d y se obtuvo %d)' % (caso_de_prueba.codigoRetorno,
218 mail.agregarResultado(prueba)
220 # Verifico salidas estándar/de error
221 prueba.pasada = True # Asumo que está bien, ya habrá tiempo para cambiarlo
224 obs += diff(prueba, mail, proc.stdout.readlines(),
225 file(os.path.join(caso_de_prueba.path, 'stdout')).readlines(),
226 caso_de_prueba.nombre + '.stdout', longname='La salida estándar')
228 obs += diff(prueba, mail, proc.stderr.readlines(),
229 file(os.path.join(caso_de_prueba.path, 'stderr')).readlines(),
230 caso_de_prueba.nombre + '.stderr', longname='La salida de error')
231 for f in caso_de_prueba.archivosSalida:
232 if f not in prueba.archivosSalida:
233 log.debug('Falta el archivo %s y no lo hizo.', f)
234 prueba.pasada = False
235 obs += "* Falta el archivo de salida '%s'.\n" % f
237 obs += diff(prueba, mail,
238 file(os.path.join(intento.chrootPath, f)).readlines(),
239 file(os.path.join(caso_de_prueba.pathSalidas, f)).readlines(),
240 caso_de_prueba.nombre + '.' + f)
241 for f in prueba.archivosSalida - (caso_de_prueba.archivosSalida | caso_de_prueba.archivosEntrada):
242 log.debug('El programa debía generar el archivo %s y no lo hizo.', f)
243 prueba.pasada = False
244 obs += "* Se generó un archivo ('%s') que no se esperaba.\n" % f
245 log.debug('Fin de ejecución de caso de prueba (hijo: %d, ret: %d)',
246 proc.pid, proc.returncode)
248 prueba.observaciones = obs
249 mail.agregarResultado(prueba)
250 log.debug('Resultado de la prueba: %s', prueba)
253 def params2seq(params):
254 r"""Parsea un string de forma similar al bash, separando por espacios y
255 teniendo en cuenta comillas simples y dobles para agrupar. Para poner
256 comillas se puede usar el \ como caracter de escape (\' y \") y también
257 interpreta \n y \t. Devuelve una lista con los parámetros encontrados."""
259 SEP, TOKEN, DQUOTE, SQUOTE = ' ', None, '"', "'"
265 # Es un caracter escapado
275 # Es una secuencia de escape
279 # Si está buscando espacios
284 state = TOKEN # Encontró
311 raise Exception, 'No tiene sentido'
312 if state == DQUOTE or state == SQUOTE:
313 raise Exception, 'Parse error, falta cerrar comilla (%s)' % state
318 class MailIntento(email.MIMEMultipart.MIMEMultipart, object):
319 def __init__(self, intento):
321 from email.MIMEMultipart import MIMEMultipart
322 from email.MIMEMessage import MIMEMessage
323 from email.MIMEText import MIMEText
324 MIMEMultipart.__init__(self)
325 self.subject = '[%s] Resultado del intento %d (ejercicio %d.%d)' % \
326 (conf.get('mail', 'prefijo'), intento.numero,
327 intento.entrega.nroEjercicio, intento.entrega.entrega)
328 self['From'] = conf.get('mail', 'from')
329 self['To'] = intento.mailRespuesta
330 self['Reply-To'] = conf.get('mail', 'admin')
331 self['Return-Path'] = conf.get('mail', 'admin')
332 self['X-Mailer'] = 'sercom ' + sercom.VERSION
333 self['X-Priority'] = '5'
334 self.epilogue = 'Para ver correctamente este e-mail su cliente debe ' \
336 self.prologue = '' # Garantiza que termine en \n el mensaje
337 self.attach(MIMEMessage(MIMEText('', 'plain', 'iso-8859-1')))
338 self.resultado = None
339 def __set_body(self, body):
340 self.get_payload(0).get_payload(0).set_payload(body)
341 def __get_body(self):
342 return self.get_payload(0).get_payload(0).get_payload()
343 body = property(__get_body, __set_body, doc='Cuerpo del mensaje.')
344 def attachText(self, text, nombre=None, subtype='plain'):
345 from email.MIMEText import MIMEText
346 attach = MIMEText(text, subtype, 'iso-8859-1')
348 attach.add_header('Content-Disposition', 'attachment', filename=nombre)
350 def send(self, resultado=None):
353 smtp = smtplib.SMTP(conf.get('mail', 'smtp'))
355 self.subject += ': ' + resultado
356 self['Subject'] = self.subject
357 smtp.sendmail(self['From'], self['To'], self.as_string())
359 def agregarResultado(self, prueba):
360 if not prueba.casoDePrueba.privado:
368 ''' % (prueba.casoDePrueba.nombre, result, prueba.observaciones or '')
372 # Manejadores de señales
373 signal.signal(signal.SIGTERM, sigterm)
374 signal.signal(signal.SIGINT, sigterm)
375 signal.signal(signal.SIGCHLD, sigchld)
376 hijo_muerto = False # Cambia con SIGCHLD
377 continuar = True # Cambia con SIGTERM o SIGINT
380 conf, conn, log = sercom.init('test')
383 # Obtengo id de usuario con el cual ejecutar las pruebas
384 uid, gid = pwd.getpwnam(conf.get('general', 'user'))[2:4]
386 # Cambio UID efectivo
390 intervalo = float(conf.get('general', 'intervalo'))
392 # Utilizo el directorio de datos como base para todos los SQLObjects
393 sercom.sqlo.dir_base = conf.get('general', 'data_dir')
395 # Hasta que nos maten
397 # Busco intento a probar
398 intento = Intento.getProximoAProbar(conn)
400 log.debug('No hay intento para probar')
401 time.sleep(intervalo)
403 log.info('Nuevo intento a probar (%d %d.%d.%d %d%d%d)',
404 intento.inscripto.padron, intento.entrega.nroEjercicio,
405 intento.entrega.entrega, intento.numero, intento.entrega.curso.anio,
406 intento.entrega.curso.cuatrimestre, intento.entrega.curso.curso)
407 mail = MailIntento(intento)
409 compilar(intento, mail)
410 if not intento.compila:
411 log.info('Intento no compila')
412 mail.send('NO COMPILA')
414 # Ejecución de casos de prueba
415 intento.inicioPruebas = datetime.datetime.now()
417 for caso_de_prueba in intento.entrega.ejercicio.casosDePrueba:
420 # Pruebo y agrego prueba a la lista
421 prueba = probar(intento, caso_de_prueba, mail)
422 if not prueba.casoDePrueba.privado and not prueba.pasada:
423 log.info('Prueba %s no pasada' % prueba.casoDePrueba.nombre)
427 intento.finPruebas = datetime.datetime.now()
428 # Envío mail con resultado al alumno
430 mail.send('ACEPTADO')
432 mail.send('FALLA PRUEBAS')
434 log.debug('Borrando ejecutable y código objeto (*.o)')
435 os.remove(os.path.join(intento.path, 'tp'))
436 [os.remove(obj) for obj in glob.glob(os.path.join(intento.path, '*.o'))]
437 # time.sleep(intervalo) #XXX Puede servir para enlentecer el server