zfile.close()
#}}}
+class Multizip(object): #{{{
+ def __init__(self, *zip_streams):
+ self.zips = [ZipFile(StringIO(z), 'r') for z in zip_streams
+ if z is not None]
+ self.names = set()
+ for z in self.zips:
+ self.names |= set(z.namelist())
+ def read(self, name):
+ for z in self.zips:
+ try:
+ return z.read(name)
+ except KeyError:
+ pass
+ raise KeyError(name)
+ def namelist(self):
+ return self.names
+#}}}
+
class SecureProcess(object): #{{{
default = dict(
max_tiempo_cpu = 120,
def setup_chroot(self, entrega): #{{{ y clean_chroot()
log.debug(_(u'Tester.setup_chroot(entrega=%s)'), entrega.shortrepr())
rsync = ('rsync', '--stats', '--itemize-changes', '--human-readable',
- '--archive', '--acls', '--delete-during', '--force', # TODO config
+ '--archive', '--acls', '--delete-during', '--force',
+ '--exclude', '/proc', # TODO config
join(self.orig_chroot, ''), self.chroot)
log.debug(_(u'Ejecutando como root: %s'), ' '.join(rsync))
os.seteuid(0) # Dios! (para chroot)
#}}}
def ejecutar_caso_de_prueba(self, path, entrega): #{{{
- log.debug(_(u'CasoDePrueba.ejecutar(path=%s, entrega=%s)'), path,
- entrega.shortrepr())
+ log.debug(_(u'CasoDePrueba.ejecutar(caso=%s, path=%s, entrega=%s)'), self,
+ path, entrega.shortrepr())
tareas = [t for t in entrega.instancia.ejercicio.enunciado.tareas
if isinstance(t, TareaPrueba)]
- prueba = entrega.add_prueba(self)
+ prueba = entrega.add_prueba(self, inicio=datetime.now())
try:
try:
for tarea in tareas:
def ejecutar_comando_fuente(self, path, entrega): #{{{
log.debug(_(u'ComandoFuente.ejecutar(path=%s, entrega=%s)'), path,
entrega.shortrepr())
- comando_ejecutado = entrega.add_comando_ejecutado(self) # TODO debería rodear solo la ejecución del comando
+ comando_ejecutado = entrega.add_comando_ejecutado(self)
basetmp = '/tmp/sercom.tester.fuente' # FIXME TODO /var/run/sercom?
unzip(self.archivos_entrada, path, # TODO try/except
{self.STDIN: '%s.%s.stdin' % (basetmp, comando_ejecutado.id)})
else:
options['preexec_fn'].close_stdin = True
a_guardar = set(self.archivos_a_guardar)
- if self.archivos_a_comparar:
- zip_a_comparar = ZipFile(StringIO(self.archivos_a_comparar), 'r')
- a_comparar = set(zip_a_comparar.namelist())
- else:
- zip_a_comparar = None
- a_comparar = frozenset()
+ zip_a_comparar = Multizip(self.archivos_a_comparar)
+ a_comparar = set(zip_a_comparar.namelist())
a_usar = frozenset(a_guardar | a_comparar)
if self.STDOUTERR in a_usar:
options['stdout'] = file('%s.%s.stdouterr' % (basetmp,
else:
options['preexec_fn'].close_stderr = True
comando = self.comando # FIXME Acá tiene que diferenciarse de ComandoPrueba
+ comando_ejecutado.inicio = datetime.now()
log.debug(_(u'Ejecutando como root: %s'), comando)
os.seteuid(0) # Dios! (para chroot)
os.setegid(0)
log.error(_(u'Error en el hijo: %s'), e.child_traceback)
raise
proc.wait() #TODO un sleep grande nos caga todo, ver sercom viejo
- comando_ejecutado.fin = datetime.now() # TODO debería rodear solo la ejecución del comando
+ comando_ejecutado.fin = datetime.now()
retorno = self.retorno
if retorno != self.RET_ANY:
if retorno == self.RET_FAIL:
log.debug(_(u'Se esperaba un archivo "%s" para guardar pero '
u'no fue encontrado'), f)
else:
- zip.write(join(path, f), f)
+ zip.write(str(join(path, f)), str(f)) # FIXME encoding de unicode
zip.close()
comando_ejecutado.archivos = buffer.getvalue()
def diff(new, zip_in, zip_out, name, longname=None, origname='correcto',
if longname is None:
longname = name
new = file(new, 'r').readlines()
- orig = zip_in.read(name).split('\n')
+ orig = zip_in.read(name).splitlines(True)
udiff = ''.join(list(unified_diff(orig, new, fromfile=name+'.'+origname,
tofile=name+'.'+newname)))
if udiff:
fromdesc=name+'.'+origname, todesc=name+'.'+newname,
context=True, numlines=3)
zip_out.writestr(name + '.diff', udiff)
- zip_out.writestr(name + '.diff.html', htmldiff)
+ zip_out.writestr(name + '.diff', htmldiff)
return True
else:
return False
if a_comparar:
+ condiff = False
buffer = StringIO()
zip = ZipFile(buffer, 'w')
# Comparamos stdout/stderr
if self.STDOUTERR in a_comparar:
a_comparar.remove(self.STDOUTERR)
- diff('%s.%s.stdouterr' % (basetmp, comando_ejecutado.id),
+ condiff |= diff('%s.%s.stdouterr' % (basetmp, comando_ejecutado.id),
zip_a_comparar, zip, self.STDOUTERR,
_(u'La salida estándar y de error combinada'))
else:
if self.STDOUT in a_comparar:
a_comparar.remove(self.STDOUT)
- diff('%s.%s.stdout' % (basetmp, comando_ejecutado.id),
+ condiff |= diff('%s.%s.stdout' % (basetmp, comando_ejecutado.id),
zip_a_comparar, zip, self.STDOUT, _(u'La salida estándar'))
if self.STDERR in a_comparar:
a_comparar.remove(self.STDERR)
- diff('%s.%s.stderr' % (basetmp, comando_ejecutado.id),
+ condiff |= diff('%s.%s.stderr' % (basetmp, comando_ejecutado.id),
zip_a_comparar, zip, self.STDERR, _(u'La salida de error'))
# Comparamos otros
for f in a_comparar:
log.debug(_(u'Se esperaba un archivo "%s" para comparar pero '
u'no fue encontrado'), f)
else:
- diff(join(path, f), zip_a_comparar, zip, f)
+ condiff |= diff(join(path, f), zip_a_comparar, zip, f)
zip.close()
- comando_ejecutado.diferencias = buffer.getvalue()
+ if condiff:
+ comando_ejecutado.diferencias = buffer.getvalue()
if comando_ejecutado.exito is None:
comando_ejecutado.exito = True
elif self.terminar_si_falla:
# y setup/clean de test.
log.debug(_(u'ComandoPrueba.ejecutar(path=%s, prueba=%s)'), path,
prueba.shortrepr())
- comando_ejecutado = prueba.add_comando_ejecutado(self) # TODO debería rodear solo la ejecución del comando
+ caso_de_prueba = prueba.caso_de_prueba
+ comando_ejecutado = prueba.add_comando_ejecutado(self)
basetmp = '/tmp/sercom.tester.prueba' # FIXME TODO /var/run/sercom?
#{{{ Código que solo va en ComandoPrueba (setup de directorio)
rsync = ('rsync', '--stats', '--itemize-changes', '--human-readable',
os.seteuid(user_info.uid)
log.debug(_(u'Usuario y grupo efectivos cambiados a %s:%s (%s:%s)'),
user_info.user, user_info.group, user_info.uid, user_info.gid)
- unzip(prueba.caso_de_prueba.archivos_entrada, path, # TODO try/except
- {self.STDIN: '%s.%s.stdin' % (basetmp, comando_ejecutado.id)})
#}}}
unzip(self.archivos_entrada, path, # TODO try/except
{self.STDIN: '%s.%s.stdin' % (basetmp, comando_ejecutado.id)})
+ unzip(caso_de_prueba.archivos_entrada, path, # TODO try/except # FIXME Esto es propio de ComandoPrueba
+ {self.STDIN: '%s.%s.stdin' % (basetmp, comando_ejecutado.id)}) # FIXME Esto es propio de ComandoPrueba
options = dict(
close_fds=True,
shell=True,
else:
options['preexec_fn'].close_stdin = True
a_guardar = set(self.archivos_a_guardar)
- a_guardar |= set(prueba.caso_de_prueba.archivos_a_guardar) # FIXME Esto es propio de ComandoPrueba
- if self.archivos_a_comparar:
- zip_a_comparar = ZipFile(StringIO(self.archivos_a_comparar), 'r')
- a_comparar = set(zip_a_comparar.namelist())
- else:
- zip_a_comparar = None
- a_comparar = frozenset()
+ a_guardar |= set(caso_de_prueba.archivos_a_guardar) # FIXME Esto es propio de ComandoPrueba
+ log.debug('archivos a guardar: %s', a_guardar)
+ zip_a_comparar = Multizip(caso_de_prueba.archivos_a_comparar, # FIXME Esto es propio de ComandoPrueba
+ self.archivos_a_comparar) # FIXME Esto es propio de ComandoPrueba
+ a_comparar = set(zip_a_comparar.namelist())
+ log.debug('archivos a comparar: %s', a_comparar)
a_usar = frozenset(a_guardar | a_comparar)
+ log.debug('archivos a usar: %s', a_usar)
if self.STDOUTERR in a_usar:
options['stdout'] = file('%s.%s.stdouterr' % (basetmp,
comando_ejecutado.id), 'w')
options['stderr'] = sp.STDOUT
else:
if self.STDOUT in a_usar:
+ log.debug('capurando salida en: %s.%s.stdout', basetmp, comando_ejecutado.id)
options['stdout'] = file('%s.%s.stdout' % (basetmp,
comando_ejecutado.id), 'w')
else:
comando_ejecutado.id), 'w')
else:
options['preexec_fn'].close_stderr = True
- comando = self.comando + ' ' + prueba.caso_de_prueba.comando # FIXME Esto es propio de ComandoPrueba
+ comando = self.comando + ' ' + caso_de_prueba.comando # FIXME Esto es propio de ComandoPrueba
+ comando_ejecutado.inicio = datetime.now()
log.debug(_(u'Ejecutando como root: %s'), comando)
os.seteuid(0) # Dios! (para chroot)
os.setegid(0)
log.error(_(u'Error en el hijo: %s'), e.child_traceback)
raise
proc.wait() #TODO un sleep grande nos caga todo, ver sercom viejo
- comando_ejecutado.fin_tareas = datetime.now() # TODO debería rodear solo la ejecución del comando
+ comando_ejecutado.fin = datetime.now()
retorno = self.retorno
if retorno == self.RET_PRUEBA: # FIXME Esto es propio de ComandoPrueba
- retorno = prueba.caso_de_prueba.retorno # FIXME Esto es propio de ComandoPrueba
+ retorno = caso_de_prueba.retorno # FIXME Esto es propio de ComandoPrueba
if retorno != self.RET_ANY:
if retorno == self.RET_FAIL:
if proc.returncode == 0:
log.debug(_(u'Se esperaba un archivo "%s" para guardar pero '
u'no fue encontrado'), f)
else:
- zip.write(join(path, f), f)
+ zip.write(str(join(path, f)), str(f)) # FIXME encoding de unicode
zip.close()
comando_ejecutado.archivos = buffer.getvalue()
def diff(new, zip_in, zip_out, name, longname=None, origname='correcto',
if longname is None:
longname = name
new = file(new, 'r').readlines()
- orig = zip_in.read(name).split('\n')
+ orig = zip_in.read(name).splitlines(True)
udiff = ''.join(list(unified_diff(orig, new, fromfile=name+'.'+origname,
tofile=name+'.'+newname)))
if udiff:
fromdesc=name+'.'+origname, todesc=name+'.'+newname,
context=True, numlines=3)
zip_out.writestr(name + '.diff', udiff)
- zip_out.writestr(name + '.diff.html', htmldiff)
+ zip_out.writestr(name + '.html', htmldiff)
return True
else:
return False
if a_comparar:
+ condiff = False
buffer = StringIO()
zip = ZipFile(buffer, 'w')
# Comparamos stdout/stderr
if self.STDOUTERR in a_comparar:
a_comparar.remove(self.STDOUTERR)
- diff('%s.%s.stdouterr' % (basetmp, comando_ejecutado.id),
+ condiff |= diff('%s.%s.stdouterr' % (basetmp, comando_ejecutado.id),
zip_a_comparar, zip, self.STDOUTERR,
_(u'La salida estándar y de error combinada'))
else:
if self.STDOUT in a_comparar:
+ log.debug('comparando salida con: %s.%s.stdout', basetmp, comando_ejecutado.id)
a_comparar.remove(self.STDOUT)
- diff('%s.%s.stdout' % (basetmp, comando_ejecutado.id),
+ condiff |= diff('%s.%s.stdout' % (basetmp, comando_ejecutado.id),
zip_a_comparar, zip, self.STDOUT, _(u'La salida estándar'))
if self.STDERR in a_comparar:
a_comparar.remove(self.STDERR)
- diff('%s.%s.stderr' % (basetmp, comando_ejecutado.id),
+ condiff |= diff('%s.%s.stderr' % (basetmp, comando_ejecutado.id),
zip_a_comparar, zip, self.STDERR, _(u'La salida de error'))
# Comparamos otros
for f in a_comparar:
log.debug(_(u'Se esperaba un archivo "%s" para comparar pero '
u'no fue encontrado'), f)
else:
- diff(join(path, f), zip_a_comparar, zip, f)
+ condiff |= diff(join(path, f), zip_a_comparar, zip, f)
zip.close()
- comando_ejecutado.diferencias = buffer.getvalue()
+ if condiff:
+ comando_ejecutado.diferencias = buffer.getvalue()
if comando_ejecutado.exito is None:
comando_ejecutado.exito = True
elif self.terminar_si_falla:
projects / software / sercom.git / blobdiff