# vim: set et sw=4 sts=4 encoding=utf-8 foldmethod=marker:
-from sercom.model import Entrega, CasoDePrueba
-from sercom.model import TareaFuente, TareaPrueba, ComandoFuente, ComandoPrueba
+from sercom.model import Entrega, CasoDePrueba, Tarea, TareaFuente, TareaPrueba
+from sercom.model import ComandoFuente, ComandoPrueba
from difflib import unified_diff, HtmlDiff
from zipfile import ZipFile, BadZipfile
from cStringIO import StringIO
self.caso_de_prueba = caso_de_prueba
#}}}
-class RsyncError(Error, EnvironmentError): pass
-
#}}}
def unzip(bytes, default_dst='.', specific_dst=dict()): # {{{
self.home = home
self.queue = queue
# Ahora somos mortales (oid mortales)
- log.debug(_(u'Cambiando usuario y grupo efectivos a %s:%s (%s:%s)'),
- user_info.user, user_info.group, user_info.uid, user_info.gid)
os.setegid(user_info.gid)
os.seteuid(user_info.uid)
+ log.debug(_(u'usuario y grupo efectivos cambiados a %s:%s (%s:%s)'),
+ user_info.user, user_info.group, user_info.uid, user_info.gid)
@property
def build_path(self):
def test(self, entrega): #{{{
log.debug(_(u'Tester.test(entrega=%s)'), entrega)
- entrega.inicio_tareas = datetime.now()
+ entrega.inicio = datetime.now()
try:
try:
self.setup_chroot(entrega)
self.ejecutar_tareas_prueba(entrega)
self.clean_chroot(entrega)
except ExecutionFailure, e:
- entrega.correcta = False
+ entrega.exito = False
log.info(_(u'Entrega incorrecta: %s'), entrega)
except Exception, e:
if isinstance(e, SystemExit): raise
entrega.observaciones += error_interno
log.exception(_('Hubo una excepcion inesperada desconocida')) # FIXME encoding
else:
- entrega.correcta = True
+ entrega.exito = True
log.debug(_(u'Entrega correcta: %s'), entrega)
finally:
- entrega.fin_tareas = datetime.now()
+ entrega.fin = datetime.now()
#}}}
def setup_chroot(self, entrega): #{{{ y clean_chroot()
try:
sp.check_call(rsync)
finally:
- log.debug(_(u'Cambiando usuario y grupo efectivos a %s:%s (%s:%s)'),
- user_info.user, user_info.group, user_info.uid, user_info.gid)
os.setegid(user_info.gid) # Mortal de nuevo
os.seteuid(user_info.uid)
+ log.debug(_(u'Usuario y grupo efectivos cambiados a %s:%s (%s:%s)'),
+ user_info.user, user_info.group, user_info.uid, user_info.gid)
unzip(entrega.archivos, self.build_path)
def clean_chroot(self, entrega):
CasoDePrueba.ejecutar = ejecutar_caso_de_prueba
#}}}
-def ejecutar_tarea_fuente(self, path, entrega): #{{{
- log.debug(_(u'TareaFuente.ejecutar(path=%s, entrega=%s)'), path,
- entrega.shortrepr())
- try:
- for cmd in self.comandos:
- cmd.ejecutar(path, entrega)
- except ExecutionFailure, e:
- if self.rechazar_si_falla:
- entrega.exito = False
- if self.terminar_si_falla:
- raise ExecutionFailure(e.comando, self)
-TareaFuente.ejecutar = ejecutar_tarea_fuente
+def ejecutar_tarea(self, path, ejecucion): #{{{
+ log.debug(_(u'Tarea.ejecutar(path=%s, ejecucion=%s)'), path,
+ ejecucion.shortrepr())
+ for cmd in self.comandos:
+ cmd.ejecutar(path, ejecucion)
+Tarea.ejecutar = ejecutar_tarea
#}}}
-def ejecutar_tarea_prueba(self, path, prueba): #{{{
- log.debug(_(u'TareaPrueba.ejecutar(path=%s, prueba=%s)'), path,
- prueba.shortrepr())
- try:
- for cmd in self.comandos:
- cmd.ejecutar(path, prueba)
- except ExecutionFailure, e:
- if self.rechazar_si_falla:
- prueba.exito = False
- if self.terminar_si_falla:
- raise ExecutionFailure(e.comando, self)
-TareaPrueba.ejecutar = ejecutar_tarea_prueba
-#}}}
+# TODO generalizar ejecutar_comando_xxxx!!!
def ejecutar_comando_fuente(self, path, entrega): #{{{
log.debug(_(u'ComandoFuente.ejecutar(path=%s, entrega=%s)'), path,
entrega.shortrepr())
- comando_ejecutado = entrega.add_comando_ejecutado(self)
+ comando_ejecutado = entrega.add_comando_ejecutado(self) # TODO debería rodear solo la ejecución del comando
+ basetmp = '/tmp/sercom.tester.fuente' # FIXME TODO /var/run/sercom?
unzip(self.archivos_entrada, path, # TODO try/except
- {self.STDIN: '/tmp/sercom.tester.%s.stdin' % comando_ejecutado.id}) # TODO /var/run/sercom
+ {self.STDIN: '%s.%s.stdin' % (basetmp, comando_ejecutado.id)})
options = dict(
close_fds=True,
shell=True,
- preexec_fn=SecureProcess(self, 'var/chroot_pepe', '/home/sercom/build')
+ preexec_fn=SecureProcess(self, 'var/chroot_pepe', '/home/sercom/build') #FIXME!!! path
)
- if os.path.exists('/tmp/sercom.tester.%s.stdin' % comando_ejecutado.id): # TODO
- options['stdin'] = file('/tmp/sercom.tester.%s.stdin' % comando_ejecutado.id, 'r') # TODO
+ if os.path.exists('%s.%s.stdin' % (basetmp, comando_ejecutado.id)):
+ options['stdin'] = file('%s.%s.stdin' % (basetmp, comando_ejecutado.id),
+ 'r')
else:
options['preexec_fn'].close_stdin = True
a_guardar = set(self.archivos_a_guardar)
a_comparar = frozenset()
a_usar = frozenset(a_guardar | a_comparar)
if self.STDOUTERR in a_usar:
- options['stdout'] = file('/tmp/sercom.tester.%s.stdouterr'
- % comando_ejecutado.id, 'w') #TODO /var/run/sercom?
+ options['stdout'] = file('%s.%s.stdouterr' % (basetmp,
+ comando_ejecutado.id), 'w')
options['stderr'] = sp.STDOUT
else:
if self.STDOUT in a_usar:
- options['stdout'] = file('/tmp/sercom.tester.%s.stdout'
- % comando_ejecutado.id, 'w') #TODO /run/lib/sercom?
+ options['stdout'] = file('%s.%s.stdout' % (basetmp,
+ comando_ejecutado.id), 'w')
else:
options['preexec_fn'].close_stdout = True
if self.STDERR in a_usar:
- options['stderr'] = file('/tmp/sercom.tester.%s.stderr'
- % comando_ejecutado.id, 'w') #TODO /var/run/sercom?
+ options['stderr'] = file('%s.%s.stderr' % (basetmp,
+ comando_ejecutado.id), 'w')
else:
options['preexec_fn'].close_stderr = True
log.debug(_(u'Ejecutando como root: %s'), self.comando)
try:
proc = sp.Popen(self.comando, **options)
finally:
- log.debug(_(u'Cambiando usuario y grupo efectivos a %s:%s (%s:%s)'),
- user_info.user, user_info.group, user_info.uid, user_info.gid)
os.setegid(user_info.gid) # Mortal de nuevo
os.seteuid(user_info.uid)
+ log.debug(_(u'Usuario y grupo efectivos cambiados a %s:%s (%s:%s)'),
+ user_info.user, user_info.group, user_info.uid, user_info.gid)
except Exception, e:
if hasattr(e, 'child_traceback'):
log.error(_(u'Error en el hijo: %s'), e.child_traceback)
raise
proc.wait() #TODO un sleep grande nos caga todo, ver sercom viejo
+ comando_ejecutado.fin = datetime.now() # TODO debería rodear solo la ejecución del comando
if self.retorno != self.RET_ANY:
if self.retorno == self.RET_FAIL:
if proc.returncode == 0:
if self.rechazar_si_falla:
- entrega.correcta = False
+ entrega.exito = False
comando_ejecutado.exito = False
comando_ejecutado.observaciones += _(u'Se esperaba que el '
u'programa termine con un error (código de retorno '
u'terminó bien (código de retorno 0).\n'))
elif self.retorno != proc.returncode:
if self.rechazar_si_falla:
- entrega.correcta = False
+ entrega.exito = False
comando_ejecutado.exito = False
if proc.returncode < 0:
comando_ejecutado.observaciones += _(u'Se esperaba terminar '
u'%s pero se obtuvo %s.\n'), self.retorno, proc.returncode)
if comando_ejecutado.exito is None:
log.debug(_(u'Código de retorno OK'))
- comando_ejecutado.fin = datetime.now()
if a_guardar:
buffer = StringIO()
zip = ZipFile(buffer, 'w')
# Guardamos stdout/stderr
if self.STDOUTERR in a_guardar:
a_guardar.remove(self.STDOUTERR)
- zip.write('/tmp/sercom.tester.%s.stdouterr'
- % comando_ejecutado.id, self.STDOUTERR)
+ zip.write('%s.%s.stdouterr' % (basetmp, comando_ejecutado.id),
+ self.STDOUTERR)
else:
if self.STDOUT in a_guardar:
a_guardar.remove(self.STDOUT)
- zip.write('/tmp/sercom.tester.%s.stdout'
- % comando_ejecutado.id, self.STDOUT)
+ zip.write('%s.%s.stdout' % (basetmp, comando_ejecutado.id),
+ self.STDOUT)
if self.STDERR in a_guardar:
a_guardar.remove(self.STDERR)
- zip.write('/tmp/sercom.tester.%s.stderr'
- % comando_ejecutado.id, self.STDERR)
+ zip.write('%s.%s.stderr' % (basetmp, comando_ejecutado.id),
+ self.STDERR)
# Guardamos otros
for f in a_guardar:
if not os.path.exists(join(path, f)):
if self.rechazar_si_falla:
- entrega.correcta = False
+ entrega.exito = False
comando_ejecutado.exito = False
comando_ejecutado.observaciones += _(u'Se esperaba un archivo '
u'"%s" para guardar pero no fue encontrado.\n') % f
else:
zip.write(join(path, f), f)
zip.close()
- comando_ejecutado.archivos_guardados = buffer.getvalue()
+ comando_ejecutado.archivos = buffer.getvalue()
def diff(new, zip_in, zip_out, name, longname=None, origname='correcto',
newname='entregado'):
if longname is None:
tofile=name+'.'+newname)))
if udiff:
if self.rechazar_si_falla:
- entrega.correcta = False
+ entrega.exito = False
comando_ejecutado.exito = False
comando_ejecutado.observaciones += _(u'%s no coincide con lo '
u'esperado (archivo "%s.diff").\n') % (longname, name)
# Comparamos stdout/stderr
if self.STDOUTERR in a_comparar:
a_comparar.remove(self.STDOUTERR)
- diff('/tmp/sercom.tester.%s.stdouterr' % comando_ejecutado.id,
+ diff('%s.%s.stdouterr' % (basetmp, comando_ejecutado.id),
zip_a_comparar, zip, self.STDOUTERR,
_(u'La salida estándar y de error combinada'))
else:
if self.STDOUT in a_comparar:
a_comparar.remove(self.STDOUT)
- diff('/tmp/sercom.tester.%s.stdout' % comando_ejecutado.id,
+ diff('%s.%s.stdout' % (basetmp, comando_ejecutado.id),
zip_a_comparar, zip, self.STDOUT, _(u'La salida estándar'))
if self.STDERR in a_comparar:
a_comparar.remove(self.STDERR)
- diff('/tmp/sercom.tester.%s.stderr' % comando_ejecutado.id,
+ diff('%s.%s.stderr' % (basetmp, comando_ejecutado.id),
zip_a_comparar, zip, self.STDERR, _(u'La salida de error'))
# Comparamos otros
for f in a_comparar:
if not os.path.exists(join(path, f)):
if self.rechazar_si_falla:
- entrega.correcta = False
+ entrega.exito = False
comando_ejecutado.exito = False
comando_ejecutado.observaciones += _(u'Se esperaba un archivo '
u'"%s" para comparar pero no fue encontrado') % f
else:
diff(join(path, f), zip_a_comparar, zip, f)
zip.close()
- comando_ejecutado.archivos_guardados = buffer.getvalue()
+ comando_ejecutado.diferencias = buffer.getvalue()
if comando_ejecutado.exito is None:
comando_ejecutado.exito = True
elif self.terminar_si_falla:
#}}}
def ejecutar_comando_prueba(self, path, prueba): #{{{
+ # Diferencia con comando fuente: s/entrega/prueba/ y s/build/test/ en path
+ # y setup/clean de test.
log.debug(_(u'ComandoPrueba.ejecutar(path=%s, prueba=%s)'), path,
prueba.shortrepr())
- rmtree(path)
- os.mkdir(path)
- unzip(prueba.caso_de_prueba.archivos_entrada, path) # TODO try/except
- unzip(self.archivos_entrada, path) # TODO try/except
- comando_ejecutado = prueba.add_comando_ejecutado(self)
- # TODO ejecutar en chroot (path)
- comando_ejecutado.fin = datetime.now()
-# if no_anda_ejecucion: # TODO
-# comando_ejecutado.exito = False
-# comando_ejecutado.observaciones += 'No anduvo xxx' # TODO
-# if self.rechazar_si_falla:
-# entrega.exito = False
-# if self.terminar_si_falla: # TODO
-# raise ExecutionFailure(self) # TODO info de error
-# for archivo in self.archivos_salida:
-# pass # TODO hacer diff
-# if archivos_mal: # TODO
-# comando_ejecutado.exito = False
-# comando_ejecutado.observaciones += 'No anduvo xxx' # TODO
-# if self.rechazar_si_falla:
-# entrega.exito = False
-# if self.terminar_si_falla: # TODO
-# raise ExecutionFailure(comando=self) # TODO info de error
-# else:
-# comando_ejecutado.exito = True
-# comando_ejecutado.observaciones += 'xxx OK' # TODO
- comando_ejecutado.exito = True
- comando_ejecutado.observaciones += 'xxx OK' # TODO
+ comando_ejecutado = prueba.add_comando_ejecutado(self) # TODO debería rodear solo la ejecución del comando
+ basetmp = '/tmp/sercom.tester.prueba' # FIXME TODO /var/run/sercom?
+ #{{{ Código que solo va en ComandoPrueba (setup de directorio)
+ rsync = ('rsync', '--stats', '--itemize-changes', '--human-readable',
+ '--archive', '--acls', '--delete-during', '--force', # TODO config
+ 'var/chroot_pepe/home/sercom/build/', path) # FIXME!!!! path
+ log.debug(_(u'Ejecutando como root: %s'), ' '.join(rsync))
+ os.seteuid(0) # Dios! (para chroot)
+ os.setegid(0)
+ try:
+ sp.check_call(rsync)
+ finally:
+ os.setegid(user_info.gid) # Mortal de nuevo
+ os.seteuid(user_info.uid)
+ log.debug(_(u'Usuario y grupo efectivos cambiados a %s:%s (%s:%s)'),
+ user_info.user, user_info.group, user_info.uid, user_info.gid)
+ unzip(prueba.caso_de_prueba.archivos_entrada, path, # TODO try/except
+ {self.STDIN: '%s.%s.stdin' % (basetmp, comando_ejecutado.id)})
+ #}}}
+ unzip(self.archivos_entrada, path, # TODO try/except
+ {self.STDIN: '%s.%s.stdin' % (basetmp, comando_ejecutado.id)})
+ options = dict(
+ close_fds=True,
+ shell=True,
+ preexec_fn=SecureProcess(self, 'var/chroot_pepe', '/home/sercom/test') # FIXME!!!! path
+ )
+ if os.path.exists('%s.%s.stdin' % (basetmp, comando_ejecutado.id)):
+ options['stdin'] = file('%s.%s.stdin' % (basetmp, comando_ejecutado.id),
+ 'r')
+ else:
+ options['preexec_fn'].close_stdin = True
+ a_guardar = set(self.archivos_a_guardar)
+ if self.archivos_a_comparar:
+ zip_a_comparar = ZipFile(StringIO(self.archivos_a_comparar), 'r')
+ a_comparar = set(zip_a_comparar.namelist())
+ else:
+ zip_a_comparar = None
+ a_comparar = frozenset()
+ a_usar = frozenset(a_guardar | a_comparar)
+ if self.STDOUTERR in a_usar:
+ options['stdout'] = file('%s.%s.stdouterr' % (basetmp,
+ comando_ejecutado.id), 'w')
+ options['stderr'] = sp.STDOUT
+ else:
+ if self.STDOUT in a_usar:
+ options['stdout'] = file('%s.%s.stdout' % (basetmp,
+ comando_ejecutado.id), 'w')
+ else:
+ options['preexec_fn'].close_stdout = True
+ if self.STDERR in a_usar:
+ options['stderr'] = file('%s.%s.stderr' % (basetmp,
+ comando_ejecutado.id), 'w')
+ else:
+ options['preexec_fn'].close_stderr = True
+ log.debug(_(u'Ejecutando como root: %s'), self.comando)
+ os.seteuid(0) # Dios! (para chroot)
+ os.setegid(0)
+ try:
+ try:
+ proc = sp.Popen(self.comando, **options)
+ finally:
+ os.setegid(user_info.gid) # Mortal de nuevo
+ os.seteuid(user_info.uid)
+ log.debug(_(u'Usuario y grupo efectivos cambiados a %s:%s (%s:%s)'),
+ user_info.user, user_info.group, user_info.uid, user_info.gid)
+ except Exception, e:
+ if hasattr(e, 'child_traceback'):
+ log.error(_(u'Error en el hijo: %s'), e.child_traceback)
+ raise
+ proc.wait() #TODO un sleep grande nos caga todo, ver sercom viejo
+ comando_ejecutado.fin_tareas = datetime.now() # TODO debería rodear solo la ejecución del comando
+ if self.retorno != self.RET_ANY:
+ if self.retorno == self.RET_FAIL:
+ if proc.returncode == 0:
+ if self.rechazar_si_falla:
+ prueba.exito = False
+ comando_ejecutado.exito = False
+ comando_ejecutado.observaciones += _(u'Se esperaba que el '
+ u'programa termine con un error (código de retorno '
+ u'distinto de 0) pero terminó bien (código de retorno '
+ u'0).\n')
+ log.debug(_(u'Se esperaba que el programa termine '
+ u'con un error (código de retorno distinto de 0) pero '
+ u'terminó bien (código de retorno 0).\n'))
+ elif self.retorno != proc.returncode:
+ if self.rechazar_si_falla:
+ prueba.exito = False
+ comando_ejecutado.exito = False
+ if proc.returncode < 0:
+ comando_ejecutado.observaciones += _(u'Se esperaba terminar '
+ u'con un código de retorno %s pero se obtuvo una señal %s '
+ u'(%s).\n') % (self.retorno, -proc.returncode,
+ -proc.returncode) # TODO poner con texto
+ log.debug(_(u'Se esperaba terminar con un código '
+ u'de retorno %s pero se obtuvo una señal %s (%s).\n'),
+ self.retorno, -proc.returncode, -proc.returncode)
+ else:
+ comando_ejecutado.observaciones += _(u'Se esperaba terminar '
+ u'con un código de retorno %s pero se obtuvo %s.\n') \
+ % (self.retorno, proc.returncode)
+ log.debug(_(u'Se esperaba terminar con un código de retorno '
+ u'%s pero se obtuvo %s.\n'), self.retorno, proc.returncode)
+ if comando_ejecutado.exito is None:
+ log.debug(_(u'Código de retorno OK'))
+ if a_guardar:
+ buffer = StringIO()
+ zip = ZipFile(buffer, 'w')
+ # Guardamos stdout/stderr
+ if self.STDOUTERR in a_guardar:
+ a_guardar.remove(self.STDOUTERR)
+ zip.write('%s.%s.stdouterr' % (basetmp, comando_ejecutado.id),
+ self.STDOUTERR)
+ else:
+ if self.STDOUT in a_guardar:
+ a_guardar.remove(self.STDOUT)
+ zip.write('%s.%s.stdout' % (basetmp, comando_ejecutado.id),
+ self.STDOUT)
+ if self.STDERR in a_guardar:
+ a_guardar.remove(self.STDERR)
+ zip.write('%s.%s.stderr' % (basetmp, comando_ejecutado.id),
+ self.STDERR)
+ # Guardamos otros
+ for f in a_guardar:
+ if not os.path.exists(join(path, f)):
+ if self.rechazar_si_falla:
+ prueba.exito = False
+ comando_ejecutado.exito = False
+ comando_ejecutado.observaciones += _(u'Se esperaba un archivo '
+ u'"%s" para guardar pero no fue encontrado.\n') % f
+ log.debug(_(u'Se esperaba un archivo "%s" para guardar pero '
+ u'no fue encontrado'), f)
+ else:
+ zip.write(join(path, f), f)
+ zip.close()
+ comando_ejecutado.archivos = buffer.getvalue()
+ def diff(new, zip_in, zip_out, name, longname=None, origname='correcto',
+ newname='entregado'):
+ if longname is None:
+ longname = name
+ new = file(new, 'r').readlines()
+ orig = zip_in.read(name).split('\n')
+ udiff = ''.join(list(unified_diff(orig, new, fromfile=name+'.'+origname,
+ tofile=name+'.'+newname)))
+ if udiff:
+ if self.rechazar_si_falla:
+ prueba.exito = False
+ comando_ejecutado.exito = False
+ comando_ejecutado.observaciones += _(u'%s no coincide con lo '
+ u'esperado (archivo "%s.diff").\n') % (longname, name)
+ log.debug(_(u'%s no coincide con lo esperado (archivo "%s.diff")'),
+ longname, name)
+ htmldiff = HtmlDiff().make_file(orig, new,
+ fromdesc=name+'.'+origname, todesc=name+'.'+newname,
+ context=True, numlines=3)
+ zip_out.writestr(name + '.diff', udiff)
+ zip_out.writestr(name + '.diff.html', htmldiff)
+ return True
+ else:
+ return False
+ if a_comparar:
+ buffer = StringIO()
+ zip = ZipFile(buffer, 'w')
+ # Comparamos stdout/stderr
+ if self.STDOUTERR in a_comparar:
+ a_comparar.remove(self.STDOUTERR)
+ diff('%s.%s.stdouterr' % (basetmp, comando_ejecutado.id),
+ zip_a_comparar, zip, self.STDOUTERR,
+ _(u'La salida estándar y de error combinada'))
+ else:
+ if self.STDOUT in a_comparar:
+ a_comparar.remove(self.STDOUT)
+ diff('%s.%s.stdout' % (basetmp, comando_ejecutado.id),
+ zip_a_comparar, zip, self.STDOUT, _(u'La salida estándar'))
+ if self.STDERR in a_comparar:
+ a_comparar.remove(self.STDERR)
+ diff('%s.%s.stderr' % (basetmp, comando_ejecutado.id),
+ zip_a_comparar, zip, self.STDERR, _(u'La salida de error'))
+ # Comparamos otros
+ for f in a_comparar:
+ if not os.path.exists(join(path, f)):
+ if self.rechazar_si_falla:
+ prueba.exito = False
+ comando_ejecutado.exito = False
+ comando_ejecutado.observaciones += _(u'Se esperaba un archivo '
+ u'"%s" para comparar pero no fue encontrado') % f
+ log.debug(_(u'Se esperaba un archivo "%s" para comparar pero '
+ u'no fue encontrado'), f)
+ else:
+ diff(join(path, f), zip_a_comparar, zip, f)
+ zip.close()
+ comando_ejecutado.diferencias = buffer.getvalue()
+ if comando_ejecutado.exito is None:
+ comando_ejecutado.exito = True
+ elif self.terminar_si_falla:
+ raise ExecutionFailure(self)
+
ComandoPrueba.ejecutar = ejecutar_comando_prueba
#}}}
projects / z.facultad / 75.52 / sercom.git / blobdiff