import-and-analyse.py

   1 #!/usr/bin/python
   2 # Write sqlite entries for test reports in the build farm
   3 # Copyright (C) 2007-2010 Jelmer Vernooij <jelmer@samba.org>
   4 # Copyright (C) 2007-2010 Andrew Bartlett <abartlet@samba.org>
   5 # Published under the GNU GPL
   6
   7 """Script to parse build farm log files from the data directory, import
   8 them into the database, add links to the oldrevs/ directory and send
   9 some mail chastising the possible culprits when the build fails, based
  10 on recent commits.
  11 """
  12
  13 from buildfarm.build import (
  14     BuildDiff,
  15     MissingRevisionInfo,
  16     NoSuchBuildError,
  17     )
  18 from buildfarm import BuildFarm
  19 from buildfarm.web import build_uri
  20 from email.mime.text import MIMEText
  21 import optparse
  22 import resource
  23 import smtplib
  24
  25 parser = optparse.OptionParser("import-and-analyse [options]")
  26 parser.add_option("--dry-run", help="Will cause the script to send output to stdout instead of to sendmail.", action="store_true")
  27 parser.add_option("--verbose", help="Be verbose", action="count")
  28
  29 (opts, args) = parser.parse_args()
  30
  31 resource.setrlimit(resource.RLIMIT_RSS, (300000, 300000))
  32 resource.setrlimit(resource.RLIMIT_DATA, (300000, 300000))
  33
  34 buildfarm = BuildFarm(timeout=40.0)
  35
  36 smtp = smtplib.SMTP()
  37 smtp.connect()
  38
  39 def check_and_send_mails(cur, old):
  40     t = buildfarm.trees[cur.tree]
  41     diff = BuildDiff(t, old, cur)
  42
  43     if not diff.is_regression():
  44         if opts.verbose >= 3:
  45             print "... hasn't regressed since %s: %s" % (diff.old_rev, diff.old_status)
  46         return
  47
  48     recipients = set()
  49     change_log = ""
  50
  51     for rev in diff.revisions():
  52         recipients.add(rev.author)
  53         recipients.add(rev.committer)
  54         change_log += """
  55 revision: %s
  56 author: %s
  57 committer: %s
  58 message:
  59     %s
  60 """ % (rev.revision, rev.author, rev.committer, rev.message)
  61
  62     body = """
  63 Broken build for tree %(tree)s on host %(host)s with compiler %(compiler)s
  64
  65 Tree %(tree)s is %(scm)s branch %(branch)s.
  66
  67 Build status for new revision %(cur_rev)s is %(cur_status)s
  68 Build status for old revision %(old_rev)s was %(old_status)s
  69
  70 See %(build_link)s
  71
  72 The build may have been broken by one of the following commits:
  73
  74 %(change_log)s
  75     """ % {
  76         "tree": cur.tree, "host": cur.host, "compiler": cur.compiler,
  77         "change_log": change_log,
  78         "scm": t.scm,
  79         "branch": t.branch,
  80         "cur_rev": diff.new_rev,
  81         "old_rev": diff.old_rev,
  82         "cur_status": diff.new_status,
  83         "old_status": diff.old_status,
  84         "build_link": build_uri("http://build.samba.org/build.cgi", cur)
  85         }
  86
  87     msg = MIMEText(body)
  88     msg["Subject"] = "BUILD of %s:%s BROKEN on %s with %s AT REVISION %s" % (cur.tree, t.branch, cur.host, cur.compiler, diff.new_rev)
  89     msg["From"] = "\"Build Farm\" <build@samba.org>"
  90     msg["To"] = ",".join(recipients)
  91     if not opts.dry_run:
  92         smtp.sendmail(msg["From"], [msg["To"]], msg.as_string())
  93     else:
  94         print msg.as_string()
  95
  96
  97 for build in buildfarm.get_new_builds():
  98     if build in buildfarm.builds:
  99         continue
 100
 101     if not opts.dry_run:
 102         old_build = build
 103         try:
 104             build = buildfarm.builds.upload_build(old_build)
 105         except MissingRevisionInfo:
 106             print "No revision info in %r, skipping" % build
 107             continue
 108
 109     try:
 110         rev = build.revision_details()
 111     except MissingRevisionInfo:
 112         print "No revision info in %r, skipping" % build
 113         continue
 114
 115     if opts.verbose >= 2:
 116         print "%s... " % build,
 117         print str(build.status())
 118
 119     try:
 120         if opts.dry_run:
 121             # Perhaps this is a dry run and rev is not in the database yet?
 122             prev_build = buildfarm.builds.get_latest_build(build.tree, build.host, build.compiler)
 123         else:
 124             prev_build = buildfarm.builds.get_previous_build(build.tree, build.host, build.compiler, rev)
 125     except NoSuchBuildError:
 126         if opts.verbose >= 1:
 127             print "Unable to find previous build for %s,%s,%s" % (build.tree, build.host, build.compiler)
 128         # Can't send a nastygram until there are 2 builds..
 129     else:
 130         check_and_send_mails(build, prev_build)
 131
 132     if not opts.dry_run:
 133         old_build.remove()
 134         buildfarm.commit()
 135
 136 smtp.quit()