import-and-analyse.py

   1 #!/usr/bin/python
   2 # Write sqlite entries for test reports in the build farm
   3 # Copyright (C) 2007-2010 Jelmer Vernooij <jelmer@samba.org>
   4 # Copyright (C) 2007-2010 Andrew Bartlett <abartlet@samba.org>
   5 # Published under the GNU GPL
   6
   7 """Script to parse build farm log files from the data directory, import
   8 them into the database, add links to the oldrevs/ directory and send
   9 some mail chastising the possible culprits when the build fails, based
  10 on recent commits.
  11 """
  12
  13 from buildfarm.build import (
  14     BuildDiff,
  15     MissingRevisionInfo,
  16     NoSuchBuildError,
  17     )
  18 from buildfarm import BuildFarm
  19 from buildfarm.web import build_uri
  20 from email.mime.text import MIMEText
  21 import optparse
  22 import resource
  23 import smtplib
  24
  25 parser = optparse.OptionParser("import-and-analyse [options]")
  26 parser.add_option("--dry-run", help="Will cause the script to send output to stdout instead of to sendmail.", action="store_true")
  27 parser.add_option("--verbose", help="Be verbose", action="count")
  28
  29 (opts, args) = parser.parse_args()
  30
  31 resource.setrlimit(resource.RLIMIT_RSS, (300000, 300000))
  32 resource.setrlimit(resource.RLIMIT_DATA, (300000, 300000))
  33
  34 buildfarm = BuildFarm(timeout=40.0)
  35
  36 smtp = smtplib.SMTP()
  37 smtp.connect()
  38
  39 def check_and_send_mails(cur, old):
  40
  41     if cur.tree is "waf":
  42         # no point sending emails, as the email addresses are invalid
  43         return
  44
  45     if cur.tree is "samba_3_waf":
  46         # no emails for this until it stabilises a bit
  47         return
  48
  49     t = buildfarm.trees[cur.tree]
  50     diff = BuildDiff(t, old, cur)
  51
  52     if not diff.is_regression():
  53         if opts.verbose >= 3:
  54             print "... hasn't regressed since %s: %s" % (diff.old_rev, diff.old_status)
  55         return
  56
  57     recipients = set()
  58     change_log = ""
  59
  60     for rev in diff.revisions():
  61         recipients.add(rev.author)
  62         recipients.add(rev.committer)
  63         change_log += """
  64 revision: %s
  65 author: %s
  66 committer: %s
  67 message:
  68     %s
  69 """ % (rev.revision, rev.author, rev.committer, rev.message)
  70
  71     body = """
  72 Broken build for tree %(tree)s on host %(host)s with compiler %(compiler)s
  73
  74 Tree %(tree)s is %(scm)s branch %(branch)s.
  75
  76 Build status for new revision %(cur_rev)s is %(cur_status)s
  77 Build status for old revision %(old_rev)s was %(old_status)s
  78
  79 See %(build_link)s
  80
  81 The build may have been broken by one of the following commits:
  82
  83 %(change_log)s
  84     """ % {
  85         "tree": cur.tree, "host": cur.host, "compiler": cur.compiler,
  86         "change_log": change_log,
  87         "scm": t.scm,
  88         "branch": t.branch,
  89         "cur_rev": diff.new_rev,
  90         "old_rev": diff.old_rev,
  91         "cur_status": diff.new_status,
  92         "old_status": diff.old_status,
  93         "build_link": build_uri("http://build.samba.org/build.cgi", cur)
  94         }
  95
  96     msg = MIMEText(body)
  97     msg["Subject"] = "BUILD of %s:%s BROKEN on %s with %s AT REVISION %s" % (cur.tree, t.branch, cur.host, cur.compiler, diff.new_rev)
  98     msg["From"] = "\"Build Farm\" <build@samba.org>"
  99     msg["To"] = ",".join(recipients)
 100     if not opts.dry_run:
 101         smtp.sendmail(msg["From"], [msg["To"]], msg.as_string())
 102     else:
 103         print msg.as_string()
 104
 105
 106 for build in buildfarm.get_new_builds():
 107     if build in buildfarm.builds:
 108         continue
 109
 110     if not opts.dry_run:
 111         old_build = build
 112         try:
 113             build = buildfarm.builds.upload_build(old_build)
 114         except MissingRevisionInfo:
 115             print "No revision info in %r, skipping" % build
 116             continue
 117
 118     try:
 119         rev = build.revision_details()
 120     except MissingRevisionInfo:
 121         print "No revision info in %r, skipping" % build
 122         continue
 123
 124     if opts.verbose >= 2:
 125         print "%s... " % build,
 126         print str(build.status())
 127
 128     try:
 129         if opts.dry_run:
 130             # Perhaps this is a dry run and rev is not in the database yet?
 131             prev_build = buildfarm.builds.get_latest_build(build.tree, build.host, build.compiler)
 132         else:
 133             prev_build = buildfarm.builds.get_previous_build(build.tree, build.host, build.compiler, rev)
 134     except NoSuchBuildError:
 135         if opts.verbose >= 1:
 136             print "Unable to find previous build for %s,%s,%s" % (build.tree, build.host, build.compiler)
 137         # Can't send a nastygram until there are 2 builds..
 138     else:
 139         check_and_send_mails(build, prev_build)
 140
 141     if not opts.dry_run:
 142         old_build.remove()
 143         buildfarm.commit()
 144
 145 smtp.quit()