update location of upstream waf tree
[amitay/build-farm.git] / import-and-analyse.py
1 #!/usr/bin/python
2 # Write sqlite entries for test reports in the build farm
3 # Copyright (C) 2007-2010 Jelmer Vernooij <jelmer@samba.org>
4 # Copyright (C) 2007-2010 Andrew Bartlett <abartlet@samba.org>
5 # Published under the GNU GPL
6
7 """Script to parse build farm log files from the data directory, import
8 them into the database, add links to the oldrevs/ directory and send
9 some mail chastising the possible culprits when the build fails, based
10 on recent commits.
11 """
12
13 from buildfarm.build import (
14     BuildDiff,
15     MissingRevisionInfo,
16     NoSuchBuildError,
17     )
18 from buildfarm import BuildFarm
19 from buildfarm.web import build_uri
20 from email.mime.text import MIMEText
21 import optparse
22 import resource
23 import smtplib
24
25 parser = optparse.OptionParser("import-and-analyse [options]")
26 parser.add_option("--dry-run", help="Will cause the script to send output to stdout instead of to sendmail.", action="store_true")
27 parser.add_option("--verbose", help="Be verbose", action="count")
28
29 (opts, args) = parser.parse_args()
30
31 resource.setrlimit(resource.RLIMIT_RSS, (300000, 300000))
32 resource.setrlimit(resource.RLIMIT_DATA, (300000, 300000))
33
34 buildfarm = BuildFarm(timeout=40.0)
35
36 smtp = smtplib.SMTP()
37 smtp.connect()
38
39 def check_and_send_mails(cur, old):
40
41     if cur.tree is "waf":
42         # no point sending emails, as the email addresses are invalid
43         return
44
45     if cur.tree is "samba_3_waf":
46         # no emails for this until it stabilises a bit
47         return
48
49     t = buildfarm.trees[cur.tree]
50     diff = BuildDiff(t, old, cur)
51
52     if not diff.is_regression():
53         if opts.verbose >= 3:
54             print "... hasn't regressed since %s: %s" % (diff.old_rev, diff.old_status)
55         return
56
57     recipients = set()
58     change_log = ""
59
60     for rev in diff.revisions():
61         recipients.add(rev.author)
62         recipients.add(rev.committer)
63         change_log += """
64 revision: %s
65 author: %s
66 committer: %s
67 message:
68     %s
69 """ % (rev.revision, rev.author, rev.committer, rev.message)
70
71     body = """
72 Broken build for tree %(tree)s on host %(host)s with compiler %(compiler)s
73
74 Tree %(tree)s is %(scm)s branch %(branch)s.
75
76 Build status for new revision %(cur_rev)s is %(cur_status)s
77 Build status for old revision %(old_rev)s was %(old_status)s
78
79 See %(build_link)s
80
81 The build may have been broken by one of the following commits:
82
83 %(change_log)s
84     """ % {
85         "tree": cur.tree, "host": cur.host, "compiler": cur.compiler,
86         "change_log": change_log,
87         "scm": t.scm,
88         "branch": t.branch,
89         "cur_rev": diff.new_rev,
90         "old_rev": diff.old_rev,
91         "cur_status": diff.new_status,
92         "old_status": diff.old_status,
93         "build_link": build_uri("http://build.samba.org/build.cgi", cur)
94         }
95
96     msg = MIMEText(body)
97     msg["Subject"] = "BUILD of %s:%s BROKEN on %s with %s AT REVISION %s" % (cur.tree, t.branch, cur.host, cur.compiler, diff.new_rev)
98     msg["From"] = "\"Build Farm\" <build@samba.org>"
99     msg["To"] = ",".join(recipients)
100     if not opts.dry_run:
101         smtp.sendmail(msg["From"], [msg["To"]], msg.as_string())
102     else:
103         print msg.as_string()
104
105
106 for build in buildfarm.get_new_builds():
107     if build in buildfarm.builds:
108         continue
109
110     if not opts.dry_run:
111         old_build = build
112         try:
113             build = buildfarm.builds.upload_build(old_build)
114         except MissingRevisionInfo:
115             print "No revision info in %r, skipping" % build
116             continue
117
118     try:
119         rev = build.revision_details()
120     except MissingRevisionInfo:
121         print "No revision info in %r, skipping" % build
122         continue
123
124     if opts.verbose >= 2:
125         print "%s... " % build,
126         print str(build.status())
127
128     try:
129         if opts.dry_run:
130             # Perhaps this is a dry run and rev is not in the database yet?
131             prev_build = buildfarm.builds.get_latest_build(build.tree, build.host, build.compiler)
132         else:
133             prev_build = buildfarm.builds.get_previous_build(build.tree, build.host, build.compiler, rev)
134     except NoSuchBuildError:
135         if opts.verbose >= 1:
136             print "Unable to find previous build for %s,%s,%s" % (build.tree, build.host, build.compiler)
137         # Can't send a nastygram until there are 2 builds..
138     else:
139         check_and_send_mails(build, prev_build)
140
141     if not opts.dry_run:
142         old_build.remove()
143         buildfarm.commit()
144
145 smtp.quit()