Fix path for quicktest.
[kai/samba.git] / selftest / selftest.pl
1 #!/usr/bin/perl
2 # Bootstrap Samba and run a number of tests against it.
3 # Copyright (C) 2005-2008 Jelmer Vernooij <jelmer@samba.org>
4 # Published under the GNU GPL, v3 or later.
5
6 =pod
7
8 =head1 NAME
9
10 selftest - Samba test runner
11
12 =head1 SYNOPSIS
13
14 selftest --help
15
16 selftest [--srcdir=DIR] [--builddir=DIR] [--target=samba4|samba3|win|kvm] [--socket-wrapper] [--quick] [--exclude=FILE] [--include=FILE] [--one] [--prefix=prefix] [--immediate] [--testlist=FILE] [TESTS]
17
18 =head1 DESCRIPTION
19
20 A simple test runner. TESTS is a regular expression with tests to run.
21
22 =head1 OPTIONS
23
24 =over 4
25
26 =item I<--help>
27
28 Show list of available options.
29
30 =item I<--srcdir=DIR>
31
32 Source directory.
33
34 =item I<--builddir=DIR>
35
36 Build directory.
37
38 =item I<--prefix=DIR>
39
40 Change directory to run tests in. Default is 'st'.
41
42 =item I<--immediate>
43
44 Show errors as soon as they happen rather than at the end of the test run.
45                 
46 =item I<--target samba4|samba3|win|kvm>
47
48 Specify test target against which to run. Default is 'samba4'.
49
50 =item I<--quick>
51
52 Run only a limited number of tests. Intended to run in about 30 seconds on 
53 moderately recent systems.
54                 
55 =item I<--socket-wrapper>
56
57 Use socket wrapper library for communication with server. Only works 
58 when the server is running locally.
59
60 Will prevent TCP and UDP ports being opened on the local host but 
61 (transparently) redirects these calls to use unix domain sockets.
62
63 =item I<--expected-failures>
64
65 Specify a file containing a list of tests that are expected to fail. Failures for 
66 these tests will be counted as successes, successes will be counted as failures.
67
68 The format for the file is, one entry per line:
69
70 TESTSUITE-NAME.TEST-NAME
71
72 The reason for a test can also be specified, by adding a hash sign (#) and the reason 
73 after the test name.
74
75 =item I<--exclude>
76
77 Specify a file containing a list of tests that should be skipped. Possible 
78 candidates are tests that segfault the server, flip or don't end. The format of this file is the same as 
79 for the --expected-failures flag.
80
81 =item I<--include>
82
83 Specify a file containing a list of tests that should be run. Same format 
84 as the --exclude flag.
85
86 Not includes specified means all tests will be run.
87
88 =item I<--one>
89
90 Abort as soon as one test fails.
91
92 =item I<--testlist>
93
94 Load a list of tests from the specified location.
95
96 =back
97
98 =head1 ENVIRONMENT
99
100 =over 4
101
102 =item I<SMBD_VALGRIND>
103
104 =item I<TORTURE_MAXTIME>
105
106 =item I<VALGRIND>
107
108 =item I<TLS_ENABLED>
109
110 =item I<srcdir>
111
112 =back
113
114 =head1 LICENSE
115
116 selftest is licensed under the GNU General Public License L<http://www.gnu.org/licenses/gpl.html>.
117
118 =head1 AUTHOR
119
120 Jelmer Vernooij
121
122 =cut
123
124 use strict;
125
126 use FindBin qw($RealBin $Script);
127 use File::Spec;
128 use Getopt::Long;
129 use POSIX;
130 use Cwd qw(abs_path);
131 use lib "$RealBin";
132 use Subunit qw(parse_results);
133 use SocketWrapper;
134
135 my $opt_help = 0;
136 my $opt_target = "samba4";
137 my $opt_quick = 0;
138 my $opt_socket_wrapper = 0;
139 my $opt_socket_wrapper_pcap = undef;
140 my $opt_socket_wrapper_keep_pcap = undef;
141 my $opt_one = 0;
142 my $opt_immediate = 0;
143 my $opt_expected_failures = undef;
144 my @opt_exclude = ();
145 my @opt_include = ();
146 my $opt_verbose = 0;
147 my $opt_image = undef;
148 my $opt_testenv = 0;
149 my $ldap = undef;
150 my $opt_analyse_cmd = undef;
151 my $opt_resetup_env = undef;
152 my $opt_bindir = undef;
153 my $opt_no_lazy_setup = undef;
154 my $opt_format = "plain";
155 my @testlists = ();
156
157 my $srcdir = ".";
158 my $builddir = ".";
159 my $prefix = "./st";
160
161 my @expected_failures = ();
162 my @includes = ();
163 my @excludes = ();
164
165 my $statistics = {
166         SUITES_FAIL => 0,
167
168         TESTS_UNEXPECTED_OK => 0,
169         TESTS_EXPECTED_OK => 0,
170         TESTS_UNEXPECTED_FAIL => 0,
171         TESTS_EXPECTED_FAIL => 0,
172         TESTS_ERROR => 0,
173         TESTS_SKIP => 0,
174 };
175
176 sub find_in_list($$)
177 {
178         my ($list, $fullname) = @_;
179
180         foreach (@$list) {
181                 if ($fullname =~ /$$_[0]/) {
182                          return ($$_[1]) if ($$_[1]);
183                          return "NO REASON SPECIFIED";
184                 }
185         }
186
187         return undef;
188 }
189
190 sub expecting_failure($)
191 {
192         my ($name) = @_;
193         return find_in_list(\@expected_failures, $name);
194 }
195
196 sub skip($)
197 {
198         my ($name) = @_;
199
200         return find_in_list(\@excludes, $name);
201 }
202
203 sub getlog_env($);
204
205 sub setup_pcap($)
206 {
207         my ($name) = @_;
208
209         return unless ($opt_socket_wrapper_pcap);
210         return unless defined($ENV{SOCKET_WRAPPER_PCAP_DIR});
211
212         my $fname = $name;
213         $fname =~ s%[^abcdefghijklmnopqrstuvwxyzABCDEFGHIJKLMNOPQRSTUVWXYZ0123456789\-]%_%g;
214
215         my $pcap_file = "$ENV{SOCKET_WRAPPER_PCAP_DIR}/$fname.pcap";
216
217         SocketWrapper::setup_pcap($pcap_file);
218
219         return $pcap_file;
220 }
221
222 sub cleanup_pcap($$$)
223 {
224         my ($pcap_file, $expected_ret, $ret) = @_;
225
226         return unless ($opt_socket_wrapper_pcap);
227         return if ($opt_socket_wrapper_keep_pcap);
228         return unless ($expected_ret == $ret);
229         return unless defined($pcap_file);
230
231         unlink($pcap_file);
232 }
233
234 sub run_testsuite($$$$$$)
235 {
236         my ($envname, $name, $cmd, $i, $totalsuites, $msg_ops) = @_;
237         my $pcap_file = setup_pcap($name);
238
239         $msg_ops->start_test([], $name);
240
241         unless (open(RESULT, "$cmd 2>&1|")) {
242                 $statistics->{TESTS_ERROR}++;
243                 $msg_ops->end_test([], $name, "error", 1, "Unable to run $cmd: $!");
244                 $statistics->{SUITES_FAIL}++;
245                 return 0;
246         }
247
248         my $expected_ret = parse_results(
249                 $msg_ops, $statistics, *RESULT, \&expecting_failure, [$name]);
250
251         my $envlog = getlog_env($envname);
252         $msg_ops->output_msg("ENVLOG: $envlog\n") if ($envlog ne "");
253
254         $msg_ops->output_msg("CMD: $cmd\n");
255
256         my $ret = close(RESULT);
257         $ret = 0 unless $ret == 1;
258
259         my $exitcode = $? >> 8;
260
261         if ($ret == 1) {
262                 $msg_ops->end_test([], $name, "success", $expected_ret != $ret, undef); 
263         } else {
264                 $msg_ops->end_test([], $name, "failure", $expected_ret != $ret, "Exit code was $exitcode");
265         }
266
267         cleanup_pcap($pcap_file, $expected_ret, $ret);
268
269         if (not $opt_socket_wrapper_keep_pcap and defined($pcap_file)) {
270                 $msg_ops->output_msg("PCAP FILE: $pcap_file\n");
271         }
272
273         if ($ret != $expected_ret) {
274                 $statistics->{SUITES_FAIL}++;
275                 exit(1) if ($opt_one);
276         }
277
278         return ($ret == $expected_ret);
279 }
280
281 sub ShowHelp()
282 {
283         print "Samba test runner
284 Copyright (C) Jelmer Vernooij <jelmer\@samba.org>
285
286 Usage: $Script [OPTIONS] TESTNAME-REGEX
287
288 Generic options:
289  --help                     this help page
290  --target=samba[34]|win|kvm Samba version to target
291  --testlist=FILE            file to read available tests from
292
293 Paths:
294  --prefix=DIR               prefix to run tests in [st]
295  --srcdir=DIR               source directory [.]
296  --builddir=DIR             output directory [.]
297
298 Target Specific:
299  --socket-wrapper-pcap      save traffic to pcap directories
300  --socket-wrapper-keep-pcap keep all pcap files, not just those for tests that 
301                             failed
302  --socket-wrapper           enable socket wrapper
303  --bindir=PATH              path to target binaries
304  --expected-failures=FILE   specify list of tests that is guaranteed to fail
305
306 Samba4 Specific:
307  --ldap=openldap|fedora-ds  back samba onto specified ldap server
308
309 Kvm Specific:
310  --image=PATH               path to KVM image
311
312 Behaviour:
313  --quick                    run quick overall test
314  --one                      abort when the first test fails
315  --immediate                print test output for failed tests during run
316  --verbose                  be verbose
317  --analyse-cmd CMD          command to run after each test
318 ";
319         exit(0);
320 }
321
322 my $result = GetOptions (
323                 'help|h|?' => \$opt_help,
324                 'target=s' => \$opt_target,
325                 'prefix=s' => \$prefix,
326                 'socket-wrapper' => \$opt_socket_wrapper,
327                 'socket-wrapper-pcap' => \$opt_socket_wrapper_pcap,
328                 'socket-wrapper-keep-pcap' => \$opt_socket_wrapper_keep_pcap,
329                 'quick' => \$opt_quick,
330                 'one' => \$opt_one,
331                 'immediate' => \$opt_immediate,
332                 'expected-failures=s' => \$opt_expected_failures,
333                 'exclude=s' => \@opt_exclude,
334                 'include=s' => \@opt_include,
335                 'srcdir=s' => \$srcdir,
336                 'builddir=s' => \$builddir,
337                 'verbose' => \$opt_verbose,
338                 'testenv' => \$opt_testenv,
339                 'ldap:s' => \$ldap,
340                 'analyse-cmd=s' => \$opt_analyse_cmd,
341                 'no-lazy-setup' => \$opt_no_lazy_setup,
342                 'resetup-environment' => \$opt_resetup_env,
343                 'bindir:s' => \$opt_bindir,
344                 'format=s' => \$opt_format,
345                 'image=s' => \$opt_image,
346                 'testlist=s' => \@testlists
347             );
348
349 exit(1) if (not $result);
350
351 ShowHelp() if ($opt_help);
352
353 my $tests = shift;
354
355 # quick hack to disable rpc validation when using valgrind - its way too slow
356 unless (defined($ENV{VALGRIND})) {
357         $ENV{VALIDATE} = "validate";
358         $ENV{MALLOC_CHECK_} = 2;
359 }
360
361 my $old_pwd = "$RealBin/..";
362
363 # Backwards compatibility:
364 if (defined($ENV{TEST_LDAP}) and $ENV{TEST_LDAP} eq "yes") {
365         if (defined($ENV{FEDORA_DS_ROOT})) {
366                 $ldap = "fedora-ds";
367         } else {
368                 $ldap = "openldap";
369         }
370 }
371
372 my $torture_maxtime = ($ENV{TORTURE_MAXTIME} or 1200);
373 if ($ldap) {
374         # LDAP is slow
375         $torture_maxtime *= 2;
376 }
377
378 $prefix =~ s+//+/+;
379 $prefix =~ s+/./+/+;
380 $prefix =~ s+/$++;
381
382 die("using an empty prefix isn't allowed") unless $prefix ne "";
383
384 #Ensure we have the test prefix around
385 mkdir($prefix, 0777) unless -d $prefix;
386
387 my $prefix_abs = abs_path($prefix);
388 my $srcdir_abs = abs_path($srcdir);
389
390 die("using an empty absolute prefix isn't allowed") unless $prefix_abs ne "";
391 die("using '/' as absolute prefix isn't allowed") unless $prefix_abs ne "/";
392
393 $ENV{PREFIX} = $prefix;
394 $ENV{KRB5CCNAME} = "$prefix/krb5ticket";
395 $ENV{PREFIX_ABS} = $prefix_abs;
396 $ENV{SRCDIR} = $srcdir;
397 $ENV{SRCDIR_ABS} = $srcdir_abs;
398
399 if (defined($ENV{RUN_FROM_BUILD_FARM}) and 
400         ($ENV{RUN_FROM_BUILD_FARM} eq "yes")) {
401         $opt_format = "buildfarm";
402 }
403
404 my $tls_enabled = not $opt_quick;
405 $ENV{TLS_ENABLED} = ($tls_enabled?"yes":"no");
406 $ENV{LDB_MODULES_PATH} = "$old_pwd/source4/bin/modules/ldb";
407 $ENV{LD_SAMBA_MODULE_PATH} = "$old_pwd/source4/bin/modules";
408 sub prefix_pathvar($$)
409 {
410         my ($name, $newpath) = @_;
411         if (defined($ENV{$name})) {
412                 $ENV{$name} = "$newpath:$ENV{$name}";
413         } else {
414                 $ENV{$name} = $newpath;
415         }
416 }
417 prefix_pathvar("PKG_CONFIG_PATH", "$old_pwd/source4/bin/pkgconfig");
418 prefix_pathvar("PYTHONPATH", "$old_pwd/source4/bin/python");
419
420 if ($opt_socket_wrapper_keep_pcap) {
421         # Socket wrapper keep pcap implies socket wrapper pcap
422         $opt_socket_wrapper_pcap = 1;
423 }
424
425 if ($opt_socket_wrapper_pcap) {
426         # Socket wrapper pcap implies socket wrapper
427         $opt_socket_wrapper = 1;
428 }
429
430 my $socket_wrapper_dir;
431 if ($opt_socket_wrapper) {
432         $socket_wrapper_dir = SocketWrapper::setup_dir("$prefix/w", $opt_socket_wrapper_pcap);
433         print "SOCKET_WRAPPER_DIR=$socket_wrapper_dir\n";
434 } else {
435          unless ($< == 0) { 
436                  print "WARNING: Not using socket wrapper, but also not running as root. Will not be able to listen on proper ports\n";
437          }
438 }
439
440 my $target;
441 my $testenv_default = "none";
442
443 if ($opt_target eq "samba4") {
444         $testenv_default = "member";
445         require target::Samba4;
446         $target = new Samba4($opt_bindir or "$srcdir/bin", $ldap, "$srcdir/setup");
447 } elsif ($opt_target eq "samba3") {
448         my $bindir = ($opt_bindir or "$srcdir/bin");
449         if ($opt_socket_wrapper and `$bindir/smbd -b | grep SOCKET_WRAPPER` eq "") {
450                 die("You must include --enable-socket-wrapper when compiling Samba in order to execute 'make test'.  Exiting....");
451         }
452         $testenv_default = "dc";
453         require target::Samba3;
454         $target = new Samba3($bindir);
455 } elsif ($opt_target eq "win") {
456         die("Windows tests will not run with socket wrapper enabled.") 
457                 if ($opt_socket_wrapper);
458         $testenv_default = "dc";
459         require target::Windows;
460         $target = new Windows();
461 } elsif ($opt_target eq "kvm") {
462         die("Kvm tests will not run with socket wrapper enabled.") 
463                 if ($opt_socket_wrapper);
464         require target::Kvm;
465         die("No image specified") unless ($opt_image);
466         $target = new Kvm($opt_image, undef);
467 }
468
469 #
470 # Start a Virtual Distributed Ethernet Switch
471 # Returns the pid of the switch.
472 #
473 sub start_vde_switch($)
474 {
475         my ($path) = @_;
476
477         system("vde_switch --pidfile $path/vde.pid --sock $path/vde.sock --daemon");
478
479         open(PID, "$path/vde.pid");
480         <PID> =~ /([0-9]+)/;
481         my $pid = $1;
482         close(PID);
483
484         return $pid;
485 }
486
487 # Stop a Virtual Distributed Ethernet Switch
488 sub stop_vde_switch($)
489 {
490         my ($pid) = @_;
491         kill 9, $pid;
492 }
493
494 sub read_test_regexes($)
495 {
496         my ($name) = @_;
497         my @ret = ();
498         open(LF, "<$name") or die("unable to read $name: $!");
499         while (<LF>) { 
500                 chomp; 
501                 next if (/^#/);
502                 if (/^(.*?)([ \t]+)\#([\t ]*)(.*?)$/) {
503                         push (@ret, [$1, $4]);
504                 } else {
505                         s/^(.*?)([ \t]+)\#([\t ]*)(.*?)$//;
506                         push (@ret, [$_, undef]); 
507                 }
508         }
509         close(LF);
510         return @ret;
511 }
512
513 if (defined($opt_expected_failures)) {
514         @expected_failures = read_test_regexes($opt_expected_failures);
515 }
516
517 foreach (@opt_exclude) {
518         push (@excludes, read_test_regexes($_));
519 }
520
521 if ($opt_quick) {
522         push (@includes, read_test_regexes("selftest/quick"));
523 }
524
525 foreach (@opt_include) {
526         push (@includes, read_test_regexes($_));
527 }
528
529 my $interfaces = join(',', ("127.0.0.6/8", 
530                             "127.0.0.7/8",
531                             "127.0.0.8/8",
532                             "127.0.0.9/8",
533                             "127.0.0.10/8",
534                             "127.0.0.11/8"));
535
536 my $conffile = "$prefix_abs/client/client.conf";
537 $ENV{SMB_CONF_PATH} = $conffile;
538
539 sub write_clientconf($$)
540 {
541         my ($conffile, $vars) = @_;
542
543         mkdir("$prefix/client", 0777) unless -d "$prefix/client";
544         
545         if ( -d "$prefix/client/private" ) {
546                 unlink <$prefix/client/private/*>;
547         } else {
548                 mkdir("$prefix/client/private", 0777);
549         }
550
551         open(CF, ">$conffile");
552         print CF "[global]\n";
553         if (defined($ENV{VALGRIND})) {
554                 print CF "\ticonv:native = true\n";
555         } else {
556                 print CF "\ticonv:native = false\n";
557         }
558         print CF "\tnetbios name = client\n";
559         if (defined($vars->{DOMAIN})) {
560                 print CF "\tworkgroup = $vars->{DOMAIN}\n";
561         }
562         if (defined($vars->{REALM})) {
563                 print CF "\trealm = $vars->{REALM}\n";
564         }
565         if (defined($vars->{NCALRPCDIR})) {
566                 print CF "\tncalrpc dir = $vars->{NCALRPCDIR}\n";
567         }
568         if (defined($vars->{PIDDIR})) {
569                 print CF "\tpid directory = $vars->{PIDDIR}\n";
570         }
571         if (defined($vars->{WINBINDD_SOCKET_DIR})) {
572                 print CF "\twinbindd socket directory = $vars->{WINBINDD_SOCKET_DIR}\n";
573         }
574         if ($opt_socket_wrapper) {
575                 print CF "\tinterfaces = $interfaces\n";
576         }
577         print CF "
578         private dir = $prefix_abs/client/private
579         name resolve order = bcast
580         panic action = $srcdir_abs/script/gdb_backtrace \%PID\% \%PROG\%
581         max xmit = 32K
582         notify:inotify = false
583         ldb:nosync = true
584         system:anonymous = true
585         torture:basedir = $prefix_abs/client
586 #We don't want to pass our self-tests if the PAC code is wrong
587         gensec:require_pac = true
588         modules dir = $ENV{LD_SAMBA_MODULE_PATH}
589 ";
590         close(CF);
591 }
592
593 my @todo = ();
594
595 my $testsdir = "$srcdir/selftest";
596
597 my %required_envs = ();
598
599 sub read_testlist($)
600 {
601         my ($filename) = @_;
602
603         my @ret = ();
604         open(IN, $filename) or die("Unable to open $filename: $!");
605
606         while (<IN>) {
607                 if ($_ eq "-- TEST --\n") {
608                         my $name = <IN>;
609                         $name =~ s/\n//g;
610                         my $env = <IN>;
611                         $env =~ s/\n//g;
612                         my $cmdline = <IN>;
613                         $cmdline =~ s/\n//g;
614                         if (not defined($tests) or $name =~ /$tests/) {
615                                 $required_envs{$env} = 1;
616                                 push (@ret, [$name, $env, $cmdline]);
617                         }
618                 } else {
619                         print;
620                 }
621         }
622         close(IN) or die("Error creating recipe");
623         return @ret;
624 }
625
626 if ($#testlists == -1) {
627         die("No testlists specified");
628 }
629
630 $ENV{SELFTEST_PREFIX} = "$prefix_abs";
631 if ($opt_socket_wrapper) {
632         $ENV{SELFTEST_INTERFACES} = $interfaces;
633 } else {
634         $ENV{SELFTEST_INTERFACES} = "";
635 }
636 if ($opt_verbose) {
637         $ENV{SELFTEST_VERBOSE} = "1";
638 } else {
639         $ENV{SELFTEST_VERBOSE} = "";
640 }
641 if ($opt_quick) {
642         $ENV{SELFTEST_QUICK} = "1";
643 } else {
644         $ENV{SELFTEST_QUICK} = "";
645 }
646 $ENV{SELFTEST_TARGET} = $opt_target;
647 $ENV{SELFTEST_MAXTIME} = $torture_maxtime;
648 $ENV{SELFTEST_CONFFILE} = $conffile;
649
650 my @available = ();
651 foreach my $fn (@testlists) {
652         foreach (read_testlist($fn)) {
653                 my $name = $$_[0];
654                 next if (@includes and not find_in_list(\@includes, $name));
655                 push (@available, $_);
656         }
657 }
658
659 my $msg_ops;
660 if ($opt_format eq "buildfarm") {
661         require output::buildfarm;
662         $msg_ops = new output::buildfarm($statistics);
663 } elsif ($opt_format eq "plain") {
664         require output::plain;
665         $msg_ops = new output::plain("$prefix/summary", $opt_verbose, $opt_immediate, $statistics, $#available+1);
666 } elsif ($opt_format eq "html") {
667         require output::html;
668         mkdir("test-results", 0777);
669         $msg_ops = new output::html("test-results", $statistics);
670 } else {
671         die("Invalid output format '$opt_format'");
672 }
673
674
675 foreach (@available) {
676         my $name = $$_[0];
677         my $skipreason = skip($name);
678         if ($skipreason) {
679                 $msg_ops->skip_testsuite($name, $skipreason);
680         } else {
681                 push(@todo, $_); 
682         }
683 }
684
685 if ($#todo == -1) {
686         print STDERR "No tests to run\n";
687         exit(1);
688         }
689
690 my $suitestotal = $#todo + 1;
691 my $i = 0;
692 $| = 1;
693
694 my %running_envs = ();
695
696 my @exported_envvars = (
697         # domain stuff
698         "DOMAIN",
699         "REALM",
700
701         # domain controller stuff
702         "DC_SERVER",
703         "DC_SERVER_IP",
704         "DC_NETBIOSNAME",
705         "DC_NETBIOSALIAS",
706
707         # server stuff
708         "SERVER",
709         "SERVER_IP",
710         "NETBIOSNAME",
711         "NETBIOSALIAS",
712
713         # user stuff
714         "USERNAME",
715         "PASSWORD",
716         "DC_USERNAME",
717         "DC_PASSWORD",
718
719         # misc stuff
720         "KRB5_CONFIG",
721         "WINBINDD_SOCKET_DIR",
722         "WINBINDD_PRIV_PIPE_DIR"
723 );
724
725 $SIG{INT} = $SIG{QUIT} = $SIG{TERM} = sub { 
726         my $signame = shift;
727         teardown_env($_) foreach(keys %running_envs);
728         die("Received signal $signame");
729 };
730
731 sub setup_env($)
732 {
733         my ($envname) = @_;
734
735         my $testenv_vars;
736         if ($envname eq "none") {
737                 $testenv_vars = {};
738         } elsif (defined($running_envs{$envname})) {
739                 $testenv_vars = $running_envs{$envname};
740                 if (not $target->check_env($testenv_vars)) {
741                         $testenv_vars = undef;
742                 }
743         } else {
744                 $testenv_vars = $target->setup_env($envname, $prefix);
745         }
746
747         return undef unless defined($testenv_vars);
748
749         $running_envs{$envname} = $testenv_vars;
750
751         SocketWrapper::set_default_iface(6);
752         write_clientconf($conffile, $testenv_vars);
753
754         foreach (@exported_envvars) {
755                 if (defined($testenv_vars->{$_})) {
756                         $ENV{$_} = $testenv_vars->{$_};
757                 } else {
758                         delete $ENV{$_};
759                 }
760         }
761
762         return $testenv_vars;
763 }
764
765 sub exported_envvars_str($)
766 {
767         my ($testenv_vars) = @_;
768         my $out = "";
769
770         foreach (@exported_envvars) {
771                 next unless defined($testenv_vars->{$_});
772                 $out .= $_."=".$testenv_vars->{$_}."\n";
773         }
774
775         return $out;
776 }
777
778 sub getlog_env($)
779 {
780         my ($envname) = @_;
781         return "" if ($envname eq "none");
782         return $target->getlog_env($running_envs{$envname});
783 }
784
785 sub check_env($)
786 {
787         my ($envname) = @_;
788         return 1 if ($envname eq "none");
789         return $target->check_env($running_envs{$envname});
790 }
791
792 sub teardown_env($)
793 {
794         my ($envname) = @_;
795         return if ($envname eq "none");
796         $target->teardown_env($running_envs{$envname});
797         delete $running_envs{$envname};
798 }
799
800 if ($opt_no_lazy_setup) {
801         setup_env($_) foreach (keys %required_envs);
802 }
803
804 if ($opt_testenv) {
805         my $testenv_name = $ENV{SELFTEST_TESTENV};
806         $testenv_name = $testenv_default unless defined($testenv_name);
807
808         my $testenv_vars = setup_env($testenv_name);
809
810         $ENV{PIDDIR} = $testenv_vars->{PIDDIR};
811
812         my $envvarstr = exported_envvars_str($testenv_vars);
813
814         my $term = ($ENV{TERM} or "xterm");
815         system("$term -e 'echo -e \"
816 Welcome to the Samba4 Test environment '$testenv_name'
817
818 This matches the client environment used in make test
819 server is pid `cat \$PIDDIR/samba.pid`
820
821 Some useful environment variables:
822 TORTURE_OPTIONS=\$TORTURE_OPTIONS
823 CONFIGURATION=\$CONFIGURATION
824
825 $envvarstr
826 \" && LD_LIBRARY_PATH=$ENV{LD_LIBRARY_PATH} bash'");
827         teardown_env($testenv_name);
828 } else {
829         foreach (@todo) {
830                 $i++;
831                 my $cmd = $$_[2];
832                 $cmd =~ s/([\(\)])/\\$1/g;
833                 my $name = $$_[0];
834                 my $envname = $$_[1];
835                 
836                 my $envvars = setup_env($envname);
837                 if (not defined($envvars)) {
838                         $msg_ops->skip_testsuite($name, "unable to set up environment $envname");
839                         next;
840                 }
841
842                 run_testsuite($envname, $name, $cmd, $i, $suitestotal, 
843                               $msg_ops);
844
845                 if (defined($opt_analyse_cmd)) {
846                         system("$opt_analyse_cmd \"$name\"");
847                 }
848
849                 teardown_env($envname) if ($opt_resetup_env);
850         }
851 }
852
853 print "\n";
854
855 teardown_env($_) foreach (keys %running_envs);
856
857 $target->stop();
858
859 $msg_ops->summary();
860
861 my $failed = 0;
862
863 # if there were any valgrind failures, show them
864 foreach (<$prefix/valgrind.log*>) {
865         next unless (-s $_);
866         system("grep DWARF2.CFI.reader $_ > /dev/null");
867         if ($? >> 8 == 0) {
868             print "VALGRIND FAILURE\n";
869             $failed++;
870             system("cat $_");
871         }
872 }
873
874 if ($opt_format eq "buildfarm") {
875         print "TEST STATUS: $statistics->{SUITES_FAIL}\n";
876 }
877
878 exit $statistics->{SUITES_FAIL};