source4/selftest/tests.py

   1 #!/usr/bin/python
   2 # This script generates a list of testsuites that should be run as part of
   3 # the Samba 4 test suite.
   4
   5 # The output of this script is parsed by selftest.pl, which then decides
   6 # which of the tests to actually run. It will, for example, skip all tests
   7 # listed in selftest/skip or only run a subset during "make quicktest".
   8
   9 # The idea is that this script outputs all of the tests of Samba 4, not
  10 # just those that are known to pass, and list those that should be skipped
  11 # or are known to fail in selftest/skip or selftest/knownfail. This makes it
  12 # very easy to see what functionality is still missing in Samba 4 and makes
  13 # it possible to run the testsuite against other servers, such as Samba 3 or
  14 # Windows that have a different set of features.
  15
  16 # The syntax for a testsuite is "-- TEST --" on a single line, followed
  17 # by the name of the test, the environment it needs and the command to run, all
  18 # three separated by newlines. All other lines in the output are considered
  19 # comments.
  20
  21 import os, sys
  22 sys.path.insert(0, os.path.join(os.path.dirname(__file__), "../../selftest"))
  23 from selftesthelpers import *
  24 import subprocess
  25
  26 samba4srcdir = source4dir()
  27 samba4bindir = bindir()
  28 smb4torture = binpath("smbtorture4")
  29 smb4torture_testsuite_list = subprocess.Popen([smb4torture, "--list-suites"], stdout=subprocess.PIPE, stderr=subprocess.PIPE).communicate("")[0].splitlines()
  30 validate = os.getenv("VALIDATE", "")
  31 if validate:
  32     validate_list = [validate]
  33 else:
  34     validate_list = []
  35
  36 def plansmbtorturetestsuite(name, env, options):
  37     modname = "samba4.%s" % name
  38     cmdline = "%s $LISTOPT %s %s" % (valgrindify(smb4torture), options, name)
  39     plantestsuite_loadlist(modname, env, cmdline)
  40
  41 def smb4torture_testsuites(prefix):
  42     return filter(lambda x: x.startswith(prefix), smb4torture_testsuite_list)
  43
  44 subprocess.call([smb4torture, "-V"])
  45
  46 bbdir = os.path.join(srcdir(), "testprogs/blackbox")
  47
  48 configuration = "--configfile=$SMB_CONF_PATH"
  49
  50 torture_options = [configuration, "--maximum-runtime=$SELFTEST_MAXTIME", "--target=samba4", "--basedir=$SELFTEST_TMPDIR"]
  51 if not os.getenv("SELFTEST_VERBOSE"):
  52     torture_options.append("--option=torture:progress=no")
  53 torture_options.append("--format=subunit")
  54 if os.getenv("SELFTEST_QUICK"):
  55     torture_options.append("--option=torture:quick=yes")
  56 smb4torture += " " + " ".join(torture_options)
  57
  58 print "OPTIONS %s" % " ".join(torture_options)
  59
  60 # Simple tests for LDAP and CLDAP
  61 for options in ['-U"$USERNAME%$PASSWORD" --option=socket:testnonblock=true', '-U"$USERNAME%$PASSWORD"', '-U"$USERNAME%$PASSWORD" -k yes', '-U"$USERNAME%$PASSWORD" -k no', '-U"$USERNAME%$PASSWORD" -k no --sign', '-U"$USERNAME%$PASSWORD" -k no --encrypt', '-U"$USERNAME%$PASSWORD" -k yes --encrypt', '-U"$USERNAME%$PASSWORD" -k yes --sign']:
  62     plantestsuite("samba4.ldb.ldap with options %s(dc)" % options, "dc", "%s/test_ldb.sh ldap $SERVER %s" % (bbdir, options))
  63
  64 # see if we support ADS on the Samba3 side
  65 try:
  66     config_h = os.environ["CONFIG_H"]
  67 except KeyError:
  68     config_h = os.path.join(samba4bindir, "default/include/config.h")
  69
  70 f = open(config_h, 'r')
  71 try:
  72     # The other parts of the HAVE_ADS test are always supplied by the top level build
  73     have_ads_support = ("HAVE_LDAP 1" in f.read())
  74 finally:
  75     f.close()
  76
  77 # see if we support ldaps
  78 f = open(config_h, 'r')
  79 try:
  80     have_tls_support = ("ENABLE_GNUTLS 1" in f.read())
  81 finally:
  82     f.close()
  83
  84 if have_tls_support:
  85     for options in ['-U"$USERNAME%$PASSWORD"']:
  86         plantestsuite("samba4.ldb.ldaps with options %s(dc)" % options, "dc",
  87                 "%s/test_ldb.sh ldaps $SERVER_IP %s" % (bbdir, options))
  88
  89 for options in ['-U"$USERNAME%$PASSWORD"']:
  90     plantestsuite("samba4.ldb.ldapi with options %s(dc:local)" % options, "dc:local",
  91             "%s/test_ldb.sh ldapi $PREFIX_ABS/dc/private/ldapi %s" % (bbdir, options))
  92
  93 for t in smb4torture_testsuites("ldap."):
  94     plansmbtorturetestsuite(t, "dc", '-U"$USERNAME%$PASSWORD" //$SERVER_IP/_none_')
  95
  96 ldbdir = os.path.join(srcdir(), "lib/ldb")
  97 # Don't run LDB tests when using system ldb, as we won't have ldbtest installed
  98 if os.path.exists(os.path.join(samba4bindir, "ldbtest")):
  99     plantestsuite("ldb.base", "none", "%s/tests/test-tdb.sh" % ldbdir,
 100                   allow_empty_output=True)
 101 else:
 102     skiptestsuite("ldb.base", "Using system LDB, ldbtest not available")
 103
 104 # Tests for RPC
 105
 106 # add tests to this list as they start passing, so we test
 107 # that they stay passing
 108 ncacn_np_tests = ["rpc.schannel", "rpc.join", "rpc.lsa", "rpc.dssetup", "rpc.altercontext", "rpc.multibind", "rpc.netlogon", "rpc.handles", "rpc.samsync", "rpc.samba3-sessionkey", "rpc.samba3-getusername", "rpc.samba3-lsa", "rpc.samba3-bind", "rpc.samba3-netlogon", "rpc.asyncbind", "rpc.lsalookup", "rpc.lsa-getuser", "rpc.schannel2", "rpc.authcontext"]
 109 ncalrpc_tests = ["rpc.schannel", "rpc.join", "rpc.lsa", "rpc.dssetup", "rpc.altercontext", "rpc.multibind", "rpc.netlogon", "rpc.drsuapi", "rpc.asyncbind", "rpc.lsalookup", "rpc.lsa-getuser", "rpc.schannel2", "rpc.authcontext"]
 110 drs_rpc_tests = smb4torture_testsuites("drs.rpc")
 111 ncacn_ip_tcp_tests = ["rpc.schannel", "rpc.join", "rpc.lsa", "rpc.dssetup", "rpc.altercontext", "rpc.multibind", "rpc.netlogon", "rpc.handles", "rpc.asyncbind", "rpc.lsalookup", "rpc.lsa-getuser", "rpc.schannel2", "rpc.authcontext", "rpc.objectuuid"] + drs_rpc_tests
 112 slow_ncacn_np_tests = ["rpc.samlogon", "rpc.samr.users", "rpc.samr.large-dc", "rpc.samr.users.privileges", "rpc.samr.passwords", "rpc.samr.passwords.pwdlastset"]
 113 slow_ncacn_ip_tcp_tests = ["rpc.samr", "rpc.cracknames"]
 114
 115 all_rpc_tests = ncalrpc_tests + ncacn_np_tests + ncacn_ip_tcp_tests + slow_ncacn_np_tests + slow_ncacn_ip_tcp_tests + ["rpc.lsa.secrets", "rpc.pac", "rpc.samba3-sharesec", "rpc.countcalls"]
 116
 117 # Make sure all tests get run
 118 rpc_tests = smb4torture_testsuites("rpc.")
 119 auto_rpc_tests = filter(lambda t: t not in all_rpc_tests, rpc_tests)
 120
 121 for bindoptions in ["seal,padcheck"] + validate_list + ["bigendian"]:
 122     for transport in ["ncalrpc", "ncacn_np", "ncacn_ip_tcp"]:
 123         env = "dc"
 124         if transport == "ncalrpc":
 125             tests = ncalrpc_tests
 126             env = "dc:local"
 127         elif transport == "ncacn_np":
 128             tests = ncacn_np_tests
 129         elif transport == "ncacn_ip_tcp":
 130             tests = ncacn_ip_tcp_tests
 131         for t in tests:
 132             plantestsuite_loadlist("samba4.%s on %s with %s" % (t, transport, bindoptions), env, [valgrindify(smb4torture), "$LISTOPT", "%s:$SERVER[%s]" % (transport, bindoptions), '-U$USERNAME%$PASSWORD', '-W', '$DOMAIN', t])
 133         plantestsuite_loadlist("samba4.rpc.samba3.sharesec on %s with %s" % (transport, bindoptions), env, [valgrindify(smb4torture), "$LISTOPT", "%s:$SERVER[%s]" % (transport, bindoptions), '-U$USERNAME%$PASSWORD', '-W', '$DOMAIN', '--option=torture:share=tmp', 'rpc.samba3-sharesec'])
 134
 135 #Plugin S4 DC tests (confirms named pipe auth forwarding).  This can be expanded once kerberos is supported in the plugin DC
 136 #
 137 if have_ads_support:
 138     for bindoptions in ["seal,padcheck"] + validate_list + ["bigendian"]:
 139         for t in ncacn_np_tests:
 140             env = "plugin_s4_dc"
 141             transport = "ncacn_np"
 142             plantestsuite_loadlist("samba4.%s with %s" % (t, bindoptions), env, [valgrindify(smb4torture), "$LISTOPT", "%s:$SERVER[%s]" % (transport, bindoptions), '-U$USERNAME%$PASSWORD', '-W', '$DOMAIN', '-k', 'no', t])
 143
 144 for bindoptions in [""] + validate_list + ["bigendian"]:
 145     for t in auto_rpc_tests:
 146         plantestsuite_loadlist("samba4.%s with %s" % (t, bindoptions), "dc", [valgrindify(smb4torture), "$LISTOPT", "$SERVER[%s]" % bindoptions, '-U$USERNAME%$PASSWORD', '-W', '$DOMAIN', t])
 147
 148 t = "rpc.countcalls"
 149 plantestsuite_loadlist("samba4.%s" % t, "dc:local", [valgrindify(smb4torture), "$LISTOPT", "$SERVER[%s]" % bindoptions, '-U$USERNAME%$PASSWORD', '-W', '$DOMAIN', t])
 150
 151 for transport in ["ncacn_np", "ncacn_ip_tcp"]:
 152     env = "dc"
 153     if transport == "ncacn_np":
 154         tests = slow_ncacn_np_tests
 155     elif transport == "ncacn_ip_tcp":
 156         tests = slow_ncacn_ip_tcp_tests
 157     for t in tests:
 158         plantestsuite_loadlist("samba4.%s on %s" % (t, transport), env, [valgrindify(smb4torture), "$LISTOPT", "%s:$SERVER" % transport, '-U$USERNAME%$PASSWORD', '-W', '$DOMAIN', t])
 159
 160 # Tests for the DFS referral calls implementation
 161 for t in smb4torture_testsuites("dfs."):
 162     plansmbtorturetestsuite(t, "dc", '//$SERVER/ipc\$ -U$USERNAME%$PASSWORD')
 163     plansmbtorturetestsuite(t, "plugin_s4_dc", '//$SERVER/ipc\$ -U$USERNAME%$PASSWORD')
 164
 165 # Tests for the NET API (net.api.become.dc tested below against all the roles)
 166 net_tests = filter(lambda x: "net.api.become.dc" not in x, smb4torture_testsuites("net."))
 167 for t in net_tests:
 168     plansmbtorturetestsuite(t, "dc", '$SERVER[%s] -U$USERNAME%%$PASSWORD -W $DOMAIN' % validate)
 169
 170 # Tests for session keys and encryption of RPC pipes
 171 # FIXME: Integrate these into a single smbtorture test
 172
 173 transport = "ncacn_np"
 174 for ntlmoptions in [
 175     "-k no --option=usespnego=yes",
 176     "-k no --option=usespnego=yes --option=ntlmssp_client:128bit=no",
 177     "-k no --option=usespnego=yes --option=ntlmssp_client:56bit=yes",
 178     "-k no --option=usespnego=yes --option=ntlmssp_client:56bit=no",
 179     "-k no --option=usespnego=yes --option=ntlmssp_client:128bit=no --option=ntlmssp_client:56bit=yes",
 180     "-k no --option=usespnego=yes --option=ntlmssp_client:128bit=no --option=ntlmssp_client:56bit=no",
 181     "-k no --option=usespnego=yes --option=clientntlmv2auth=yes",
 182     "-k no --option=usespnego=yes --option=clientntlmv2auth=yes --option=ntlmssp_client:128bit=no",
 183     "-k no --option=usespnego=yes --option=clientntlmv2auth=yes --option=ntlmssp_client:128bit=no --option=ntlmssp_client:56bit=yes",
 184     "-k no --option=usespnego=no --option=clientntlmv2auth=yes",
 185     "-k no --option=gensec:spnego=no --option=clientntlmv2auth=yes",
 186     "-k no --option=usespnego=no"]:
 187     name = "rpc.lsa.secrets on %s with with %s" % (transport, ntlmoptions)
 188     plantestsuite_loadlist("samba4.%s" % name, "dc", [smb4torture, "$LISTOPT", "%s:$SERVER[]" % (transport), ntlmoptions, '-U$USERNAME%$PASSWORD', '-W', '$DOMAIN', '--option=gensec:target_hostname=$NETBIOSNAME', 'rpc.lsa.secrets'])
 189
 190 transports = ["ncacn_np", "ncacn_ip_tcp"]
 191
 192 #Kerberos varies between functional levels, so it is important to check this on all of them
 193 for env in ["dc", "fl2000dc", "fl2003dc", "fl2008r2dc"]:
 194     transport = "ncacn_np"
 195     plantestsuite_loadlist("samba4.rpc.pac on %s" % (transport,), env, [smb4torture, "$LISTOPT", "%s:$SERVER[]" % (transport, ), '-U$USERNAME%$PASSWORD', '-W', '$DOMAIN', 'rpc.pac'])
 196     for transport in transports:
 197         plantestsuite_loadlist("samba4.rpc.lsa.secrets on %s with Kerberos" % (transport,), env, [smb4torture, "$LISTOPT", "%s:$SERVER[]" % (transport, ), '-k', 'yes', '-U$USERNAME%$PASSWORD', '-W', '$DOMAIN', '--option=gensec:target_hostname=$NETBIOSNAME', 'rpc.lsa.secrets'])
 198         plantestsuite_loadlist("samba4.rpc.lsa.secrets on %s with Kerberos - use target principal" % (transport,), env, [smb4torture, "$LISTOPT", "%s:$SERVER[]" % (transport, ), '-k', 'yes', '-U$USERNAME%$PASSWORD', '-W', '$DOMAIN', "--option=clientusespnegoprincipal=yes", '--option=gensec:target_hostname=$NETBIOSNAME', 'rpc.lsa.secrets'])
 199         plantestsuite_loadlist("samba4.rpc.lsa.secrets on %s with Kerberos - use Samba3 style login" % transport, env, [smb4torture, "$LISTOPT", "%s:$SERVER" % transport, '-k', 'yes', '-U$USERNAME%$PASSWORD', '-W', '$DOMAIN', "--option=gensec:fake_gssapi_krb5=yes", '--option=gensec:gssapi_krb5=no', '--option=gensec:target_hostname=$NETBIOSNAME', "rpc.lsa.secrets.none*"])
 200         plantestsuite_loadlist("samba4.rpc.lsa.secrets on %s with Kerberos - use Samba3 style login, use target principal" % transport, env, [smb4torture, "$LISTOPT", "%s:$SERVER" % transport, '-k', 'yes', '-U$USERNAME%$PASSWORD', '-W', '$DOMAIN', "--option=clientusespnegoprincipal=yes", '--option=gensec:fake_gssapi_krb5=yes', '--option=gensec:gssapi_krb5=no', '--option=gensec:target_hostname=$NETBIOSNAME', "rpc.lsa.secrets.none*"])
 201         plantestsuite_loadlist("samba4.rpc.echo on %s" % (transport, ), env, [smb4torture, "$LISTOPT", "%s:$SERVER[]" % (transport,), '-U$USERNAME%$PASSWORD', '-W', '$DOMAIN', 'rpc.echo'])
 202
 203         # Echo tests test bulk Kerberos encryption of DCE/RPC
 204         for bindoptions in ["connect", "spnego", "spnego,sign", "spnego,seal"] + validate_list + ["padcheck", "bigendian", "bigendian,seal"]:
 205             echooptions = "--option=socket:testnonblock=True --option=torture:quick=yes -k yes"
 206             plantestsuite_loadlist("samba4.rpc.echo on %s with %s and %s" % (transport, bindoptions, echooptions), env, [smb4torture, "$LISTOPT", "%s:$SERVER[%s]" % (transport, bindoptions), echooptions, '-U$USERNAME%$PASSWORD', '-W', '$DOMAIN', 'rpc.echo'])
 207     plansmbtorturetestsuite("net.api.become.dc", env, '$SERVER[%s] -U$USERNAME%%$PASSWORD -W $DOMAIN' % validate)
 208
 209 for bindoptions in ["sign", "seal"]:
 210     env = "dc"
 211     plantestsuite_loadlist("samba4.rpc.backupkey with %s" % (bindoptions), env, [smb4torture, "$LISTOPT", "ncacn_np:$SERVER[%s]" % ( bindoptions), '-U$USERNAME%$PASSWORD', '-W', '$DOMAIN', 'rpc.backupkey'])
 212
 213 for transport in transports:
 214     for bindoptions in ["sign", "seal"]:
 215         for ntlmoptions in [
 216         "--option=ntlmssp_client:ntlm2=yes --option=torture:quick=yes",
 217         "--option=ntlmssp_client:ntlm2=no --option=torture:quick=yes",
 218         "--option=ntlmssp_client:ntlm2=yes --option=ntlmssp_client:128bit=no --option=torture:quick=yes",
 219         "--option=ntlmssp_client:ntlm2=no --option=ntlmssp_client:128bit=no --option=torture:quick=yes",
 220         "--option=ntlmssp_client:ntlm2=yes --option=ntlmssp_client:keyexchange=no --option=torture:quick=yes",
 221         "--option=ntlmssp_client:ntlm2=no --option=ntlmssp_client:keyexchange=no --option=torture:quick=yes",
 222         "--option=clientntlmv2auth=yes --option=ntlmssp_client:keyexchange=no --option=torture:quick=yes",
 223         "--option=clientntlmv2auth=yes --option=ntlmssp_client:128bit=no --option=ntlmssp_client:keyexchange=yes --option=torture:quick=yes",
 224         "--option=clientntlmv2auth=yes --option=ntlmssp_client:128bit=no --option=ntlmssp_client:keyexchange=no --option=torture:quick=yes"]:
 225             if transport == "ncalrpc":
 226                 env = "dc:local"
 227             else:
 228                 env = "dc"
 229             plantestsuite_loadlist("samba4.rpc.echo on %s with %s and %s" % (transport, bindoptions, ntlmoptions), env, [smb4torture, "$LISTOPT", "%s:$SERVER[%s]" % (transport, bindoptions), ntlmoptions, '-U$USERNAME%$PASSWORD', '-W', '$DOMAIN', 'rpc.echo'])
 230
 231 plantestsuite_loadlist("samba4.rpc.echo on ncacn_np over smb2", "dc", [smb4torture, "$LISTOPT", 'ncacn_np:$SERVER[smb2]', '-U$USERNAME%$PASSWORD', '-W', '$DOMAIN', 'rpc.echo'])
 232
 233 plantestsuite_loadlist("samba4.ntp.signd", "dc:local", [smb4torture, "$LISTOPT", 'ncacn_np:$SERVER', '-U$USERNAME%$PASSWORD', '-W', '$DOMAIN', 'ntp.signd'])
 234
 235 nbt_tests = smb4torture_testsuites("nbt.")
 236 for t in nbt_tests:
 237     plansmbtorturetestsuite(t, "dc", "//$SERVER/_none_ -U\"$USERNAME%$PASSWORD\"")
 238
 239 # Tests against the NTVFS POSIX backend
 240 ntvfsargs = ["--option=torture:sharedelay=10000", "--option=torture:oplocktimeout=3", "--option=torture:writetimeupdatedelay=50000"]
 241
 242 smb2 = smb4torture_testsuites("smb2.")
 243 #The QFILEINFO-IPC test needs to be on ipc$
 244 raw = filter(lambda x: "raw.qfileinfo.ipc" not in x, smb4torture_testsuites("raw."))
 245 base = smb4torture_testsuites("base.")
 246
 247 netapi = smb4torture_testsuites("netapi.")
 248
 249 libsmbclient = smb4torture_testsuites("libsmbclient.")
 250
 251 for t in base + raw + smb2 + netapi + libsmbclient:
 252     plansmbtorturetestsuite(t, "dc", '//$SERVER/tmp -U$USERNAME%$PASSWORD' + " " + " ".join(ntvfsargs))
 253
 254 plansmbtorturetestsuite("raw.qfileinfo.ipc", "dc", '//$SERVER/ipc\$ -U$USERNAME%$PASSWORD')
 255
 256 for t in smb4torture_testsuites("rap."):
 257     plansmbtorturetestsuite(t, "dc", '//$SERVER/IPC\$ -U$USERNAME%$PASSWORD')
 258
 259 # Tests against the NTVFS CIFS backend
 260 for t in base + raw:
 261     plantestsuite_loadlist("samba4.ntvfs.cifs.krb5.%s" % t, "dc", [valgrindify(smb4torture), "$LISTOPT", '//$NETBIOSNAME/cifs', '-U$USERNAME%$PASSWORD', '--kerberos=yes'] + ntvfsargs + [t])
 262
 263 # Test NTVFS CIFS backend with S4U2Self and S4U2Proxy
 264 t = "base.unlink"
 265 plantestsuite_loadlist("samba4.ntvfs.cifs.ntlm.%s" % t, "dc", [valgrindify(smb4torture), "$LISTOPT", '//$NETBIOSNAME/cifs', '-U$USERNAME%$PASSWORD', '--kerberos=no'] + ntvfsargs + [t])
 266 plantestsuite_loadlist("samba4.ntvfs.cifs.krb5.%s" % t, "rpc_proxy", [valgrindify(smb4torture), "$LISTOPT", '//$NETBIOSNAME/cifs_to_dc', '-U$DC_USERNAME%$DC_PASSWORD', '--kerberos=yes'] + ntvfsargs + [t])
 267 plantestsuite_loadlist("samba4.ntvfs.cifs.ntlm.%s" % t, "rpc_proxy", [valgrindify(smb4torture), "$LISTOPT", '//$NETBIOSNAME/cifs_to_dc', '-U$DC_USERNAME%$DC_PASSWORD', '--kerberos=no'] + ntvfsargs + [t])
 268
 269 plansmbtorturetestsuite('echo.udp', 'dc:local', '//$SERVER/whatever')
 270
 271 # Local tests
 272 for t in smb4torture_testsuites("local."):
 273     plansmbtorturetestsuite(t, "none", "ncalrpc:")
 274
 275 # Confirm these tests with the system iconv too
 276 for t in ["local.convert_string_handle", "local.convert_string", "local.ndr"]:
 277     modname = "samba4.%s.system.iconv" % t
 278     cmdline = "%s %s %s" % (valgrindify(smb4torture), "ncalrpc: --option='iconv:use_builtin_handlers=false'", t)
 279     plantestsuite_loadlist(modname, "none", cmdline)
 280
 281 tdbtorture4 = binpath("tdbtorture")
 282 if os.path.exists(tdbtorture4):
 283     plantestsuite("tdb.stress", "none", valgrindify(tdbtorture4))
 284 else:
 285     skiptestsuite("tdb.stress", "Using system TDB, tdbtorture not available")
 286
 287 plansmbtorturetestsuite("drs.unit", "none", "ncalrpc:")
 288
 289 # Pidl tests
 290 for f in sorted(os.listdir(os.path.join(samba4srcdir, "../pidl/tests"))):
 291     if f.endswith(".pl"):
 292         planperltestsuite("pidl.%s" % f[:-3], os.path.normpath(os.path.join(samba4srcdir, "../pidl/tests", f)))
 293
 294 # Blackbox Tests:
 295 # tests that interact directly with the command-line tools rather than using
 296 # the API. These mainly test that the various command-line options of commands
 297 # work correctly.
 298
 299 planpythontestsuite("none", "samba.tests.blackbox.ndrdump")
 300 planpythontestsuite("none", "samba.tests.source")
 301 plantestsuite("samba4.blackbox.samba_tool(dc:local)", "dc:local", [os.path.join(samba4srcdir, "utils/tests/test_samba_tool.sh"),  '$SERVER', "$USERNAME", "$PASSWORD", "$DOMAIN"])
 302 plantestsuite("samba4.blackbox.pkinit(dc:local)", "dc:local", [os.path.join(bbdir, "test_pkinit.sh"), '$SERVER', '$USERNAME', '$PASSWORD', '$REALM', '$DOMAIN', '$PREFIX', "aes256-cts-hmac-sha1-96", configuration])
 303 plantestsuite("samba4.blackbox.kinit(dc:local)", "dc:local", [os.path.join(bbdir, "test_kinit.sh"), '$SERVER', '$USERNAME', '$PASSWORD', '$REALM', '$DOMAIN', '$PREFIX', "aes256-cts-hmac-sha1-96", configuration])
 304 plantestsuite("samba4.blackbox.kinit(fl2000dc:local)", "fl2000dc:local", [os.path.join(bbdir, "test_kinit.sh"), '$SERVER', '$USERNAME', '$PASSWORD', '$REALM', '$DOMAIN', '$PREFIX', "arcfour-hmac-md5", configuration])
 305 plantestsuite("samba4.blackbox.kinit(fl2008r2dc:local)", "fl2008r2dc:local", [os.path.join(bbdir, "test_kinit.sh"), '$SERVER', '$USERNAME', '$PASSWORD', '$REALM', '$DOMAIN', '$PREFIX', "aes256-cts-hmac-sha1-96", configuration])
 306 plantestsuite("samba4.blackbox.ktpass(dc)", "dc", [os.path.join(bbdir, "test_ktpass.sh"), '$PREFIX'])
 307 plantestsuite("samba4.blackbox.passwords(dc:local)", "dc:local", [os.path.join(bbdir, "test_passwords.sh"), '$SERVER', '$USERNAME', '$PASSWORD', '$REALM', '$DOMAIN', "$PREFIX"])
 308 plantestsuite("samba4.blackbox.export.keytab(dc:local)", "dc:local", [os.path.join(bbdir, "test_export_keytab.sh"), '$SERVER', '$USERNAME', '$REALM', '$DOMAIN', "$PREFIX"])
 309 plantestsuite("samba4.blackbox.cifsdd(dc)", "dc", [os.path.join(samba4srcdir, "client/tests/test_cifsdd.sh"), '$SERVER', '$USERNAME', '$PASSWORD', "$DOMAIN"])
 310 plantestsuite("samba4.blackbox.nmblookup(dc)", "dc", [os.path.join(samba4srcdir, "utils/tests/test_nmblookup.sh"), '$NETBIOSNAME', '$NETBIOSALIAS', '$SERVER', '$SERVER_IP'])
 311 plantestsuite("samba4.blackbox.locktest(dc)", "dc", [os.path.join(samba4srcdir, "torture/tests/test_locktest.sh"), '$SERVER', '$USERNAME', '$PASSWORD', '$DOMAIN', '$PREFIX'])
 312 plantestsuite("samba4.blackbox.masktest", "dc", [os.path.join(samba4srcdir, "torture/tests/test_masktest.sh"), '$SERVER', '$USERNAME', '$PASSWORD', '$DOMAIN', '$PREFIX'])
 313 plantestsuite("samba4.blackbox.gentest(dc)", "dc", [os.path.join(samba4srcdir, "torture/tests/test_gentest.sh"), '$SERVER', '$USERNAME', '$PASSWORD', '$DOMAIN', "$PREFIX"])
 314 plantestsuite("samba4.blackbox.wbinfo(dc:local)", "dc:local", [os.path.join(samba4srcdir, "../nsswitch/tests/test_wbinfo.sh"), '$DOMAIN', '$USERNAME', '$PASSWORD', "dc"])
 315 plantestsuite("samba4.blackbox.wbinfo(s4member:local)", "s4member:local", [os.path.join(samba4srcdir, "../nsswitch/tests/test_wbinfo.sh"), '$DOMAIN', '$DC_USERNAME', '$DC_PASSWORD', "s4member"])
 316 plantestsuite("samba4.blackbox.chgdcpass(dc)", "dc", [os.path.join(bbdir, "test_chgdcpass.sh"), '$SERVER', "LOCALDC\$", '$REALM', '$DOMAIN', '$PREFIX', "aes256-cts-hmac-sha1-96", '$SELFTEST_PREFIX/dc'])
 317
 318 # Tests using the "Simple" NTVFS backend
 319 for t in ["base.rw1"]:
 320     plantestsuite_loadlist("samba4.ntvfs.simple.%s" % t, "dc", [valgrindify(smb4torture), "$LISTOPT", "//$SERVER/simple", '-U$USERNAME%$PASSWORD', t])
 321
 322 # Domain S4member Tests
 323 plantestsuite_loadlist("samba4.rpc.echo against s4member server with local creds", "s4member", [valgrindify(smb4torture), "$LISTOPT", 'ncacn_np:$NETBIOSNAME', '-U$NETBIOSNAME/$USERNAME%$PASSWORD', 'rpc.echo'])
 324 plantestsuite_loadlist("samba4.rpc.echo against s4member server with domain creds", "s4member", [valgrindify(smb4torture), "$LISTOPT", 'ncacn_np:$NETBIOSNAME', '-U$DOMAIN/$DC_USERNAME%$DC_PASSWORD', 'rpc.echo'])
 325 plantestsuite_loadlist("samba4.rpc.samr against s4member server with local creds", "s4member", [valgrindify(smb4torture), "$LISTOPT", 'ncacn_np:$NETBIOSNAME', '-U$NETBIOSNAME/$USERNAME%$PASSWORD', "rpc.samr"])
 326 plantestsuite_loadlist("samba4.rpc.samr.users against s4member server with local creds", "s4member", [valgrindify(smb4torture), "$LISTOPT", 'ncacn_np:$NETBIOSNAME', '-U$NETBIOSNAME/$USERNAME%$PASSWORD', "rpc.samr.users"])
 327 plantestsuite_loadlist("samba4.rpc.samr.passwords against s4member server with local creds", "s4member", [valgrindify(smb4torture), "$LISTOPT", 'ncacn_np:$NETBIOSNAME', '-U$NETBIOSNAME/$USERNAME%$PASSWORD', "rpc.samr.passwords"])
 328 plantestsuite("samba4.blackbox.smbclient against s4member server with local creds", "s4member", [os.path.join(samba4srcdir, "client/tests/test_smbclient.sh"), '$NETBIOSNAME', '$USERNAME', '$PASSWORD', '$NETBIOSNAME', '$PREFIX'])
 329
 330 # RPC Proxy
 331 plantestsuite_loadlist("samba4.rpc.echo against rpc proxy with domain creds", "rpc_proxy", [valgrindify(smb4torture), "$LISTOPT", 'ncacn_ip_tcp:$NETBIOSNAME', '-U$DOMAIN/$DC_USERNAME%$DC_PASSWORD', "rpc.echo"])
 332
 333 # Tests SMB signing
 334 for mech in [
 335     "-k no",
 336     "-k no --option=usespnego=no",
 337     "-k no --option=gensec:spengo=no",
 338     "-k yes",
 339     "-k yes --option=gensec:fake_gssapi_krb5=yes --option=gensec:gssapi_krb5=no"]:
 340     for signing in ["--signing=on", "--signing=required"]:
 341         signoptions = "%s %s" % (mech, signing)
 342         name = "smb.signing on with %s" % signoptions
 343         plantestsuite_loadlist("samba4.%s" % name, "dc", [valgrindify(smb4torture), "$LISTOPT", '//$NETBIOSNAME/tmp', signoptions, '-U$USERNAME%$PASSWORD', 'base.xcopy'])
 344
 345 for mech in [
 346     "-k no",
 347     "-k no --option=usespnego=no",
 348     "-k no --option=gensec:spengo=no",
 349     "-k yes"]:
 350     signoptions = "%s --signing=off" % mech
 351     name = "smb.signing disabled on with %s" % signoptions
 352     plantestsuite_loadlist("samba4.%s domain-creds" % name, "s4member", [valgrindify(smb4torture), "$LISTOPT", '//$NETBIOSNAME/tmp', signoptions, '-U$DC_USERNAME%$DC_PASSWORD', 'base.xcopy'])
 353     if have_ads_support:
 354         plantestsuite_loadlist("samba4.%s domain-creds" % name, "s3member", [valgrindify(smb4torture), "$LISTOPT", '//$NETBIOSNAME/tmp', signoptions, '-U$DC_USERNAME%$DC_PASSWORD', 'base.xcopy'])
 355         plantestsuite_loadlist("samba4.%s" % name, "plugin_s4_dc", [valgrindify(smb4torture), "$LISTOPT", '//$NETBIOSNAME/tmp', signoptions, '-U$USERNAME%$PASSWORD', 'base.xcopy'])
 356         plantestsuite_loadlist("samba4.%s administrator" % name, "plugin_s4_dc",
 357                                [valgrindify(smb4torture), "$LISTOPT", '//$NETBIOSNAME/tmp', signoptions, '-U$DC_USERNAME%$DC_PASSWORD', 'base.xcopy'])
 358
 359 for mech in [
 360     "-k no",
 361     "-k no --option=usespnego=no",
 362     "-k no --option=gensec:spengo=no"]:
 363     signoptions = "%s --signing=off" % mech
 364     name = "smb.signing on with %s" % signoptions
 365     plantestsuite_loadlist("samba4.%s local-creds" % name, "s4member", [valgrindify(smb4torture), "$LISTOPT", '//$NETBIOSNAME/tmp', signoptions, '-U$NETBIOSNAME/$USERNAME%$PASSWORD', 'base.xcopy'])
 366
 367 plantestsuite_loadlist("samba4.smb.signing --signing=yes anon", "dc", [valgrindify(smb4torture), "$LISTOPT", '//$NETBIOSNAME/tmp', '-k', 'no', '--signing=yes', '-U%', 'base.xcopy'])
 368 plantestsuite_loadlist("samba4.smb.signing --signing=required anon", "dc", [valgrindify(smb4torture), "$LISTOPT", '//$NETBIOSNAME/tmp', '-k', 'no', '--signing=required', '-U%', 'base.xcopy'])
 369 plantestsuite_loadlist("samba4.smb.signing --signing=no anon", "s4member",  [valgrindify(smb4torture), "$LISTOPT", '//$NETBIOSNAME/tmp', '-k', 'no', '--signing=no', '-U%', 'base.xcopy'])
 370
 371
 372 wb_opts = ["--option=\"torture:strict mode=no\"", "--option=\"torture:timelimit=1\"", "--option=\"torture:winbindd_separator=/\"", "--option=\"torture:winbindd_netbios_name=$SERVER\"", "--option=\"torture:winbindd_netbios_domain=$DOMAIN\""]
 373
 374 winbind_struct_tests = smb4torture_testsuites("winbind.struct")
 375 winbind_ndr_tests = smb4torture_testsuites("winbind.ndr")
 376 for env in ["dc", "s4member"]:
 377     for t in winbind_struct_tests:
 378         plansmbtorturetestsuite(t, env, "%s //_none_/_none_" % " ".join(wb_opts))
 379
 380     for t in winbind_ndr_tests:
 381         plansmbtorturetestsuite(t, env, "%s //_none_/_none_" % " ".join(wb_opts))
 382
 383 nsstest4 = binpath("nsstest")
 384 if os.path.exists(nsstest4):
 385     plantestsuite("samba4.nss.test using winbind(s4member)", "s4member", [valgrindify(nsstest4), os.path.join(samba4bindir, "shared/libnss_winbind.so")])
 386 else:
 387     skiptestsuite("samba4.nss.test using winbind(s4member)", "nsstest not available")
 388
 389 subunitrun = valgrindify(python) + " " + os.path.join(samba4srcdir, "scripting/bin/subunitrun")
 390 def plansambapythontestsuite(name, env, path, module, environ={}, extra_args=[]):
 391     environ = dict(environ)
 392     environ["PYTHONPATH"] = "$PYTHONPATH:" + path
 393     args = ["%s=%s" % item for item in environ.iteritems()]
 394     args += [subunitrun, "$LISTOPT", module]
 395     args += extra_args
 396     plantestsuite(name, env, args)
 397
 398
 399 plansambapythontestsuite("ldb.python", "none", "%s/lib/ldb/tests/python/" % srcdir(), 'api')
 400 planpythontestsuite("none", "samba.tests.credentials")
 401 plantestsuite_idlist("samba.tests.gensec", "dc:local", [subunitrun, "$LISTOPT", '-U"$USERNAME%$PASSWORD"', "samba.tests.gensec"])
 402 planpythontestsuite("none", "samba.tests.registry")
 403 plansambapythontestsuite("tdb.python", "none", "%s/lib/tdb/python/tests" % srcdir(), 'simple')
 404 planpythontestsuite("none", "samba.tests.auth")
 405 planpythontestsuite("none", "samba.tests.getopt")
 406 planpythontestsuite("none", "samba.tests.security")
 407 planpythontestsuite("none", "samba.tests.dcerpc.misc")
 408 planpythontestsuite("none", "samba.tests.param")
 409 planpythontestsuite("none", "samba.tests.upgrade")
 410 planpythontestsuite("none", "samba.tests.core")
 411 planpythontestsuite("none", "samba.tests.provision")
 412 planpythontestsuite("none", "samba.tests.samba3")
 413 planpythontestsuite("none", "samba.tests.strings")
 414 planpythontestsuite("dc:local", "samba.tests.dcerpc.sam")
 415 planpythontestsuite("dc:local", "samba.tests.dsdb")
 416 planpythontestsuite("none", "samba.tests.netcmd")
 417 planpythontestsuite("dc:local", "samba.tests.dcerpc.bare")
 418 planpythontestsuite("dc:local", "samba.tests.dcerpc.unix")
 419 planpythontestsuite("none", "samba.tests.dcerpc.rpc_talloc")
 420 planpythontestsuite("none", "samba.tests.samdb")
 421 planpythontestsuite("none", "samba.tests.hostconfig")
 422 planpythontestsuite("none", "samba.tests.messaging")
 423 planpythontestsuite("none", "samba.tests.samba3sam")
 424 planpythontestsuite("none", "subunit")
 425 planpythontestsuite("dc:local", "samba.tests.dcerpc.rpcecho")
 426 plantestsuite_idlist("samba.tests.dcerpc.registry", "dc:local", [subunitrun, "$LISTOPT", '-U"$USERNAME%$PASSWORD"', "samba.tests.dcerpc.registry"])
 427 plantestsuite_idlist("samba.tests.dcerpc.dnsserver(dc)", "dc", [subunitrun, "$LISTOPT", '-U"$USERNAME%$PASSWORD"', "samba.tests.dcerpc.dnsserver"])
 428 plantestsuite("samba4.ldap.python(dc)", "dc", [python, os.path.join(samba4srcdir, "dsdb/tests/python/ldap.py"), '$SERVER', '-U"$USERNAME%$PASSWORD"', '-W', '$DOMAIN'])
 429 plantestsuite("samba4.tokengroups.python(dc)", "dc:local", [python, os.path.join(samba4srcdir, "dsdb/tests/python/token_group.py"), '$SERVER', '-U"$USERNAME%$PASSWORD"', '-W', '$DOMAIN'])
 430 plantestsuite("samba4.sam.python(dc)", "dc", [python, os.path.join(samba4srcdir, "dsdb/tests/python/sam.py"), '$SERVER', '-U"$USERNAME%$PASSWORD"', '-W', '$DOMAIN'])
 431 plansambapythontestsuite("samba4.schemaInfo.python(dc)", "dc", os.path.join(samba4srcdir, 'dsdb/tests/python'), 'dsdb_schema_info', extra_args=['-U"$DOMAIN/$DC_USERNAME%$DC_PASSWORD"'])
 432 plantestsuite("samba4.urgent_replication.python(dc)", "dc", [python, os.path.join(samba4srcdir, "dsdb/tests/python/urgent_replication.py"), '$PREFIX_ABS/dc/private/sam.ldb'], allow_empty_output=True)
 433 plantestsuite("samba4.ldap.dirsync.python(dc)", "dc", [python, os.path.join(samba4srcdir, "dsdb/tests/python/dirsync.py"), '$SERVER', '-U"$USERNAME%$PASSWORD"', '-W', '$DOMAIN'])
 434 for env in ["dc", "fl2000dc", "fl2003dc", "fl2008r2dc"]:
 435     plantestsuite("samba4.ldap_schema.python(%s)" % env, env, [python, os.path.join(samba4srcdir, "dsdb/tests/python/ldap_schema.py"), '$SERVER', '-U"$USERNAME%$PASSWORD"', '-W', '$DOMAIN'])
 436     plantestsuite("samba4.ldap.possibleInferiors.python(%s)" % env, env, [python, os.path.join(samba4srcdir, "dsdb/samdb/ldb_modules/tests/possibleinferiors.py"), "ldap://$SERVER", '-U"$USERNAME%$PASSWORD"', "-W", "$DOMAIN"])
 437     plantestsuite("samba4.ldap.secdesc.python(%s)" % env, env, [python, os.path.join(samba4srcdir, "dsdb/tests/python/sec_descriptor.py"), '$SERVER', '-U"$USERNAME%$PASSWORD"', '-W', '$DOMAIN'])
 438     plantestsuite("samba4.ldap.acl.python(%s)" % env, env, [python, os.path.join(samba4srcdir, "dsdb/tests/python/acl.py"), '$SERVER', '-U"$USERNAME%$PASSWORD"', '-W', '$DOMAIN'])
 439     if env != "fl2000dc":
 440         # This test makes excessively use of the "userPassword" attribute which
 441         # isn't available on DCs with Windows 2000 domain function level -
 442         # therefore skip it in that configuration
 443         plantestsuite("samba4.ldap.passwords.python(%s)" % env, env, [python, os.path.join(samba4srcdir, "dsdb/tests/python/passwords.py"), "$SERVER", '-U"$USERNAME%$PASSWORD"', "-W", "$DOMAIN"])
 444 planpythontestsuite("dc:local", "samba.tests.upgradeprovisionneeddc")
 445 planpythontestsuite("none", "samba.tests.upgradeprovision")
 446 planpythontestsuite("none", "samba.tests.xattr")
 447 planpythontestsuite("none", "samba.tests.ntacls")
 448 plantestsuite("samba4.deletetest.python(dc)", "dc", ['PYTHONPATH="$PYTHONPATH:%s/lib/subunit/python:%s/lib/testtools"' % (srcdir(), srcdir()),
 449                                                      python, os.path.join(samba4srcdir, "dsdb/tests/python/deletetest.py"),
 450                                                      '$SERVER', '-U"$USERNAME%$PASSWORD"', '-W', '$DOMAIN'])
 451 plansambapythontestsuite("samba4.policy.python", "none", "%s/lib/policy/tests/python" % samba4srcdir, 'bindings')
 452 plantestsuite("samba4.blackbox.samba3dump", "none", [python, os.path.join(samba4srcdir, "scripting/bin/samba3dump"), os.path.join(samba4srcdir, "../testdata/samba3")], allow_empty_output=True)
 453 plantestsuite("samba4.blackbox.upgrade", "none", ["PYTHON=%s" % python, os.path.join(samba4srcdir, "setup/tests/blackbox_s3upgrade.sh"), '$PREFIX/provision'])
 454 plantestsuite("samba4.blackbox.provision.py", "none", ["PYTHON=%s" % python, os.path.join(samba4srcdir, "setup/tests/blackbox_provision.sh"), '$PREFIX/provision'])
 455 plantestsuite("samba4.blackbox.upgradeprovision.py", "none", ["PYTHON=%s" % python, os.path.join(samba4srcdir, "setup/tests/blackbox_upgradeprovision.sh"), '$PREFIX/provision'])
 456 plantestsuite("samba4.blackbox.setpassword.py", "none", ["PYTHON=%s" % python, os.path.join(samba4srcdir, "setup/tests/blackbox_setpassword.sh"), '$PREFIX/provision'])
 457 plantestsuite("samba4.blackbox.newuser.py", "none", ["PYTHON=%s" % python, os.path.join(samba4srcdir, "setup/tests/blackbox_newuser.sh"), '$PREFIX/provision'])
 458 plantestsuite("samba4.blackbox.group.py", "none", ["PYTHON=%s" % python, os.path.join(samba4srcdir, "setup/tests/blackbox_group.sh"), '$PREFIX/provision'])
 459 plantestsuite("samba4.blackbox.spn.py(dc:local)", "dc:local", ["PYTHON=%s" % python, os.path.join(samba4srcdir, "setup/tests/blackbox_spn.sh"), '$PREFIX/dc'])
 460 plantestsuite("samba4.ldap.bind(dc)", "dc", [python, os.path.join(srcdir(), "auth/credentials/tests/bind.py"), '$SERVER', '-U"$USERNAME%$PASSWORD"'])
 461
 462 # DRS python tests
 463 plansambapythontestsuite("samba4.blackbox.samba-tool.drs(vampire_dc)", "vampire_dc", os.path.join(samba4srcdir, 'scripting/python'), "samba.tests.blackbox.samba_tool_drs", environ={'DC1': '$DC_SERVER', 'DC2': '$VAMPIRE_DC_SERVER'}, extra_args=['-U$DOMAIN/$DC_USERNAME%$DC_PASSWORD'])
 464 plansambapythontestsuite("samba4.drs.replica_sync.python(vampire_dc)", "vampire_dc", os.path.join(samba4srcdir, 'torture/drs/python'), "replica_sync", environ={'DC1': '$DC_SERVER', 'DC2': '$VAMPIRE_DC_SERVER'}, extra_args=['-U$DOMAIN/$DC_USERNAME%$DC_PASSWORD'])
 465 plansambapythontestsuite("samba4.drs.delete_object.python(vampire_dc)", "vampire_dc", os.path.join(samba4srcdir, 'torture/drs/python'), "delete_object", environ={'DC1': '$DC_SERVER', 'DC2': '$VAMPIRE_DC_SERVER'}, extra_args=['-U$DOMAIN/$DC_USERNAME%$DC_PASSWORD'])
 466 plansambapythontestsuite("samba4.drs.fsmo.python(vampire_dc)", "vampire_dc", os.path.join(samba4srcdir, 'torture/drs/python'), "fsmo", environ={'DC1': "$DC_SERVER", 'DC2': "$VAMPIRE_DC_SERVER"}, extra_args=['-U$DOMAIN/$DC_USERNAME%$DC_PASSWORD'])
 467 plansambapythontestsuite("samba4.drs.repl_schema.python(vampire_dc)", "vampire_dc", os.path.join(samba4srcdir, 'torture/drs/python'), "repl_schema", environ={'DC1': "$DC_SERVER", 'DC2': '$VAMPIRE_DC_SERVER'}, extra_args=['-U$DOMAIN/$DC_USERNAME%$DC_PASSWORD'])
 468
 469 # This makes sure we test the rid allocation code
 470 t = "rpc.samr.large-dc"
 471 plantestsuite_loadlist("samba4.%s.one" % t, "vampire_dc", [valgrindify(smb4torture), "$LISTOPT", '$SERVER', '-U$USERNAME%$PASSWORD', '-W', '$DOMAIN', t])
 472 plantestsuite_loadlist("samba4.%s.two" % t, "vampire_dc", [valgrindify(smb4torture), "$LISTOPT", '$SERVER', '-U$USERNAME%$PASSWORD', '-W', '$DOMAIN', t])
 473
 474 # some RODC testing
 475 for env in ['rodc']:
 476     plantestsuite_loadlist("samba4.rpc.echo", env, [smb4torture, "$LISTOPT", 'ncacn_np:$SERVER', "-k", "yes", '-U$USERNAME%$PASSWORD', '-W' '$DOMAIN', 'rpc.echo'])
 477     plantestsuite_loadlist("samba4.rpc.echo", "%s:local" % env, [smb4torture, "$LISTOPT", 'ncacn_np:$SERVER', "-k", "yes", '-P', '-W' '$DOMAIN', 'rpc.echo'])
 478 plantestsuite("samba4.blackbox.provision-backend.py", "none", ["PYTHON=%s" % python, os.path.join(samba4srcdir, "setup/tests/blackbox_provision-backend.sh"), '$PREFIX/provision'])
 479
 480 # Test renaming the DC
 481 plantestsuite("samba4.blackbox.renamedc.sh", "none", ["PYTHON=%s" % python, os.path.join(bbdir, "renamedc.sh"), '$PREFIX/provision'])
 482
 483 # check the databases are all OK. PLEASE LEAVE THIS AS THE LAST TEST
 484 for env in ["dc", "fl2000dc", "fl2003dc", "fl2008r2dc"]:
 485     plantestsuite("samba4.blackbox.dbcheck(%s)" % env, env + ":local" , ["PYTHON=%s" % python, os.path.join(bbdir, "dbcheck.sh"), '$PREFIX/provision', configuration])