source4/selftest/tests.py

   1 #!/usr/bin/python
   2 # This script generates a list of testsuites that should be run as part of
   3 # the Samba 4 test suite.
   4
   5 # The output of this script is parsed by selftest.pl, which then decides
   6 # which of the tests to actually run. It will, for example, skip all tests
   7 # listed in selftest/skip or only run a subset during "make quicktest".
   8
   9 # The idea is that this script outputs all of the tests of Samba 4, not
  10 # just those that are known to pass, and list those that should be skipped
  11 # or are known to fail in selftest/skip or selftest/knownfail. This makes it
  12 # very easy to see what functionality is still missing in Samba 4 and makes
  13 # it possible to run the testsuite against other servers, such as Samba 3 or
  14 # Windows that have a different set of features.
  15
  16 # The syntax for a testsuite is "-- TEST --" on a single line, followed
  17 # by the name of the test, the environment it needs and the command to run, all
  18 # three separated by newlines. All other lines in the output are considered
  19 # comments.
  20
  21 import os, sys
  22 sys.path.insert(0, os.path.join(os.path.dirname(__file__), "../../selftest"))
  23 from selftesthelpers import *
  24 import subprocess
  25
  26 samba4srcdir = source4dir()
  27 samba4bindir = bindir()
  28 smb4torture = binpath("smbtorture4")
  29 smb4torture_testsuite_list = subprocess.Popen([smb4torture, "--list-suites"], stdout=subprocess.PIPE, stderr=subprocess.PIPE).communicate("")[0].splitlines()
  30 validate = os.getenv("VALIDATE", "")
  31 if validate:
  32     validate_list = [validate]
  33 else:
  34     validate_list = []
  35
  36 def plansmbtorturetestsuite(name, env, options):
  37     modname = "samba4.%s" % name
  38     cmdline = "%s $LISTOPT %s %s" % (valgrindify(smb4torture), options, name)
  39     plantestsuite_loadlist(modname, env, cmdline)
  40
  41 def smb4torture_testsuites(prefix):
  42     return filter(lambda x: x.startswith(prefix), smb4torture_testsuite_list)
  43
  44 subprocess.call([smb4torture, "-V"])
  45
  46 bbdir = os.path.join(srcdir(), "testprogs/blackbox")
  47
  48 configuration = "--configfile=$SMB_CONF_PATH"
  49
  50 torture_options = [configuration, "--maximum-runtime=$SELFTEST_MAXTIME", "--target=samba4", "--basedir=$SELFTEST_TMPDIR"]
  51 if not os.getenv("SELFTEST_VERBOSE"):
  52     torture_options.append("--option=torture:progress=no")
  53 torture_options.append("--format=subunit")
  54 if os.getenv("SELFTEST_QUICK"):
  55     torture_options.append("--option=torture:quick=yes")
  56 smb4torture += " " + " ".join(torture_options)
  57
  58 print "OPTIONS %s" % " ".join(torture_options)
  59
  60 # Simple tests for LDAP and CLDAP
  61 for options in ['-U"$USERNAME%$PASSWORD" --option=socket:testnonblock=true', '-U"$USERNAME%$PASSWORD"', '-U"$USERNAME%$PASSWORD" -k yes', '-U"$USERNAME%$PASSWORD" -k no', '-U"$USERNAME%$PASSWORD" -k no --sign', '-U"$USERNAME%$PASSWORD" -k no --encrypt', '-U"$USERNAME%$PASSWORD" -k yes --encrypt', '-U"$USERNAME%$PASSWORD" -k yes --sign']:
  62     plantestsuite("samba4.ldb.ldap with options %s(dc)" % options, "dc", "%s/test_ldb.sh ldap $SERVER %s" % (bbdir, options))
  63
  64 # see if we support ADS on the Samba3 side
  65 try:
  66     config_h = os.environ["CONFIG_H"]
  67 except KeyError:
  68     config_h = os.path.join(samba4bindir, "default/include/config.h")
  69
  70 f = open(config_h, 'r')
  71 try:
  72     # The other parts of the HAVE_ADS test are always supplied by the top level build
  73     have_ads_support = ("HAVE_LDAP 1" in f.read())
  74 finally:
  75     f.close()
  76
  77 # see if we support ldaps
  78 f = open(config_h, 'r')
  79 try:
  80     have_tls_support = ("ENABLE_GNUTLS 1" in f.read())
  81 finally:
  82     f.close()
  83
  84 if have_tls_support:
  85     for options in ['-U"$USERNAME%$PASSWORD"']:
  86         plantestsuite("samba4.ldb.ldaps with options %s(dc)" % options, "dc",
  87                 "%s/test_ldb.sh ldaps $SERVER_IP %s" % (bbdir, options))
  88
  89 for options in ['-U"$USERNAME%$PASSWORD"']:
  90     plantestsuite("samba4.ldb.ldapi with options %s(dc:local)" % options, "dc:local",
  91             "%s/test_ldb.sh ldapi $PREFIX_ABS/dc/private/ldapi %s" % (bbdir, options))
  92
  93 for t in smb4torture_testsuites("ldap."):
  94     plansmbtorturetestsuite(t, "dc", '-U"$USERNAME%$PASSWORD" //$SERVER_IP/_none_')
  95
  96 ldbdir = os.path.join(srcdir(), "lib/ldb")
  97 # Don't run LDB tests when using system ldb, as we won't have ldbtest installed
  98 if os.path.exists(os.path.join(samba4bindir, "ldbtest")):
  99     plantestsuite("ldb.base", "none", "%s/tests/test-tdb.sh" % ldbdir,
 100                   allow_empty_output=True)
 101 else:
 102     skiptestsuite("ldb.base", "Using system LDB, ldbtest not available")
 103
 104 # Tests for RPC
 105
 106 # add tests to this list as they start passing, so we test
 107 # that they stay passing
 108 ncacn_np_tests = ["rpc.schannel", "rpc.join", "rpc.lsa", "rpc.dssetup", "rpc.altercontext", "rpc.multibind", "rpc.netlogon", "rpc.handles", "rpc.samsync", "rpc.samba3-sessionkey", "rpc.samba3-getusername", "rpc.samba3-lsa", "rpc.samba3-bind", "rpc.samba3-netlogon", "rpc.asyncbind", "rpc.lsalookup", "rpc.lsa-getuser", "rpc.schannel2", "rpc.authcontext"]
 109 ncalrpc_tests = ["rpc.schannel", "rpc.join", "rpc.lsa", "rpc.dssetup", "rpc.altercontext", "rpc.multibind", "rpc.netlogon", "rpc.drsuapi", "rpc.asyncbind", "rpc.lsalookup", "rpc.lsa-getuser", "rpc.schannel2", "rpc.authcontext"]
 110 drs_rpc_tests = smb4torture_testsuites("drs.rpc")
 111 ncacn_ip_tcp_tests = ["rpc.schannel", "rpc.join", "rpc.lsa", "rpc.dssetup", "rpc.altercontext", "rpc.multibind", "rpc.netlogon", "rpc.handles", "rpc.asyncbind", "rpc.lsalookup", "rpc.lsa-getuser", "rpc.schannel2", "rpc.authcontext", "rpc.objectuuid"] + drs_rpc_tests
 112 slow_ncacn_np_tests = ["rpc.samlogon", "rpc.samr.users", "rpc.samr.large-dc", "rpc.samr.users.privileges", "rpc.samr.passwords", "rpc.samr.passwords.pwdlastset"]
 113 slow_ncacn_ip_tcp_tests = ["rpc.samr", "rpc.cracknames"]
 114
 115 all_rpc_tests = ncalrpc_tests + ncacn_np_tests + ncacn_ip_tcp_tests + slow_ncacn_np_tests + slow_ncacn_ip_tcp_tests + ["rpc.lsa.secrets", "rpc.pac", "rpc.samba3-sharesec", "rpc.countcalls"]
 116
 117 # Make sure all tests get run
 118 rpc_tests = smb4torture_testsuites("rpc.")
 119 auto_rpc_tests = filter(lambda t: t not in all_rpc_tests, rpc_tests)
 120
 121 for bindoptions in ["seal,padcheck"] + validate_list + ["bigendian"]:
 122     for transport in ["ncalrpc", "ncacn_np", "ncacn_ip_tcp"]:
 123         env = "dc"
 124         if transport == "ncalrpc":
 125             tests = ncalrpc_tests
 126             env = "dc:local"
 127         elif transport == "ncacn_np":
 128             tests = ncacn_np_tests
 129         elif transport == "ncacn_ip_tcp":
 130             tests = ncacn_ip_tcp_tests
 131         for t in tests:
 132             plantestsuite_loadlist("samba4.%s on %s with %s" % (t, transport, bindoptions), env, [valgrindify(smb4torture), "$LISTOPT", "%s:$SERVER[%s]" % (transport, bindoptions), '-U$USERNAME%$PASSWORD', '-W', '$DOMAIN', t])
 133         plantestsuite_loadlist("samba4.rpc.samba3.sharesec on %s with %s" % (transport, bindoptions), env, [valgrindify(smb4torture), "$LISTOPT", "%s:$SERVER[%s]" % (transport, bindoptions), '-U$USERNAME%$PASSWORD', '-W', '$DOMAIN', '--option=torture:share=tmp', 'rpc.samba3-sharesec'])
 134
 135 #Plugin S4 DC tests (confirms named pipe auth forwarding).  This can be expanded once kerberos is supported in the plugin DC
 136 #
 137 if have_ads_support:
 138     for bindoptions in ["seal,padcheck"] + validate_list + ["bigendian"]:
 139         for t in ncacn_np_tests:
 140             env = "plugin_s4_dc"
 141             transport = "ncacn_np"
 142             plantestsuite_loadlist("samba4.%s with %s" % (t, bindoptions), env, [valgrindify(smb4torture), "$LISTOPT", "%s:$SERVER[%s]" % (transport, bindoptions), '-U$USERNAME%$PASSWORD', '-W', '$DOMAIN', '-k', 'no', t])
 143
 144 for bindoptions in [""] + validate_list + ["bigendian"]:
 145     for t in auto_rpc_tests:
 146         plantestsuite_loadlist("samba4.%s with %s" % (t, bindoptions), "dc", [valgrindify(smb4torture), "$LISTOPT", "$SERVER[%s]" % bindoptions, '-U$USERNAME%$PASSWORD', '-W', '$DOMAIN', t])
 147
 148 t = "rpc.countcalls"
 149 plantestsuite_loadlist("samba4.%s" % t, "dc:local", [valgrindify(smb4torture), "$LISTOPT", "$SERVER[%s]" % bindoptions, '-U$USERNAME%$PASSWORD', '-W', '$DOMAIN', t])
 150
 151 for transport in ["ncacn_np", "ncacn_ip_tcp"]:
 152     env = "dc"
 153     if transport == "ncacn_np":
 154         tests = slow_ncacn_np_tests
 155     elif transport == "ncacn_ip_tcp":
 156         tests = slow_ncacn_ip_tcp_tests
 157     for t in tests:
 158         plantestsuite_loadlist("samba4.%s on %s" % (t, transport), env, [valgrindify(smb4torture), "$LISTOPT", "%s:$SERVER" % transport, '-U$USERNAME%$PASSWORD', '-W', '$DOMAIN', t])
 159
 160 # Tests for the DFS referral calls implementation
 161 for t in smb4torture_testsuites("dfs."):
 162     plansmbtorturetestsuite(t, "dc", '//$SERVER/ipc\$ -U$USERNAME%$PASSWORD')
 163     plansmbtorturetestsuite(t, "plugin_s4_dc", '//$SERVER/ipc\$ -U$USERNAME%$PASSWORD')
 164
 165 # Tests for the NET API (net.api.become.dc tested below against all the roles)
 166 net_tests = filter(lambda x: "net.api.become.dc" not in x, smb4torture_testsuites("net."))
 167 for t in net_tests:
 168     plansmbtorturetestsuite(t, "dc", '$SERVER[%s] -U$USERNAME%%$PASSWORD -W $DOMAIN' % validate)
 169
 170 # Tests for session keys and encryption of RPC pipes
 171 # FIXME: Integrate these into a single smbtorture test
 172
 173 transport = "ncacn_np"
 174 for ntlmoptions in [
 175     "-k no --option=usespnego=yes",
 176     "-k no --option=usespnego=yes --option=ntlmssp_client:128bit=no",
 177     "-k no --option=usespnego=yes --option=ntlmssp_client:56bit=yes",
 178     "-k no --option=usespnego=yes --option=ntlmssp_client:56bit=no",
 179     "-k no --option=usespnego=yes --option=ntlmssp_client:128bit=no --option=ntlmssp_client:56bit=yes",
 180     "-k no --option=usespnego=yes --option=ntlmssp_client:128bit=no --option=ntlmssp_client:56bit=no",
 181     "-k no --option=usespnego=yes --option=clientntlmv2auth=yes",
 182     "-k no --option=usespnego=yes --option=clientntlmv2auth=yes --option=ntlmssp_client:128bit=no",
 183     "-k no --option=usespnego=yes --option=clientntlmv2auth=yes --option=ntlmssp_client:128bit=no --option=ntlmssp_client:56bit=yes",
 184     "-k no --option=usespnego=no --option=clientntlmv2auth=yes",
 185     "-k no --option=gensec:spnego=no --option=clientntlmv2auth=yes",
 186     "-k no --option=usespnego=no"]:
 187     name = "rpc.lsa.secrets on %s with with %s" % (transport, ntlmoptions)
 188     plantestsuite_loadlist("samba4.%s" % name, "dc", [smb4torture, "$LISTOPT", "%s:$SERVER[]" % (transport), ntlmoptions, '-U$USERNAME%$PASSWORD', '-W', '$DOMAIN', '--option=gensec:target_hostname=$NETBIOSNAME', 'rpc.lsa.secrets'])
 189
 190 transports = ["ncacn_np", "ncacn_ip_tcp"]
 191
 192 #Kerberos varies between functional levels, so it is important to check this on all of them
 193 for env in ["dc", "fl2000dc", "fl2003dc", "fl2008r2dc"]:
 194     transport = "ncacn_np"
 195     plantestsuite_loadlist("samba4.rpc.pac on %s" % (transport,), env, [smb4torture, "$LISTOPT", "%s:$SERVER[]" % (transport, ), '-U$USERNAME%$PASSWORD', '-W', '$DOMAIN', 'rpc.pac'])
 196     for transport in transports:
 197         plantestsuite_loadlist("samba4.rpc.lsa.secrets on %s with Kerberos" % (transport,), env, [smb4torture, "$LISTOPT", "%s:$SERVER[]" % (transport, ), '-k', 'yes', '-U$USERNAME%$PASSWORD', '-W', '$DOMAIN', '--option=gensec:target_hostname=$NETBIOSNAME', 'rpc.lsa.secrets'])
 198         plantestsuite_loadlist("samba4.rpc.lsa.secrets on %s with Kerberos - use target principal" % (transport,), env, [smb4torture, "$LISTOPT", "%s:$SERVER[]" % (transport, ), '-k', 'yes', '-U$USERNAME%$PASSWORD', '-W', '$DOMAIN', "--option=clientusespnegoprincipal=yes", '--option=gensec:target_hostname=$NETBIOSNAME', 'rpc.lsa.secrets'])
 199         plantestsuite_loadlist("samba4.rpc.lsa.secrets on %s with Kerberos - use Samba3 style login" % transport, env, [smb4torture, "$LISTOPT", "%s:$SERVER" % transport, '-k', 'yes', '-U$USERNAME%$PASSWORD', '-W', '$DOMAIN', "--option=gensec:fake_gssapi_krb5=yes", '--option=gensec:gssapi_krb5=no', '--option=gensec:target_hostname=$NETBIOSNAME', "rpc.lsa.secrets.none*"])
 200         plantestsuite_loadlist("samba4.rpc.lsa.secrets on %s with Kerberos - use Samba3 style login, use target principal" % transport, env, [smb4torture, "$LISTOPT", "%s:$SERVER" % transport, '-k', 'yes', '-U$USERNAME%$PASSWORD', '-W', '$DOMAIN', "--option=clientusespnegoprincipal=yes", '--option=gensec:fake_gssapi_krb5=yes', '--option=gensec:gssapi_krb5=no', '--option=gensec:target_hostname=$NETBIOSNAME', "rpc.lsa.secrets.none*"])
 201         plantestsuite_loadlist("samba4.rpc.echo on %s" % (transport, ), env, [smb4torture, "$LISTOPT", "%s:$SERVER[]" % (transport,), '-U$USERNAME%$PASSWORD', '-W', '$DOMAIN', 'rpc.echo'])
 202
 203         # Echo tests test bulk Kerberos encryption of DCE/RPC
 204         for bindoptions in ["connect", "spnego", "spnego,sign", "spnego,seal"] + validate_list + ["padcheck", "bigendian", "bigendian,seal"]:
 205             echooptions = "--option=socket:testnonblock=True --option=torture:quick=yes -k yes"
 206             plantestsuite_loadlist("samba4.rpc.echo on %s with %s and %s" % (transport, bindoptions, echooptions), env, [smb4torture, "$LISTOPT", "%s:$SERVER[%s]" % (transport, bindoptions), echooptions, '-U$USERNAME%$PASSWORD', '-W', '$DOMAIN', 'rpc.echo'])
 207     plansmbtorturetestsuite("net.api.become.dc", env, '$SERVER[%s] -U$USERNAME%%$PASSWORD -W $DOMAIN' % validate)
 208
 209 for bindoptions in ["sign", "seal"]:
 210     env = "dc"
 211     plantestsuite_loadlist("samba4.rpc.backupkey with %s" % (bindoptions), env, [smb4torture, "$LISTOPT", "ncacn_np:$SERVER[%s]" % ( bindoptions), '-U$USERNAME%$PASSWORD', '-W', '$DOMAIN', 'rpc.backupkey'])
 212
 213 for transport in transports:
 214     for bindoptions in ["sign", "seal"]:
 215         for ntlmoptions in [
 216         "--option=ntlmssp_client:ntlm2=yes --option=torture:quick=yes",
 217         "--option=ntlmssp_client:ntlm2=no --option=torture:quick=yes",
 218         "--option=ntlmssp_client:ntlm2=yes --option=ntlmssp_client:128bit=no --option=torture:quick=yes",
 219         "--option=ntlmssp_client:ntlm2=no --option=ntlmssp_client:128bit=no --option=torture:quick=yes",
 220         "--option=ntlmssp_client:ntlm2=yes --option=ntlmssp_client:keyexchange=no --option=torture:quick=yes",
 221         "--option=ntlmssp_client:ntlm2=no --option=ntlmssp_client:keyexchange=no --option=torture:quick=yes",
 222         "--option=clientntlmv2auth=yes --option=ntlmssp_client:keyexchange=no --option=torture:quick=yes",
 223         "--option=clientntlmv2auth=yes --option=ntlmssp_client:128bit=no --option=ntlmssp_client:keyexchange=yes --option=torture:quick=yes",
 224         "--option=clientntlmv2auth=yes --option=ntlmssp_client:128bit=no --option=ntlmssp_client:keyexchange=no --option=torture:quick=yes"]:
 225             if transport == "ncalrpc":
 226                 env = "dc:local"
 227             else:
 228                 env = "dc"
 229             plantestsuite_loadlist("samba4.rpc.echo on %s with %s and %s" % (transport, bindoptions, ntlmoptions), env, [smb4torture, "$LISTOPT", "%s:$SERVER[%s]" % (transport, bindoptions), ntlmoptions, '-U$USERNAME%$PASSWORD', '-W', '$DOMAIN', 'rpc.echo'])
 230
 231 plantestsuite_loadlist("samba4.rpc.echo on ncacn_np over smb2", "dc", [smb4torture, "$LISTOPT", 'ncacn_np:$SERVER[smb2]', '-U$USERNAME%$PASSWORD', '-W', '$DOMAIN', 'rpc.echo'])
 232
 233 plantestsuite_loadlist("samba4.ntp.signd", "dc:local", [smb4torture, "$LISTOPT", 'ncacn_np:$SERVER', '-U$USERNAME%$PASSWORD', '-W', '$DOMAIN', 'ntp.signd'])
 234
 235 nbt_tests = smb4torture_testsuites("nbt.")
 236 for t in nbt_tests:
 237     plansmbtorturetestsuite(t, "dc", "//$SERVER/_none_ -U\"$USERNAME%$PASSWORD\"")
 238
 239 # Tests against the NTVFS POSIX backend
 240 ntvfsargs = ["--option=torture:sharedelay=10000", "--option=torture:oplocktimeout=3", "--option=torture:writetimeupdatedelay=50000"]
 241
 242 smb2 = smb4torture_testsuites("smb2.")
 243 #The QFILEINFO-IPC test needs to be on ipc$
 244 raw = filter(lambda x: "raw.qfileinfo.ipc" not in x, smb4torture_testsuites("raw."))
 245 base = smb4torture_testsuites("base.")
 246
 247 netapi = smb4torture_testsuites("netapi.")
 248
 249 libsmbclient = smb4torture_testsuites("libsmbclient.")
 250
 251 for t in base + raw + smb2 + netapi + libsmbclient:
 252     plansmbtorturetestsuite(t, "dc", '//$SERVER/tmp -U$USERNAME%$PASSWORD' + " " + " ".join(ntvfsargs))
 253
 254 plansmbtorturetestsuite("raw.qfileinfo.ipc", "dc", '//$SERVER/ipc\$ -U$USERNAME%$PASSWORD')
 255
 256 for t in smb4torture_testsuites("rap."):
 257     plansmbtorturetestsuite(t, "dc", '//$SERVER/IPC\$ -U$USERNAME%$PASSWORD')
 258
 259 # Tests against the NTVFS CIFS backend
 260 for t in base + raw:
 261     plantestsuite_loadlist("samba4.ntvfs.cifs.krb5.%s" % t, "dc", [valgrindify(smb4torture), "$LISTOPT", '//$NETBIOSNAME/cifs', '-U$USERNAME%$PASSWORD', '--kerberos=yes'] + ntvfsargs + [t])
 262
 263 # Test NTVFS CIFS backend with S4U2Self and S4U2Proxy
 264 t = "base.unlink"
 265 plantestsuite_loadlist("samba4.ntvfs.cifs.ntlm.%s" % t, "dc", [valgrindify(smb4torture), "$LISTOPT", '//$NETBIOSNAME/cifs', '-U$USERNAME%$PASSWORD', '--kerberos=no'] + ntvfsargs + [t])
 266 plantestsuite_loadlist("samba4.ntvfs.cifs.krb5.%s" % t, "rpc_proxy", [valgrindify(smb4torture), "$LISTOPT", '//$NETBIOSNAME/cifs_to_dc', '-U$DC_USERNAME%$DC_PASSWORD', '--kerberos=yes'] + ntvfsargs + [t])
 267 plantestsuite_loadlist("samba4.ntvfs.cifs.ntlm.%s" % t, "rpc_proxy", [valgrindify(smb4torture), "$LISTOPT", '//$NETBIOSNAME/cifs_to_dc', '-U$DC_USERNAME%$DC_PASSWORD', '--kerberos=no'] + ntvfsargs + [t])
 268
 269 plansmbtorturetestsuite('echo.udp', 'dc:local', '//$SERVER/whatever')
 270
 271 # Local tests
 272 for t in smb4torture_testsuites("local."):
 273     plansmbtorturetestsuite(t, "none", "ncalrpc:")
 274
 275 # Confirm these tests with the system iconv too
 276 for t in ["local.convert_string_handle", "local.convert_string", "local.ndr"]:
 277     modname = "samba4.%s.system.iconv" % t
 278     cmdline = "%s %s %s" % (valgrindify(smb4torture), "ncalrpc: --option='iconv:use_builtin_handlers=false'", t)
 279     plantestsuite_loadlist(modname, "none", cmdline)
 280
 281 tdbtorture4 = binpath("tdbtorture")
 282 if os.path.exists(tdbtorture4):
 283     plantestsuite("tdb.stress", "none", valgrindify(tdbtorture4))
 284 else:
 285     skiptestsuite("tdb.stress", "Using system TDB, tdbtorture not available")
 286
 287 plansmbtorturetestsuite("drs.unit", "none", "ncalrpc:")
 288
 289 # Pidl tests
 290 for f in sorted(os.listdir(os.path.join(samba4srcdir, "../pidl/tests"))):
 291     if f.endswith(".pl"):
 292         planperltestsuite("pidl.%s" % f[:-3], os.path.normpath(os.path.join(samba4srcdir, "../pidl/tests", f)))
 293
 294 # Blackbox Tests:
 295 # tests that interact directly with the command-line tools rather than using
 296 # the API. These mainly test that the various command-line options of commands
 297 # work correctly.
 298
 299 planpythontestsuite("none", "samba.tests.blackbox.ndrdump")
 300 planpythontestsuite("none", "samba.tests.source")
 301 plantestsuite("samba4.blackbox.samba_tool(dc:local)", "dc:local", [os.path.join(samba4srcdir, "utils/tests/test_samba_tool.sh"),  '$SERVER', "$USERNAME", "$PASSWORD", "$DOMAIN"])
 302 plantestsuite("samba4.blackbox.pkinit(dc:local)", "dc:local", [os.path.join(bbdir, "test_pkinit.sh"), '$SERVER', '$USERNAME', '$PASSWORD', '$REALM', '$DOMAIN', '$PREFIX', "aes256-cts-hmac-sha1-96", configuration])
 303 plantestsuite("samba4.blackbox.kinit(dc:local)", "dc:local", [os.path.join(bbdir, "test_kinit.sh"), '$SERVER', '$USERNAME', '$PASSWORD', '$REALM', '$DOMAIN', '$PREFIX', "aes256-cts-hmac-sha1-96", configuration])
 304 plantestsuite("samba4.blackbox.kinit(fl2000dc:local)", "fl2000dc:local", [os.path.join(bbdir, "test_kinit.sh"), '$SERVER', '$USERNAME', '$PASSWORD', '$REALM', '$DOMAIN', '$PREFIX', "arcfour-hmac-md5", configuration])
 305 plantestsuite("samba4.blackbox.kinit(fl2008r2dc:local)", "fl2008r2dc:local", [os.path.join(bbdir, "test_kinit.sh"), '$SERVER', '$USERNAME', '$PASSWORD', '$REALM', '$DOMAIN', '$PREFIX', "aes256-cts-hmac-sha1-96", configuration])
 306 plantestsuite("samba4.blackbox.ktpass(dc)", "dc", [os.path.join(bbdir, "test_ktpass.sh"), '$PREFIX'])
 307 plantestsuite("samba4.blackbox.passwords(dc:local)", "dc:local", [os.path.join(bbdir, "test_passwords.sh"), '$SERVER', '$USERNAME', '$PASSWORD', '$REALM', '$DOMAIN', "$PREFIX"])
 308 plantestsuite("samba4.blackbox.export.keytab(dc:local)", "dc:local", [os.path.join(bbdir, "test_export_keytab.sh"), '$SERVER', '$USERNAME', '$REALM', '$DOMAIN', "$PREFIX"])
 309 plantestsuite("samba4.blackbox.cifsdd(dc)", "dc", [os.path.join(samba4srcdir, "client/tests/test_cifsdd.sh"), '$SERVER', '$USERNAME', '$PASSWORD', "$DOMAIN"])
 310 plantestsuite("samba4.blackbox.nmblookup(dc)", "dc", [os.path.join(samba4srcdir, "utils/tests/test_nmblookup.sh"), '$NETBIOSNAME', '$NETBIOSALIAS', '$SERVER', '$SERVER_IP'])
 311 plantestsuite("samba4.blackbox.locktest(dc)", "dc", [os.path.join(samba4srcdir, "torture/tests/test_locktest.sh"), '$SERVER', '$USERNAME', '$PASSWORD', '$DOMAIN', '$PREFIX'])
 312 plantestsuite("samba4.blackbox.masktest", "dc", [os.path.join(samba4srcdir, "torture/tests/test_masktest.sh"), '$SERVER', '$USERNAME', '$PASSWORD', '$DOMAIN', '$PREFIX'])
 313 plantestsuite("samba4.blackbox.gentest(dc)", "dc", [os.path.join(samba4srcdir, "torture/tests/test_gentest.sh"), '$SERVER', '$USERNAME', '$PASSWORD', '$DOMAIN', "$PREFIX"])
 314 plantestsuite("samba4.blackbox.wbinfo(dc:local)", "dc:local", [os.path.join(samba4srcdir, "../nsswitch/tests/test_wbinfo.sh"), '$DOMAIN', '$USERNAME', '$PASSWORD', "dc"])
 315 plantestsuite("samba4.blackbox.wbinfo(s4member:local)", "s4member:local", [os.path.join(samba4srcdir, "../nsswitch/tests/test_wbinfo.sh"), '$DOMAIN', '$DC_USERNAME', '$DC_PASSWORD', "s4member"])
 316 plantestsuite("samba4.blackbox.chgdcpass(dc)", "dc", [os.path.join(bbdir, "test_chgdcpass.sh"), '$SERVER', "LOCALDC\$", '$REALM', '$DOMAIN', '$PREFIX', "aes256-cts-hmac-sha1-96", '$SELFTEST_PREFIX/dc'])
 317
 318 # Tests using the "Simple" NTVFS backend
 319 for t in ["base.rw1"]:
 320     plantestsuite_loadlist("samba4.ntvfs.simple.%s" % t, "dc", [valgrindify(smb4torture), "$LISTOPT", "//$SERVER/simple", '-U$USERNAME%$PASSWORD', t])
 321
 322 # Domain S4member Tests
 323 plantestsuite_loadlist("samba4.rpc.echo against s4member server with local creds", "s4member", [valgrindify(smb4torture), "$LISTOPT", 'ncacn_np:$NETBIOSNAME', '-U$NETBIOSNAME/$USERNAME%$PASSWORD', 'rpc.echo'])
 324 plantestsuite_loadlist("samba4.rpc.echo against s4member server with domain creds", "s4member", [valgrindify(smb4torture), "$LISTOPT", 'ncacn_np:$NETBIOSNAME', '-U$DOMAIN/$DC_USERNAME%$DC_PASSWORD', 'rpc.echo'])
 325 plantestsuite_loadlist("samba4.rpc.samr against s4member server with local creds", "s4member", [valgrindify(smb4torture), "$LISTOPT", 'ncacn_np:$NETBIOSNAME', '-U$NETBIOSNAME/$USERNAME%$PASSWORD', "rpc.samr"])
 326 plantestsuite_loadlist("samba4.rpc.samr.users against s4member server with local creds", "s4member", [valgrindify(smb4torture), "$LISTOPT", 'ncacn_np:$NETBIOSNAME', '-U$NETBIOSNAME/$USERNAME%$PASSWORD', "rpc.samr.users"])
 327 plantestsuite_loadlist("samba4.rpc.samr.passwords against s4member server with local creds", "s4member", [valgrindify(smb4torture), "$LISTOPT", 'ncacn_np:$NETBIOSNAME', '-U$NETBIOSNAME/$USERNAME%$PASSWORD', "rpc.samr.passwords"])
 328 plantestsuite("samba4.blackbox.smbclient against s4member server with local creds", "s4member", [os.path.join(samba4srcdir, "client/tests/test_smbclient.sh"), '$NETBIOSNAME', '$USERNAME', '$PASSWORD', '$NETBIOSNAME', '$PREFIX'])
 329
 330 # RPC Proxy
 331 plantestsuite_loadlist("samba4.rpc.echo against rpc proxy with domain creds", "rpc_proxy", [valgrindify(smb4torture), "$LISTOPT", 'ncacn_ip_tcp:$NETBIOSNAME', '-U$DOMAIN/$DC_USERNAME%$DC_PASSWORD', "rpc.echo"])
 332
 333 # Tests SMB signing
 334 for mech in [
 335     "-k no",
 336     "-k no --option=usespnego=no",
 337     "-k no --option=gensec:spengo=no",
 338     "-k yes",
 339     "-k yes --option=gensec:fake_gssapi_krb5=yes --option=gensec:gssapi_krb5=no"]:
 340     for signing in ["--signing=on", "--signing=required"]:
 341         signoptions = "%s %s" % (mech, signing)
 342         name = "smb.signing on with %s" % signoptions
 343         plantestsuite_loadlist("samba4.%s" % name, "dc", [valgrindify(smb4torture), "$LISTOPT", '//$NETBIOSNAME/tmp', signoptions, '-U$USERNAME%$PASSWORD', 'base.xcopy'])
 344
 345 for mech in [
 346     "-k no",
 347     "-k no --option=usespnego=no",
 348     "-k no --option=gensec:spengo=no",
 349     "-k yes"]:
 350     signoptions = "%s --signing=off" % mech
 351     name = "smb.signing disabled on with %s" % signoptions
 352     plantestsuite_loadlist("samba4.%s domain-creds" % name, "s4member", [valgrindify(smb4torture), "$LISTOPT", '//$NETBIOSNAME/tmp', signoptions, '-U$DC_USERNAME%$DC_PASSWORD', 'base.xcopy'])
 353     if have_ads_support:
 354         plantestsuite_loadlist("samba4.%s domain-creds" % name, "s3member", [valgrindify(smb4torture), "$LISTOPT", '//$NETBIOSNAME/tmp', signoptions, '-U$DC_USERNAME%$DC_PASSWORD', 'base.xcopy'])
 355         plantestsuite_loadlist("samba4.%s" % name, "plugin_s4_dc", [valgrindify(smb4torture), "$LISTOPT", '//$NETBIOSNAME/tmp', signoptions, '-U$USERNAME%$PASSWORD', 'base.xcopy'])
 356         plantestsuite_loadlist("samba4.%s administrator" % name, "plugin_s4_dc",
 357                                [valgrindify(smb4torture), "$LISTOPT", '//$NETBIOSNAME/tmp', signoptions, '-U$DC_USERNAME%$DC_PASSWORD', 'base.xcopy'])
 358
 359 for mech in [
 360     "-k no",
 361     "-k no --option=usespnego=no",
 362     "-k no --option=gensec:spengo=no"]:
 363     signoptions = "%s --signing=off" % mech
 364     name = "smb.signing on with %s" % signoptions
 365     plantestsuite_loadlist("samba4.%s local-creds" % name, "s4member", [valgrindify(smb4torture), "$LISTOPT", '//$NETBIOSNAME/tmp', signoptions, '-U$NETBIOSNAME/$USERNAME%$PASSWORD', 'base.xcopy'])
 366
 367 plantestsuite_loadlist("samba4.smb.signing --signing=yes anon", "dc", [valgrindify(smb4torture), "$LISTOPT", '//$NETBIOSNAME/tmp', '-k', 'no', '--signing=yes', '-U%', 'base.xcopy'])
 368 plantestsuite_loadlist("samba4.smb.signing --signing=required anon", "dc", [valgrindify(smb4torture), "$LISTOPT", '//$NETBIOSNAME/tmp', '-k', 'no', '--signing=required', '-U%', 'base.xcopy'])
 369 plantestsuite_loadlist("samba4.smb.signing --signing=no anon", "s4member",  [valgrindify(smb4torture), "$LISTOPT", '//$NETBIOSNAME/tmp', '-k', 'no', '--signing=no', '-U%', 'base.xcopy'])
 370
 371
 372 wb_opts = ["--option=\"torture:strict mode=no\"", "--option=\"torture:timelimit=1\"", "--option=\"torture:winbindd_separator=/\"", "--option=\"torture:winbindd_netbios_name=$SERVER\"", "--option=\"torture:winbindd_netbios_domain=$DOMAIN\""]
 373
 374 winbind_struct_tests = smb4torture_testsuites("winbind.struct")
 375 winbind_ndr_tests = smb4torture_testsuites("winbind.ndr")
 376 for env in ["dc", "s4member"]:
 377     for t in winbind_struct_tests:
 378         plansmbtorturetestsuite(t, env, "%s //_none_/_none_" % " ".join(wb_opts))
 379
 380     for t in winbind_ndr_tests:
 381         plansmbtorturetestsuite(t, env, "%s //_none_/_none_" % " ".join(wb_opts))
 382
 383 nsstest4 = binpath("nsstest")
 384 if os.path.exists(nsstest4):
 385     plantestsuite("samba4.nss.test using winbind(s4member)", "s4member", [valgrindify(nsstest4), os.path.join(samba4bindir, "shared/libnss_winbind.so")])
 386 else:
 387     skiptestsuite("samba4.nss.test using winbind(s4member)", "nsstest not available")
 388
 389 subunitrun = valgrindify(python) + " " + os.path.join(samba4srcdir, "scripting/bin/subunitrun")
 390 def plansambapythontestsuite(name, env, path, module, environ={}, extra_args=[]):
 391     environ = dict(environ)
 392     environ["PYTHONPATH"] = "$PYTHONPATH:" + path
 393     args = ["%s=%s" % item for item in environ.iteritems()]
 394     args += [subunitrun, "$LISTOPT", module]
 395     args += extra_args
 396     plantestsuite(name, env, args)
 397
 398
 399 plansambapythontestsuite("ldb.python", "none", "%s/lib/ldb/tests/python/" % srcdir(), 'api')
 400 planpythontestsuite("none", "samba.tests.credentials")
 401 plantestsuite_idlist("samba.tests.gensec", "dc:local", [subunitrun, "$LISTOPT", '-U"$USERNAME%$PASSWORD"', "samba.tests.gensec"])
 402 planpythontestsuite("none", "samba.tests.registry")
 403 plansambapythontestsuite("tdb.python", "none", "%s/lib/tdb/python/tests" % srcdir(), 'simple')
 404 planpythontestsuite("none", "samba.tests.auth")
 405 planpythontestsuite("none", "samba.tests.security")
 406 planpythontestsuite("none", "samba.tests.dcerpc.misc")
 407 planpythontestsuite("none", "samba.tests.param")
 408 planpythontestsuite("none", "samba.tests.upgrade")
 409 planpythontestsuite("none", "samba.tests.core")
 410 planpythontestsuite("none", "samba.tests.provision")
 411 planpythontestsuite("none", "samba.tests.samba3")
 412 planpythontestsuite("none", "samba.tests.strings")
 413 planpythontestsuite("dc:local", "samba.tests.dcerpc.sam")
 414 planpythontestsuite("dc:local", "samba.tests.dsdb")
 415 planpythontestsuite("none", "samba.tests.netcmd")
 416 planpythontestsuite("dc:local", "samba.tests.dcerpc.bare")
 417 planpythontestsuite("dc:local", "samba.tests.dcerpc.unix")
 418 planpythontestsuite("none", "samba.tests.dcerpc.rpc_talloc")
 419 planpythontestsuite("none", "samba.tests.samdb")
 420 planpythontestsuite("none", "samba.tests.hostconfig")
 421 planpythontestsuite("none", "samba.tests.messaging")
 422 planpythontestsuite("none", "samba.tests.samba3sam")
 423 planpythontestsuite("none", "subunit")
 424 planpythontestsuite("dc:local", "samba.tests.dcerpc.rpcecho")
 425 plantestsuite_idlist("samba.tests.dcerpc.registry", "dc:local", [subunitrun, "$LISTOPT", '-U"$USERNAME%$PASSWORD"', "samba.tests.dcerpc.registry"])
 426 plantestsuite("samba4.ldap.python(dc)", "dc", [python, os.path.join(samba4srcdir, "dsdb/tests/python/ldap.py"), '$SERVER', '-U"$USERNAME%$PASSWORD"', '-W', '$DOMAIN'])
 427 plantestsuite("samba4.tokengroups.python(dc)", "dc:local", [python, os.path.join(samba4srcdir, "dsdb/tests/python/token_group.py"), '$SERVER', '-U"$USERNAME%$PASSWORD"', '-W', '$DOMAIN'])
 428 plantestsuite("samba4.sam.python(dc)", "dc", [python, os.path.join(samba4srcdir, "dsdb/tests/python/sam.py"), '$SERVER', '-U"$USERNAME%$PASSWORD"', '-W', '$DOMAIN'])
 429 plansambapythontestsuite("samba4.schemaInfo.python(dc)", "dc", os.path.join(samba4srcdir, 'dsdb/tests/python'), 'dsdb_schema_info', extra_args=['-U"$DOMAIN/$DC_USERNAME%$DC_PASSWORD"'])
 430 plantestsuite("samba4.urgent_replication.python(dc)", "dc", [python, os.path.join(samba4srcdir, "dsdb/tests/python/urgent_replication.py"), '$PREFIX_ABS/dc/private/sam.ldb'], allow_empty_output=True)
 431 plantestsuite("samba4.ldap.dirsync.python(dc)", "dc", [python, os.path.join(samba4srcdir, "dsdb/tests/python/dirsync.py"), '$SERVER', '-U"$USERNAME%$PASSWORD"', '-W', '$DOMAIN'])
 432 for env in ["dc", "fl2000dc", "fl2003dc", "fl2008r2dc"]:
 433     plantestsuite("samba4.ldap_schema.python(%s)" % env, env, [python, os.path.join(samba4srcdir, "dsdb/tests/python/ldap_schema.py"), '$SERVER', '-U"$USERNAME%$PASSWORD"', '-W', '$DOMAIN'])
 434     plantestsuite("samba4.ldap.possibleInferiors.python(%s)" % env, env, [python, os.path.join(samba4srcdir, "dsdb/samdb/ldb_modules/tests/possibleinferiors.py"), "ldap://$SERVER", '-U"$USERNAME%$PASSWORD"', "-W", "$DOMAIN"])
 435     plantestsuite("samba4.ldap.secdesc.python(%s)" % env, env, [python, os.path.join(samba4srcdir, "dsdb/tests/python/sec_descriptor.py"), '$SERVER', '-U"$USERNAME%$PASSWORD"', '-W', '$DOMAIN'])
 436     plantestsuite("samba4.ldap.acl.python(%s)" % env, env, [python, os.path.join(samba4srcdir, "dsdb/tests/python/acl.py"), '$SERVER', '-U"$USERNAME%$PASSWORD"', '-W', '$DOMAIN'])
 437     if env != "fl2000dc":
 438         # This test makes excessively use of the "userPassword" attribute which
 439         # isn't available on DCs with Windows 2000 domain function level -
 440         # therefore skip it in that configuration
 441         plantestsuite("samba4.ldap.passwords.python(%s)" % env, env, [python, os.path.join(samba4srcdir, "dsdb/tests/python/passwords.py"), "$SERVER", '-U"$USERNAME%$PASSWORD"', "-W", "$DOMAIN"])
 442 planpythontestsuite("dc:local", "samba.tests.upgradeprovisionneeddc")
 443 planpythontestsuite("none", "samba.tests.upgradeprovision")
 444 planpythontestsuite("none", "samba.tests.xattr")
 445 planpythontestsuite("none", "samba.tests.ntacls")
 446 plantestsuite("samba4.deletetest.python(dc)", "dc", ['PYTHONPATH="$PYTHONPATH:%s/lib/subunit/python:%s/lib/testtools"' % (srcdir(), srcdir()),
 447                                                      python, os.path.join(samba4srcdir, "dsdb/tests/python/deletetest.py"),
 448                                                      '$SERVER', '-U"$USERNAME%$PASSWORD"', '-W', '$DOMAIN'])
 449 plansambapythontestsuite("samba4.policy.python", "none", "%s/lib/policy/tests/python" % samba4srcdir, 'bindings')
 450 plantestsuite("samba4.blackbox.samba3dump", "none", [python, os.path.join(samba4srcdir, "scripting/bin/samba3dump"), os.path.join(samba4srcdir, "../testdata/samba3")], allow_empty_output=True)
 451 plantestsuite("samba4.blackbox.upgrade", "none", ["PYTHON=%s" % python, os.path.join(samba4srcdir, "setup/tests/blackbox_s3upgrade.sh"), '$PREFIX/provision'])
 452 plantestsuite("samba4.blackbox.provision.py", "none", ["PYTHON=%s" % python, os.path.join(samba4srcdir, "setup/tests/blackbox_provision.sh"), '$PREFIX/provision'])
 453 plantestsuite("samba4.blackbox.upgradeprovision.py", "none", ["PYTHON=%s" % python, os.path.join(samba4srcdir, "setup/tests/blackbox_upgradeprovision.sh"), '$PREFIX/provision'])
 454 plantestsuite("samba4.blackbox.setpassword.py", "none", ["PYTHON=%s" % python, os.path.join(samba4srcdir, "setup/tests/blackbox_setpassword.sh"), '$PREFIX/provision'])
 455 plantestsuite("samba4.blackbox.newuser.py", "none", ["PYTHON=%s" % python, os.path.join(samba4srcdir, "setup/tests/blackbox_newuser.sh"), '$PREFIX/provision'])
 456 plantestsuite("samba4.blackbox.group.py", "none", ["PYTHON=%s" % python, os.path.join(samba4srcdir, "setup/tests/blackbox_group.sh"), '$PREFIX/provision'])
 457 plantestsuite("samba4.blackbox.spn.py(dc:local)", "dc:local", ["PYTHON=%s" % python, os.path.join(samba4srcdir, "setup/tests/blackbox_spn.sh"), '$PREFIX/dc'])
 458 plantestsuite("samba4.ldap.bind(dc)", "dc", [python, os.path.join(samba4srcdir, "auth/credentials/tests/bind.py"), '$SERVER', '-U"$USERNAME%$PASSWORD"'])
 459
 460 # DRS python tests
 461 plansambapythontestsuite("samba4.blackbox.samba-tool.drs(vampire_dc)", "vampire_dc", os.path.join(samba4srcdir, 'scripting/python'), "samba.tests.blackbox.samba_tool_drs", environ={'DC1': '$DC_SERVER', 'DC2': '$VAMPIRE_DC_SERVER'}, extra_args=['-U$DOMAIN/$DC_USERNAME%$DC_PASSWORD'])
 462 plansambapythontestsuite("samba4.drs.replica_sync.python(vampire_dc)", "vampire_dc", os.path.join(samba4srcdir, 'torture/drs/python'), "replica_sync", environ={'DC1': '$DC_SERVER', 'DC2': '$VAMPIRE_DC_SERVER'}, extra_args=['-U$DOMAIN/$DC_USERNAME%$DC_PASSWORD'])
 463 plansambapythontestsuite("samba4.drs.delete_object.python(vampire_dc)", "vampire_dc", os.path.join(samba4srcdir, 'torture/drs/python'), "delete_object", environ={'DC1': '$DC_SERVER', 'DC2': '$VAMPIRE_DC_SERVER'}, extra_args=['-U$DOMAIN/$DC_USERNAME%$DC_PASSWORD'])
 464 plansambapythontestsuite("samba4.drs.fsmo.python(vampire_dc)", "vampire_dc", os.path.join(samba4srcdir, 'torture/drs/python'), "fsmo", environ={'DC1': "$DC_SERVER", 'DC2': "$VAMPIRE_DC_SERVER"}, extra_args=['-U$DOMAIN/$DC_USERNAME%$DC_PASSWORD'])
 465 plansambapythontestsuite("samba4.drs.repl_schema.python(vampire_dc)", "vampire_dc", os.path.join(samba4srcdir, 'torture/drs/python'), "repl_schema", environ={'DC1': "$DC_SERVER", 'DC2': '$VAMPIRE_DC_SERVER'}, extra_args=['-U$DOMAIN/$DC_USERNAME%$DC_PASSWORD'])
 466
 467 # This makes sure we test the rid allocation code
 468 t = "rpc.samr.large-dc"
 469 plantestsuite_loadlist("samba4.%s.one" % t, "vampire_dc", [valgrindify(smb4torture), "$LISTOPT", '$SERVER', '-U$USERNAME%$PASSWORD', '-W', '$DOMAIN', t])
 470 plantestsuite_loadlist("samba4.%s.two" % t, "vampire_dc", [valgrindify(smb4torture), "$LISTOPT", '$SERVER', '-U$USERNAME%$PASSWORD', '-W', '$DOMAIN', t])
 471
 472 # some RODC testing
 473 for env in ['rodc']:
 474     plantestsuite_loadlist("samba4.rpc.echo", env, [smb4torture, "$LISTOPT", 'ncacn_np:$SERVER', "-k", "yes", '-U$USERNAME%$PASSWORD', '-W' '$DOMAIN', 'rpc.echo'])
 475     plantestsuite_loadlist("samba4.rpc.echo", "%s:local" % env, [smb4torture, "$LISTOPT", 'ncacn_np:$SERVER', "-k", "yes", '-P', '-W' '$DOMAIN', 'rpc.echo'])
 476 plantestsuite("samba4.blackbox.provision-backend.py", "none", ["PYTHON=%s" % python, os.path.join(samba4srcdir, "setup/tests/blackbox_provision-backend.sh"), '$PREFIX/provision'])
 477
 478 # Test renaming the DC
 479 plantestsuite("samba4.blackbox.renamedc.sh", "none", ["PYTHON=%s" % python, os.path.join(bbdir, "renamedc.sh"), '$PREFIX/provision'])
 480
 481 # check the databases are all OK. PLEASE LEAVE THIS AS THE LAST TEST
 482 for env in ["dc", "fl2000dc", "fl2003dc", "fl2008r2dc"]:
 483     plantestsuite("samba4.blackbox.dbcheck(%s)" % env, env + ":local" , ["PYTHON=%s" % python, os.path.join(bbdir, "dbcheck.sh"), '$PREFIX/provision', configuration])