added checksum seed
[rsync.git] / main.c
1 /* 
2    Copyright (C) Andrew Tridgell 1996
3    Copyright (C) Paul Mackerras 1996
4    
5    This program is free software; you can redistribute it and/or modify
6    it under the terms of the GNU General Public License as published by
7    the Free Software Foundation; either version 2 of the License, or
8    (at your option) any later version.
9    
10    This program is distributed in the hope that it will be useful,
11    but WITHOUT ANY WARRANTY; without even the implied warranty of
12    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
13    GNU General Public License for more details.
14    
15    You should have received a copy of the GNU General Public License
16    along with this program; if not, write to the Free Software
17    Foundation, Inc., 675 Mass Ave, Cambridge, MA 02139, USA.
18 */
19
20 #include "rsync.h"
21
22 int verbose = 0;
23 int always_checksum = 0;
24 time_t starttime;
25 off_t total_size = 0;
26 int block_size=BLOCK_SIZE;
27
28 char *backup_suffix = BACKUP_SUFFIX;
29
30 static char *rsync_path = RSYNC_NAME;
31
32 int make_backups = 0;
33 int preserve_links = 0;
34 int preserve_hard_links = 0;
35 int preserve_perms = 0;
36 int preserve_devices = 0;
37 int preserve_uid = 0;
38 int preserve_gid = 0;
39 int preserve_times = 0;
40 int update_only = 0;
41 int cvs_exclude = 0;
42 int dry_run=0;
43 int local_server=0;
44 int ignore_times=0;
45 int delete_mode=0;
46 int one_file_system=0;
47 int remote_version=0;
48 int sparse_files=0;
49 extern int csum_length;
50
51 int am_server = 0;
52 static int sender = 0;
53 int recurse = 0;
54
55 static void usage(FILE *f);
56
57 static void report(int f)
58 {
59   int in,out,tsize;
60   time_t t = time(NULL);
61   
62   if (!verbose) return;
63
64   if (am_server && sender) {
65     write_int(f,read_total());
66     write_int(f,write_total());
67     write_int(f,total_size);
68     write_flush(f);
69     return;
70   }
71     
72   if (sender) {
73     in = read_total();
74     out = write_total();
75     tsize = (int)total_size;
76   } else {
77     in = read_int(f);
78     out = read_int(f);
79     tsize = read_int(f);
80   }
81
82   printf("wrote %d bytes  read %d bytes  %g bytes/sec\n",
83          out,in,(in+out)/(0.5 + (t-starttime)));        
84   printf("total size is %d  speedup is %g\n",
85          tsize,(1.0*tsize)/(in+out));
86 }
87
88
89 static void server_options(char **args,int *argc)
90 {
91   int ac = *argc;
92   static char argstr[50];
93   static char bsize[30];
94   static char slength[30];
95   int i, x;
96
97   args[ac++] = "--server";
98
99   if (!sender)
100     args[ac++] = "--sender";
101
102   x = 1;
103   argstr[0] = '-';
104   for (i=0;i<verbose;i++)
105     argstr[x++] = 'v';
106   if (make_backups)
107     argstr[x++] = 'b';
108   if (update_only)
109     argstr[x++] = 'u';
110   if (dry_run)
111     argstr[x++] = 'n';
112   if (preserve_links)
113     argstr[x++] = 'l';
114   if (preserve_hard_links)
115     argstr[x++] = 'H';
116   if (preserve_uid)
117     argstr[x++] = 'o';
118   if (preserve_gid)
119     argstr[x++] = 'g';
120   if (preserve_devices)
121     argstr[x++] = 'D';
122   if (preserve_times)
123     argstr[x++] = 't';
124   if (preserve_perms)
125     argstr[x++] = 'p';
126   if (recurse)
127     argstr[x++] = 'r';
128   if (always_checksum)
129     argstr[x++] = 'c';
130   if (cvs_exclude)
131     argstr[x++] = 'C';
132   if (ignore_times)
133     argstr[x++] = 'I';
134   if (one_file_system)
135     argstr[x++] = 'x';
136   if (sparse_files)
137     argstr[x++] = 'S';
138   argstr[x] = 0;
139
140   if (x != 1) args[ac++] = argstr;
141
142   if (block_size != BLOCK_SIZE) {
143     sprintf(bsize,"-B%d",block_size);
144     args[ac++] = bsize;
145   }    
146
147   if (csum_length != SUM_LENGTH) {
148     sprintf(slength,"--csum-length=%d",csum_length);
149     args[ac++] = slength;
150   }    
151   
152   if (delete_mode)
153     args[ac++] = "--delete";
154
155   *argc = ac;
156 }
157
158
159
160 int do_cmd(char *cmd,char *machine,char *user,char *path,int *f_in,int *f_out)
161 {
162   char *args[100];
163   int i,argc=0;
164   char *tok,*p;
165
166   if (!local_server) {
167     if (!cmd)
168       cmd = getenv(RSYNC_RSH_ENV);
169     if (!cmd)
170       cmd = RSYNC_RSH;
171     cmd = strdup(cmd);
172     if (!cmd) 
173       goto oom;
174
175     for (tok=strtok(cmd," ");tok;tok=strtok(NULL," ")) {
176       args[argc++] = tok;
177     }
178
179     if (user) {
180       args[argc++] = "-l";
181       args[argc++] = user;
182     }
183     args[argc++] = machine;
184   }
185
186   args[argc++] = rsync_path;
187
188   server_options(args,&argc);
189
190   if (path && *path) {
191     char *dir = strdup(path);
192     p = strrchr(dir,'/');
193     if (p) {
194       *p = 0;
195       args[argc++] = dir;
196       p++;
197     } else {
198       args[argc++] = ".";
199       p = dir;
200     }
201     if (p[0])
202       args[argc++] = path;
203   }
204
205   args[argc] = NULL;
206
207   if (verbose > 3) {
208     fprintf(FERROR,"cmd=");
209     for (i=0;i<argc;i++)
210       fprintf(FERROR,"%s ",args[i]);
211     fprintf(FERROR,"\n");
212   }
213
214   return piped_child(args,f_in,f_out);
215
216 oom:
217   out_of_memory("do_cmd");
218   return 0; /* not reached */
219 }
220
221
222
223
224 static char *get_local_name(struct file_list *flist,char *name)
225 {
226   struct stat st;
227
228   if (stat(name,&st) == 0) {
229     if (S_ISDIR(st.st_mode)) {
230       if (chdir(name) != 0) {
231         fprintf(FERROR,"chdir %s : %s\n",name,strerror(errno));
232         exit_cleanup(1);
233       }
234       return NULL;
235     }
236     if (flist->count > 1) {
237       fprintf(FERROR,"ERROR: destination must be a directory when copying more than 1 file\n");
238       exit_cleanup(1);
239     }
240     return name;
241   }
242
243   if (flist->count == 1)
244     return name;
245
246   if (!name) 
247     return NULL;
248
249   if (mkdir(name,0777) != 0) {
250     fprintf(FERROR,"mkdir %s : %s\n",name,strerror(errno));
251     exit_cleanup(1);
252   } else {
253     fprintf(FINFO,"created directory %s\n",name);
254   }
255
256   if (chdir(name) != 0) {
257     fprintf(FERROR,"chdir %s : %s\n",name,strerror(errno));
258     exit_cleanup(1);
259   }
260
261   return NULL;
262 }
263
264
265
266
267 void do_server_sender(int argc,char *argv[])
268 {
269   int i;
270   char *dir = argv[0];
271   struct file_list *flist;
272
273   if (verbose > 2)
274     fprintf(FERROR,"server_sender starting pid=%d\n",(int)getpid());
275   
276   if (chdir(dir) != 0) {
277     fprintf(FERROR,"chdir %s: %s\n",dir,strerror(errno));
278     exit_cleanup(1);
279   }
280   argc--;
281   argv++;
282   
283   if (strcmp(dir,".")) {
284     int l = strlen(dir);
285     for (i=0;i<argc;i++)
286       argv[i] += l+1;
287   }
288
289   if (argc == 0 && recurse) {
290     argc=1;
291     argv--;
292     argv[0] = ".";
293   }
294     
295
296   flist = send_file_list(STDOUT_FILENO,recurse,argc,argv);
297   send_files(flist,STDOUT_FILENO,STDIN_FILENO);
298   report(STDOUT_FILENO);
299   exit_cleanup(0);
300 }
301
302
303 static int do_recv(int f_in,int f_out,struct file_list *flist,char *local_name)
304 {
305   int pid;
306   int status=0;
307
308   if (preserve_hard_links)
309     init_hard_links(flist);
310
311   if ((pid=fork()) == 0) {
312     recv_files(f_in,flist,local_name);
313     if (preserve_hard_links)
314       do_hard_links(flist);
315     if (verbose > 2)
316       fprintf(FERROR,"receiver read %d\n",read_total());
317     exit_cleanup(0);
318   }
319
320   generate_files(f_out,flist,local_name);
321
322   waitpid(pid, &status, 0);
323
324   return status;
325 }
326
327
328 void do_server_recv(int argc,char *argv[])
329 {
330   int status;
331   char *dir = NULL;
332   struct file_list *flist;
333   char *local_name=NULL;
334   
335   if (verbose > 2)
336     fprintf(FERROR,"server_recv(%d) starting pid=%d\n",argc,(int)getpid());
337
338   if (argc > 0) {
339     dir = argv[0];
340     argc--;
341     argv++;
342     if (chdir(dir) != 0) {
343       fprintf(FERROR,"chdir %s : %s\n",dir,strerror(errno));
344       exit_cleanup(1);
345     }    
346   }
347
348   if (delete_mode)
349     recv_exclude_list(STDIN_FILENO);
350
351   flist = recv_file_list(STDIN_FILENO);
352   if (!flist || flist->count == 0) {
353     fprintf(FERROR,"nothing to do\n");
354     exit_cleanup(1);
355   }
356
357   if (argc > 0) {    
358     if (strcmp(dir,".")) {
359       argv[0] += strlen(dir);
360       if (argv[0][0] == '/') argv[0]++;
361     }
362     local_name = get_local_name(flist,argv[0]);
363   }
364
365   status = do_recv(STDIN_FILENO,STDOUT_FILENO,flist,local_name);
366   exit_cleanup(status);
367 }
368
369
370 static void usage(FILE *f)
371 {
372   fprintf(f,"rsync version %s Copyright Andrew Tridgell and Paul Mackerras\n\n",
373           VERSION);
374   fprintf(f,"Usage:\t%s [options] src user@host:dest\nOR",RSYNC_NAME);
375   fprintf(f,"\t%s [options] user@host:src dest\n\n",RSYNC_NAME);
376   fprintf(f,"Options:\n");
377   fprintf(f,"-v, --verbose            increase verbosity\n");
378   fprintf(f,"-c, --checksum           always checksum\n");
379   fprintf(f,"-a, --archive            archive mode (same as -rlptDog)\n");
380   fprintf(f,"-r, --recursive          recurse into directories\n");
381   fprintf(f,"-b, --backup             make backups (default ~ extension)\n");
382   fprintf(f,"-u, --update             update only (don't overwrite newer files)\n");
383   fprintf(f,"-l, --links              preserve soft links\n");
384   fprintf(f,"-H, --hard-links         preserve hard links\n");
385   fprintf(f,"-p, --perms              preserve permissions\n");
386   fprintf(f,"-o, --owner              preserve owner (root only)\n");
387   fprintf(f,"-g, --group              preserve group\n");
388   fprintf(f,"-D, --devices            preserve devices (root only)\n");
389   fprintf(f,"-t, --times              preserve times\n");  
390   fprintf(f,"-S, --sparse             handle sparse files efficiently\n");
391   fprintf(f,"-n, --dry-run            show what would have been transferred\n");
392   fprintf(f,"-x, --one-file-system    don't cross filesystem boundaries\n");
393   fprintf(f,"-B, --block-size SIZE    checksum blocking size\n");  
394   fprintf(f,"-e, --rsh COMMAND        specify rsh replacement\n");
395   fprintf(f,"    --rsync-path PATH    specify path to rsync on the remote machine\n");
396   fprintf(f,"-C, --cvs-exclude        auto ignore files in the same way CVS does\n");
397   fprintf(f,"    --delete             delete files that don't exist on the sending side\n");
398   fprintf(f,"-I, --ignore-times       don't exclude files that match length and time\n");
399   fprintf(f,"    --exclude FILE       exclude file FILE\n");
400   fprintf(f,"    --exclude-from FILE  exclude files listed in FILE\n");
401   fprintf(f,"    --suffix SUFFIX      override backup suffix\n");  
402   fprintf(f,"    --csum-length LENGTH set the checksum length\n");  
403   fprintf(f,"    --version            print version number\n");  
404
405   fprintf(f,"\n");
406   fprintf(f,"the backup suffix defaults to %s\n",BACKUP_SUFFIX);
407   fprintf(f,"the block size defaults to %d\n",BLOCK_SIZE);  
408 }
409
410 enum {OPT_VERSION,OPT_SUFFIX,OPT_SENDER,OPT_SERVER,OPT_EXCLUDE,
411       OPT_EXCLUDE_FROM,OPT_DELETE,OPT_RSYNC_PATH,OPT_CSUM_LENGTH};
412
413 static char *short_options = "oblHpguDCtcahvrIxnSe:B:";
414
415 static struct option long_options[] = {
416   {"version",     0,     0,    OPT_VERSION},
417   {"server",      0,     0,    OPT_SERVER},
418   {"sender",      0,     0,    OPT_SENDER},
419   {"delete",      0,     0,    OPT_DELETE},
420   {"exclude",     1,     0,    OPT_EXCLUDE},
421   {"exclude-from",1,     0,    OPT_EXCLUDE_FROM},
422   {"rsync-path",  1,     0,    OPT_RSYNC_PATH},
423   {"csum-length", 1,     0,    OPT_CSUM_LENGTH},
424   {"one-file-system",0,  0,    'x'},
425   {"ignore-times",0,     0,    'I'},
426   {"help",        0,     0,    'h'},
427   {"dry-run",     0,     0,    'n'},
428   {"sparse",      0,     0,    'S'},
429   {"cvs-exclude", 0,     0,    'C'},
430   {"archive",     0,     0,    'a'},
431   {"checksum",    0,     0,    'c'},
432   {"backup",      0,     0,    'b'},
433   {"update",      0,     0,    'u'},
434   {"verbose",     0,     0,    'v'},
435   {"recursive",   0,     0,    'r'},
436   {"devices",     0,     0,    'D'},
437   {"perms",       0,     0,    'p'},
438   {"links",       0,     0,    'l'},
439   {"hard-links",  0,     0,    'H'},
440   {"owner",       0,     0,    'o'},
441   {"group",       0,     0,    'g'},
442   {"times",       0,     0,    't'},
443   {"rsh",         1,     0,    'e'},
444   {"suffix",      1,     0,    OPT_SUFFIX},
445   {"block-size",  1,     0,    'B'},
446   {0,0,0,0}};
447
448 int main(int argc,char *argv[])
449 {
450     int pid, status, status2;
451     int opt;
452     int option_index;
453     char *shell_cmd = NULL;
454     char *shell_machine = NULL;
455     char *shell_path = NULL;
456     char *shell_user = NULL;
457     char *p;
458     int f_in,f_out;
459     struct file_list *flist;
460     char *local_name = NULL;
461
462     starttime = time(NULL);
463
464     checksum_init();
465
466     while ((opt = getopt_long(argc, argv, 
467                               short_options, long_options, &option_index)) 
468            != -1) {
469       switch (opt) 
470         {
471         case OPT_VERSION:
472           printf("rsync version %s  protocol version %d\n",
473                  VERSION,PROTOCOL_VERSION);
474           exit_cleanup(0);
475
476         case OPT_SUFFIX:
477           backup_suffix = optarg;
478           break;
479
480         case OPT_RSYNC_PATH:
481           rsync_path = optarg;
482           break;
483
484         case OPT_CSUM_LENGTH:
485           csum_length = atoi(optarg);
486           csum_length = MIN(csum_length,SUM_LENGTH);
487           break;
488
489         case 'I':
490           ignore_times = 1;
491           break;
492
493         case 'x':
494           one_file_system=1;
495           break;
496
497         case OPT_DELETE:
498           delete_mode = 1;
499           break;
500
501         case OPT_EXCLUDE:
502           add_exclude(optarg);
503           break;
504
505         case OPT_EXCLUDE_FROM:
506           add_exclude_file(optarg,1);
507           break;
508
509         case 'h':
510           usage(FINFO);
511           exit_cleanup(0);
512
513         case 'b':
514           make_backups=1;
515           break;
516
517         case 'n':
518           dry_run=1;
519           break;
520
521         case 'S':
522           sparse_files=1;
523           break;
524
525         case 'C':
526           cvs_exclude=1;
527           break;
528
529         case 'u':
530           update_only=1;
531           break;
532
533         case 'l':
534 #if SUPPORT_LINKS
535           preserve_links=1;
536 #endif
537           break;
538
539         case 'H':
540 #if SUPPORT_HARD_LINKS
541           preserve_hard_links=1;
542 #endif
543           break;
544
545         case 'p':
546           preserve_perms=1;
547           break;
548
549         case 'o':
550           if (getuid() == 0) {
551             preserve_uid=1;
552           } else {
553             fprintf(FERROR,"-o only allowed for root\n");
554             exit_cleanup(1);
555           }
556           break;
557
558         case 'g':
559           preserve_gid=1;
560           break;
561
562         case 'D':
563           if (getuid() == 0) {
564             preserve_devices=1;
565           } else {
566             fprintf(FERROR,"-D only allowed for root\n");
567             exit_cleanup(1);
568           }
569           break;
570
571         case 't':
572           preserve_times=1;
573           break;
574
575         case 'c':
576           always_checksum=1;
577           break;
578
579         case 'v':
580           verbose++;
581           break;
582
583         case 'a':
584           recurse=1;
585 #if SUPPORT_LINKS
586           preserve_links=1;
587 #endif
588           preserve_perms=1;
589           preserve_times=1;
590           preserve_gid=1;
591           if (getuid() == 0) {
592             preserve_devices=1;
593             preserve_uid=1;
594           }         
595           break;
596
597         case OPT_SERVER:
598           am_server = 1;
599           break;
600
601         case OPT_SENDER:
602           if (!am_server) {
603             usage(FERROR);
604             exit_cleanup(1);
605           }
606           sender = 1;
607           break;
608
609         case 'r':
610           recurse = 1;
611           break;
612
613         case 'e':
614           shell_cmd = optarg;
615           break;
616
617         case 'B':
618           block_size = atoi(optarg);
619           break;
620
621         default:
622           fprintf(FERROR,"bad option -%c\n",opt);
623           exit_cleanup(1);
624         }
625     }
626
627     while (optind--) {
628       argc--;
629       argv++;
630     }
631
632     signal(SIGCHLD,SIG_IGN);
633     signal(SIGINT,SIGNAL_CAST sig_int);
634     signal(SIGPIPE,SIGNAL_CAST sig_int);
635     signal(SIGHUP,SIGNAL_CAST sig_int);
636
637     if (dry_run)
638       verbose = MAX(verbose,1);
639
640     if (am_server) {
641       setup_protocol(STDOUT_FILENO,STDIN_FILENO);
642         
643       if (sender) {
644         recv_exclude_list(STDIN_FILENO);
645         if (cvs_exclude)
646           add_cvs_excludes();
647         do_server_sender(argc,argv);
648       } else {
649         do_server_recv(argc,argv);
650       }
651       exit_cleanup(0);
652     }
653
654     if (argc < 2) {
655       usage(FERROR);
656       exit_cleanup(1);
657     }
658
659     p = strchr(argv[0],':');
660
661     if (p) {
662       sender = 0;
663       *p = 0;
664       shell_machine = argv[0];
665       shell_path = p+1;
666       argc--;
667       argv++;
668     } else {
669       sender = 1;
670
671       p = strchr(argv[argc-1],':');
672       if (!p) {
673         local_server = 1;
674       }
675
676       if (local_server) {
677         shell_machine = NULL;
678         shell_path = argv[argc-1];
679       } else {
680         *p = 0;
681         shell_machine = argv[argc-1];
682         shell_path = p+1;
683       }
684       argc--;
685     }
686
687     if (shell_machine) {
688       p = strchr(shell_machine,'@');
689       if (p) {
690         *p = 0;
691         shell_user = shell_machine;
692         shell_machine = p+1;
693       }
694     }
695
696     if (verbose > 3) {
697       fprintf(FERROR,"cmd=%s machine=%s user=%s path=%s\n",
698               shell_cmd?shell_cmd:"",
699               shell_machine?shell_machine:"",
700               shell_user?shell_user:"",
701               shell_path?shell_path:"");
702     }
703     
704     if (!sender && argc != 1) {
705       usage(FERROR);
706       exit_cleanup(1);
707     }
708
709     pid = do_cmd(shell_cmd,shell_machine,shell_user,shell_path,&f_in,&f_out);
710
711     setup_protocol(f_out,f_in);
712
713     if (verbose > 3) 
714       fprintf(FERROR,"parent=%d child=%d sender=%d recurse=%d\n",
715               (int)getpid(),pid,sender,recurse);
716
717     if (sender) {
718       if (cvs_exclude)
719         add_cvs_excludes();
720       if (delete_mode) 
721         send_exclude_list(f_out);
722       flist = send_file_list(f_out,recurse,argc,argv);
723       if (verbose > 3) 
724         fprintf(FERROR,"file list sent\n");
725       send_files(flist,f_out,f_in);
726       if (verbose > 3)
727         fprintf(FERROR,"waiting on %d\n",pid);
728       waitpid(pid, &status, 0);
729       report(-1);
730       exit_cleanup(status);
731     }
732
733     send_exclude_list(f_out);
734
735     flist = recv_file_list(f_in);
736     if (!flist || flist->count == 0) {
737       fprintf(FERROR,"nothing to do\n");
738       exit_cleanup(0);
739     }
740
741     local_name = get_local_name(flist,argv[0]);
742
743     status2 = do_recv(f_in,f_out,flist,local_name);
744
745     report(f_in);
746
747     waitpid(pid, &status, 0);
748
749     return status | status2;
750 }