[BACK]Return to mandocdb.c CVS log [TXT][DIR] Up to [cvsweb.bsd.lv] / mandoc

Diff for /mandoc/mandocdb.c between version 1.158 and 1.169

version 1.158, 2014/08/16 19:00:01 version 1.169, 2014/11/19 20:40:51
Line 17 
Line 17 
  */   */
 #include "config.h"  #include "config.h"
   
 #include <sys/stat.h>  
 #include <sys/types.h>  #include <sys/types.h>
   #include <sys/stat.h>
 #include <sys/wait.h>  #include <sys/wait.h>
   
 #include <assert.h>  #include <assert.h>
Line 83  enum op {
Line 83  enum op {
         OP_TEST /* change no databases, report potential problems */          OP_TEST /* change no databases, report potential problems */
 };  };
   
 enum    form {  
         FORM_NONE,  /* format is unknown */  
         FORM_SRC,   /* format is -man or -mdoc */  
         FORM_CAT    /* format is cat */  
 };  
   
 struct  str {  struct  str {
         char            *rendered; /* key in UTF-8 or ASCII form */          char            *rendered; /* key in UTF-8 or ASCII form */
         const struct mpage *mpage; /* if set, the owning parse */          const struct mpage *mpage; /* if set, the owning parse */
Line 104  struct inodev {
Line 98  struct inodev {
 struct  mpage {  struct  mpage {
         struct inodev    inodev;  /* used for hashing routine */          struct inodev    inodev;  /* used for hashing routine */
         int64_t          pageid;  /* pageid in mpages SQL table */          int64_t          pageid;  /* pageid in mpages SQL table */
         enum form        form;    /* format from file content */  
         char            *sec;     /* section from file content */          char            *sec;     /* section from file content */
         char            *arch;    /* architecture from file content */          char            *arch;    /* architecture from file content */
         char            *title;   /* title from file content */          char            *title;   /* title from file content */
         char            *desc;    /* description from file content */          char            *desc;    /* description from file content */
         struct mlink    *mlinks;  /* singly linked list */          struct mlink    *mlinks;  /* singly linked list */
           int              form;    /* format from file content */
 };  };
   
 struct  mlink {  struct  mlink {
         char             file[PATH_MAX]; /* filename rel. to manpath */          char             file[PATH_MAX]; /* filename rel. to manpath */
         enum form        dform;   /* format from directory */  
         enum form        fform;   /* format from file name suffix */  
         char            *dsec;    /* section from directory */          char            *dsec;    /* section from directory */
         char            *arch;    /* architecture from directory */          char            *arch;    /* architecture from directory */
         char            *name;    /* name from file name (not empty) */          char            *name;    /* name from file name (not empty) */
         char            *fsec;    /* section from file name suffix */          char            *fsec;    /* section from file name suffix */
         struct mlink    *next;    /* singly linked list */          struct mlink    *next;    /* singly linked list */
         struct mpage    *mpage;   /* parent */          struct mpage    *mpage;   /* parent */
           int              dform;   /* format from directory */
           int              fform;   /* format from file name suffix */
         int              gzip;    /* filename has a .gz suffix */          int              gzip;    /* filename has a .gz suffix */
 };  };
   
Line 144  struct mdoc_handler {
Line 138  struct mdoc_handler {
 static  void     dbclose(int);  static  void     dbclose(int);
 static  void     dbadd(struct mpage *, struct mchars *);  static  void     dbadd(struct mpage *, struct mchars *);
 static  void     dbadd_mlink(const struct mlink *mlink);  static  void     dbadd_mlink(const struct mlink *mlink);
   static  void     dbadd_mlink_name(const struct mlink *mlink);
 static  int      dbopen(int);  static  int      dbopen(int);
 static  void     dbprune(void);  static  void     dbprune(void);
 static  void     filescan(const char *);  static  void     filescan(const char *);
Line 175  static void  putmdockey(const struct mpage *,
Line 170  static void  putmdockey(const struct mpage *,
                         const struct mdoc_node *, uint64_t);                          const struct mdoc_node *, uint64_t);
 static  void     render_key(struct mchars *, struct str *);  static  void     render_key(struct mchars *, struct str *);
 static  void     say(const char *, const char *, ...);  static  void     say(const char *, const char *, ...);
 static  int      set_basedir(const char *);  static  int      set_basedir(const char *, int);
 static  int      treescan(void);  static  int      treescan(void);
 static  size_t   utf8(unsigned int, char [7]);  static  size_t   utf8(unsigned int, char [7]);
   
Line 321  static const struct mdoc_handler mdocs[MDOC_MAX] = {
Line 316  static const struct mdoc_handler mdocs[MDOC_MAX] = {
         { NULL, 0 },  /* sp */          { NULL, 0 },  /* sp */
         { NULL, 0 },  /* %U */          { NULL, 0 },  /* %U */
         { NULL, 0 },  /* Ta */          { NULL, 0 },  /* Ta */
           { NULL, 0 },  /* ll */
 };  };
   
   
Line 430  main(int argc, char *argv[])
Line 426  main(int argc, char *argv[])
         }          }
   
         exitcode = (int)MANDOCLEVEL_OK;          exitcode = (int)MANDOCLEVEL_OK;
         mp = mparse_alloc(mparse_options, MANDOCLEVEL_FATAL, NULL, NULL);  
         mc = mchars_alloc();          mc = mchars_alloc();
           mp = mparse_alloc(mparse_options, MANDOCLEVEL_FATAL, NULL,
               mc, NULL);
         ohash_init(&mpages, 6, &mpages_info);          ohash_init(&mpages, 6, &mpages_info);
         ohash_init(&mlinks, 6, &mlinks_info);          ohash_init(&mlinks, 6, &mlinks_info);
   
Line 442  main(int argc, char *argv[])
Line 438  main(int argc, char *argv[])
                  * Most of these deal with a specific directory.                   * Most of these deal with a specific directory.
                  * Jump into that directory first.                   * Jump into that directory first.
                  */                   */
                 if (OP_TEST != op && 0 == set_basedir(path_arg))                  if (OP_TEST != op && 0 == set_basedir(path_arg, 1))
                         goto out;                          goto out;
   
                 if (dbopen(1)) {                  if (dbopen(1)) {
Line 508  main(int argc, char *argv[])
Line 504  main(int argc, char *argv[])
                                 ohash_init(&mlinks, 6, &mlinks_info);                                  ohash_init(&mlinks, 6, &mlinks_info);
                         }                          }
   
                         if (0 == set_basedir(dirs.paths[j]))                          if (0 == set_basedir(dirs.paths[j], argc > 0))
                                 goto out;                                  continue;
                         if (0 == treescan())                          if (0 == treescan())
                                 goto out;                                  continue;
                         if (0 == dbopen(0))                          if (0 == dbopen(0))
                                 goto out;                                  continue;
   
                         mpages_merge(mc, mp);                          mpages_merge(mc, mp);
                         if (warnings && !nodb &&                          if (warnings && !nodb &&
Line 530  main(int argc, char *argv[])
Line 526  main(int argc, char *argv[])
         }          }
 out:  out:
         manpath_free(&dirs);          manpath_free(&dirs);
         mchars_free(mc);  
         mparse_free(mp);          mparse_free(mp);
           mchars_free(mc);
         mpages_free();          mpages_free();
         ohash_delete(&mpages);          ohash_delete(&mpages);
         ohash_delete(&mlinks);          ohash_delete(&mlinks);
Line 838  filescan(const char *file)
Line 834  filescan(const char *file)
         }          }
   
         mlink = mandoc_calloc(1, sizeof(struct mlink));          mlink = mandoc_calloc(1, sizeof(struct mlink));
           mlink->dform = FORM_NONE;
         if (strlcpy(mlink->file, start, sizeof(mlink->file)) >=          if (strlcpy(mlink->file, start, sizeof(mlink->file)) >=
             sizeof(mlink->file)) {              sizeof(mlink->file)) {
                 say(start, "Filename too long");                  say(start, "Filename too long");
Line 1081  mpages_merge(struct mchars *mc, struct mparse *mp)
Line 1078  mpages_merge(struct mchars *mc, struct mparse *mp)
 {  {
         char                     any[] = "any";          char                     any[] = "any";
         struct ohash_info        str_info;          struct ohash_info        str_info;
         int                      fd[2];  
         struct mpage            *mpage, *mpage_dest;          struct mpage            *mpage, *mpage_dest;
         struct mlink            *mlink, *mlink_dest;          struct mlink            *mlink, *mlink_dest;
         struct mdoc             *mdoc;          struct mdoc             *mdoc;
Line 1089  mpages_merge(struct mchars *mc, struct mparse *mp)
Line 1085  mpages_merge(struct mchars *mc, struct mparse *mp)
         char                    *sodest;          char                    *sodest;
         char                    *cp;          char                    *cp;
         pid_t                    child_pid;          pid_t                    child_pid;
         int                      status;          int                      fd;
         unsigned int             pslot;          unsigned int             pslot;
         enum mandoclevel         lvl;          enum mandoclevel         lvl;
   
Line 1117  mpages_merge(struct mchars *mc, struct mparse *mp)
Line 1113  mpages_merge(struct mchars *mc, struct mparse *mp)
                 man = NULL;                  man = NULL;
                 sodest = NULL;                  sodest = NULL;
                 child_pid = 0;                  child_pid = 0;
                 fd[0] = -1;  
                 fd[1] = -1;  
   
                 if (mpage->mlinks->gzip) {                  mparse_open(mp, &fd, mpage->mlinks->file, &child_pid);
                         if (-1 == pipe(fd)) {                  if (fd == -1) {
                                 exitcode = (int)MANDOCLEVEL_SYSERR;                          say(mpage->mlinks->file, "&open");
                                 say(mpage->mlinks->file, "&pipe gunzip");                          goto nextpage;
                                 goto nextpage;  
                         }  
                         switch (child_pid = fork()) {  
                         case -1:  
                                 exitcode = (int)MANDOCLEVEL_SYSERR;  
                                 say(mpage->mlinks->file, "&fork gunzip");  
                                 child_pid = 0;  
                                 close(fd[1]);  
                                 close(fd[0]);  
                                 goto nextpage;  
                         case 0:  
                                 close(fd[0]);  
                                 if (-1 == dup2(fd[1], STDOUT_FILENO)) {  
                                         say(mpage->mlinks->file,  
                                             "&dup gunzip");  
                                         exit(1);  
                                 }  
                                 execlp("gunzip", "gunzip", "-c",  
                                     mpage->mlinks->file, NULL);  
                                 say(mpage->mlinks->file, "&exec gunzip");  
                                 exit(1);  
                         default:  
                                 close(fd[1]);  
                                 break;  
                         }  
                 }                  }
   
                 /*                  /*
Line 1158  mpages_merge(struct mchars *mc, struct mparse *mp)
Line 1127  mpages_merge(struct mchars *mc, struct mparse *mp)
                  */                   */
                 if (FORM_CAT != mpage->mlinks->dform ||                  if (FORM_CAT != mpage->mlinks->dform ||
                     FORM_CAT != mpage->mlinks->fform) {                      FORM_CAT != mpage->mlinks->fform) {
                         lvl = mparse_readfd(mp, fd[0], mpage->mlinks->file);                          lvl = mparse_readfd(mp, fd, mpage->mlinks->file);
                         if (lvl < MANDOCLEVEL_FATAL)                          if (lvl < MANDOCLEVEL_FATAL)
                                 mparse_result(mp, &mdoc, &man, &sodest);                                  mparse_result(mp, &mdoc, &man, &sodest);
                 }                  }
Line 1185  mpages_merge(struct mchars *mc, struct mparse *mp)
Line 1154  mpages_merge(struct mchars *mc, struct mparse *mp)
                                          */                                           */
   
                                         if (mpage_dest->pageid)                                          if (mpage_dest->pageid)
                                                 dbadd_mlink(mlink);                                                  dbadd_mlink_name(mlink);
   
                                         if (NULL == mlink->next)                                          if (NULL == mlink->next)
                                                 break;                                                  break;
Line 1226  mpages_merge(struct mchars *mc, struct mparse *mp)
Line 1195  mpages_merge(struct mchars *mc, struct mparse *mp)
                         mpage->title =                          mpage->title =
                             mandoc_strdup(mpage->mlinks->name);                              mandoc_strdup(mpage->mlinks->name);
                 }                  }
                   if (mpage->mlinks->gzip)
                           mpage->form |= FORM_GZ;
                 putkey(mpage, mpage->sec, TYPE_sec);                  putkey(mpage, mpage->sec, TYPE_sec);
                 putkey(mpage, '\0' == *mpage->arch ?                  if (*mpage->arch != '\0')
                     any : mpage->arch, TYPE_arch);                          putkey(mpage, mpage->arch, TYPE_arch);
   
                 for (mlink = mpage->mlinks; mlink; mlink = mlink->next) {                  for (mlink = mpage->mlinks; mlink; mlink = mlink->next) {
                         if ('\0' != *mlink->dsec)                          if ('\0' != *mlink->dsec)
Line 1248  mpages_merge(struct mchars *mc, struct mparse *mp)
Line 1219  mpages_merge(struct mchars *mc, struct mparse *mp)
                 } else if (NULL != man)                  } else if (NULL != man)
                         parse_man(mpage, man_node(man));                          parse_man(mpage, man_node(man));
                 else                  else
                         parse_cat(mpage, fd[0]);                          parse_cat(mpage, fd);
                 if (NULL == mpage->desc)                  if (NULL == mpage->desc)
                         mpage->desc = mandoc_strdup(mpage->mlinks->name);                          mpage->desc = mandoc_strdup(mpage->mlinks->name);
   
Line 1260  mpages_merge(struct mchars *mc, struct mparse *mp)
Line 1231  mpages_merge(struct mchars *mc, struct mparse *mp)
                 dbadd(mpage, mc);                  dbadd(mpage, mc);
   
 nextpage:  nextpage:
                 if (child_pid) {                  if (child_pid &&
                         if (-1 == waitpid(child_pid, &status, 0)) {                      mparse_wait(mp, child_pid) != MANDOCLEVEL_OK) {
                                 exitcode = (int)MANDOCLEVEL_SYSERR;                          exitcode = (int)MANDOCLEVEL_SYSERR;
                                 say(mpage->mlinks->file, "&wait gunzip");                          say(mpage->mlinks->file, "&wait gunzip");
                         } else if (WIFSIGNALED(status)) {  
                                 exitcode = (int)MANDOCLEVEL_SYSERR;  
                                 say(mpage->mlinks->file,  
                                     "gunzip died from signal %d",  
                                     WTERMSIG(status));  
                         } else if (WEXITSTATUS(status)) {  
                                 exitcode = (int)MANDOCLEVEL_SYSERR;  
                                 say(mpage->mlinks->file,  
                                     "gunzip failed with code %d",  
                                     WEXITSTATUS(status));  
                         }  
                 }                  }
                 ohash_delete(&strings);                  ohash_delete(&strings);
                 ohash_delete(&names);                  ohash_delete(&names);
Line 1332  parse_cat(struct mpage *mpage, int fd)
Line 1292  parse_cat(struct mpage *mpage, int fd)
             fopen(mpage->mlinks->file, "r") :              fopen(mpage->mlinks->file, "r") :
             fdopen(fd, "r");              fdopen(fd, "r");
         if (NULL == stream) {          if (NULL == stream) {
                   if (-1 != fd)
                           close(fd);
                 if (warnings)                  if (warnings)
                         say(mpage->mlinks->file, "&fopen");                          say(mpage->mlinks->file, "&fopen");
                 return;                  return;
Line 1767  putkeys(const struct mpage *mpage,
Line 1729  putkeys(const struct mpage *mpage,
         if (TYPE_Nm & v) {          if (TYPE_Nm & v) {
                 htab = &names;                  htab = &names;
                 v &= name_mask;                  v &= name_mask;
                 name_mask &= ~NAME_FIRST;                  if (v & NAME_FIRST)
                           name_mask &= ~NAME_FIRST;
                 if (debug > 1)                  if (debug > 1)
                         say(mpage->mlinks->file,                          say(mpage->mlinks->file,
                             "Adding name %*s", sz, cp);                              "Adding name %*s", sz, cp);
Line 1775  putkeys(const struct mpage *mpage,
Line 1738  putkeys(const struct mpage *mpage,
                 htab = &strings;                  htab = &strings;
                 if (debug > 1)                  if (debug > 1)
                     for (i = 0; i < mansearch_keymax; i++)                      for (i = 0; i < mansearch_keymax; i++)
                         if (1 << i & v)                          if ((uint64_t)1 << i & v)
                             say(mpage->mlinks->file,                              say(mpage->mlinks->file,
                                 "Adding key %s=%*s",                                  "Adding key %s=%*s",
                                 mansearch_keynames[i], sz, cp);                                  mansearch_keynames[i], sz, cp);
Line 1942  render_key(struct mchars *mc, struct str *key)
Line 1905  render_key(struct mchars *mc, struct str *key)
                  */                   */
   
                 if (write_utf8) {                  if (write_utf8) {
                         if (0 == (u = mchars_spec2cp(mc, seq, len)))                          if ((u = mchars_spec2cp(mc, seq, len)) <= 0)
                                 continue;                                  continue;
                         cpp = utfbuf;                          cpp = utfbuf;
                         if (0 == (sz = utf8(u, utfbuf)))                          if (0 == (sz = utf8(u, utfbuf)))
Line 1984  dbadd_mlink(const struct mlink *mlink)
Line 1947  dbadd_mlink(const struct mlink *mlink)
         sqlite3_reset(stmts[STMT_INSERT_LINK]);          sqlite3_reset(stmts[STMT_INSERT_LINK]);
 }  }
   
   static void
   dbadd_mlink_name(const struct mlink *mlink)
   {
           size_t           i;
   
           dbadd_mlink(mlink);
   
           i = 1;
           SQL_BIND_INT64(stmts[STMT_INSERT_NAME], i, NAME_FILE & NAME_MASK);
           SQL_BIND_TEXT(stmts[STMT_INSERT_NAME], i, mlink->name);
           SQL_BIND_INT64(stmts[STMT_INSERT_NAME], i, mlink->mpage->pageid);
           SQL_STEP(stmts[STMT_INSERT_NAME]);
           sqlite3_reset(stmts[STMT_INSERT_NAME]);
   }
   
 /*  /*
  * Flush the current page's terms (and their bits) into the database.   * Flush the current page's terms (and their bits) into the database.
  * Wrap the entire set of additions in a transaction to make sqlite be a   * Wrap the entire set of additions in a transaction to make sqlite be a
Line 2048  dbadd(struct mpage *mpage, struct mchars *mc)
Line 2026  dbadd(struct mpage *mpage, struct mchars *mc)
   
         i = 1;          i = 1;
         SQL_BIND_TEXT(stmts[STMT_INSERT_PAGE], i, key->rendered);          SQL_BIND_TEXT(stmts[STMT_INSERT_PAGE], i, key->rendered);
         SQL_BIND_INT(stmts[STMT_INSERT_PAGE], i, FORM_SRC == mpage->form);          SQL_BIND_INT(stmts[STMT_INSERT_PAGE], i, mpage->form);
         SQL_STEP(stmts[STMT_INSERT_PAGE]);          SQL_STEP(stmts[STMT_INSERT_PAGE]);
         mpage->pageid = sqlite3_last_insert_rowid(db);          mpage->pageid = sqlite3_last_insert_rowid(db);
         sqlite3_reset(stmts[STMT_INSERT_PAGE]);          sqlite3_reset(stmts[STMT_INSERT_PAGE]);
Line 2345  prepare_statements:
Line 2323  prepare_statements:
             "PRAGMA synchronous = OFF", NULL, NULL, NULL)) {              "PRAGMA synchronous = OFF", NULL, NULL, NULL)) {
                 exitcode = (int)MANDOCLEVEL_SYSERR;                  exitcode = (int)MANDOCLEVEL_SYSERR;
                 say(MANDOC_DB, "PRAGMA synchronous: %s",                  say(MANDOC_DB, "PRAGMA synchronous: %s",
                 sqlite3_errmsg(db));                      sqlite3_errmsg(db));
                 sqlite3_close(db);                  sqlite3_close(db);
                 return(0);                  return(0);
         }          }
Line 2376  hash_free(void *p, void *arg)
Line 2354  hash_free(void *p, void *arg)
 }  }
   
 static int  static int
 set_basedir(const char *targetdir)  set_basedir(const char *targetdir, int report_baddir)
 {  {
         static char      startdir[PATH_MAX];          static char      startdir[PATH_MAX];
         static int       getcwd_status;  /* 1 = ok, 2 = failure */          static int       getcwd_status;  /* 1 = ok, 2 = failure */
Line 2429  set_basedir(const char *targetdir)
Line 2407  set_basedir(const char *targetdir)
          * we can reliably check whether files are inside.           * we can reliably check whether files are inside.
          */           */
         if (NULL == realpath(targetdir, basedir)) {          if (NULL == realpath(targetdir, basedir)) {
                 exitcode = (int)MANDOCLEVEL_BADARG;                  if (report_baddir || errno != ENOENT) {
                 say("", "&%s: realpath", targetdir);                          exitcode = (int)MANDOCLEVEL_BADARG;
                           say("", "&%s: realpath", targetdir);
                   }
                 return(0);                  return(0);
         } else if (-1 == chdir(basedir)) {          } else if (-1 == chdir(basedir)) {
                 exitcode = (int)MANDOCLEVEL_BADARG;                  if (report_baddir || errno != ENOENT) {
                 say("", "&chdir");                          exitcode = (int)MANDOCLEVEL_BADARG;
                           say("", "&chdir");
                   }
                 return(0);                  return(0);
         }          }
         chdir_status = 1;          chdir_status = 1;
Legend:
Removed from v.1.158  
changed lines
  Added in v.1.169
CVSweb