[BACK]Return to mansearch.c CVS log [TXT][DIR] Up to [cvsweb.bsd.lv] / mandoc

Diff for /mandoc/mansearch.c between version 1.56 and 1.71

version 1.56, 2015/03/27 17:37:25 version 1.71, 2017/04/18 13:57:56
Line 1 
Line 1 
 /*      $Id$ */  /*      $OpenBSD$ */
 /*  /*
  * Copyright (c) 2012 Kristaps Dzonsons <kristaps@bsd.lv>   * Copyright (c) 2012 Kristaps Dzonsons <kristaps@bsd.lv>
  * Copyright (c) 2013, 2014, 2015 Ingo Schwarze <schwarze@openbsd.org>   * Copyright (c) 2013-2017 Ingo Schwarze <schwarze@openbsd.org>
  *   *
  * Permission to use, copy, modify, and distribute this software for any   * Permission to use, copy, modify, and distribute this software for any
  * purpose with or without fee is hereby granted, provided that the above   * purpose with or without fee is hereby granted, provided that the above
Line 21 
Line 21 
 #include <sys/types.h>  #include <sys/types.h>
   
 #include <assert.h>  #include <assert.h>
   #if HAVE_ERR
   #include <err.h>
   #endif
 #include <errno.h>  #include <errno.h>
 #include <fcntl.h>  #include <fcntl.h>
 #include <getopt.h>  
 #include <glob.h>  #include <glob.h>
 #include <limits.h>  #include <limits.h>
 #include <regex.h>  #include <regex.h>
Line 34 
Line 36 
 #include <string.h>  #include <string.h>
 #include <unistd.h>  #include <unistd.h>
   
 #if HAVE_OHASH  
 #include <ohash.h>  
 #else  
 #include "compat_ohash.h"  
 #endif  
 #include <sqlite3.h>  
 #ifndef SQLITE_DETERMINISTIC  
 #define SQLITE_DETERMINISTIC 0  
 #endif  
   
 #include "mandoc.h"  #include "mandoc.h"
 #include "mandoc_aux.h"  #include "mandoc_aux.h"
   #include "mandoc_ohash.h"
 #include "manconf.h"  #include "manconf.h"
 #include "mansearch.h"  #include "mansearch.h"
   #include "dbm.h"
   
 extern int mansearch_keymax;  
 extern const char *const mansearch_keynames[];  
   
 #define SQL_BIND_TEXT(_db, _s, _i, _v) \  
         do { if (SQLITE_OK != sqlite3_bind_text \  
                 ((_s), (_i)++, (_v), -1, SQLITE_STATIC)) \  
                 fprintf(stderr, "%s\n", sqlite3_errmsg((_db))); \  
         } while (0)  
 #define SQL_BIND_INT64(_db, _s, _i, _v) \  
         do { if (SQLITE_OK != sqlite3_bind_int64 \  
                 ((_s), (_i)++, (_v))) \  
                 fprintf(stderr, "%s\n", sqlite3_errmsg((_db))); \  
         } while (0)  
 #define SQL_BIND_BLOB(_db, _s, _i, _v) \  
         do { if (SQLITE_OK != sqlite3_bind_blob \  
                 ((_s), (_i)++, (&_v), sizeof(_v), SQLITE_STATIC)) \  
                 fprintf(stderr, "%s\n", sqlite3_errmsg((_db))); \  
         } while (0)  
   
 struct  expr {  struct  expr {
         regex_t          regexp;  /* compiled regexp, if applicable */          /* Used for terms: */
         const char      *substr;  /* to search for, if applicable */          struct dbm_match match;   /* Match type and expression. */
         struct expr     *next;    /* next in sequence */          uint64_t         bits;    /* Type mask. */
         uint64_t         bits;    /* type-mask */          /* Used for OR and AND groups: */
         int              equal;   /* equality, not subsring match */          struct expr     *next;    /* Next child in the parent group. */
         int              open;    /* opening parentheses before */          struct expr     *child;   /* First child in this group. */
         int              and;     /* logical AND before */          enum { EXPR_TERM, EXPR_OR, EXPR_AND } type;
         int              close;   /* closing parentheses after */  
 };  };
   
 struct  match {  const char *const mansearch_keynames[KEY_MAX] = {
         uint64_t         pageid; /* identifier in database */          "arch", "sec",  "Xr",   "Ar",   "Fa",   "Fl",   "Dv",   "Fn",
         uint64_t         bits; /* name type mask */          "Ic",   "Pa",   "Cm",   "Li",   "Em",   "Cd",   "Va",   "Ft",
         char            *desc; /* manual page description */          "Tn",   "Er",   "Ev",   "Sy",   "Sh",   "In",   "Ss",   "Ox",
         int              form; /* bit field: formatted, zipped? */          "An",   "Mt",   "St",   "Bx",   "At",   "Nx",   "Fx",   "Lk",
           "Ms",   "Bsx",  "Dx",   "Rs",   "Vt",   "Lb",   "Nm",   "Nd"
 };  };
   
 static  void             buildnames(const struct mansearch *,  
                                 struct manpage *, sqlite3 *,  static  struct ohash    *manmerge(struct expr *, struct ohash *);
                                 sqlite3_stmt *, uint64_t,  static  struct ohash    *manmerge_term(struct expr *, struct ohash *);
                                 const char *, int form);  static  struct ohash    *manmerge_or(struct expr *, struct ohash *);
 static  char            *buildoutput(sqlite3 *, sqlite3_stmt *,  static  struct ohash    *manmerge_and(struct expr *, struct ohash *);
                                  uint64_t, uint64_t);  static  char            *buildnames(const struct dbm_page *);
 static  void            *hash_alloc(size_t, void *);  static  char            *buildoutput(size_t, struct dbm_page *);
 static  void             hash_free(void *, void *);  static  size_t           lstlen(const char *, size_t);
 static  void            *hash_calloc(size_t, size_t, void *);  static  void             lstcat(char *, size_t *, const char *, const char *);
   static  int              lstmatch(const char *, const char *);
 static  struct expr     *exprcomp(const struct mansearch *,  static  struct expr     *exprcomp(const struct mansearch *,
                                 int, char *[]);                                  int, char *[], int *);
   static  struct expr     *expr_and(const struct mansearch *,
                                   int, char *[], int *);
   static  struct expr     *exprterm(const struct mansearch *,
                                   int, char *[], int *);
 static  void             exprfree(struct expr *);  static  void             exprfree(struct expr *);
 static  struct expr     *exprterm(const struct mansearch *, char *, int);  
 static  int              manpage_compare(const void *, const void *);  static  int              manpage_compare(const void *, const void *);
 static  void             sql_append(char **sql, size_t *sz,  
                                 const char *newstr, int count);  
 static  void             sql_match(sqlite3_context *context,  
                                 int argc, sqlite3_value **argv);  
 static  void             sql_regexp(sqlite3_context *context,  
                                 int argc, sqlite3_value **argv);  
 static  char            *sql_statement(const struct expr *);  
   
   
 int  int
 mansearch_setup(int start)  
 {  
         static void     *pagecache;  
         int              c;  
   
 #define PC_PAGESIZE     1280  
 #define PC_NUMPAGES     256  
   
         if (start) {  
                 if (NULL != pagecache) {  
                         fprintf(stderr, "pagecache already enabled\n");  
                         return((int)MANDOCLEVEL_BADARG);  
                 }  
   
                 pagecache = mmap(NULL, PC_PAGESIZE * PC_NUMPAGES,  
                     PROT_READ | PROT_WRITE,  
                     MAP_SHARED | MAP_ANON, -1, 0);  
   
                 if (MAP_FAILED == pagecache) {  
                         perror("mmap");  
                         pagecache = NULL;  
                         return((int)MANDOCLEVEL_SYSERR);  
                 }  
   
                 c = sqlite3_config(SQLITE_CONFIG_PAGECACHE,  
                     pagecache, PC_PAGESIZE, PC_NUMPAGES);  
   
                 if (SQLITE_OK == c)  
                         return((int)MANDOCLEVEL_OK);  
   
                 fprintf(stderr, "pagecache: %s\n", sqlite3_errstr(c));  
   
         } else if (NULL == pagecache) {  
                 fprintf(stderr, "pagecache missing\n");  
                 return((int)MANDOCLEVEL_BADARG);  
         }  
   
         if (-1 == munmap(pagecache, PC_PAGESIZE * PC_NUMPAGES)) {  
                 perror("munmap");  
                 pagecache = NULL;  
                 return((int)MANDOCLEVEL_SYSERR);  
         }  
   
         pagecache = NULL;  
         return((int)MANDOCLEVEL_OK);  
 }  
   
 int  
 mansearch(const struct mansearch *search,  mansearch(const struct mansearch *search,
                 const struct manpaths *paths,                  const struct manpaths *paths,
                 int argc, char *argv[],                  int argc, char *argv[],
                 struct manpage **res, size_t *sz)                  struct manpage **res, size_t *sz)
 {  {
         int              fd, rc, c, indexbit;  
         int64_t          pageid;  
         uint64_t         outbit, iterbit;  
         char             buf[PATH_MAX];          char             buf[PATH_MAX];
         char            *sql;          struct dbm_res  *rp;
           struct expr     *e;
           struct dbm_page *page;
         struct manpage  *mpage;          struct manpage  *mpage;
         struct expr     *e, *ep;          struct ohash    *htab;
         sqlite3         *db;          size_t           cur, i, maxres, outkey;
         sqlite3_stmt    *s, *s2;          unsigned int     slot;
         struct match    *mp;          int              argi, chdir_status, getcwd_status, im;
         struct ohash_info info;  
         struct ohash     htab;  
         unsigned int     idx;  
         size_t           i, j, cur, maxres;  
   
         info.calloc = hash_calloc;          argi = 0;
         info.alloc = hash_alloc;          if ((e = exprcomp(search, argc, argv, &argi)) == NULL) {
         info.free = hash_free;                  *sz = 0;
         info.key_offset = offsetof(struct match, pageid);                  return 0;
           }
   
         *sz = cur = maxres = 0;          cur = maxres = 0;
         sql = NULL;  
         *res = NULL;          *res = NULL;
         fd = -1;  
         e = NULL;  
         rc = 0;  
   
         if (0 == argc)          outkey = KEY_Nd;
                 goto out;          if (search->outkey != NULL)
         if (NULL == (e = exprcomp(search, argc, argv)))                  for (im = 0; im < KEY_MAX; im++)
                 goto out;  
   
         if (NULL != search->outkey) {  
                 outbit = TYPE_Nd;  
                 for (indexbit = 0, iterbit = 1;  
                      indexbit < mansearch_keymax;  
                      indexbit++, iterbit <<= 1) {  
                         if (0 == strcasecmp(search->outkey,                          if (0 == strcasecmp(search->outkey,
                             mansearch_keynames[indexbit])) {                              mansearch_keynames[im])) {
                                 outbit = iterbit;                                  outkey = im;
                                 break;                                  break;
                         }                          }
                 }  
         } else  
                 outbit = 0;  
   
         /*          /*
          * Save a descriptor to the current working directory.           * Remember the original working directory, if possible.
          * Since pathnames in the "paths" variable might be relative,           * This will be needed if the second or a later directory
          * and we'll be chdir()ing into them, we need to keep a handle           * is given as a relative path.
          * on our current directory from which to start the chdir().           * Do not error out if the current directory is not
            * searchable: Maybe it won't be needed after all.
          */           */
   
         if (NULL == getcwd(buf, PATH_MAX)) {          if (getcwd(buf, PATH_MAX) == NULL) {
                 perror("getcwd");                  getcwd_status = 0;
                 goto out;                  (void)strlcpy(buf, strerror(errno), sizeof(buf));
         } else if (-1 == (fd = open(buf, O_RDONLY, 0))) {          } else
                 perror(buf);                  getcwd_status = 1;
                 goto out;  
         }  
   
         sql = sql_statement(e);  
   
         /*          /*
          * Loop over the directories (containing databases) for us to           * Loop over the directories (containing databases) for us to
          * search.           * search.
Line 234  mansearch(const struct mansearch *search,
Line 137  mansearch(const struct mansearch *search,
          * scan it for our match expression.           * scan it for our match expression.
          */           */
   
           chdir_status = 0;
         for (i = 0; i < paths->sz; i++) {          for (i = 0; i < paths->sz; i++) {
                 if (-1 == fchdir(fd)) {                  if (chdir_status && paths->paths[i][0] != '/') {
                         perror(buf);                          if ( ! getcwd_status) {
                         free(*res);                                  warnx("%s: getcwd: %s", paths->paths[i], buf);
                         break;                                  continue;
                 } else if (-1 == chdir(paths->paths[i])) {                          } else if (chdir(buf) == -1) {
                         perror(paths->paths[i]);                                  warn("%s", buf);
                                   continue;
                           }
                   }
                   if (chdir(paths->paths[i]) == -1) {
                           warn("%s", paths->paths[i]);
                         continue;                          continue;
                 }                  }
                   chdir_status = 1;
   
                 c = sqlite3_open_v2(MANDOC_DB, &db,                  if (dbm_open(MANDOC_DB) == -1) {
                     SQLITE_OPEN_READONLY, NULL);                          warn("%s/%s", paths->paths[i], MANDOC_DB);
   
                 if (SQLITE_OK != c) {  
                         fprintf(stderr, "%s/%s: %s\n",  
                             paths->paths[i], MANDOC_DB, strerror(errno));  
                         sqlite3_close(db);  
                         continue;                          continue;
                 }                  }
   
                 /*                  if ((htab = manmerge(e, NULL)) == NULL) {
                  * Define the SQL functions for substring                          dbm_close();
                  * and regular expression matching.                          continue;
                  */  
   
                 c = sqlite3_create_function(db, "match", 2,  
                     SQLITE_UTF8 | SQLITE_DETERMINISTIC,  
                     NULL, sql_match, NULL, NULL);  
                 assert(SQLITE_OK == c);  
                 c = sqlite3_create_function(db, "regexp", 2,  
                     SQLITE_UTF8 | SQLITE_DETERMINISTIC,  
                     NULL, sql_regexp, NULL, NULL);  
                 assert(SQLITE_OK == c);  
   
                 j = 1;  
                 c = sqlite3_prepare_v2(db, sql, -1, &s, NULL);  
                 if (SQLITE_OK != c)  
                         fprintf(stderr, "%s\n", sqlite3_errmsg(db));  
   
                 for (ep = e; NULL != ep; ep = ep->next) {  
                         if (NULL == ep->substr) {  
                                 SQL_BIND_BLOB(db, s, j, ep->regexp);  
                         } else  
                                 SQL_BIND_TEXT(db, s, j, ep->substr);  
                         if (0 == ((TYPE_Nd | TYPE_Nm) & ep->bits))  
                                 SQL_BIND_INT64(db, s, j, ep->bits);  
                 }                  }
   
                 memset(&htab, 0, sizeof(struct ohash));                  for (rp = ohash_first(htab, &slot); rp != NULL;
                 ohash_init(&htab, 4, &info);                      rp = ohash_next(htab, &slot)) {
                           page = dbm_page_get(rp->page);
   
                 /*                          if (lstmatch(search->sec, page->sect) == 0 ||
                  * Hash each entry on its [unique] document identifier.                              lstmatch(search->arch, page->arch) == 0)
                  * This is a uint64_t.  
                  * Instead of using a hash function, simply convert the  
                  * uint64_t to a uint32_t, the hash value's type.  
                  * This gives good performance and preserves the  
                  * distribution of buckets in the table.  
                  */  
                 while (SQLITE_ROW == (c = sqlite3_step(s))) {  
                         pageid = sqlite3_column_int64(s, 2);  
                         idx = ohash_lookup_memory(&htab,  
                             (char *)&pageid, sizeof(uint64_t),  
                             (uint32_t)pageid);  
   
                         if (NULL != ohash_find(&htab, idx))  
                                 continue;                                  continue;
   
                         mp = mandoc_calloc(1, sizeof(struct match));  
                         mp->pageid = pageid;  
                         mp->form = sqlite3_column_int(s, 1);  
                         mp->bits = sqlite3_column_int64(s, 3);  
                         if (TYPE_Nd == outbit)  
                                 mp->desc = mandoc_strdup((const char *)  
                                     sqlite3_column_text(s, 0));  
                         ohash_insert(&htab, idx, mp);  
                 }  
   
                 if (SQLITE_DONE != c)  
                         fprintf(stderr, "%s\n", sqlite3_errmsg(db));  
   
                 sqlite3_finalize(s);  
   
                 c = sqlite3_prepare_v2(db,  
                     "SELECT sec, arch, name, pageid FROM mlinks "  
                     "WHERE pageid=? ORDER BY sec, arch, name",  
                     -1, &s, NULL);  
                 if (SQLITE_OK != c)  
                         fprintf(stderr, "%s\n", sqlite3_errmsg(db));  
   
                 c = sqlite3_prepare_v2(db,  
                     "SELECT bits, key, pageid FROM keys "  
                     "WHERE pageid=? AND bits & ?",  
                     -1, &s2, NULL);  
                 if (SQLITE_OK != c)  
                         fprintf(stderr, "%s\n", sqlite3_errmsg(db));  
   
                 for (mp = ohash_first(&htab, &idx);  
                                 NULL != mp;  
                                 mp = ohash_next(&htab, &idx)) {  
                         if (cur + 1 > maxres) {                          if (cur + 1 > maxres) {
                                 maxres += 1024;                                  maxres += 1024;
                                 *res = mandoc_reallocarray(*res,                                  *res = mandoc_reallocarray(*res,
                                     maxres, sizeof(struct manpage));                                      maxres, sizeof(**res));
                         }                          }
                         mpage = *res + cur;                          mpage = *res + cur;
                           mandoc_asprintf(&mpage->file, "%s/%s",
                               paths->paths[i], page->file + 1);
                           mpage->names = buildnames(page);
                           mpage->output = buildoutput(outkey, page);
                         mpage->ipath = i;                          mpage->ipath = i;
                         mpage->bits = mp->bits;                          mpage->bits = rp->bits;
                         mpage->sec = 10;                          mpage->sec = *page->sect - '0';
                         mpage->form = mp->form;                          if (mpage->sec < 0 || mpage->sec > 9)
                         buildnames(search, mpage, db, s, mp->pageid,                                  mpage->sec = 10;
                             paths->paths[i], mp->form);                          mpage->form = *page->file;
                         if (mpage->names != NULL) {                          free(rp);
                                 mpage->output = TYPE_Nd & outbit ?                          cur++;
                                     mp->desc : outbit ?  
                                     buildoutput(db, s2, mp->pageid, outbit) :  
                                     NULL;  
                                 cur++;  
                         }  
                         free(mp);  
                 }                  }
                   ohash_delete(htab);
                   free(htab);
                   dbm_close();
   
                 sqlite3_finalize(s);  
                 sqlite3_finalize(s2);  
                 sqlite3_close(db);  
                 ohash_delete(&htab);  
   
                 /*                  /*
                  * In man(1) mode, prefer matches in earlier trees                   * In man(1) mode, prefer matches in earlier trees
                  * over matches in later trees.                   * over matches in later trees.
Line 370  mansearch(const struct mansearch *search,
Line 204  mansearch(const struct mansearch *search,
                         break;                          break;
         }          }
         qsort(*res, cur, sizeof(struct manpage), manpage_compare);          qsort(*res, cur, sizeof(struct manpage), manpage_compare);
         rc = 1;          if (chdir_status && getcwd_status && chdir(buf) == -1)
 out:                  warn("%s", buf);
         if (-1 != fd) {  
                 if (-1 == fchdir(fd))  
                         perror(buf);  
                 close(fd);  
         }  
         exprfree(e);          exprfree(e);
         free(sql);  
         *sz = cur;          *sz = cur;
         return(rc);          return 1;
 }  }
   
 void  /*
 mansearch_free(struct manpage *res, size_t sz)   * Merge the results for the expression tree rooted at e
    * into the the result list htab.
    */
   static struct ohash *
   manmerge(struct expr *e, struct ohash *htab)
 {  {
         size_t   i;          switch (e->type) {
           case EXPR_TERM:
         for (i = 0; i < sz; i++) {                  return manmerge_term(e, htab);
                 free(res[i].file);          case EXPR_OR:
                 free(res[i].names);                  return manmerge_or(e->child, htab);
                 free(res[i].output);          case EXPR_AND:
                   return manmerge_and(e->child, htab);
           default:
                   abort();
         }          }
         free(res);  
 }  }
   
 static int  static struct ohash *
 manpage_compare(const void *vp1, const void *vp2)  manmerge_term(struct expr *e, struct ohash *htab)
 {  {
         const struct manpage    *mp1, *mp2;          struct dbm_res   res, *rp;
         int                      diff;          uint64_t         ib;
           unsigned int     slot;
           int              im;
   
         mp1 = vp1;          if (htab == NULL) {
         mp2 = vp2;                  htab = mandoc_malloc(sizeof(*htab));
         return( (diff = mp2->bits - mp1->bits) ? diff :                  mandoc_ohash_init(htab, 4, offsetof(struct dbm_res, page));
                 (diff = mp1->sec - mp2->sec) ? diff :          }
                 strcasecmp(mp1->names, mp2->names));  
 }  
   
 static void          for (im = 0, ib = 1; im < KEY_MAX; im++, ib <<= 1) {
 buildnames(const struct mansearch *search, struct manpage *mpage,                  if ((e->bits & ib) == 0)
                 sqlite3 *db, sqlite3_stmt *s,                          continue;
                 uint64_t pageid, const char *path, int form)  
 {  
         glob_t           globinfo;  
         char            *firstname, *newnames, *prevsec, *prevarch;  
         const char      *oldnames, *sep1, *name, *sec, *sep2, *arch, *fsec;  
         size_t           i;  
         int              c, globres;  
   
         mpage->file = NULL;                  switch (ib) {
         mpage->names = NULL;                  case TYPE_arch:
         firstname = prevsec = prevarch = NULL;                          dbm_page_byarch(&e->match);
         i = 1;                          break;
         SQL_BIND_INT64(db, s, i, pageid);                  case TYPE_sec:
         while (SQLITE_ROW == (c = sqlite3_step(s))) {                          dbm_page_bysect(&e->match);
                           break;
                   case TYPE_Nm:
                           dbm_page_byname(&e->match);
                           break;
                   case TYPE_Nd:
                           dbm_page_bydesc(&e->match);
                           break;
                   default:
                           dbm_page_bymacro(im - 2, &e->match);
                           break;
                   }
   
                 /* Decide whether we already have some names. */                  /*
                    * When hashing for deduplication, use the unique
                    * page ID itself instead of a hash function;
                    * that is quite efficient.
                    */
   
                 if (NULL == mpage->names) {                  for (;;) {
                         oldnames = "";                          res = dbm_page_next();
                         sep1 = "";                          if (res.page == -1)
                 } else {                                  break;
                         oldnames = mpage->names;                          slot = ohash_lookup_memory(htab,
                         sep1 = ", ";                              (char *)&res, sizeof(res.page), res.page);
                           if ((rp = ohash_find(htab, slot)) != NULL) {
                                   rp->bits |= res.bits;
                                   continue;
                           }
                           rp = mandoc_malloc(sizeof(*rp));
                           *rp = res;
                           ohash_insert(htab, slot, rp);
                 }                  }
           }
           return htab;
   }
   
                 /* Fetch the next name, rejecting sec/arch mismatches. */  static struct ohash *
   manmerge_or(struct expr *e, struct ohash *htab)
   {
           while (e != NULL) {
                   htab = manmerge(e, htab);
                   e = e->next;
           }
           return htab;
   }
   
                 sec = (const char *)sqlite3_column_text(s, 0);  static struct ohash *
                 if (search->sec != NULL && strcasecmp(sec, search->sec))  manmerge_and(struct expr *e, struct ohash *htab)
                         continue;  {
                 arch = (const char *)sqlite3_column_text(s, 1);          struct ohash    *hand, *h1, *h2;
                 if (search->arch != NULL && *arch != '\0' &&          struct dbm_res  *res;
                     strcasecmp(arch, search->arch))          unsigned int     slot1, slot2;
                         continue;  
                 name = (const char *)sqlite3_column_text(s, 2);  
   
                 /* Remember the first section found. */          /* Evaluate the first term of the AND clause. */
   
                 if (9 < mpage->sec && '1' <= *sec && '9' >= *sec)          hand = manmerge(e, NULL);
                         mpage->sec = (*sec - '1') + 1;  
   
                 /* If the section changed, append the old one. */          while ((e = e->next) != NULL) {
   
                 if (NULL != prevsec &&                  /* Evaluate the next term and prepare for ANDing. */
                     (strcmp(sec, prevsec) ||  
                      strcmp(arch, prevarch))) {  
                         sep2 = '\0' == *prevarch ? "" : "/";  
                         mandoc_asprintf(&newnames, "%s(%s%s%s)",  
                             oldnames, prevsec, sep2, prevarch);  
                         free(mpage->names);  
                         oldnames = mpage->names = newnames;  
                         free(prevsec);  
                         free(prevarch);  
                         prevsec = prevarch = NULL;  
                 }  
   
                 /* Save the new section, to append it later. */                  h2 = manmerge(e, NULL);
                   if (ohash_entries(h2) < ohash_entries(hand)) {
                           h1 = h2;
                           h2 = hand;
                   } else
                           h1 = hand;
                   hand = mandoc_malloc(sizeof(*hand));
                   mandoc_ohash_init(hand, 4, offsetof(struct dbm_res, page));
   
                 if (NULL == prevsec) {                  /* Keep all pages that are in both result sets. */
                         prevsec = mandoc_strdup(sec);  
                         prevarch = mandoc_strdup(arch);                  for (res = ohash_first(h1, &slot1); res != NULL;
                       res = ohash_next(h1, &slot1)) {
                           if (ohash_find(h2, ohash_lookup_memory(h2,
                               (char *)res, sizeof(res->page),
                               res->page)) == NULL)
                                   free(res);
                           else
                                   ohash_insert(hand, ohash_lookup_memory(hand,
                                       (char *)res, sizeof(res->page),
                                       res->page), res);
                 }                  }
   
                 /* Append the new name. */                  /* Discard the merged results. */
   
                 mandoc_asprintf(&newnames, "%s%s%s",                  for (res = ohash_first(h2, &slot2); res != NULL;
                     oldnames, sep1, name);                      res = ohash_next(h2, &slot2))
                 free(mpage->names);                          free(res);
                 mpage->names = newnames;                  ohash_delete(h2);
                   free(h2);
                   ohash_delete(h1);
                   free(h1);
           }
   
                 /* Also save the first file name encountered. */          /* Merge the result of the AND into htab. */
   
                 if (mpage->file != NULL)          if (htab == NULL)
                         continue;                  return hand;
   
                 if (form & FORM_SRC) {          for (res = ohash_first(hand, &slot1); res != NULL;
                         sep1 = "man";              res = ohash_next(hand, &slot1)) {
                         fsec = sec;                  slot2 = ohash_lookup_memory(htab,
                 } else {                      (char *)res, sizeof(res->page), res->page);
                         sep1 = "cat";                  if (ohash_find(htab, slot2) == NULL)
                         fsec = "0";                          ohash_insert(htab, slot2, res);
                 }  
                 sep2 = *arch == '\0' ? "" : "/";  
                 mandoc_asprintf(&mpage->file, "%s/%s%s%s%s/%s.%s",  
                     path, sep1, sec, sep2, arch, name, fsec);  
                 if (access(mpage->file, R_OK) != -1)  
                         continue;  
   
                 /* Handle unusual file name extensions. */  
   
                 if (firstname == NULL)  
                         firstname = mpage->file;  
                 else                  else
                         free(mpage->file);                          free(res);
                 mandoc_asprintf(&mpage->file, "%s/%s%s%s%s/%s.*",  
                     path, sep1, sec, sep2, arch, name);  
                 globres = glob(mpage->file, 0, NULL, &globinfo);  
                 free(mpage->file);  
                 mpage->file = globres ? NULL :  
                     mandoc_strdup(*globinfo.gl_pathv);  
                 globfree(&globinfo);  
         }          }
         if (c != SQLITE_DONE)  
                 fprintf(stderr, "%s\n", sqlite3_errmsg(db));  
         sqlite3_reset(s);  
   
         /* If none of the files is usable, use the first name. */          /* Discard the merged result. */
   
         if (mpage->file == NULL)          ohash_delete(hand);
                 mpage->file = firstname;          free(hand);
         else if (mpage->file != firstname)          return htab;
                 free(firstname);  }
   
         /* Append one final section to the names. */  void
   mansearch_free(struct manpage *res, size_t sz)
   {
           size_t   i;
   
         if (prevsec != NULL) {          for (i = 0; i < sz; i++) {
                 sep2 = *prevarch == '\0' ? "" : "/";                  free(res[i].file);
                 mandoc_asprintf(&newnames, "%s(%s%s%s)",                  free(res[i].names);
                     mpage->names, prevsec, sep2, prevarch);                  free(res[i].output);
                 free(mpage->names);  
                 mpage->names = newnames;  
                 free(prevsec);  
                 free(prevarch);  
         }          }
           free(res);
 }  }
   
   static int
   manpage_compare(const void *vp1, const void *vp2)
   {
           const struct manpage    *mp1, *mp2;
           int                      diff;
   
           mp1 = vp1;
           mp2 = vp2;
           return (diff = mp2->bits - mp1->bits) ? diff :
               (diff = mp1->sec - mp2->sec) ? diff :
               strcasecmp(mp1->names, mp2->names);
   }
   
 static char *  static char *
 buildoutput(sqlite3 *db, sqlite3_stmt *s, uint64_t pageid, uint64_t outbit)  buildnames(const struct dbm_page *page)
 {  {
         char            *output, *newoutput;          char    *buf;
         const char      *oldoutput, *sep1, *data;          size_t   i, sz;
         size_t           i;  
         int              c;  
   
         output = NULL;          sz = lstlen(page->name, 2) + 1 + lstlen(page->sect, 2) +
         i = 1;              (page->arch == NULL ? 0 : 1 + lstlen(page->arch, 2)) + 2;
         SQL_BIND_INT64(db, s, i, pageid);          buf = mandoc_malloc(sz);
         SQL_BIND_INT64(db, s, i, outbit);          i = 0;
         while (SQLITE_ROW == (c = sqlite3_step(s))) {          lstcat(buf, &i, page->name, ", ");
                 if (NULL == output) {          buf[i++] = '(';
                         oldoutput = "";          lstcat(buf, &i, page->sect, ", ");
                         sep1 = "";          if (page->arch != NULL) {
                 } else {                  buf[i++] = '/';
                         oldoutput = output;                  lstcat(buf, &i, page->arch, ", ");
                         sep1 = " # ";  
                 }  
                 data = (const char *)sqlite3_column_text(s, 1);  
                 mandoc_asprintf(&newoutput, "%s%s%s",  
                     oldoutput, sep1, data);  
                 free(output);  
                 output = newoutput;  
         }          }
         if (SQLITE_DONE != c)          buf[i++] = ')';
                 fprintf(stderr, "%s\n", sqlite3_errmsg(db));          buf[i++] = '\0';
         sqlite3_reset(s);          assert(i == sz);
         return(output);          return buf;
 }  }
   
 /*  /*
  * Implement substring match as an application-defined SQL function.   * Count the buffer space needed to print the NUL-terminated
  * Using the SQL LIKE or GLOB operators instead would be a bad idea   * list of NUL-terminated strings, when printing sep separator
  * because that would require escaping metacharacters in the string   * characters between strings.
  * being searched for.  
  */   */
 static void  static size_t
 sql_match(sqlite3_context *context, int argc, sqlite3_value **argv)  lstlen(const char *cp, size_t sep)
 {  {
           size_t   sz;
   
         assert(2 == argc);          for (sz = 0;; sz++) {
         sqlite3_result_int(context, NULL != strcasestr(                  if (cp[0] == '\0') {
             (const char *)sqlite3_value_text(argv[1]),                          if (cp[1] == '\0')
             (const char *)sqlite3_value_text(argv[0])));                                  break;
                           sz += sep - 1;
                   } else if (cp[0] < ' ')
                           sz--;
                   cp++;
           }
           return sz;
 }  }
   
 /*  /*
  * Implement regular expression match   * Print the NUL-terminated list of NUL-terminated strings
  * as an application-defined SQL function.   * into the buffer, seperating strings with sep.
  */   */
 static void  static void
 sql_regexp(sqlite3_context *context, int argc, sqlite3_value **argv)  lstcat(char *buf, size_t *i, const char *cp, const char *sep)
 {  {
           const char *s;
   
         assert(2 == argc);          for (;;) {
         sqlite3_result_int(context, !regexec(                  if (cp[0] == '\0') {
             (regex_t *)sqlite3_value_blob(argv[0]),                          if (cp[1] == '\0')
             (const char *)sqlite3_value_text(argv[1]),                                  break;
             0, NULL, 0));                          s = sep;
                           while (*s != '\0')
                                   buf[(*i)++] = *s++;
                   } else if (cp[0] >= ' ')
                           buf[(*i)++] = cp[0];
                   cp++;
           }
 }  }
   
 static void  /*
 sql_append(char **sql, size_t *sz, const char *newstr, int count)   * Return 1 if the string *want occurs in any of the strings
    * in the NUL-terminated string list *have, or 0 otherwise.
    * If either argument is NULL or empty, assume no filtering
    * is desired and return 1.
    */
   static int
   lstmatch(const char *want, const char *have)
 {  {
         size_t           newsz;          if (want == NULL || have == NULL || *have == '\0')
                   return 1;
         newsz = 1 < count ? (size_t)count : strlen(newstr);          while (*have != '\0') {
         *sql = mandoc_realloc(*sql, *sz + newsz + 1);                  if (strcasestr(have, want) != NULL)
         if (1 < count)                          return 1;
                 memset(*sql + *sz, *newstr, (size_t)count);                  have = strchr(have, '\0') + 1;
         else          }
                 memcpy(*sql + *sz, newstr, newsz);          return 0;
         *sz += newsz;  
         (*sql)[*sz] = '\0';  
 }  }
   
 /*  /*
  * Prepare the search SQL statement.   * Build a list of values taken by the macro im in the manual page.
  */   */
 static char *  static char *
 sql_statement(const struct expr *e)  buildoutput(size_t im, struct dbm_page *page)
 {  {
         char            *sql;          const char      *oldoutput, *sep, *input;
         size_t           sz;          char            *output, *newoutput, *value;
         int              needop;          size_t           sz, i;
   
         sql = mandoc_strdup(e->equal ?          switch (im) {
             "SELECT desc, form, pageid, bits "          case KEY_Nd:
                 "FROM mpages NATURAL JOIN names WHERE " :                  return mandoc_strdup(page->desc);
             "SELECT desc, form, pageid, 0 FROM mpages WHERE ");          case KEY_Nm:
         sz = strlen(sql);                  input = page->name;
                   break;
           case KEY_sec:
                   input = page->sect;
                   break;
           case KEY_arch:
                   input = page->arch;
                   if (input == NULL)
                           input = "all\0";
                   break;
           default:
                   input = NULL;
                   break;
           }
   
         for (needop = 0; NULL != e; e = e->next) {          if (input != NULL) {
                 if (e->and)                  sz = lstlen(input, 3) + 1;
                         sql_append(&sql, &sz, " AND ", 1);                  output = mandoc_malloc(sz);
                 else if (needop)                  i = 0;
                         sql_append(&sql, &sz, " OR ", 1);                  lstcat(output, &i, input, " # ");
                 if (e->open)                  output[i++] = '\0';
                         sql_append(&sql, &sz, "(", e->open);                  assert(i == sz);
                 sql_append(&sql, &sz,                  return output;
                     TYPE_Nd & e->bits  
                     ? (NULL == e->substr  
                         ? "desc REGEXP ?"  
                         : "desc MATCH ?")  
                     : TYPE_Nm == e->bits  
                     ? (NULL == e->substr  
                         ? "pageid IN (SELECT pageid FROM names "  
                           "WHERE name REGEXP ?)"  
                         : e->equal  
                         ? "name = ? "  
                         : "pageid IN (SELECT pageid FROM names "  
                           "WHERE name MATCH ?)")  
                     : (NULL == e->substr  
                         ? "pageid IN (SELECT pageid FROM keys "  
                           "WHERE key REGEXP ? AND bits & ?)"  
                         : "pageid IN (SELECT pageid FROM keys "  
                           "WHERE key MATCH ? AND bits & ?)"), 1);  
                 if (e->close)  
                         sql_append(&sql, &sz, ")", e->close);  
                 needop = 1;  
         }          }
   
         return(sql);          output = NULL;
           dbm_macro_bypage(im - 2, page->addr);
           while ((value = dbm_macro_next()) != NULL) {
                   if (output == NULL) {
                           oldoutput = "";
                           sep = "";
                   } else {
                           oldoutput = output;
                           sep = " # ";
                   }
                   mandoc_asprintf(&newoutput, "%s%s%s", oldoutput, sep, value);
                   free(output);
                   output = newoutput;
           }
           return output;
 }  }
   
 /*  /*
Line 671  sql_statement(const struct expr *e)
Line 544  sql_statement(const struct expr *e)
  * "(", "foo=bar", etc.).   * "(", "foo=bar", etc.).
  */   */
 static struct expr *  static struct expr *
 exprcomp(const struct mansearch *search, int argc, char *argv[])  exprcomp(const struct mansearch *search, int argc, char *argv[], int *argi)
 {  {
         uint64_t         mask;          struct expr     *parent, *child;
         int              i, toopen, logic, igncase, toclose;          int              needterm, nested;
         struct expr     *first, *prev, *cur, *next;  
   
         first = cur = NULL;          if ((nested = *argi) == argc)
         logic = igncase = toopen = toclose = 0;                  return NULL;
           needterm = 1;
         for (i = 0; i < argc; i++) {          parent = child = NULL;
                 if (0 == strcmp("(", argv[i])) {          while (*argi < argc) {
                         if (igncase)                  if (strcmp(")", argv[*argi]) == 0) {
                                 goto fail;                          if (needterm)
                         toopen++;                                  warnx("missing term "
                         toclose++;                                      "before closing parenthesis");
                           needterm = 0;
                           if (nested)
                                   break;
                           warnx("ignoring unmatched right parenthesis");
                           ++*argi;
                         continue;                          continue;
                 } else if (0 == strcmp(")", argv[i])) {                  }
                         if (toopen || logic || igncase || NULL == cur)                  if (strcmp("-o", argv[*argi]) == 0) {
                                 goto fail;                          if (needterm) {
                         cur->close++;                                  if (*argi > 0)
                         if (0 > --toclose)                                          warnx("ignoring -o after %s",
                                 goto fail;                                              argv[*argi - 1]);
                                   else
                                           warnx("ignoring initial -o");
                           }
                           needterm = 1;
                           ++*argi;
                         continue;                          continue;
                 } else if (0 == strcmp("-a", argv[i])) {                  }
                         if (toopen || logic || igncase || NULL == cur)                  needterm = 0;
                                 goto fail;                  if (child == NULL) {
                         logic = 1;                          child = expr_and(search, argc, argv, argi);
                         continue;                          continue;
                 } else if (0 == strcmp("-o", argv[i])) {  
                         if (toopen || logic || igncase || NULL == cur)  
                                 goto fail;  
                         logic = 2;  
                         continue;  
                 } else if (0 == strcmp("-i", argv[i])) {  
                         if (igncase)  
                                 goto fail;  
                         igncase = 1;  
                         continue;  
                 }                  }
                 next = exprterm(search, argv[i], !igncase);                  if (parent == NULL) {
                 if (NULL == next)                          parent = mandoc_calloc(1, sizeof(*parent));
                         goto fail;                          parent->type = EXPR_OR;
                 if (NULL == first)                          parent->next = NULL;
                         first = next;                          parent->child = child;
                 else                  }
                         cur->next = next;                  child->next = expr_and(search, argc, argv, argi);
                 prev = cur = next;                  child = child->next;
           }
           if (needterm && *argi)
                   warnx("ignoring trailing %s", argv[*argi - 1]);
           return parent == NULL ? child : parent;
   }
   
                 /*  static struct expr *
                  * Searching for descriptions must be split out  expr_and(const struct mansearch *search, int argc, char *argv[], int *argi)
                  * because they are stored in the mpages table,  {
                  * not in the keys table.          struct expr     *parent, *child;
                  */          int              needterm;
   
                 for (mask = TYPE_Nm; mask <= TYPE_Nd; mask <<= 1) {          needterm = 1;
                         if (mask & cur->bits && ~mask & cur->bits) {          parent = child = NULL;
                                 next = mandoc_calloc(1,          while (*argi < argc) {
                                     sizeof(struct expr));                  if (strcmp(")", argv[*argi]) == 0) {
                                 memcpy(next, cur, sizeof(struct expr));                          if (needterm)
                                 prev->open = 1;                                  warnx("missing term "
                                 cur->bits = mask;                                      "before closing parenthesis");
                                 cur->next = next;                          needterm = 0;
                                 cur = next;                          break;
                                 cur->bits &= ~mask;                  }
                   if (strcmp("-o", argv[*argi]) == 0)
                           break;
                   if (strcmp("-a", argv[*argi]) == 0) {
                           if (needterm) {
                                   if (*argi > 0)
                                           warnx("ignoring -a after %s",
                                               argv[*argi - 1]);
                                   else
                                           warnx("ignoring initial -a");
                         }                          }
                           needterm = 1;
                           ++*argi;
                           continue;
                 }                  }
                 prev->and = (1 == logic);                  if (needterm == 0)
                 prev->open += toopen;                          break;
                 if (cur != prev)                  if (child == NULL) {
                         cur->close = 1;                          child = exprterm(search, argc, argv, argi);
                           if (child != NULL)
                 toopen = logic = igncase = 0;                                  needterm = 0;
                           continue;
                   }
                   needterm = 0;
                   if (parent == NULL) {
                           parent = mandoc_calloc(1, sizeof(*parent));
                           parent->type = EXPR_AND;
                           parent->next = NULL;
                           parent->child = child;
                   }
                   child->next = exprterm(search, argc, argv, argi);
                   if (child->next != NULL) {
                           child = child->next;
                           needterm = 0;
                   }
         }          }
         if ( ! (toopen || logic || igncase || toclose))          if (needterm && *argi)
                 return(first);                  warnx("ignoring trailing %s", argv[*argi - 1]);
           return parent == NULL ? child : parent;
 fail:  
         if (NULL != first)  
                 exprfree(first);  
         return(NULL);  
 }  }
   
 static struct expr *  static struct expr *
 exprterm(const struct mansearch *search, char *buf, int cs)  exprterm(const struct mansearch *search, int argc, char *argv[], int *argi)
 {  {
         char             errbuf[BUFSIZ];          char             errbuf[BUFSIZ];
         struct expr     *e;          struct expr     *e;
         char            *key, *val;          char            *key, *val;
         uint64_t         iterbit;          uint64_t         iterbit;
         int              i, irc;          int              cs, i, irc;
   
         if ('\0' == *buf)          if (strcmp("(", argv[*argi]) == 0) {
                 return(NULL);                  ++*argi;
                   e = exprcomp(search, argc, argv, argi);
                   if (*argi < argc) {
                           assert(strcmp(")", argv[*argi]) == 0);
                           ++*argi;
                   } else
                           warnx("unclosed parenthesis");
                   return e;
           }
   
         e = mandoc_calloc(1, sizeof(struct expr));          e = mandoc_calloc(1, sizeof(*e));
           e->type = EXPR_TERM;
           e->bits = 0;
           e->next = NULL;
           e->child = NULL;
   
         if (search->argmode == ARG_NAME) {          if (search->argmode == ARG_NAME) {
                 e->bits = TYPE_Nm;                  e->bits = TYPE_Nm;
                 e->substr = buf;                  e->match.type = DBM_EXACT;
                 e->equal = 1;                  e->match.str = argv[(*argi)++];
                 return(e);                  return e;
         }          }
   
         /*          /*
          * Separate macro keys from search string.           * Separate macro keys from search string.
          * If needed, request regular expression handling           * If needed, request regular expression handling.
          * by setting e->substr to NULL.  
          */           */
   
           cs = 1;
         if (search->argmode == ARG_WORD) {          if (search->argmode == ARG_WORD) {
                 e->bits = TYPE_Nm;                  e->bits = TYPE_Nm;
                 e->substr = NULL;                  e->match.type = DBM_REGEX;
                 mandoc_asprintf(&val, "[[:<:]]%s[[:>:]]", buf);  #if HAVE_REWB_BSD
                   mandoc_asprintf(&val, "[[:<:]]%s[[:>:]]", argv[*argi]);
   #elif HAVE_REWB_SYSV
                   mandoc_asprintf(&val, "\\<%s\\>", argv[*argi]);
   #else
                   mandoc_asprintf(&val,
                       "(^|[^a-zA-Z01-9_])%s([^a-zA-Z01-9_]|$)", argv[*argi]);
   #endif
                 cs = 0;                  cs = 0;
         } else if ((val = strpbrk(buf, "=~")) == NULL) {          } else if ((val = strpbrk(argv[*argi], "=~")) == NULL) {
                 e->bits = TYPE_Nm | TYPE_Nd;                  e->bits = TYPE_Nm | TYPE_Nd;
                 e->substr = buf;                  e->match.type = DBM_SUB;
                   e->match.str = argv[*argi];
         } else {          } else {
                 if (val == buf)                  if (val == argv[*argi])
                         e->bits = TYPE_Nm | TYPE_Nd;                          e->bits = TYPE_Nm | TYPE_Nd;
                 if ('=' == *val)                  if (*val == '=') {
                         e->substr = val + 1;                          e->match.type = DBM_SUB;
                           e->match.str = val + 1;
                   } else
                           e->match.type = DBM_REGEX;
                 *val++ = '\0';                  *val++ = '\0';
                 if (NULL != strstr(buf, "arch"))                  if (strstr(argv[*argi], "arch") != NULL)
                         cs = 0;                          cs = 0;
         }          }
   
         /* Compile regular expressions. */          /* Compile regular expressions. */
   
         if (NULL == e->substr) {          if (e->match.type == DBM_REGEX) {
                 irc = regcomp(&e->regexp, val,                  e->match.re = mandoc_malloc(sizeof(*e->match.re));
                   irc = regcomp(e->match.re, val,
                     REG_EXTENDED | REG_NOSUB | (cs ? 0 : REG_ICASE));                      REG_EXTENDED | REG_NOSUB | (cs ? 0 : REG_ICASE));
                   if (irc) {
                           regerror(irc, e->match.re, errbuf, sizeof(errbuf));
                           warnx("regcomp /%s/: %s", val, errbuf);
                   }
                 if (search->argmode == ARG_WORD)                  if (search->argmode == ARG_WORD)
                         free(val);                          free(val);
                 if (irc) {                  if (irc) {
                         regerror(irc, &e->regexp, errbuf, sizeof(errbuf));                          free(e->match.re);
                         fprintf(stderr, "regcomp: %s\n", errbuf);  
                         free(e);                          free(e);
                         return(NULL);                          ++*argi;
                           return NULL;
                 }                  }
         }          }
   
         if (e->bits)          if (e->bits) {
                 return(e);                  ++*argi;
                   return e;
           }
   
         /*          /*
          * Parse out all possible fields.           * Parse out all possible fields.
          * If the field doesn't resolve, bail.           * If the field doesn't resolve, bail.
          */           */
   
         while (NULL != (key = strsep(&buf, ","))) {          while (NULL != (key = strsep(&argv[*argi], ","))) {
                 if ('\0' == *key)                  if ('\0' == *key)
                         continue;                          continue;
                 for (i = 0, iterbit = 1;                  for (i = 0, iterbit = 1; i < KEY_MAX; i++, iterbit <<= 1) {
                      i < mansearch_keymax;                          if (0 == strcasecmp(key, mansearch_keynames[i])) {
                      i++, iterbit <<= 1) {  
                         if (0 == strcasecmp(key,  
                             mansearch_keynames[i])) {  
                                 e->bits |= iterbit;                                  e->bits |= iterbit;
                                 break;                                  break;
                         }                          }
                 }                  }
                 if (i == mansearch_keymax) {                  if (i == KEY_MAX) {
                         if (strcasecmp(key, "any")) {                          if (strcasecmp(key, "any"))
                                 free(e);                                  warnx("treating unknown key "
                                 return(NULL);                                      "\"%s\" as \"any\"", key);
                         }  
                         e->bits |= ~0ULL;                          e->bits |= ~0ULL;
                 }                  }
         }          }
   
         return(e);          ++*argi;
           return e;
 }  }
   
 static void  static void
 exprfree(struct expr *p)  exprfree(struct expr *e)
 {  {
         struct expr     *pp;          if (e->next != NULL)
                   exprfree(e->next);
         while (NULL != p) {          if (e->child != NULL)
                 pp = p->next;                  exprfree(e->child);
                 free(p);          free(e);
                 p = pp;  
         }  
 }  
   
 static void *  
 hash_calloc(size_t nmemb, size_t sz, void *arg)  
 {  
   
         return(mandoc_calloc(nmemb, sz));  
 }  
   
 static void *  
 hash_alloc(size_t sz, void *arg)  
 {  
   
         return(mandoc_malloc(sz));  
 }  
   
 static void  
 hash_free(void *p, void *arg)  
 {  
   
         free(p);  
 }  }
Legend:
Removed from v.1.56  
changed lines
  Added in v.1.71
CVSweb