ptytty.m4

   1 dnl this file is part of libptytty, do not make local modifications
   2 dnl http://software.schmorp.de/pkg/libptytty
   3
   4 AC_DEFUN([PTY_CHECK],
   5 [
   6 AC_CHECK_HEADERS( \
   7   pty.h \
   8   util.h \
   9   libutil.h \
  10   sys/ioctl.h \
  11   sys/stropts.h \
  12 )
  13
  14 AC_CHECK_FUNCS( \
  15   revoke \
  16   _getpty \
  17   getpt \
  18   posix_openpt \
  19   isastream \
  20   setuid \
  21   seteuid \
  22   setreuid \
  23   setresuid \
  24 )
  25
  26 have_clone=no
  27
  28 AC_MSG_CHECKING(for /dev/ptym/clone)
  29 if test -e /dev/ptym/clone; then
  30   AC_MSG_RESULT(yes)
  31   AC_DEFINE(HAVE_DEV_CLONE, 1, [Define to 1 if you have /dev/ptym/clone])
  32   AC_DEFINE(CLONE_DEVICE, "/dev/ptym/clone", [clone device filename])
  33   have_clone=yes
  34 else
  35   AC_MSG_RESULT(no)
  36 fi
  37
  38 AC_MSG_CHECKING(for /dev/ptc)
  39 if test -e /dev/ptc; then
  40   AC_MSG_RESULT(yes)
  41   AC_DEFINE(HAVE_DEV_PTC, 1, [Define to 1 if you have /dev/ptc])
  42   AC_DEFINE(CLONE_DEVICE, "/dev/ptc", [clone device filename])
  43   have_clone=yes
  44 else
  45   AC_MSG_RESULT(no)
  46 fi
  47
  48 case $host in
  49   *-*-cygwin*)
  50     have_clone=yes
  51     AC_DEFINE(CLONE_DEVICE, "/dev/ptmx", [clone device filename])
  52     ;;
  53   *)
  54     AC_MSG_CHECKING(for /dev/ptmx)
  55     if test -e /dev/ptmx; then
  56       AC_MSG_RESULT(yes)
  57       AC_DEFINE(HAVE_DEV_PTMX, 1, [Define to 1 if you have /dev/ptmx])
  58       AC_DEFINE(CLONE_DEVICE, "/dev/ptmx", [clone device filename])
  59       have_clone=yes
  60     else
  61       AC_MSG_RESULT(no)
  62     fi
  63     ;;
  64 esac
  65
  66 if test x$ac_cv_func_getpt = xyes -o x$ac_cv_func_posix_openpt = xyes -o x$have_clone = xyes; then
  67   AC_MSG_CHECKING(for UNIX98 ptys)
  68   AC_TRY_LINK([#include <stdlib.h>],
  69               [grantpt(0);unlockpt(0);ptsname(0);],
  70               [unix98_pty=yes
  71                AC_DEFINE(UNIX98_PTY, 1, "")
  72                AC_MSG_RESULT(yes)],
  73               [AC_MSG_RESULT(no)])
  74 fi
  75
  76 if test -z "$unix98_pty"; then
  77   AC_CHECK_FUNCS(openpty, [], [AC_CHECK_LIB(util, openpty, [AC_DEFINE(HAVE_OPENPTY) LIBS="$LIBS -lutil"])])
  78 fi
  79 ])
  80
  81 AC_DEFUN([UTMP_CHECK],
  82 [
  83 support_utmp=yes
  84 support_wtmp=yes
  85 support_lastlog=yes
  86
  87 AC_ARG_ENABLE(utmp,
  88   [  --enable-utmp           enable utmp (utmpx) support],
  89   [if test x$enableval = xyes -o x$enableval = xno; then
  90     support_utmp=$enableval
  91   fi])
  92
  93 AC_ARG_ENABLE(wtmp,
  94   [  --enable-wtmp           enable wtmp (wtmpx) support (requires --enable-utmp)],
  95   [if test x$enableval = xyes -o x$enableval = xno; then
  96     support_wtmp=$enableval
  97   fi])
  98
  99 AC_ARG_ENABLE(lastlog,
 100   [  --enable-lastlog        enable lastlog support (requires --enable-utmp)],
 101   [if test x$enableval = xyes -o x$enableval = xno; then
 102     support_lastlog=$enableval
 103   fi])
 104
 105 if test x$support_utmp = xyes; then
 106   AC_DEFINE(UTMP_SUPPORT, 1, Define if you want to have utmp/utmpx support)
 107 fi
 108 if test x$support_wtmp = xyes; then
 109   AC_DEFINE(WTMP_SUPPORT, 1, Define if you want to have wtmp support when utmp/utmpx is enabled)
 110 fi
 111 if test x$support_lastlog = xyes; then
 112   AC_DEFINE(LASTLOG_SUPPORT, 1, Define if you want to have lastlog support when utmp/utmpx is enabled)
 113 fi
 114
 115 AC_CHECK_FUNCS( \
 116         ttyslot \
 117         updwtmp \
 118         updwtmpx \
 119 )
 120
 121 AC_CHECK_HEADERS( \
 122         utmp.h \
 123         utmpx.h \
 124         lastlog.h \
 125 )
 126
 127 dnl# --------------------------------------------------------------------------
 128 dnl# DO ALL UTMP AND WTMP CHECKING
 129 dnl# --------------------------------------------------------------------------
 130 dnl# check for host field in utmp structure
 131
 132 dnl# --------------------------------------------
 133 AC_CHECK_HEADER(utmp.h,
 134 [AC_CACHE_CHECK([for struct utmp], struct_utmp,
 135 [AC_COMPILE_IFELSE([AC_LANG_PROGRAM([[#include <sys/types.h>
 136 #include <utmp.h>]], [[struct utmp ut;]])],[struct_utmp=yes],[struct_utmp=no])])
 137 if test x$struct_utmp = xyes; then
 138   AC_DEFINE(HAVE_STRUCT_UTMP, 1, Define if utmp.h has struct utmp)
 139 fi
 140 ]
 141
 142 AC_CACHE_CHECK(for ut_host in utmp struct, struct_utmp_host,
 143 [AC_COMPILE_IFELSE([AC_LANG_PROGRAM([[#include <sys/types.h>
 144 #include <utmp.h>]], [[struct utmp ut; ut.ut_host;]])],[struct_utmp_host=yes],[struct_utmp_host=no])])
 145 if test x$struct_utmp_host = xyes; then
 146   AC_DEFINE(HAVE_UTMP_HOST, 1, Define if struct utmp contains ut_host)
 147 fi
 148
 149 AC_CACHE_CHECK(for ut_pid in utmp struct, struct_utmp_pid,
 150 [AC_COMPILE_IFELSE([AC_LANG_PROGRAM([[#include <sys/types.h>
 151 #include <utmp.h>]], [[struct utmp ut; ut.ut_pid;]])],[struct_utmp_pid=yes],[struct_utmp_pid=no])])
 152 if test x$struct_utmp_pid = xyes; then
 153   AC_DEFINE(HAVE_UTMP_PID, 1, Define if struct utmp contains ut_pid)
 154 fi
 155 ) dnl# AC_CHECK_HEADER(utmp.h
 156
 157 dnl# --------------------------------------------
 158
 159 AC_CHECK_HEADER(utmpx.h,
 160 [AC_CACHE_CHECK([for struct utmpx], struct_utmpx,
 161 [AC_COMPILE_IFELSE([AC_LANG_PROGRAM([[#include <sys/types.h>
 162 #include <utmpx.h>]], [[struct utmpx ut;]])],[struct_utmpx=yes],[struct_utmpx=no])])
 163 if test x$struct_utmpx = xyes; then
 164   AC_DEFINE(HAVE_STRUCT_UTMPX, 1, Define if utmpx.h has struct utmpx)
 165 fi
 166 ]
 167
 168 AC_CACHE_CHECK(for host in utmpx struct, struct_utmpx_host,
 169 [AC_COMPILE_IFELSE([AC_LANG_PROGRAM([[#include <sys/types.h>
 170 #include <utmpx.h>]], [[struct utmpx utx; utx.ut_host;]])],[struct_utmpx_host=yes],[struct_utmpx_host=no])])
 171 if test x$struct_utmpx_host = xyes; then
 172   AC_DEFINE(HAVE_UTMPX_HOST, 1, Define if struct utmpx contains ut_host)
 173 fi
 174
 175 AC_CACHE_CHECK(for session in utmpx struct, struct_utmpx_session,
 176 [AC_TRY_COMPILE([#include <sys/types.h>
 177 #include <utmpx.h>],
 178 [struct utmpx utx; utx.ut_session;],
 179 struct_utmpx_session=yes, struct_utmpx_session=no)])
 180 if test x$struct_utmpx_session = xyes; then
 181   AC_DEFINE(HAVE_UTMPX_SESSION, 1, Define if struct utmpx contains ut_session)
 182 fi
 183 ) dnl# AC_CHECK_HEADER(utmpx.h
 184
 185 dnl# --------------------------------------------------------------------------
 186 dnl# check for struct lastlog
 187 AC_CACHE_CHECK(for struct lastlog, struct_lastlog,
 188 [AC_COMPILE_IFELSE([AC_LANG_PROGRAM([[#include <sys/types.h>
 189 #include <utmp.h>
 190 #ifdef HAVE_LASTLOG_H
 191 #include <lastlog.h>
 192 #endif
 193 ]], [[struct lastlog ll;]])],[struct_lastlog=yes],[struct_lastlog=no])])
 194 if test x$struct_lastlog = xyes; then
 195   AC_DEFINE(HAVE_STRUCT_LASTLOG, 1, Define if utmp.h or lastlog.h has struct lastlog)
 196 fi
 197
 198 dnl# check for struct lastlogx
 199 AC_CACHE_CHECK(for struct lastlogx, struct_lastlogx,
 200 [AC_COMPILE_IFELSE([AC_LANG_PROGRAM([[#include <sys/types.h>
 201 #include <utmpx.h>
 202 #ifdef HAVE_LASTLOG_H
 203 #include <lastlog.h>
 204 #endif
 205 ]], [[struct lastlogx ll;]])],[struct_lastlogx=yes],[struct_lastlogx=no])])
 206 if test x$struct_lastlogx = xyes; then
 207   AC_DEFINE(HAVE_STRUCT_LASTLOGX, 1, Define if utmpx.h or lastlog.h has struct lastlogx)
 208 fi
 209
 210 dnl# --------------------------------------------------------------------------
 211 dnl# FIND FILES
 212 dnl# --------------------------------------------------------------------------
 213
 214 dnl# find utmp
 215 AC_CACHE_CHECK(where utmp is located, path_utmp,
 216 [AC_RUN_IFELSE([AC_LANG_SOURCE([[#include <stdio.h>
 217 #include <stdlib.h>
 218 #include <sys/types.h>
 219 #include <utmp.h>
 220 #include <errno.h>
 221 main()
 222 {
 223     char **u, *utmplist[] = {
 224     "/var/run/utmp", "/var/adm/utmp", "/etc/utmp", "/usr/etc/utmp", "/usr/adm/utmp", NULL };
 225     FILE *a, *f=fopen("conftestval", "w");
 226     if (!f) exit(1);
 227 #ifdef UTMP_FILE
 228     fprintf(f, "%s\n", UTMP_FILE);
 229     exit(0);
 230 #endif
 231 #ifdef _PATH_UTMP
 232     fprintf(f, "%s\n", _PATH_UTMP);
 233     exit(0);
 234 #endif
 235     for (u = utmplist; *u; u++) {
 236         if ((a = fopen(*u, "r")) != NULL || errno == EACCES) {
 237             fprintf(f, "%s\n", *u);
 238             exit(0);
 239         }
 240     }
 241     exit(0);
 242 }]])],[path_utmp=`cat conftestval`],[path_utmp=],[dnl
 243   AC_MSG_WARN(Define UTMP_FILE in config.h manually)])])
 244 if test x$path_utmp != x; then
 245   AC_DEFINE_UNQUOTED(UTMP_FILE, "$path_utmp", Define location of utmp)
 246 fi
 247
 248 dnl# --------------------------------------------------------------------------
 249
 250 dnl# find utmpx - if a utmp file exists at the same location and is more than
 251 dnl# a day newer, then dump the utmpx.  People leave lots of junk around.
 252 AC_CACHE_CHECK(where utmpx is located, path_utmpx,
 253 [AC_RUN_IFELSE([AC_LANG_SOURCE([[#include <stdio.h>
 254 #include <stdlib.h>
 255 #include <sys/types.h>
 256 #include <utmpx.h>
 257 #include <errno.h>
 258 #include <sys/stat.h>
 259 #ifdef HAVE_STRING_H
 260 #include <string.h>
 261 #endif
 262 main()
 263 {
 264     char **u, *p, *utmplist[] = {
 265 #ifdef UTMPX_FILE
 266         UTMPX_FILE,
 267 #endif
 268 #ifdef _PATH_UTMPX
 269         _PATH_UTMPX,
 270 #endif
 271     "/var/adm/utmpx", "/etc/utmpx", NULL };
 272     FILE *a, *f=fopen("conftestval", "w");
 273     struct stat statu, statux;
 274     if (!f) exit(1);
 275     for (u = utmplist; *u; u++) {
 276         if ((a = fopen(*u, "r")) != NULL || errno == EACCES) {
 277             if (stat(*u, &statux) < 0)
 278                 continue;
 279             p = strdup(*u);
 280             p[strlen(p) - 1] = '\0';
 281             if (stat(p, &statu) >= 0
 282                 && (statu.st_mtime - statux.st_mtime > 86400))
 283                 continue;
 284             fprintf(f, "%s\n", *u);
 285             exit(0);
 286         }
 287     }
 288     exit(0);
 289 }]])],[path_utmpx=`cat conftestval`],[path_utmpx=],[dnl
 290   AC_MSG_WARN(Define UTMPX_FILE in config.h manually)])])
 291 if test x$path_utmpx != x; then
 292   AC_DEFINE_UNQUOTED(UTMPX_FILE, "$path_utmpx", Define location of utmpx)
 293 fi
 294
 295 dnl# --------------------------------------------------------------------------
 296
 297 dnl# find wtmp
 298 AC_CACHE_CHECK(where wtmp is located, path_wtmp,
 299 [AC_RUN_IFELSE([AC_LANG_SOURCE([[#include <stdio.h>
 300 #include <stdlib.h>
 301 #include <sys/types.h>
 302 #ifdef HAVE_UTMP_H
 303 #include <utmp.h>
 304 #endif
 305 #include <errno.h>
 306 main()
 307 {
 308     char **w, *wtmplist[] = {
 309     "/var/log/wtmp", "/var/adm/wtmp", "/etc/wtmp", "/usr/etc/wtmp", "/usr/adm/wtmp", NULL };
 310     FILE *a, *f=fopen("conftestval", "w");
 311     if (!f) exit(1);
 312 #ifdef WTMP_FILE
 313     fprintf(f, "%s\n", WTMP_FILE);
 314     exit(0);
 315 #endif
 316 #ifdef _PATH_WTMP
 317     fprintf(f, "%s\n", _PATH_WTMP);
 318     exit(0);
 319 #endif
 320     for (w = wtmplist; *w; w++) {
 321         if ((a = fopen(*w, "r")) != NULL || errno == EACCES) {
 322             fprintf(f, "%s\n", *w);
 323             exit(0);
 324         }
 325     }
 326     exit(0);
 327 }]])],[path_wtmp=`cat conftestval`],[path_wtmp=],[dnl
 328   AC_MSG_WARN(Define WTMP_FILE in config.h manually)])])
 329 if test x$path_wtmp != x; then
 330   AC_DEFINE_UNQUOTED(WTMP_FILE, "$path_wtmp", Define location of wtmp)
 331 fi
 332 dnl# --------------------------------------------------------------------------
 333
 334 dnl# find wtmpx
 335 AC_CACHE_CHECK(where wtmpx is located, path_wtmpx,
 336 [AC_RUN_IFELSE([AC_LANG_SOURCE([[#include <stdio.h>
 337 #include <stdlib.h>
 338 #ifdef HAVE_UTMPX_H
 339 #include <utmpx.h>
 340 #endif
 341 #include <errno.h>
 342 main()
 343 {
 344     char **w, *wtmplist[] = {
 345     "/var/log/wtmpx", "/var/adm/wtmpx", NULL };
 346     FILE *a, *f=fopen("conftestval", "w");
 347     if (!f) exit(1);
 348 #ifdef WTMPX_FILE
 349     fprintf(f, "%s\n", WTMPX_FILE);
 350     exit(0);
 351 #endif
 352 #ifdef _PATH_WTMPX
 353     fprintf(f, "%s\n", _PATH_WTMPX);
 354     exit(0);
 355 #endif
 356     for (w = wtmplist; *w; w++) {
 357         if ((a = fopen(*w, "r")) != NULL || errno == EACCES) {
 358             fprintf(f, "%s\n", *w);
 359             exit(0);
 360         }
 361     }
 362     exit(0);
 363 }]])],[path_wtmpx=`cat conftestval`],[path_wtmpx=],[dnl
 364   AC_MSG_WARN(Define WTMPX_FILE in config.h manually)])])
 365 if test x$path_wtmpx != x; then
 366   AC_DEFINE_UNQUOTED(WTMPX_FILE, "$path_wtmpx", Define location of wtmpx)
 367 fi
 368 dnl# --------------------------------------------------------------------------
 369
 370 dnl# find lastlog
 371 AC_CACHE_CHECK(where lastlog is located, path_lastlog,
 372 [AC_RUN_IFELSE([AC_LANG_SOURCE([[#include <stdio.h>
 373 #include <stdlib.h>
 374 #include <sys/types.h>
 375 #ifdef HAVE_UTMPX_H
 376 #include <utmpx.h>
 377 #elif defined(HAVE_UTMP_H)
 378 #include <utmp.h>
 379 #endif
 380 #ifdef HAVE_LASTLOG_H
 381 #include <lastlog.h>
 382 #endif
 383 #include <errno.h>
 384 main()
 385 {
 386     char **w, *lastloglist[] = { "/var/log/lastlog", NULL };
 387     FILE *a, *f=fopen("conftestval", "w");
 388     if (!f) exit(1);
 389 #ifdef LASTLOG_FILE
 390     fprintf(f, "%s\n", LASTLOG_FILE);
 391     exit(0);
 392 #endif
 393 #ifdef _PATH_LASTLOG
 394     fprintf(f, "%s\n", _PATH_LASTLOG);
 395     exit(0);
 396 #endif
 397     for (w = lastloglist; *w; w++) {
 398         if ((a = fopen(*w, "r")) != NULL || errno == EACCES) {
 399             fprintf(f, "%s\n", *w);
 400             exit(0);
 401         }
 402     }
 403     exit(0);
 404 }]])],[path_lastlog=`cat conftestval`],[path_lastlog=],[dnl
 405   AC_MSG_WARN(Define LASTLOG_FILE in config.h manually)])])
 406 if test x$path_lastlog != x; then
 407   AC_DEFINE_UNQUOTED(LASTLOG_FILE, "$path_lastlog", Define location of lastlog)
 408   if test -d "$path_lastlog"; then
 409     AC_DEFINE(LASTLOG_IS_DIR, 1, Define if lastlog is provided via a directory)
 410   fi
 411 fi
 412 dnl# --------------------------------------------------------------------------
 413
 414 dnl# find lastlogx
 415 AC_CACHE_CHECK(where lastlogx is located, path_lastlogx,
 416 [AC_RUN_IFELSE([AC_LANG_SOURCE([[#include <stdio.h>
 417 #include <stdlib.h>
 418 #ifdef HAVE_UTMPX_H
 419 #include <utmpx.h>
 420 #endif
 421 #include <errno.h>
 422 main()
 423 {
 424     char **w, *wtmplist[] = { "/var/log/lastlogx", "/var/adm/lastlogx", NULL };
 425     FILE *a, *f=fopen("conftestval", "w");
 426     if (!f) exit(1);
 427 #ifdef LASTLOGX_FILE
 428     fprintf(f, "%s\n", LASTLOGX_FILE);
 429     exit(0);
 430 #endif
 431 #ifdef _PATH_LASTLOGX
 432     fprintf(f, "%s\n", _PATH_LASTLOGX);
 433     exit(0);
 434 #endif
 435     for (w = wtmplist; *w; w++) {
 436         if ((a = fopen(*w, "r")) != NULL || errno == EACCES) {
 437             fprintf(f, "%s\n", *w);
 438             exit(0);
 439         }
 440     }
 441     exit(0);
 442 }]])],[path_lastlogx=`cat conftestval`],[path_lastlogx=],[dnl
 443   AC_MSG_WARN(Define LASTLOGX_FILE in config.h manually)])])
 444 if test x$path_lastlogx != x; then
 445   AC_DEFINE_UNQUOTED(LASTLOGX_FILE, "$path_lastlogx", Define location of lastlogx)
 446 fi
 447 ])
 448
 449 AC_DEFUN([SCM_RIGHTS_CHECK],
 450 [
 451 AC_CACHE_CHECK(for unix-compliant filehandle passing ability, can_pass_fds,
 452 [AC_TRY_LINK([
 453 #include <cstddef> // broken bsds (is that redundant?) need this
 454 #include <sys/types.h>
 455 #include <sys/socket.h>
 456 #include <sys/uio.h>
 457 ],[
 458 {
 459   msghdr msg;
 460   iovec iov;
 461   char buf [100];
 462   char data = 0;
 463
 464   iov.iov_base = &data;
 465   iov.iov_len  = 1;
 466
 467   msg.msg_iov        = &iov;
 468   msg.msg_iovlen     = 1;
 469   msg.msg_control    = buf;
 470   msg.msg_controllen = sizeof buf;
 471
 472   cmsghdr *cmsg = CMSG_FIRSTHDR (&msg);
 473   cmsg->cmsg_level = SOL_SOCKET;
 474   cmsg->cmsg_type  = SCM_RIGHTS;
 475   cmsg->cmsg_len   = 100;
 476
 477   *(int *)CMSG_DATA (cmsg) = 5;
 478
 479   return sendmsg (3, &msg, 0);
 480 }
 481 ],[can_pass_fds=yes],[can_pass_fds=no])])
 482 if test x$can_pass_fds = xyes; then
 483    AC_DEFINE(HAVE_UNIX_FDPASS, 1, Define if sys/socket.h defines the necessary macros/functions for file handle passing)
 484 else
 485    AC_MSG_ERROR([libptytty requires unix-compliant filehandle passing ability])
 486 fi
 487 ])
 488
 489 AC_DEFUN([TTY_GROUP_CHECK],
 490 [
 491 AC_CACHE_CHECK([for tty group], tty_group,
 492 [AC_TRY_RUN([
 493 #include <sys/types.h>
 494 #include <sys/stat.h>
 495 #include <unistd.h>
 496 #include <grp.h>
 497
 498 main()
 499 {
 500   struct stat st;
 501   struct group *gr;
 502   char *tty;
 503   gr = getgrnam("tty");
 504   tty = ttyname(0);
 505   if (gr != 0
 506       && tty != 0
 507       && (stat(tty, &st)) == 0
 508       && st.st_gid == gr->gr_gid)
 509     return 0;
 510   else
 511     return 1;
 512 }],
 513 [tty_group=yes],[tty_group=no],[tty_group=no])])
 514 if test x$tty_group = xyes; then
 515   AC_DEFINE(TTY_GID_SUPPORT, 1, "")
 516 fi])
 517