Make pthread types visible via sys/types.h to conform SUSv3.

Move declarations of pthread related types to the _pthreadtypes.h and
include it from sys/types.h. pthread.h should do the same, but as it
includes the sys/types.h anyway at the moment, don't touch it yet.

Inspired-by: FreeBSD

Cleanup systimer.h

- Remove never implemented systimer_changed() declaration
- Move comment to the proper place

installer: Fix amd64 warning.

installer: Remove some dead code and raise WARNS to 2.

Add a vkernel test environment build

Create a vkernel test environment build directory in /usr/src/test/vkernel
with a Makefile which does all the dirty work required to build a vkernel
environment.

vkernel - Fix races in stopsig() and ipisig().

stopsig() needed a critical section and ipisig() needed to adjust
intr_nesting_level within a critical section.

Use the new cothread_delete() API in vke_stop().

Fix a memory and pthread leak, and a panic in VKE by using the new
cothread_delete() API to properly delete the thread and deregister the
interrupt.

Add cothread_delete() to the vkernel cothread API.

vknetd - add features, allow ip to be set in unsecure mode, allow addr 0.

Allow an IP address/mask to be specified whether in secure mode or not,
and allow packets with a source address of 0.0.0.0 to pass in secure mode,
so dhclient/bootp works.

vkernel now autoprobes vkd0s1a as well as vkd0s0a to locate the root fs.

Fix bug in recent commit - fcntl(... O_ASYNC) on tty's got broke.

The pass-through fo_ioctl() call was being used with the old async state
instead of the new one.  This primarily effects tty's as most other devices
just use the async state stored in the file pointer.

Reported-by: YONETANI Tomokazu <qhwt+dfly@les.ath.cx>

Merge branch 'master' of ssh://crater.dragonflybsd.org/repository/git/dragonfly

Fix a simple code bug when dealing with a raced vnode in hammer_get_vnode().

Reported-by: Francois Tigeot <ftigeot@wolfpond.org>

Put WARNS?=6 in usr.sbin/Makefile.inc (like in usr.bin/ etc.).

Raise WARNS as high as possible for the utilities that still warn
with 6.

ipfilter(8): Include <sys/dirent.h> instead of <sys/dir.h>.

if_vke: Convert from kqueue API to cothread API.

This work is the first step in cleaning up the vkernel timer interrupt
code.

Reviewed-By: dillon

sys_wait4(): Use uap->sysmsg_result when calling kern_wait().

Fix chunking type to match expected pointer type.  Needed for amd64.

Add missing vnconfig -u fixing a build error when doing a make from scratch.

Add missing call to sysctl_ctx_init(), fixing a boot-time panic.

gcc-4.1: correctly generate libstdc++ gthr.h headers

The libstdc++ headers changed the names of their macro symbols since
gcc 3.4.  This was missed when introducing gcc 4.1.  Update the generation
rules to match those of the libstdc++ include/Makefile.am.

Reported-by: hasso@

Enable lapic timer by default.

Approved-by: dillon@

Remove lapic_timer_test

resident(1): Fix i386 warning (introduced when fixing amd64 warnings).

window(1): Sync with NetBSD (which is cleaner than FreeBSD's).

Raise WARNS to 6.

Use nq version of systimer_init_periodic() when initialize interrupt
livelock avoidance systimer.

The bug revealed itself as long time looping in the systimer_intr():
The one shot timer interrupt handler is prevented from running for
some time probably due to heavy interrupt load, and livelock avoidance
systimer is setup using high frequency (40000Hz by default).  If non-nq
version of systimer was used, then the main loop of systimer_intr()
would try to keep running and reloading this systimer until the
accumulated time caught up with the saved sys_cputimer count.

Debug information provided by Jordan Gordeev <jgordeev@dir.bg>, he also
helped to locate the systimer cause the long time looping.

Tested-by: Jordan Gordeev <jgordeev@dir.bg>
Approved-by: dillon@

amd64: pmap: sync pmap_kmem_choose() with FreeBSD.

vga(4): Fix truncation of 64-bit addresses.
From FreeBSD revision 115253.

amd64: first steps towards 64-bit pmap
remove 32-bit amd64 pmap
replace with work-in-progress 64-bit pmap

Merge branch 'master' of ssh://crater.dragonflybsd.org/repository/git/dragonfly

amd64: Fix several "sizeof(size_t) != sizeof(int)" bugs.
The compiler warned about them.

amd64: varsym: increase varsym set size limit
The previous limit was hit during a normal boot.

systat(1): Add "vmmeter" command to show per-cpu statistics

Expose per-cpu vmmeter through vm.cpuX.vmmeter

Count inter-processor and LAPIC timer interrupts

Oops fix crunchgen path.

installer: Rename fn_subpart.c to fn_subpart_ufs.c.

zic(8) & zdump(8): Raise WARNS to 2 and silence a warning.

timed(8): Set WARNS from timed/Makefile.inc for all subdirs.

tcpdump(1): Raise WARNS to 2.

nscd(8): Raise WARNS to 2.

mrouted(8): Raise WARNS to 1 and fix two warnings.

lpr(1): Connect filters.ru/ to the parent Makefile.inc and fix 2 warnings.

usr.sbin/i4b: Remove #warning about ncurses deficiency and raise WARNS to 1.

crunchgen and friends install to /usr/bin, so move here.

crunch: Raise WARNS to 1.

Raise some WARNS in usr.sbin/.

lint(1): Set WARNS from xlint/Makefile.inc for all subdirs.

tip(1): Set WARNS from tip/Makefile.inc for all subdirs and fix a warning.

locate(1): Set WARNS from locate/Makefile.inc for all subdirs.

lex(1): Make WARNS cover libl too.

installer: ../Makefile.inc is included via bsd.init.mk, no need to repeat.

Sync fetch(1) with FreeBSD.

Sync libfetch(3) with FreeBSD.

bsd-family-tree: Sync with FreeBSD

smp.4: List the SMP options in the SYNOPSIS.

malloc.3: Add missing section in .Xr.

installer: Set WARNS to 1 for now.

installer: def_capacity is not used, remove it.

installer: Remove some unused defines.

pkgsrc.7: Reference pkgsrc-wip's sourceforge URL

pkgsrc.7: mention /usr/Makefile

Sync the aac(4) manual page with FreeBSD RELENG_6_2.

Unfortunately, the FreeBSD CVS IDs were not updated in Peter's most
recent code sync with FreeBSD. Neither was the manual page. Having
to research which state the code is in afterwards in order to choose
the correct manual page is a pain, so don't blame me if it doesn't
match the driver's current state in DragonFly 100%. :-)

Reported-by: Archimedes Gaviola <archimedes.gaviola@gmail.com>

Switch one shot timer, if user allows C3 state to be entered.

Snooping systimer left time and using one shot timer sleep/wake reloading
during C3 state transition does not achieve maximum powersaving effect...

Removing debugging kprintf() in PTE race check.

After-testing-by: trevorjk

Merge branch 'master' of ssh://crater.dragonflybsd.org/repository/git/dragonfly

Add sanity check: Assert (gd_spinlocks_wr > 0) prior to decrementing it.

Submitted-by: Antonio Huete Jimenez <ahuete.devel@gmail.com>

Merge branch 'master' of git://chlamydia.fs.ei.tum.de/dragonfly

kill a bit of dead code in nfs

Roll DragonFly 2.3.1

Replace Debugger() entry with a kprintf().

Reported-by: trevorjk

Merge branch 'master' of ssh://crater.dragonflybsd.org/repository/git/dragonfly

Fix O_NOFOLLOW and do not follow softlinks if O_EXCL.

A bug in sys_open() set NLC_FOLLOW bit for the nlookup() call unconditionally.
Removing the setting allows vn_open() to properly set NLC_FOLLOW conditionally
when both O_EXCL and O_NOFOLLOW are not set.

HAMMER VFS - Limit recursion for long directory chains, update mtime/ctime

A long chain of directory dependencies can blow out the kernel stack.  Limit
the recursion to 20 levels.  If the depth is exceeded the flushing of the
deep inodes is delayed until the higher dependencies are taken care of.

Update mtime/ctime accordingly based on the fstest stress test from FreeBSD.
Note however that we cannot update the ctime on directories for file creates,
renames, and deletes within the directory without rolling a new inode,
which is too expensive to do for that situation.  We can, and do, update the
mtime.

fstest regression fixes - POSIX error codes.

Deal with most of the issues found by FreeBSD's fstest regression test:
    * Limit path components to 255 characters.  Return ENAMETOOLONG if
      the limit is exceeded.

    * Return EEXIST, EINVAL, and ENOTEMPTY as appropriate when the user
      attempts to create, delete, or rename "." or "..", instead of EINVAL.

    * Return EISDIR if an attempt is made to open a directory for writing,
      instead of EINVAL.

    * Return EACCES if an attempt is made to open a file O_TRUNC without
      O_RDWR or O_WRONLY, instead of silently dropping the O_TRUNC.

    * Implement O_NOFOLLOW semantics generally instead of just with O_EXCL.

Not dealt with:
    * DragonFly clears SGID AND SUID on uid or gid change, if not root.
      If root is doing the operation SGID/SUID is not cleared.

    * HAMMER cannot modify the ctime without rolling a new inode, which
      is very expensive, and does not do so when entries are added or
      removed from a directory.  mtime is modified.

ncal: specify month with -m month argument

Ncal only supports specification of a month together with a year, which is
silly.  Using the -m argument, you can now specify a month in the current
year.

Obtained-from:  FreeBSD

ncal: interpret a `.' as current year

There doesn't seem to be an easy way to refer to the current year, for
instance if I wanted to show the calendar of this year's June.  Now
there is:  ncal 6 .

ncal: always generate full lines to enable today hilight in year view

Ncal would only fill lines up to the last day in a month and use a printf
padding later to align all output nicely (when using year view).  This
breaks when using a hilight, because the ANSI sequences consume additional
characters which are of zero print width.  Instead of letting printf do
the padding, generate padded lines ourselves.

Also avoid code duplication in the hilight code and switch on hilighting
for the year view.

ncal: hilight current day

This lets ncal and cal hilight the current day in the month view, if its
output is connected to a terminal.  The year view can not yet use
highlighting.

Obtained-from: FreeBSD

Allow USCHED_DEL_CPU for non-superuser processes

HAMMER VFS - Refactor merged search function to try to avoid missed entries

Refactor the merged B-Tree + In-Memory search function to try to avoid races
where an in-memory record is flushed to the media during a search, causing
the search to miss the record.

Add another flag to hammer_record_t to indicate that the record was deleted
because it was committed to the media (verses simply being deleted).

Better-separate HAMMER_RECF_DELETED_FE and HAMMER_RECF_DELETED_BE.  These
flags indicate whether the frontend or backend deleted an in-memory record.
The backend ignores frontend deletions that occur after the record has been
associated with a flush group.

Remove some console Warnings that are no longer applicable.

Merge branch 'master' of ssh://crater.dragonflybsd.org/repository/git/dragonfly

Add kernel-layer support for chflags checks, remove (most) from the VFS layer.

Give nlookup() and nlookup_va() the tools to do nearly all chflags related
activities.  Here are the rules:

Immutable (uchg, schg)

    If set on a directory no files associated with the directory may
    be created, deleted, linked, or renamed.  In addition, any files open()ed
    via the directory will be immutable whether they are flagged that
    way or not.

    If set on a file or directory the file or directory may not be
    written to, chmodded, chowned, chgrped, or renamed.  The file can
    still be hardlinked and the file/directory can still be chflagged.
    If you do not wish the file to be linkable then set the immutable bit
    on all directories containing a link of the file.  Once you form
    this closure no further links will be possible.

    NOTE ON REASONING:  Security scripts should check link counts anyway,
    depending on a file flag which can be changed as a replacement for
    checking the link count is stupid.  If you are secure then your closures
    will hold.  If you aren't then nothing will save you.

    This feature is not recursive.  If the directory contains
    subdirectories they must be flagged immutable as well.

Undeletable (uunlnk, sunlnk)

    If set on a file or directory that file or directory cannot be removed
    or renamed.  The file can still otherwise be manipulated, linked, and
    so forth.  However, it should be noted that any hardlinks you create
    will also not be deletable :-)

    If set on a directory this flag has no effect on the contents
    of the directory (yet).  See APPEND-ONLY on directories for what
    you want.

Append-only (uappnd/sappnd)

    If set on a directory no file within the directory may be deleted or
    renamed.  However, new files may be created in the directory and
    the files in the directory can be modified or hardlinked without
    restriction.

    If set on a file the file cannot be truncated, random-written, or
    deleted.  It CAN be chmoded, chowned, renamed, and appended to
    with O_APPEND etc.

    If you do not wish the file to be renameable then you must also
    set the Undeletable flag.  Setting the append-only flag will ensure
    that the file doesn't disappear from the filesystem, but does not
    prevent it from being moved about the filesystem.

Security fix - futimes()

    futimes() could be called on any open descriptor.  Restrict
    it to just those files you own or have write permission on.

Security fix - Hardlinks

    Users can no longer hardlink foreign-owned files which they do not
    have write access to.  The user must now have write permission on
    the file being hardlinked or the user must own the file, or be root.

Security fix - fcntl()

    fcntl() can no longer be used to turn of O_APPEND mode if the file
    was flagged append-only.

NOTE - DIFFERENCES WITH FREEBSD

    * Append-only on directories

    * Immutable on directories to control set-in-stone & hardlinking

    * Immutable files can be hardlinked on DragonFly, not on FreeBSD.

    * User must be the owner of the file or have write access to the
      file being hardlinked.

document kvm_open*() support for live vkernels

doscmd(1): Still warnings with -DNO_X. Take back WARNS to 1 for now.

teach libkvm about vkernels

Add support for accessing a running vkernel's memory by
reading its /proc/$pid/mem file.

Add tunable to _not_ register i8254 interrupt if lapic timer is used.

Make dev.cpu.X.cx_usage sysctl also report current average of sleep time.

Rework a CPU C-state selection logic a bit.

Avoid comparing negative signed to positive unsignad values. It was
leading to a bug, when C-state does not decrease on sleep shorter then
declared transition latency. Fixing this deprecates workaround for broken
C-states on some hardware.

By the way, change state selecting logic a bit. Instead of last sleep
time use short-time average of it. Global interrupts rate in system is a
quite random value, to corellate subsequent sleeps so directly.

Obtained-from: FreeBSD

Move the code to update cpu_cx_count out of acpi_cpu_generic_cx_probe().

Put it into acpi_cpu_startup() which is where all the other code to update
this global variable lives.  This fixes a bug where cpu_cx_count was not
updated correctly if acpi_cpu_generic_cx_probe() returned early.

Obtained-from: FreeBSD

acpi_cpu: fixup for PIIX4E PCI config related to C2.

If you have seen
cpu0: too many short sleeps, backing off to C1
with this chipset before you may want to try cx_lowest of C2 again.

Obtained-from: FreeBSD

Merge branch 'master' of ssh://crater.dragonflybsd.org/repository/git/dragonfly

The kernel permissions check code was not checking deletability for
the rename source or the directory sticky bit for rename targets which
existed.

This only effected HAMMER which assumes the kernel is responsible for
permissions checks.

Reported-by: YONETANI Tomokazu <qhwt+dfly@les.ath.cx>

nanosleep: don't overwrite error with copyout success status

When nanosleep gets interrupted, it returns EINTR.  In the case of a
non-zero error status, sys_nanosleep will copyout() the remaining sleep
time.  However it would overwrite the nanosleep error status with the
error status of copyout() -- which is 0 (success) most of the time.  This
means the important error status of nanosleep (EINTR) would be overwritten
by 0.  Follow FreeBSD and NetBSD and only return the copyout status if it
failed.

Reported-by: walt

installer: Sync ASCII Fred with loader menu pic.

installer: Move the installer from contrib/ to usr.sbin/.

Fix trailing whitespace while I'm doing it.

acpi: Select proper one shot timer based on CPUs' C3 state.

Allow one shot timer to be switched on a running system between i8254 and
lapic timer:

- Always register "clk" interrupt.
- Add cputimer_intr_switch(), which could switch one shot timer between
  i8254 and lapic timer on a running system.  It could be used to select
  a proper one shot timer duing ACPI C3 transition:
  e.g. ->C3 use i8254, C3-> use lapic timer
- Add sysctl node hw.cputimer_intr_type to test cputimer_intr_switch().

hpet: Veto Sx state transition, if hpet is the sys_cputimer, since
hpet is not required to function under S1-S5.  Add comment about
the reference to the related hpet standard items.

lapic timer: Improve lapic timer vector code

- Check for a non-zero td->td_nest_count before allowing the processing
  to occur.  Mainly to allow interrupt thread preemption to work for
  slow interrupts
- Increment V_INTR statistic, so vm.stats.sys.v_intr shows correct value,
  i.e. 'Int' field in systat -vm

Submitted-by: dillon@