Merge remote branch 'crater/master' into vkernel64

kernel - Turn on vfs.cache_mpsafe by default

* Change the vfs.cache_mpsafe default from 0 to 1.

kernel - vm - Change inactive target to 1/4 memory instead of 1/2 memory.

tools - Add scripts for snapshot generation.

NFS - Remove debugging kprintfs

* Remove the "Warning: NFS/rddirplus, UNABLE TO ENTER..." debugging
  kprintf.

HAMMER VFS - Fix another low memory deadlock issue

* Unlock the cursor around calls to vm_wait_nominal() to avoid deadlocking
  while holding shared node locks.

* Add vm_test_nominal() which returns TRUE if vm_wait_nominal() would
  block.

Reported-by: Francois Tigeot <ftigeot@wolfpond.org>

vkernel64 - Add missing bits from later kernel work in the main tree

* Add missing virtual kernel intercept in 64-bit real kernel trap.c code.

* Add td_ucred caching to userenter() in vkernel64 trap.c code.

* Set PG_RW, PG_U, PG_V in pcb_cr3.  It is unclear whether these
  are necessary.

* Remove debugging.

vkernel64 - Ignore spurious trap during fast system call, enable some debugging

vkernel - Fix the vfs.root.mountfrom for the vkernel test code

* This parameter is not yet used by the vkernel but fix it anyway.

vkernel64 - Cleanup, unbreak 32 bit

* Remove stdio cruft from init_main.c

* Change vpte_t from 64-bits to u_long, so it will be 32 bits
  on 32 bit machines and 64 bits on 64 bit machines.  32 bit
  machines can't handle the address space breakdown or issue
  atomic ops on 64 bit quantities.

  Adjust various defines in sys/vkernel.h to accomodate both
  cases.

* Adjust atomic ops used by vm/vm_fault.c for virtual page
  table access (int -> long).

* Adjust atomic ops and types used by the 32 bit
  platform/vkernel code, primarily (int -> long) and
  also some vm_offset_t's which are really vm_paddr_t's
  or vpte_t's.

* Adjust src/test/vkernel/Makefile to run properly on
  a 32 or 64 bit system.

Merge remote branch 'crater/master' into vkernel64

conj.3: Mention conjl.

nrelease - Fix ordering dependency during parallel buildkernel (try 2)

* Further adjustments to the .ORDER: to try to fix the header file
  race.

newvers - further shorten branch name in vers.txt

* Adjust vers.txt to generate a shortern branch name

  DEVELOPMENT -> DEV
  RELEASE -> REL

kernel - Change the vfs.vm_cycle_point default from 23 to 40

* Large volumes of filesystem activity can cause a lot of data cycling
  to occur and we generally want this cycling to occur within the inactive
  queue where it doesn't push-out idle but strategic pages related to
  resident programs in the active queue.

  A larger vm_cycle_point value will tend to cause VM pages related to
  released buffer cache buffers to be cycled back into the inactive queue,
  leaving the pages in the active queue alone.  A smaller vm_cycle_point
  value will move the more often-used buffer cache buffer pages to the
  active queue when the buffer is released.

* Unfortunately there are typically a lot of VM pages related to resident
  programs such as xterms and databases which can remain idle for long
  periods of time.  Excessive cycling of buffer cache pages to the
  active queue can cause these long-idle pages to be pushed out to
  swap and/or freed.

  This results in an annoyance when these processes go active again,
  particular ssh, xterm, and other interactive programs.  These are
  not necessarily going to perform badly once the pages are paged back
  in, however.

* It has been found that certain large-scale scans of the filesystem such
  as the HAMMER reblocker and overnight cron jobs could push active pages
  out unnecessarily.  Raising vfs.vm_cycle_point to 40 essentially fixes
  this problem but at the cost of potentially starving the 'file cache'
  for data sets which would otherwise fit into memory (and for which the
  sysop might desire to fit into memory).  So YMMV.

Testing-by: Francois Tigeot <ftigeot@wolfpond.org>

nrelease - Fix ordering dependency during parallel buildkernel

* Make sure aicasm_gram.h is generated before the aicasm_scan.l
  dependency.  aicasm_scan.c is generated from aicasm_scan.l and
  depends on aicasm_gram.h.

  Not quite sure if this ORDER directive is correct.

Merge branch 'master' of ssh://crater.dragonflybsd.org/repository/git/dragonfly

nrelease - Add dummy fetch target for x86_64

* Ensure the fetch target is valid regardless of the architecture

Sync zoneinfo database with tz{code,data}2010f from elsie.

antarctica:     8.7  -> 8.8
asia:           8.55 -> 8.56
australasia:    8.16 -> 8.17
zone.tab:       8.33 -> 8.34
zic.8:          8.4  -> 8.6

* antarctica: Changes to Australian stations.

* asia: Change Syria DST start from last Friday in March to first Friday
  in April in 2010 and forward.

* australasia: Correct 2010 Samoa DST start date.

* zone.tab: Add Antarctica/Macquarie.

* zic.8: Add material on case, abbreviations, and use of English.

nrelease - Unconditionally rm -rf /usr/release/root

* rm -rf /usr/release/root even for quick nrelease builds to prevent
  stuff from an img build getting into an iso build.

buildkernel - generate vers.txt file

* Generate a file containing a conveninent descriptive version string
  for the kernel build.

libm: Hook cprojl.c into build.

Reported-by: swildner@

Clean up some specfs remains.

syscons(4): Remove (unused) scgfbrndr.c.

syscons(4): Base renderer selection on the new mode's memory model.

Remove the hack that was initializing the renderer's functions
after switching.

vkernel64: Additional adjustments (amd64 -> x86_64, recent commits etc.).

amd64: Fixes for the vkernel.

amd64: Pass correct address to signal handlers.

/dev/klog: Ensure correct results in computation.
The 64-bit vkernel blows up without this change, unlike the pc64 kernel.

vkernel64: Add a warning when KERNBASE is used.
Uses of KERNBASE in the vkernel should be reviewed.

vkernel64: Fix the way syscalls are passed to the vkernel.

vkernel64: Add bug workaround.

amd64: Add kernel support for 64-bit virtual page tables.
WARNING: This change removes support for 32-bit vpagetables.

amd64: Move declaration of npxdna().
Helps the vkernel.

amd64: Update some header files for the vkernel.

Add platform vkernel64.

amd64: Move some kernel files.
Helps building of vkernel.

wbsio: support W83627UHG (0xa2); supported by lm(4) as W83627DHG (0xc1)

http://www.nuvoton.com/NR/rdonlyres/05612BFF-6F4B-48F8-9A19-85251648EE63/0/W83627UHG.pdf

wbsio(4): support W83627DHG-P (0xb0); hw mon supported by lm(4) as W83627DHG (0xc1)

http://www.nuvoton.com/NR/rdonlyres/7E862DA6-DFBD-4FAC-A2E0-D549FF86663C/0/W83627DHGP_W83627DHGPT.pdf

wbsio(4): support W83687THF (0x85); hw mon is already supported by lm(4) as W83627THF (0x90)

http://lists.lm-sensors.org/pipermail/lm-sensors/2006-January/014974.html
http://fxr.watson.org/fxr/source/drivers/hwmon/w83627hf.c?v=linux-2.6
(no datasheet available)

HAMMER VFS - frontload kmalloc()'s when rebalancing

* The rebalancing code must allocate upwards of 16MB of memory to hold
  copies of B-Tree nodes (~64*64*4K).  This is enough to blow out the
  emergency memory reserve used by the pageout daemon and deadlock the
  system in low memory situations.

* Refactor the allocations.  Allocate all the memory up-front so no
  major allocations occur while nodes in the B-Tree are held locked.

* There are probably other cases where this may become a problem.  With
  UFS it wasn't an issue because flushing a file was fairly unsophisticated.
  But with HAMMER certain aspects of the flush require B-Tree lookups and
  can't be dumbed down to a simple raw disk write.

  The rebalancing code was the most aggregious abuser of kernel memory
  though and that should now be fixed.

Reported-by: Francois Tigeot <ftigeot@wolfpond.org>

Some more cleanup after the addition of lightweight buffers.

Remove NSFBUFS and kern.ipc.nsfbufs remains.

Add a nullfs manual page (adapted from FreeBSD).

Put 4 more kernel files under -Werror (fix x86_64 warnings).

Fix LINT kernel build.

kernel - Include headers declaring vm_page_t in lwbuf headers

This commit unbreaks buildworld on i386.

Reported-by: Jan Lentfer

lwbuf.9: Add MLINKS and perform some cleanup.

kernel - lwbuf SLIST safety

* Add critical sections around modifications to lwbuf SLIST in globaldata

* Cache globaldata pointer to reduce generated code

Spotted-by: Venkatesh Srinivas

kernel - Introduce lightweight buffers

 * Summary:
   The lightweight buffer (lwbuf) subsystem is effectively a reimplementation
   of the sfbuf (sendfile buffers) implementation. It was designed to be
   lighter weight than the sfbuf implementation when possible, on x86_64
   we use the DMAP and the implementation is -very- simple. It was also
   designed to be more SMP friendly.

 * Replace all consumption of sfbuf with lwbuf

 * Refactor sfbuf to act as an external refcount mechanism for sendfile(2),
   this will probably go away eventually as well.

wbsio(4): be less verbose if the device doesn't look like a wbsio device

wbsio(4): be more verbose for unsupported devices if loaded as a module or if bootverbose

wbsio(4) && lm(4): add support for `kldload lm.ko wbsio.ko`

kernel - devfs - Fix memory leak in devfs_destroy_device_node()

* M_TEMP is used by devfs to allocate temporary PATH_MAX buffers

* devfs had a memory leak in a particular failure case, fix it.
  This is likely the reported problem.

Reported-by: John Marino <john@marino.st>

aps(4): make the aps module, aps.ko, work as well as the in-kernel device

wbsio(4): support W83667HG (0xa5); its hw mon is already supported by lm(4) as W83627DHG (0xc1)

kern_{get,set}sockopt - invalid value check

* Check for sopt_val != NULL && sopt_valsize == 0 and return EINVAL in
  this case, or else an assert will be triggered and the kernel will
  panic.

Dragonfly-bug: http://bugs.dragonflybsd.org/issue1696

HAMMER VFS - Cleanup recovery kprintfs a bit

* Minor formatting cleanups.

vmstat - update for changes in nch structure

* Adjust for changes in the namei / path lookup statistics structure

linux emu - fix some signalling mess

* This fixes sigaction in the linux emu, which broke times03 and
  possibly also part of java (and who knows, maybe flash?)

Merge branch 'master' of ssh://crater.dragonflybsd.org/repository/git/dragonfly

kernel - Fix kernel memory leak in devfs disk_probe()

* kfree() the old slices structure after installing a new one.

* Do a minor refactoring of dsgone().

* Possibly fixes a kernel memory leak generated by kde's CD probing.
Reported-by: Pierre Abbat <phma@phma.optus.nu>

linux emu - fix exit status on exit_group

* Previously, the exit status was set incorrectly; the exit signal was
  being set instead with the supposed exit status.

systat - break out read and write I/O activity, change namecache statistics

* Add additional rows to break the I/O statistics into separate read and
  write stats (something I've always wanted systat to do).

* Rework the namecache statistics.  Primarily show whole path lookups
  stats instead of component lookups, and then also print the average
  number of components.

kernel - rework struct nchstats for systat

* Remove ncs_long, ncs_pass2 and ncs_2passes and replace with
  ncs_longhits, ncs_longmiss, and ncs_unused (so the structure
  size does not change).

  The new longhits/longmiss statistics are for whole path
  lookups.

libdevstat - Add compute_stats_read() and compute_stats_write()

* Add versions of compute_stats() which separate out the read and
  write activity.

HAMMER VFS - Fix an edge case in hammer_inode_waitreclaims()

* Detached inodes can build up in the flusher, causing iqueued/reclaiming
  to increase.  hammer_inode_waitreclaims() is designed to slow down
  the processes responsible (typically a rm -rf) to prevent the backlog
  from blowing out kernel memory.

* hammer_inode_waitreclaims() had a bug where a new pid entry was not
  being placed in the hash table such that it would be properly found
  by the chaining.  Fix this case.

* This fixes an issue where a simultanious rm -rf and (typically) two or
  more directory iterations via ls or find over hundreds of thousands or
  millions of files could cause the number of detached inodes to increase
  in an unbounded fashion.

pmap: Warning -> Debug

This message does not concern the system administrator,
try not to get them worried for no reason.

linux emu - fix bug in futex

* when resetting the fault handler in futex_orl - futex_tail, reset ecx
  to the right value.

kern_synch - unbreak UP build

* recent work on allowing volatile idents for tsleep and wakeup broke UP
  build.

linux emu - fix MP bug related to TLS

* all TLS functions were passing out or assuming the wrong value to load
  into gs. As a matter of fact, this should be the same for SMP and UP,
  but just in case keep the old code in #if 0's.

linprocfs - fix multi-CPU stat & cpuinfo

* Add multiprocessor support to /proc/stat and /proc/cpuinfo, as the
  sysconf() function uses these to find the total number of CPUs in the
  system.

build - Fix ordering to avoid -j  race

* The mkdir -p must complete prior to any source file copies.

kernel - change tsleep related idents to const volatile void *

* There's no reason why pointers to const or volatiles can't be passed
  as the ident, and HAMMER does that now in some cases, so adjust the
  prototypes for *sleep() and *wakeup() to accomodate them.

* Also make thread->td_wchan const volatile void *

linux emu - iron out bugs

* mmap: make sure that PROT_READ is not set if PROT_NONE is specified.

* sysinfo: Updata sysinfo to the new structure used since linux
  2.3.something.

Merge branch 'master' of ssh://crater.dragonflybsd.org/repository/git/dragonfly

HAMMER VFS - Hack cursor iterator when locked cursor moved to parent

* A cursor is also moved to its parent normally when deleting the last
  element in a node and that node is then destroyed.

Reported-by: YONETANI Tomokazu <qhwt+dfly@les.ath.cx>

HAMMER VFS - Major retooling of the refcount mechanics, and fix a deadlock

* Add an interlock to hammer_lock->refs which is independent of
  hammer_lock->lockval.

* Retool the refcount mechanics to integrate the interlock on 0->1 and
  1->0 transitions.

  In addition implement a check bit to deal with serialization races
  between threads which forces all threads to interlock.  This deals
  with the case where one thread bumps the refcount (lock->refs) but
  is unable to immediateliy acquire the interlock.  Other threads doing
  the same thing will race and lock->refs will be bumped far higher
  than 1.  The check bit is set on the 0->1 transition and enforces
  all threads to serialize until one (usually the first to acquire the
  lock) is able to dispose of the check condition.

  The transition interlocks are used to do I/O loading and validation
  on the 0->N transition and I/O unloading and invalidation on the 1->0
  transition.

* The new integrated mechanics also simplify hammer_io's handling of
  B_LOCKED slightly and properly interlocks changes in disposition for
  the related buffer cache buffer against refcount transitions.

* The new integrated refcount/interlock is also more optimal as the
  combined operation can be done in a single atomic_cmpset_int() call,
  and fully MPSAFE.  Even though other major portions of HAMMER are not
  yet MPSAFE getting this particular bit dealt with will ease MP work
  later on.

* Retool the volume, buffer, and node referencing code to use the new
  mechanics.  This fixes a deadlock.  These routines were previously
  acquiring an exclusive lock instead of an interlock.  The exclusive
  lock could combine with shared locks held by the same thread to create
  a deadlock situation against other threads.

  Use of the interlock fixes this particular deadlock.

Reported-by: Francois Tigeot <ftigeot@wolfpond.org> (deadlock report)

fetch.9: Minor fixes.

fetch.9 - document casuword

nlookup.9 - document nlookup_init_root

vfs_synth - rewrite

* Rewrite the whole vfs_synth mess to be compatible with devfs. Now we
  create a synthetic mountpoint and mount devfs on it. We then just
  nlookup() whatever device we need on that mountpoint.

* This also fixes vinum rootmount. To use vinum as a root,
  vfs.root.mountfrom in /boot/loader.conf has to be set to
  "<fs>:vinum/vinumroot" where <fs> can be ufs or hammer.

Reported-by: Rumko, tuxillo
Dragonfly-bug: http://bugs.dragonflybsd.org/issue1565

nlookup - introduce nlookup_init_root

* nlookup_init_root is similar to nlookup_init_raw, but does not assume
  rootnch is set already, but rather has one more parameter which
  specifies the root nch.

hammer.8: Fix list.

Adjust some more to the recent groff 1.20.1 import.

* Dx is now a built in macro, so remove our local definition. But the
  version supplied with groff still doesn't work correctly due to a
  missing register declaration in doc-common. Fix that locally for now
  (patch sent upstream).

* Sync various definitions (standards, operating systems) with doc-common
  and doc-syms, i.e. remove our local definitions where they are part of
  groff now.

HAMMER VFS - Hack cursor iterator when unlocked cursor moved to parent

* It is possible to reverse-index a cursor while it is unlocked due to
  a node deletion moving cursors on that node to the parent, and a
  subsequent insertion then inserting new elements between the cursor's
  current position and its expected iteration range.

* Detect the case with a new flag (hack!) HAMMER_CURSOR_ITERATE_CHECK
  and just iterate past the elements outside the iteration range in
  this case.

Reported-by: YONETANI Tomokazu <qhwt+dfly@les.ath.cx>

mdoc: Add NetBSD 6.0 (used in wbsio.4).

Actually hook powernow.4 into the build.

linprocfs - Introduce /proc/mounts

* Introudce the /proc/mounts entry to satisfy some installers, and df.

* NOTE: if you intend to chroot into the linux base, you'll have to
  change your /compat/linux/etc/mtab symlink to point to /proc/mounts
  instead. Also note that the paths are not relative to the linux
  chroot.

Reported-by: Sascha Wildner

Fix LINT build.

linux emulation - Major update

* Major update to all components of the linux emulation layer
  (linuxulator) and linprocfs.

* Many old system calls have been overhauled and new ones added.

* Tested with java 1.6.18, apache tomcat 6, opera, Acrobat Reader, ...

* NOTE: Flash doesn't work yet, and I haven't been able to figure out
  why. I'll continue my work on the linuxulator part time now, and
  hopefully eventually fix the issue(s).
  Some parts of this have been taken from FreeBSD and NetBSD.
  Overall the new stuff isn't as well organized as it should be; most of
  the new defines are in linux.h as I didn't bother splitting it up into
  independent headers.
  Once we plan on porting the linuxulator to amd64, this has to be taken
  care of, so especially machine independent bits are broken out of the
  machine dependent sys/emulation/linux/i386.

procfs - Use newly introduced textnch

* Use the newly introduced p_textnch instead of p_textvp to find the
  path to the .text file for each proc entry in /proc.

linux emu - peripheral changes

* These are peripheral changes to prepare for the import of the updated
  linuxulator:

* hooks (eventhandler) for process creation and process exit.

* splitting up of sys_kevent into sys_kevent + kern_kevent, including
  generic copyiin and copyout functions.
  Obtained-from: FreeBSD

* adding a p_textnch to store the namecache handle for the .text file.

* minor changes to sysv_sem and sysv_shm to support linux-specific
  magic.

* bring in casuword (compare and set userland word)
  Obtained-from: FreeBSD

* add a hook for userret from syscall2
Inspired-by: NetBSD

kernel - AHCI - enable AHCI device initiated power management

* Add hw.ahci sysctls to allow the power management state to be set and
  monitored.

* Issue device features command when aggressive power management is
  enabled to turn on device-initiated power management, and turn it off
  when power management is set to none.

* Currently does not try do power management for devices behind a
  PM.

Submitted-by: Johannes Hofmann <johannes.hofmann@gmx.de>

fstat - Fix path construction for "wd".

* Fix path construction for "wd", the wrong mount pointer was being used.

Reported-by: Alex Hornung <ahornung@gmail.com>

kernel - fix procfs vm_map scan.

* procfs was holding a vm_map lock during a uiomove, which can result
  in a recursive lock panic on the vm_map.

* since we must now unlock the map during the uiomove use a trick with
  vm_map->hint to detect if the current entry has been ripped out from
  under us and issue a lookup to reacquire our position in the scan.

Reported-by: "Alex Hornung" <ahornung@gmail.com>

Sync zoneinfo database with tzdata2010e from elsie.

asia:           8.54 -> 8.55

Fixes a bug with the rules for Bangladesh introduced in 8.54.

kernel - Restore ability to thaw checkpoints

  * Catch up with changes to imgact_elf.c

Sync zoneinfo database with tzdata2010d from elsie.

asia:           8.51 -> 8.54
australasia:    8.15 -> 8.16
southamerica:   8.41 -> 8.43

* Adjust start and end of Bangladesh DST.

* Fiji ends DST about a month early.

* Samoa DST postponed to 2010.

* Chile exceptionally extends DST to April 3 this year due to the earthquake.

wbsio(4): don't reuse a child that has already been attached

wbsio(4): convert to Newbus and DragonFly -- welcome wbsio(4)!

* New wbsio(4) driver for Winbond Super I/O attachment of lm(4) on any port.