mandoc(1): Update to 1.9.19.

For a full list of changes, see <http://mdocml.bsd.lv/ChangeLog.html>.

Thanks-to: Kristaps Dzonsons

HAMMER VFS - Conditionalize debugging kprintfs during recovery

* Conditionalize debug kprintfs on bootverbose during REDO recovery.

nrelease: replace cvsup with pkgsrc/net/csup

Also mention net/csup and devel/cvsync in README file.

HAMMER VFS - Remove some debugging

* Remove print_backtrace() call in hammer_cursor_moved_element() which
  can cause x86_64 to panic.

HAMMER - Update hammer.8 documentation.  Document the fsync modes.

HAMMER VFS - Implement REDO recovery code

* Implement the primary REDO recovery mechanics and document the whole mess.
  REDO recovery essentially works using an expanded UNDO/REDO FIFO range.

  The nominal UNDO range, required for running UNDOs, is calculated first.
  If a REDO_SYNC record is found within this range the record specifies
  the expanded FIFO start offset required to run REDOs.  This is necessary
  because the inodes related to REDOs layed down in the FIFO are not
  necessarily flush in the next flush sequence, so the recovery code may
  have to scan the UNDO/REDO FIFO backwards considerably beyond the nominal
  recovery ranged required to run UNDOs in order to find active REDOs.

  When a REDO_SYNC record is found the recovery code expands the range
  by scanning backwards and validating the UNDO/REDO FIFO as it goes.
  It must make sure that the sequence space remains contiguous all the
  back to the REDO_SYNC point.

  While doing the reverse scan the recovery code collects REDO_TERM_*
  records which are used to mask earlier REDO_* records once their
  meta-data has been flushed.  Only TERM records in the expanded range
  that are outside the nominal UNDO range matter.  Any TERM records in
  the nominal UNDO range refer to meta-data which was undone by the
  stage1 UNDO recovery and so must be ignored (we want to run the
  related REDOs).

  The recovery code then does a forward scan through the entire expanded
  range of the UNDO/REDO FIFO executing any REDO_* records it finds
  which have not been masked by later REDO_TERM_* records.  It executes
  the REDOs using the live filesystem.

* Expand the REDO FIFO structure, I had forgotten to add a localization
  field, otherwise HAMMER doesn't know which PFS the REDO is refering to.

* Umount was improperly flushing the FIFO to the disk for read-only mounts.
  Fix it.

* The recovery code now detects whether any REDOs are present by the
  observation of a REDO_SYNC record in the nominal UNDO recovery range.
  It will not run stage2 (the REDO pass) if it does not see this record.

* Properly generate a REDO_SYNC record in the UNDO space when generating
  only REDOs, as well as UNDOs.  HAMMER was previously only generating
  the REDO_SYNC record when generating UNDOs.

* Generate a REDO_TRUNC record during a file flush if any records were
  previously queued with REDO, even if those records no longer exist
  (e.g. due to a truncation) and even if REDO is now turned off due to
  redo heuristic limits being exceeded.

  This is necessary in order for the recovery code to properly sequence
  REDOs and TRUNCations during recovery.

* For now be very verbose during redo recovery.

* Make sure that mount -o ro and mount -u -o rw work properly.  The
  stage2 REDO cannot be run on a read-only mount because it requires a
  live filesystem.  The operations are defered until the mount is
  upgraded to rw.

cpdup - Fix bug where cpdup sometimes does not remove files on target

* Fix a bug introduced in a recent commit which caused cpdup to sometimes
  not remove files on the target which were removed from the source.

Submitted-by: Oliver Fromme <check+kzu4p100rs0rfx01@fromme.com>

initdiskless - Handle cpio archives in accordance with the comments.

Match cpio archive handling with what is indicated in the comments
Don't bother using gzip since cpio can handle gzipped archives.

Submitted-By: Rumko
Issue: 1568

nrelease - leftover from transition to building from pkgsrc tree

the conditional is always true as PKGSRC_BOOTSTRAP_KIT is defined in nowhere.

linux - Allow for maps to be read in chunks

linux - Add syscalls

* Stub out a number of syscalls using the DUMMY macro

* Add a preliminary implementation of pipe2

remove several leftover debug kprintfs

Reported-by: Rumko

vn_fullpath.9 - Document new guess feature

linprocfs - further fix /proc/{pid}/maps

* Change to use sbufs instead of ksprintf and don't copy out to userland
  until done parsing maps.

* Avoid using EFBIG, since linux programs don't understand it.

* Make use of the new vn_fullpath guessing so that it is likely that we
  get the right path.

* Fix a bug when fullpath was NULL.

Reported-by: Samuel J. Greear

cache_fullpath - Guess mountpoints if requested

* cache_fullpath (and vn_fullpath) now take an extra parameter, guess,
  which, if != 0, makes cache_fullpath look for a matching mp if an ncp
  flagged as a mountpoint is found while traversing upwards.
  This fixes uses of *_fullpath when no nch is provided, but only a vp.

* Change all consumers of cache_fullpath and vn_fullpath to accomodate
  for the extra parameter.

Suggested-by: Matthew Dillon

Merge remote branch 'crater/master' into vkernel64

kernel - Turn on vfs.cache_mpsafe by default

* Change the vfs.cache_mpsafe default from 0 to 1.

kernel - vm - Change inactive target to 1/4 memory instead of 1/2 memory.

tools - Add scripts for snapshot generation.

NFS - Remove debugging kprintfs

* Remove the "Warning: NFS/rddirplus, UNABLE TO ENTER..." debugging
  kprintf.

HAMMER VFS - Fix another low memory deadlock issue

* Unlock the cursor around calls to vm_wait_nominal() to avoid deadlocking
  while holding shared node locks.

* Add vm_test_nominal() which returns TRUE if vm_wait_nominal() would
  block.

Reported-by: Francois Tigeot <ftigeot@wolfpond.org>

vkernel64 - Add missing bits from later kernel work in the main tree

* Add missing virtual kernel intercept in 64-bit real kernel trap.c code.

* Add td_ucred caching to userenter() in vkernel64 trap.c code.

* Set PG_RW, PG_U, PG_V in pcb_cr3.  It is unclear whether these
  are necessary.

* Remove debugging.

vkernel64 - Ignore spurious trap during fast system call, enable some debugging

vkernel - Fix the vfs.root.mountfrom for the vkernel test code

* This parameter is not yet used by the vkernel but fix it anyway.

vkernel64 - Cleanup, unbreak 32 bit

* Remove stdio cruft from init_main.c

* Change vpte_t from 64-bits to u_long, so it will be 32 bits
  on 32 bit machines and 64 bits on 64 bit machines.  32 bit
  machines can't handle the address space breakdown or issue
  atomic ops on 64 bit quantities.

  Adjust various defines in sys/vkernel.h to accomodate both
  cases.

* Adjust atomic ops used by vm/vm_fault.c for virtual page
  table access (int -> long).

* Adjust atomic ops and types used by the 32 bit
  platform/vkernel code, primarily (int -> long) and
  also some vm_offset_t's which are really vm_paddr_t's
  or vpte_t's.

* Adjust src/test/vkernel/Makefile to run properly on
  a 32 or 64 bit system.

Merge remote branch 'crater/master' into vkernel64

conj.3: Mention conjl.

nrelease - Fix ordering dependency during parallel buildkernel (try 2)

* Further adjustments to the .ORDER: to try to fix the header file
  race.

newvers - further shorten branch name in vers.txt

* Adjust vers.txt to generate a shortern branch name

  DEVELOPMENT -> DEV
  RELEASE -> REL

kernel - Change the vfs.vm_cycle_point default from 23 to 40

* Large volumes of filesystem activity can cause a lot of data cycling
  to occur and we generally want this cycling to occur within the inactive
  queue where it doesn't push-out idle but strategic pages related to
  resident programs in the active queue.

  A larger vm_cycle_point value will tend to cause VM pages related to
  released buffer cache buffers to be cycled back into the inactive queue,
  leaving the pages in the active queue alone.  A smaller vm_cycle_point
  value will move the more often-used buffer cache buffer pages to the
  active queue when the buffer is released.

* Unfortunately there are typically a lot of VM pages related to resident
  programs such as xterms and databases which can remain idle for long
  periods of time.  Excessive cycling of buffer cache pages to the
  active queue can cause these long-idle pages to be pushed out to
  swap and/or freed.

  This results in an annoyance when these processes go active again,
  particular ssh, xterm, and other interactive programs.  These are
  not necessarily going to perform badly once the pages are paged back
  in, however.

* It has been found that certain large-scale scans of the filesystem such
  as the HAMMER reblocker and overnight cron jobs could push active pages
  out unnecessarily.  Raising vfs.vm_cycle_point to 40 essentially fixes
  this problem but at the cost of potentially starving the 'file cache'
  for data sets which would otherwise fit into memory (and for which the
  sysop might desire to fit into memory).  So YMMV.

Testing-by: Francois Tigeot <ftigeot@wolfpond.org>

nrelease - Fix ordering dependency during parallel buildkernel

* Make sure aicasm_gram.h is generated before the aicasm_scan.l
  dependency.  aicasm_scan.c is generated from aicasm_scan.l and
  depends on aicasm_gram.h.

  Not quite sure if this ORDER directive is correct.

Merge branch 'master' of ssh://crater.dragonflybsd.org/repository/git/dragonfly

nrelease - Add dummy fetch target for x86_64

* Ensure the fetch target is valid regardless of the architecture

Sync zoneinfo database with tz{code,data}2010f from elsie.

antarctica:     8.7  -> 8.8
asia:           8.55 -> 8.56
australasia:    8.16 -> 8.17
zone.tab:       8.33 -> 8.34
zic.8:          8.4  -> 8.6

* antarctica: Changes to Australian stations.

* asia: Change Syria DST start from last Friday in March to first Friday
  in April in 2010 and forward.

* australasia: Correct 2010 Samoa DST start date.

* zone.tab: Add Antarctica/Macquarie.

* zic.8: Add material on case, abbreviations, and use of English.

nrelease - Unconditionally rm -rf /usr/release/root

* rm -rf /usr/release/root even for quick nrelease builds to prevent
  stuff from an img build getting into an iso build.

buildkernel - generate vers.txt file

* Generate a file containing a conveninent descriptive version string
  for the kernel build.

libm: Hook cprojl.c into build.

Reported-by: swildner@

Clean up some specfs remains.

syscons(4): Remove (unused) scgfbrndr.c.

syscons(4): Base renderer selection on the new mode's memory model.

Remove the hack that was initializing the renderer's functions
after switching.

vkernel64: Additional adjustments (amd64 -> x86_64, recent commits etc.).

amd64: Fixes for the vkernel.

amd64: Pass correct address to signal handlers.

/dev/klog: Ensure correct results in computation.
The 64-bit vkernel blows up without this change, unlike the pc64 kernel.

vkernel64: Add a warning when KERNBASE is used.
Uses of KERNBASE in the vkernel should be reviewed.

vkernel64: Fix the way syscalls are passed to the vkernel.

vkernel64: Add bug workaround.

amd64: Add kernel support for 64-bit virtual page tables.
WARNING: This change removes support for 32-bit vpagetables.

amd64: Move declaration of npxdna().
Helps the vkernel.

amd64: Update some header files for the vkernel.

Add platform vkernel64.

amd64: Move some kernel files.
Helps building of vkernel.

wbsio: support W83627UHG (0xa2); supported by lm(4) as W83627DHG (0xc1)

http://www.nuvoton.com/NR/rdonlyres/05612BFF-6F4B-48F8-9A19-85251648EE63/0/W83627UHG.pdf

wbsio(4): support W83627DHG-P (0xb0); hw mon supported by lm(4) as W83627DHG (0xc1)

http://www.nuvoton.com/NR/rdonlyres/7E862DA6-DFBD-4FAC-A2E0-D549FF86663C/0/W83627DHGP_W83627DHGPT.pdf

wbsio(4): support W83687THF (0x85); hw mon is already supported by lm(4) as W83627THF (0x90)

http://lists.lm-sensors.org/pipermail/lm-sensors/2006-January/014974.html
http://fxr.watson.org/fxr/source/drivers/hwmon/w83627hf.c?v=linux-2.6
(no datasheet available)

HAMMER VFS - frontload kmalloc()'s when rebalancing

* The rebalancing code must allocate upwards of 16MB of memory to hold
  copies of B-Tree nodes (~64*64*4K).  This is enough to blow out the
  emergency memory reserve used by the pageout daemon and deadlock the
  system in low memory situations.

* Refactor the allocations.  Allocate all the memory up-front so no
  major allocations occur while nodes in the B-Tree are held locked.

* There are probably other cases where this may become a problem.  With
  UFS it wasn't an issue because flushing a file was fairly unsophisticated.
  But with HAMMER certain aspects of the flush require B-Tree lookups and
  can't be dumbed down to a simple raw disk write.

  The rebalancing code was the most aggregious abuser of kernel memory
  though and that should now be fixed.

Reported-by: Francois Tigeot <ftigeot@wolfpond.org>

Some more cleanup after the addition of lightweight buffers.

Remove NSFBUFS and kern.ipc.nsfbufs remains.

Add a nullfs manual page (adapted from FreeBSD).

Put 4 more kernel files under -Werror (fix x86_64 warnings).

Fix LINT kernel build.

kernel - Include headers declaring vm_page_t in lwbuf headers

This commit unbreaks buildworld on i386.

Reported-by: Jan Lentfer

lwbuf.9: Add MLINKS and perform some cleanup.

kernel - lwbuf SLIST safety

* Add critical sections around modifications to lwbuf SLIST in globaldata

* Cache globaldata pointer to reduce generated code

Spotted-by: Venkatesh Srinivas

kernel - Introduce lightweight buffers

 * Summary:
   The lightweight buffer (lwbuf) subsystem is effectively a reimplementation
   of the sfbuf (sendfile buffers) implementation. It was designed to be
   lighter weight than the sfbuf implementation when possible, on x86_64
   we use the DMAP and the implementation is -very- simple. It was also
   designed to be more SMP friendly.

 * Replace all consumption of sfbuf with lwbuf

 * Refactor sfbuf to act as an external refcount mechanism for sendfile(2),
   this will probably go away eventually as well.

wbsio(4): be less verbose if the device doesn't look like a wbsio device

wbsio(4): be more verbose for unsupported devices if loaded as a module or if bootverbose

wbsio(4) && lm(4): add support for `kldload lm.ko wbsio.ko`

kernel - devfs - Fix memory leak in devfs_destroy_device_node()

* M_TEMP is used by devfs to allocate temporary PATH_MAX buffers

* devfs had a memory leak in a particular failure case, fix it.
  This is likely the reported problem.

Reported-by: John Marino <john@marino.st>

aps(4): make the aps module, aps.ko, work as well as the in-kernel device

wbsio(4): support W83667HG (0xa5); its hw mon is already supported by lm(4) as W83627DHG (0xc1)

kern_{get,set}sockopt - invalid value check

* Check for sopt_val != NULL && sopt_valsize == 0 and return EINVAL in
  this case, or else an assert will be triggered and the kernel will
  panic.

Dragonfly-bug: http://bugs.dragonflybsd.org/issue1696

HAMMER VFS - Cleanup recovery kprintfs a bit

* Minor formatting cleanups.

vmstat - update for changes in nch structure

* Adjust for changes in the namei / path lookup statistics structure

linux emu - fix some signalling mess

* This fixes sigaction in the linux emu, which broke times03 and
  possibly also part of java (and who knows, maybe flash?)

Merge branch 'master' of ssh://crater.dragonflybsd.org/repository/git/dragonfly

kernel - Fix kernel memory leak in devfs disk_probe()

* kfree() the old slices structure after installing a new one.

* Do a minor refactoring of dsgone().

* Possibly fixes a kernel memory leak generated by kde's CD probing.
Reported-by: Pierre Abbat <phma@phma.optus.nu>

linux emu - fix exit status on exit_group

* Previously, the exit status was set incorrectly; the exit signal was
  being set instead with the supposed exit status.

systat - break out read and write I/O activity, change namecache statistics

* Add additional rows to break the I/O statistics into separate read and
  write stats (something I've always wanted systat to do).

* Rework the namecache statistics.  Primarily show whole path lookups
  stats instead of component lookups, and then also print the average
  number of components.

kernel - rework struct nchstats for systat

* Remove ncs_long, ncs_pass2 and ncs_2passes and replace with
  ncs_longhits, ncs_longmiss, and ncs_unused (so the structure
  size does not change).

  The new longhits/longmiss statistics are for whole path
  lookups.

libdevstat - Add compute_stats_read() and compute_stats_write()

* Add versions of compute_stats() which separate out the read and
  write activity.

HAMMER VFS - Fix an edge case in hammer_inode_waitreclaims()

* Detached inodes can build up in the flusher, causing iqueued/reclaiming
  to increase.  hammer_inode_waitreclaims() is designed to slow down
  the processes responsible (typically a rm -rf) to prevent the backlog
  from blowing out kernel memory.

* hammer_inode_waitreclaims() had a bug where a new pid entry was not
  being placed in the hash table such that it would be properly found
  by the chaining.  Fix this case.

* This fixes an issue where a simultanious rm -rf and (typically) two or
  more directory iterations via ls or find over hundreds of thousands or
  millions of files could cause the number of detached inodes to increase
  in an unbounded fashion.

pmap: Warning -> Debug

This message does not concern the system administrator,
try not to get them worried for no reason.

linux emu - fix bug in futex

* when resetting the fault handler in futex_orl - futex_tail, reset ecx
  to the right value.

kern_synch - unbreak UP build

* recent work on allowing volatile idents for tsleep and wakeup broke UP
  build.

linux emu - fix MP bug related to TLS

* all TLS functions were passing out or assuming the wrong value to load
  into gs. As a matter of fact, this should be the same for SMP and UP,
  but just in case keep the old code in #if 0's.

linprocfs - fix multi-CPU stat & cpuinfo

* Add multiprocessor support to /proc/stat and /proc/cpuinfo, as the
  sysconf() function uses these to find the total number of CPUs in the
  system.

build - Fix ordering to avoid -j  race

* The mkdir -p must complete prior to any source file copies.

kernel - change tsleep related idents to const volatile void *

* There's no reason why pointers to const or volatiles can't be passed
  as the ident, and HAMMER does that now in some cases, so adjust the
  prototypes for *sleep() and *wakeup() to accomodate them.

* Also make thread->td_wchan const volatile void *

linux emu - iron out bugs

* mmap: make sure that PROT_READ is not set if PROT_NONE is specified.

* sysinfo: Updata sysinfo to the new structure used since linux
  2.3.something.

Merge branch 'master' of ssh://crater.dragonflybsd.org/repository/git/dragonfly

HAMMER VFS - Hack cursor iterator when locked cursor moved to parent

* A cursor is also moved to its parent normally when deleting the last
  element in a node and that node is then destroyed.

Reported-by: YONETANI Tomokazu <qhwt+dfly@les.ath.cx>

HAMMER VFS - Major retooling of the refcount mechanics, and fix a deadlock

* Add an interlock to hammer_lock->refs which is independent of
  hammer_lock->lockval.

* Retool the refcount mechanics to integrate the interlock on 0->1 and
  1->0 transitions.

  In addition implement a check bit to deal with serialization races
  between threads which forces all threads to interlock.  This deals
  with the case where one thread bumps the refcount (lock->refs) but
  is unable to immediateliy acquire the interlock.  Other threads doing
  the same thing will race and lock->refs will be bumped far higher
  than 1.  The check bit is set on the 0->1 transition and enforces
  all threads to serialize until one (usually the first to acquire the
  lock) is able to dispose of the check condition.

  The transition interlocks are used to do I/O loading and validation
  on the 0->N transition and I/O unloading and invalidation on the 1->0
  transition.

* The new integrated mechanics also simplify hammer_io's handling of
  B_LOCKED slightly and properly interlocks changes in disposition for
  the related buffer cache buffer against refcount transitions.

* The new integrated refcount/interlock is also more optimal as the
  combined operation can be done in a single atomic_cmpset_int() call,
  and fully MPSAFE.  Even though other major portions of HAMMER are not
  yet MPSAFE getting this particular bit dealt with will ease MP work
  later on.

* Retool the volume, buffer, and node referencing code to use the new
  mechanics.  This fixes a deadlock.  These routines were previously
  acquiring an exclusive lock instead of an interlock.  The exclusive
  lock could combine with shared locks held by the same thread to create
  a deadlock situation against other threads.

  Use of the interlock fixes this particular deadlock.

Reported-by: Francois Tigeot <ftigeot@wolfpond.org> (deadlock report)

fetch.9: Minor fixes.

fetch.9 - document casuword

nlookup.9 - document nlookup_init_root

vfs_synth - rewrite

* Rewrite the whole vfs_synth mess to be compatible with devfs. Now we
  create a synthetic mountpoint and mount devfs on it. We then just
  nlookup() whatever device we need on that mountpoint.

* This also fixes vinum rootmount. To use vinum as a root,
  vfs.root.mountfrom in /boot/loader.conf has to be set to
  "<fs>:vinum/vinumroot" where <fs> can be ufs or hammer.

Reported-by: Rumko, tuxillo
Dragonfly-bug: http://bugs.dragonflybsd.org/issue1565

nlookup - introduce nlookup_init_root

* nlookup_init_root is similar to nlookup_init_raw, but does not assume
  rootnch is set already, but rather has one more parameter which
  specifies the root nch.

hammer.8: Fix list.

Adjust some more to the recent groff 1.20.1 import.

* Dx is now a built in macro, so remove our local definition. But the
  version supplied with groff still doesn't work correctly due to a
  missing register declaration in doc-common. Fix that locally for now
  (patch sent upstream).

* Sync various definitions (standards, operating systems) with doc-common
  and doc-syms, i.e. remove our local definitions where they are part of
  groff now.

HAMMER VFS - Hack cursor iterator when unlocked cursor moved to parent

* It is possible to reverse-index a cursor while it is unlocked due to
  a node deletion moving cursors on that node to the parent, and a
  subsequent insertion then inserting new elements between the cursor's
  current position and its expected iteration range.

* Detect the case with a new flag (hack!) HAMMER_CURSOR_ITERATE_CHECK
  and just iterate past the elements outside the iteration range in
  this case.

Reported-by: YONETANI Tomokazu <qhwt+dfly@les.ath.cx>