unbreak 4 LC categories

My regular expression was wrong and all the comments were not getting
stripped.  This broke LC_MONETARY, LC_NUMERIC, LC_MESSAGES, and
LC_TIMEDEF.  Fix cldr2def tool and regenerate makefiles.

gdb: Fix quickworld failure.

xml-builtin.c couldn't be regenerated via 'quickworld' because the
feature_to_c.sh script refuses to overwrite it if it does already
exist.

strcoll(1): Fix named locale case where conversion fails

When strcoll is used with a locale other than C/POSIX, it uses the
mbsrtowcs_l(1) function which can alter the src pointer upon failure.
If that happens in the current implementation of strcoll, a null pointer
is send to strcmp (resulting in wrong answer) and it will change the s
or s2 argument of strcoll(1), which is not behavior expected by the POSIX
standard.

Using a copy of the s and s2 arguments prevents this situation.  Note that
Illumos, which which the source came, still has this vulnerability.

Reported by: Romick (YRabbit) on IRC

locales: create short names for the 9 new base locales

locales: Fix pt_BR.ISO8859-15, remove UTF-8

The pt_BR.ISO8859-15 locale was not properly defined because it's
directory was not pre-created (fixed now).  The UTF-8 CTYPE is no longer
used (every locale explicitly is accounted for) so let's remove it.

The Brazilian locale won't always be fixed under quickworld, it will
require a full build in some cases.

sys/vfs/hammer: Fix potential wrong error message

It's not always because of volume not empty.

sys/vfs/hammer: Minor optimization on layer1/2 iteration

Layer1 and layer2 metadata are clustered in each big-block,
so use different buffers for layer1 and layer2 to prevent
unnecessary buffer release/get. This is what newfs_hammer
does on bootstrap in userspace and this function basically
does the same thing via ioctl.

sys/vfs/hammer: Add test_free_callback()

Add test_free_callback() and remove dry run code from
free_callback() which has been used for both testing
and actual ondisk modification. It makes free_callback()
more simple and clearer with no flag and null-checks
that were necessary to make it work for both purposes.

sbin/mount_hammer: Fix error messages

It's possible that open(2) and signature check do not fail
but mount(2) still fails possibly because of fs's bug.
When that happens (it actually did happen right now) fdevs
remains with no valid string strcatted. Add an error message
for such case.

Also change printf(); to fprintf(stderr);.

sbin/mount_hammer: Fix upper limit of volume num

(ac - 1) is for the command arg which is in blkdevs format.
info.nvolumes is the number of volumes after dissecting blkdevs format.

sys/vfs/hammer: Fix wrong function name in kprintf

sys/vfs/hammer: Add cond to kprintf("\n"); on volume-del

Should print \n only when count>=5 otherwise it generates
a blank line in dmesg.

sys/vfs/hammer: Fix comment on localization

Add missing tid.

drm/i915: experimental adapter->name to sc->name patch

drm/i915: use drm_asprintf() in ivybridge_parity_work

  Useless kmalloc/kfree but useful to test drm_asprintf() itself

drm: add connector/encoder name creation

  This implements name creation using drm_asprintf() helper function.
  For now skip "adapter->name".

drm: init unused_nodes list for drm/ttm from FreeBSD times

drm/i915: Avoid releasing non acquired lock for eDP systems

drm/i915: Fix i915_gem_fault()

The retry loop in i915_gem_fault() was very seriously broken for EINTR
or ERETRYSYS (which is also basically EINTR)
It loops with gem mostly left locked, doesn't sleep, so it live locks a
cpu if it ever gets hit

The best solution is to disallow EINTR / ERESTARTSYS entirely.
The implementation is crazy... normal drm locks are allowed to PCATCH
and fail with EINTR.  That's just insane

Stability is better with some hacks added.  I'm unwinding all the locks,
sleeping for one tick, and then retrying.
Horrible hack but so far it works

drm/i915: Update to Linux 3.16

* Much improved support for Broadwell GPUs. Acceleration should now be fully
  operational and the giant L4 eDRAM cache is now enabled when present.

* Baytrail/Valleyview support improvements

* prelimary support for Cherryview (14nm Atom SOCs)

* Various fixes and performance improvements on most other GPU generations

* Improved runtime power management

* 5.4GHz DisplayPort support

* Large cursor support (up to 256x256 pixels), useful for high-dpi displays.

* Mapping of user pages into video memory (userptr)
  This allows zero-copy downloads and efficient readback to/from the GPU,
  allowing faster rendering of client-side software rasterisers, mitigation
  of stalls due to read back and faster pipelining of texture data (such as
  pixel buffer objects in GL or data blobs in CL). Mixed CPU/GPU operations
  become more efficient in general.

hammer - Allow PVFSROOT to have more refs when upgrading

* When upgrading a PFS from slave to master, allow the PVFSROOT
  to have refs and a vnode because the hammer pfs-upgrade command
  itself might have it open.

kernel - Disable swapcache once paniced or if dumping

* Make sure we do not attempt to read or write via the swapcache if the
  machine is paniced or has been dumped via the debugger.  This avoids
  corrupting the dump and avoids corrupting reads shortcut through the
  swapcache under these conditions.

boot - Fix gzipped initrd.img loading

* Fix tests in libstand filesystems against f_flags.  Previous tests
  were f_flags != F_READ, which does not work properly when other flags
  are present.  Change to ((f_flags & (F_READ|F_WRITE)) != F_READ).

* Skip whiteout entries in UFS.  These could lead to false positives.

Add 17 new locales and really remove Latin

Now that locale defintions are generates, it's easy to add more.
I've added the following new locale defintions:

  * en_HK ISO-8859-1  (Hong Kong/English)
  * en_HK UTF-8
  * en_PH ISO-8859-1  (Phillipines/English)
  * en_PH UTF-8
  * en_SG ISO-8859-1  (Singapore/English)
  * en_SG UTF-8
  * es_AR ISO-8859-1  (Argentina/Spanish)
  * es_AR UTF-8
  * es_CR ISO-8859-1  (Costa Rica/Spanish)
  * es_CR UTF-8
  * es_MX ISO-8859-1  (Mexico/Spanish)
  * es_MX UTF-8
  * se_FI UTF-8       (Finland/Northern Sami)
  * se_NO UTF-8       (Norway/Northern Sami)
  * sv_FI ISO-8859-1  (Finland/Swedish)
  * sv_FI ISO-8859-15
  * sv_FI UTF-8

There were a few places la_LN (Latin) was hidden so I've really
removed it now.

Remove kk_KZ.PT154 and all latin locales

Latin, strangely enough, is not covered by CLDR POSIX files.  Thus,
it is impossible to completely load the locales.  Both LC_CTYPE and
LC_COLLATE need updated files.  Thus, all version of the Latin
locales needs to go.

The kk_KZ locale just came back with the UTF-8 codeset, but there are
character maps for PT154, so it's impossible to continue to have this
locale.

locales: also update lv_LV, pt_BR and kk_KZ

These were stuck with old definitions due to the cldr2def's configure
file missing these three locales.

Activate kk_KZ, lv_LV, and pt_BR locales

These three locales already existed, but they weren't being updated.
I've adjusted the xml configuration to get them building (minus the
kk_KZ.PT154 locale which will be removed).

While here, update the tools/tools/locale Makefile to replace all
six LC categories in /usr/src/share with the "make install" target,
and then install them on a live system with "make post-install" target.

Remove obsolete mklocale directory and its old src files

Use localedef(1) to generate LC_CTYPE, switch off mklocale

Active the new share/ctypedef directory and deactivate share/mklocale.
This means the LC_CTYPE files will be generated by localedef(1) now.
As a result, remove mklocale from bootstrap tools and remove it via
"make upgrade"

libc/locale: Revamp CTYPE support (from Illumos)

The LC_CTYPE format didn't change, but libc stills needs a revamp
to properly use the new LC_CTYPE files that localedef(2) generates.

Fix cldr2def tool and regenerate 2 makefiles as a result

I accidently changed the wrong makefile so both colldef and ctype makefiles
wrong wrong.  I adjusted the tool and regenerated the makefiles.

While here, remove the unused map.UTF-8 that should have been removed
earlier but wasn't due to a git misuse.

Unbreak world

I didn't mean to update the share/colldef Makefile yet, and an
incorrect version got committed.  This should fix world.

buildworld - Fix bootstrapping from older worlds

* __returns_twice doesn't exist in older sys/cdefs.h, fix bootstrapping by
  shoehorning a default if it does not exist.

libc/locale: Replace ascii.c, it was removed too soon

I am not sure what happened, I limited the commit commit but somehow
this deleted file got included in a recent commit.  It will be removed
again shortly.

Add share/ctypedef directory (it will replace mklocale)

This directory will generate new LC_CTYPE files.  They require a
significant update to libc/locale so it is not hooked into the
build yet.  This the the produce of the clr2def tool upgrade
and the generated codeset maps at tools/tools/locale/etc/final-maps.

Pregenerate maps for LC_CTYPE generation

These are the products of the new convert_map.pl which localedef
will use to generate LC_CTYPE.  To avoid duplication, these maps
will be used where they are (in tools/tools/locale/etc/final-maps)

It turns out that the widths.txt file is only used for LC_CTYPE,
so it's being moved as well as being removed from share/colldef.

Fix three clr2def2 character maps

The localedef(1) tool does not allow two symbols to be mapped to
the same unicode character.  I actually don't know if this is really
"wrong", but I had to adjust a couple of character sets that
violated this rule: ARMSCII-8 and Big5HKSCS.  Neither are present
on Illumos so that may explain why localedef(1) wasn't prepared
to do anything except throw an error.

The CP866 charset had a trailing garbage at the end of the file that
localedef didn't like, so I removed it.

clr2def: Add LC_CTYPE source file generation support

I added the capability to generate LC_CTYPE source files (really this is
basically extracting a section from the POSIX files) but there was some
logic to figure out how to use the least amount of files because some of
them are large.

I compromised on a scheme that makes two reductions.  The first eliminates
true duplicates and uses the SAME+= mechanism to create symlinks.  However,
this leaves still some duplicates because while the output is distinct,
the source files are the same (e.g. en_US.ISO8859* uses the same input file
as en_US.UTF-8 locale, but the LC_CTYPE products differ.  The script
identifies those are replaces them with symlinks.  So it looks like a lot
of files but really it's only about 12 or so.

During the actual LC_CTYPE generating, character maps are needed.  I added
a Illumos tool to do this, which I had to modify.  Unlike Illumos, we will
pregenerate the maps that the tool (convert_map.pl) produces.  I had to
spend hours troubleshooting various "invalid" inputs so this is definitely
something that should not be repeated in the build.

Fix zh_Hans_CN.GB2312 locale

It turns out that using a commented source file for LC_* file generation
really isn't a good idea.  In the cldr2def tool's charmap.xls, the
low ASCII is transformed to the "Full width" versions, but the first
byte just happens to be "#".  Yes, that's right, the comment character.

Since all comments are either "#" or or followed by a space, I can fix
the resulting broken zh_Hans_CN.GB2312 by alterning the grep instruction.
However, if we ever have a legitimate single "#" character as input, then
this won't work anymore.

The Armenian changes are a result to a tool correction that will be
commited shortly.

kernel/dsched: Use <machine/inttypes.h>, not <inttypes.h>.

kernel/vfs_quota: Remove unneeded <inttypes.h> inclusion.

kernel: Use <sys/stdbool.h> in kernel code, not <stdbool.h>.

kernel/iscsi: Remove unneeded <signal.h> inclusion.

kernel: Use <sys/bitstring.h> instead of <bitstring.h>.

<bitstring.h>: Move it to /usr/src/sys/sys so kernel files can use it too.

To avoid using userspace headers in the kernel.

agp: Remove some debugging printfs

drm: Add linux/hashtable.h

kernel/usb4bsd: Install gadget example drivers and fix usbtest.

Taken-from: FreeBSD

kernel/usb4bsd: Set USB_HAVE_MSCTEST_DETACH and adjust include guard.

inet6: Simplify nd6_dad_ns_output() interface

inet6: Make DAD lockless MPSAFE

net: Factor out ASSERT_IN_NETISR and ASSERT_IS_NETISR

i386 removal, part 27/x: Remove i386 specific stuff from the RAID drivers.

pst(4) goes completely.

kernel: Uncomment VINUMDEBUG in LINT64. It compiles now.

kernel: Add prototypes for setjmp()/longjmp() to <sys/systm.h>.

Used by ddb and vinum. Remove the inclusion of the <setjmp.h> userspace
header.

regcomp: limit comparison to C locale only

The regex code does not work with multibyte codesets like UTF-8.  In fact,
it doesn't even work with single-byte codesets like ISO-8859-1.  The
comparison blows up at index 128 (the range is 0 to UCHAR_MAX (255).

As a temporary workaround, all comparisons will be done in C locale
regardless of the environment setting.  The regex library needs to be
updated to handle all codesets.

libc/collcmp: Fix initialization of s2

libc/regex: Sync with FreeBSD

libc/xdr: Sync xdr_sizeof.c with FreeBSD and add it to the build.

FreeBSD did so too after our last upgrade. Shouldn't hurt.

gcc50: Adjust makefiles for new file locations

gcc50: Remove generic versions of added files

These files can probably stay in place with .PATH and -I order giving
preference to "dragonfly" over "generic", but let's go ahead and just
remove them from contrib to avoid any possible confusion.

gcc50: Add proper locale support to libstdc++ (local mod)

These patches will be sent upstream soon.  DragonFly is the only BSD
with c++ local support.  The exception is "messages".  The glibc has
gettext functions incorporated to support it, but we can't used libintl
because that would require linking it to every c++ executable.

libc/calloc: Remove calloc.c, which has been unbuilt since 82949828d.

calloc() is part of nmalloc.c as well as of dmalloc.c

make upgrade: Stop removing hi_IN.UTF-8 and la_LN.UTF-8

These old upgrade entries were removing newly installed locales.

Reported-by: swildner

i386 removal, part 26/x: Remove i386 specific lib/libc/quad.

None of the platforms which lead to it being compiled into FreeBSD's
libc look too interesting, so remove it.

Also remove copies of a number of those functions residing in libkern
and stop compiling one of these files into libstand. Libstand also
has a quad.h header. Shrink it together to what is actually needed
(not much), while here.

socket: Close the soreference() race against socket owner netisr sofree()

The race is kinda like this:

    Other thread/netisrN         netisrM (so->so_pcb owner)
             :                              :
      getpooltoken(head);                   :
      so->so_head = NULL;                   :
             :                          sofree(so); (*)
      soreference(so);                      :
      relpooltoken(head);                   :

(*)
sofree(so) frees the socket, since so->so_head is NULL and
getpooltoken(head) is not called.

Reported-by: dillon@

socket: Group accept queue operations together

socket: Nuke unused so_pru_abort()

socket: Remove unused soabort()

inet6: Use M_INTWAIT for DAD record

inet6: Use static initializer to initialize DAD queue

Create 3 new locales by softlink

This creates aliases to en_US.ISO8859-1, en_US.ISO8859-15 and
ja_JP.eucJP.  These locales are valid on linux and significantly
tested by gcc's libstdc++.

While here, correct an obsolete comment.

i386 removal, part 25/x: Remove i386 parts from kgdb, libkvm, crunchide.

Add README to localedef directory (credits, licensing)

locales: Change defaults for territory-only locales

From research, it appears that the default for territory-only locales
(e.g. en_US, de_DE) is to use ISO-8859-X (where X is not 15).  The
@euro modifier is the alias for ISO-8859-15.

Since there is no apparent standard, I am going to switch the defaults
from aliasing to UTF-8 to ISO-8859 where available.  For the non-latin
character sets, I left these at UTF-8 rather than try to decide on a
different default.

Incidentally, this enables a number of gcc libstdc++ tests to pass as
well.

localedef(1): Update license of 12 source files (CDDL => BSD2)

The localdef sources were relicensed to 2-clause BSD by Illumos project
on 4 July 2014:

https://github.com/Nexenta/illumos-nexenta/commit/cf17542a37fc83d0ae093777e30d480423858c29

It was done for the benefit of the BSD community.  It is a nice gesture,
but I don't see this being much of a change.

1) The bundled avl files are still CDDL licensed, so that may spread to
   the entire program.

2) Even as CDDL, I didn't see this being an issue since localedef is
   self-contained so CDDL is limited to it.  (IANAL)

localedef(1): Better bootstrap fix

We don't need to build localedef in ctools as well as bootstrap tools.
Moreover, when I removed from bootstrap tools, it built but segfaulted
on use.  The COLL_WEIGHTS_MAX file needs to be in the header because
it affects the structure definition.  When it's moved there, the build
on older platforms will succeed.

mmap.2: Remove (now) useless BUGS section.

<sys/systm.h>: Small indent fix.

i386 removal, part 24/x: Remove i386 specific parts from NDIS.

localedef - Fix buildworld bootstrapping issue

* When running buildworld on an older system the localedef built in
  BTOOLS using /usr/include/limits.h will fail building the locales.

* Fix the problem by adding localedef to CTOOLS.

* Also fix a problem where the old limits.h defines COLL_WEIGHTS_MAX as 0
  and breaks the building of localedef itself.  Check for the case in
  collate.c.

mcast: Use M_INTWAIT for multicast addresses allocation

inet6: Use M_INTWAIT for prefix and prefix's router allocation

Suggested-by: dillon@

ifaddr: Use M_INTWAIT for ifaddr allocation

Suggested-by: dillon@

manpages - Remove obsolete info

* Remove the BUGS section describing a 2GB limit to individual mmap()
  calls.  This was a limitation on 32-bit systems but no such limit exists
  on 64-bit systems.

Reported-by: Alex Merritt

collate 4/4: Remove colldef(1) tool from base (swap bootstrap)

It cannot read the new input files and it generates v1.2 LC_COLLATE which
libc can no longer read.  There is no use left for colldef(1).

Colldef was tool required for bootstrap, so replace it with localedef.
The share/colldef makefile must be what requires this built.

collate 3/4: Bring in input files for new LC_COLLATE format

These input files use localedef(1) instead of colldef(1) to generate and
install new LC_COLLATE files.

Only UTF-8 collation will be installed.  All other codesets will symlink to
their UTF-8 counterparts. UTF-8 is the default codeset for every territory.

collate 2/4: Hook localedef to build, unhook colldef

collate 1/4: Add support for LC_COLLATE format "DragonFly 4.4" in libc

The collate functions within libc have been using version 1 and 1.2 of the
packed LC_COLLATE binary formats.  These were generated with the colldef
tool, but the new LC_COLLATE files are going to be generated by the new
localedef tool using CLDR POSIX files as input.  The DragonFly-flavored
version of localedef identifies the format as "DragonFly 4.4".  Any
LC_COLLATE file with a different version will simply not be loaded, and
all LC* categories will get set to "C" (aka "POSIX") locale.

This work is based off of Nexenta's contribution to Illumos (successor
to OpenSolaris).  The integration with xlocale is my work though.

The following commits will enable localedef tool, disable the colldef
tool, add generated colldef directory, and finally remove colldef from
base.

cldr2def: Fix colldef makefile for full buildworld

The LC_COLLATE file generation will fail with relative paths, so
use ${.CURDIR} in the makefile to fix buildworld.  Also the output
file has to include the object directory, otherwise the files are
all build in /usr/src.

buildworld - Fix stage-1 build breakage

* Conditionalize sort to not use the new isnan() function in the
  bootstrap stage where it might not exist.

libc.a: Add __isnan and __isnanf

These symbols are not present in libm (the deleted message isn't
correct). Remove the PIC check to put __isnan and __isnanf in the
static c library.  Incidentally, __isnanl is already in static
library because the PIC check was forgotten.

sbin/hammer: Use HAMMER_BUFSIZE

- Use HAMMER_BUFSIZE insteaf of 16KiB.

dirfs - Add kqueue(2) support

- Based on tmpfs work on 80ae59d743
- FIFO ops not added

sort(1): Replace NetBSD version with Free/Open version

With my ongoing collation work, I discovered our sort was not locale
sensitive, but GNU sort was.  I replaced our ancient GNU sort with
NetBSD's version about 4 years ago.  NetBSD hasn't updated that version
since.  However, FreeBSD got rid of their GNU sort fairly recently and
replaced it with another BSD-licensed version.  Four months ago, it was
imported into OpenBSD, they made some corrections which were incorporated
back in FreeBSD in the April timeframe.

This version is locale sensitive and gives the same answers as GNU sort in
my (admittedly) very limited testing.

I fixed some minor issues that GCC5 was squawking about (mainly unused
variables) and I changed the --parallel option PTHREAD_MUTEX_ADAPTIVE_NP
behavior to PTHREAD_MUTEX_ERRORCHECK (the default POSIX behavior).  DF
does not have the former flag implemented.

cldr2def: Update to generate colldef replacement directory

The new localedef tool needs extracts for CLDR POSIX localization
definition files, and it needs the UTF-8 character map along with
the width definitions (mainly for Asian monitor support).

Since the LC_COLLATE handling is fundamentally different from the
first four groups, new sections to the cldr2def tool had to be
written, thus requiring me to brush up on my perl skills.

The finalize script (which I had previously written) was modified
to copy the widths and charmap files over to the regenerated
colldef directory (a drop-in replacement for share/colldef).

Add localedef(1), a locale definition generator tool

The localedef tool can read entire (and unmodified) CLDR posix definition
files, and generate all 6 LC categories: LC_COLLATE, LC_CTYPE, LC_TIME,
LC_NUMERIC, LC_MONETARY and LC_MESSAGES.

The last 4 of those aren't needed.  We already have a tool that generates
msgdef, timedef, moneydef and numericdef.  In the immediate future,
localedef will only be used generate LC_COLLATE files in a new format.
This will render colldef files unreadable, thus colldef will be removed
when this happens.

In the future, localedef will be tasked to generate LC_CTYPE files as
well.  When that happens, the mklocale tool will be retired.

While localedef *can* read pristine POSIX files (which causes 6 files
to be generated), it will given files with only the LC_COLLATE part,
which will also have all the white space removed as well.  Remove just
the spaces can save megabytes.

This tool has a long history with Solaris [1].  The Nexenta developers
modified it to read CLDR files and created the much richer collation
formats.  The libc collation functions have to be modified to read the
new format (called "DragonFly-4.4") and to handle the new data structures.

The result will be that locale-sensitive tools and functions will now
properly sort multibyte and unicode strings.  Our "BSD" sort is not locale
sensitive, so it will probably have to be replaced with GNU sort in order
to leverage our new collation capabilities.

This can't be hooked into the build yet.  It needs the new header for
collate.c to define the data structures.  Until that happens, this is
actually unbuildable.

[1] Linux also has a tool called localdef, but I do know know if it shares
    a common history or if it uses CLDR POSIX files.  It seems to have the
    same purpose though.

inet6: No need to explicitly avoid calling ioctl(SIOCSADDR)

Rearrange the code a little bit.

inet6: Use M_WAITOK on SIOCAIFADDR_IN6 path.

Addition:
- Use M_ZERO, instead of calling bzero().
- Avoid M_ZERO, if the allocated memory is to be completely over-
  written.
- Remove unapplied comment.

route: Enhance panic message