4 years agolibc/collcmp: Fix initialization of s2
John Marino [Fri, 31 Jul 2015 11:23:18 +0000 (13:23 +0200)]
libc/collcmp: Fix initialization of s2

4 years agolibc/regex: Sync with FreeBSD
John Marino [Fri, 31 Jul 2015 10:00:55 +0000 (12:00 +0200)]
libc/regex: Sync with FreeBSD

4 years agolibc/xdr: Sync xdr_sizeof.c with FreeBSD and add it to the build. v4.3.1
Sascha Wildner [Thu, 30 Jul 2015 22:21:20 +0000 (00:21 +0200)]
libc/xdr: Sync xdr_sizeof.c with FreeBSD and add it to the build.

FreeBSD did so too after our last upgrade. Shouldn't hurt.

4 years agogcc50: Adjust makefiles for new file locations
John Marino [Thu, 30 Jul 2015 21:30:40 +0000 (23:30 +0200)]
gcc50: Adjust makefiles for new file locations

4 years agogcc50: Remove generic versions of added files
John Marino [Thu, 30 Jul 2015 20:22:02 +0000 (22:22 +0200)]
gcc50: Remove generic versions of added files

These files can probably stay in place with .PATH and -I order giving
preference to "dragonfly" over "generic", but let's go ahead and just
remove them from contrib to avoid any possible confusion.

4 years agogcc50: Add proper locale support to libstdc++ (local mod)
John Marino [Thu, 30 Jul 2015 20:03:21 +0000 (22:03 +0200)]
gcc50: Add proper locale support to libstdc++ (local mod)

These patches will be sent upstream soon.  DragonFly is the only BSD
with c++ local support.  The exception is "messages".  The glibc has
gettext functions incorporated to support it, but we can't used libintl
because that would require linking it to every c++ executable.

4 years agolibc/calloc: Remove calloc.c, which has been unbuilt since 82949828d.
Sascha Wildner [Thu, 30 Jul 2015 19:44:36 +0000 (21:44 +0200)]
libc/calloc: Remove calloc.c, which has been unbuilt since 82949828d.

calloc() is part of nmalloc.c as well as of dmalloc.c

4 years agomake upgrade: Stop removing hi_IN.UTF-8 and la_LN.UTF-8
John Marino [Thu, 30 Jul 2015 19:38:19 +0000 (21:38 +0200)]
make upgrade: Stop removing hi_IN.UTF-8 and la_LN.UTF-8

These old upgrade entries were removing newly installed locales.

Reported-by: swildner
4 years agoi386 removal, part 26/x: Remove i386 specific lib/libc/quad.
Sascha Wildner [Thu, 30 Jul 2015 17:35:45 +0000 (19:35 +0200)]
i386 removal, part 26/x: Remove i386 specific lib/libc/quad.

None of the platforms which lead to it being compiled into FreeBSD's
libc look too interesting, so remove it.

Also remove copies of a number of those functions residing in libkern
and stop compiling one of these files into libstand. Libstand also
has a quad.h header. Shrink it together to what is actually needed
(not much), while here.

4 years agosocket: Close the soreference() race against socket owner netisr sofree()
Sepherosa Ziehau [Thu, 30 Jul 2015 15:24:37 +0000 (23:24 +0800)]
socket: Close the soreference() race against socket owner netisr sofree()

The race is kinda like this:

    Other thread/netisrN         netisrM (so->so_pcb owner)
             :                              :
      getpooltoken(head);                   :
      so->so_head = NULL;                   :
             :                          sofree(so); (*)
      soreference(so);                      :
      relpooltoken(head);                   :

sofree(so) frees the socket, since so->so_head is NULL and
getpooltoken(head) is not called.

Reported-by: dillon@
4 years agosocket: Group accept queue operations together
Sepherosa Ziehau [Thu, 30 Jul 2015 15:16:33 +0000 (23:16 +0800)]
socket: Group accept queue operations together

4 years agosocket: Nuke unused so_pru_abort()
Sepherosa Ziehau [Thu, 30 Jul 2015 15:02:58 +0000 (23:02 +0800)]
socket: Nuke unused so_pru_abort()

4 years agosocket: Remove unused soabort()
Sepherosa Ziehau [Thu, 30 Jul 2015 14:56:38 +0000 (22:56 +0800)]
socket: Remove unused soabort()

4 years agoinet6: Use M_INTWAIT for DAD record
Sepherosa Ziehau [Wed, 29 Jul 2015 14:53:04 +0000 (22:53 +0800)]
inet6: Use M_INTWAIT for DAD record

4 years agoinet6: Use static initializer to initialize DAD queue
Sepherosa Ziehau [Wed, 29 Jul 2015 14:38:29 +0000 (22:38 +0800)]
inet6: Use static initializer to initialize DAD queue

4 years agoCreate 3 new locales by softlink
John Marino [Thu, 30 Jul 2015 14:24:18 +0000 (16:24 +0200)]
Create 3 new locales by softlink

This creates aliases to en_US.ISO8859-1, en_US.ISO8859-15 and
ja_JP.eucJP.  These locales are valid on linux and significantly
tested by gcc's libstdc++.

While here, correct an obsolete comment.

4 years agoi386 removal, part 25/x: Remove i386 parts from kgdb, libkvm, crunchide.
Sascha Wildner [Wed, 29 Jul 2015 17:06:58 +0000 (19:06 +0200)]
i386 removal, part 25/x: Remove i386 parts from kgdb, libkvm, crunchide.

4 years agoAdd README to localedef directory (credits, licensing)
John Marino [Wed, 29 Jul 2015 15:25:08 +0000 (17:25 +0200)]
Add README to localedef directory (credits, licensing)

4 years agolocales: Change defaults for territory-only locales
John Marino [Wed, 29 Jul 2015 13:51:47 +0000 (15:51 +0200)]
locales: Change defaults for territory-only locales

From research, it appears that the default for territory-only locales
(e.g. en_US, de_DE) is to use ISO-8859-X (where X is not 15).  The
@euro modifier is the alias for ISO-8859-15.

Since there is no apparent standard, I am going to switch the defaults
from aliasing to UTF-8 to ISO-8859 where available.  For the non-latin
character sets, I left these at UTF-8 rather than try to decide on a
different default.

Incidentally, this enables a number of gcc libstdc++ tests to pass as

4 years agolocaledef(1): Update license of 12 source files (CDDL => BSD2)
John Marino [Wed, 29 Jul 2015 10:31:55 +0000 (12:31 +0200)]
localedef(1): Update license of 12 source files (CDDL => BSD2)

The localdef sources were relicensed to 2-clause BSD by Illumos project
on 4 July 2014:


It was done for the benefit of the BSD community.  It is a nice gesture,
but I don't see this being much of a change.

1) The bundled avl files are still CDDL licensed, so that may spread to
   the entire program.

2) Even as CDDL, I didn't see this being an issue since localedef is
   self-contained so CDDL is limited to it.  (IANAL)

4 years agolocaledef(1): Better bootstrap fix
John Marino [Wed, 29 Jul 2015 09:30:16 +0000 (11:30 +0200)]
localedef(1): Better bootstrap fix

We don't need to build localedef in ctools as well as bootstrap tools.
Moreover, when I removed from bootstrap tools, it built but segfaulted
on use.  The COLL_WEIGHTS_MAX file needs to be in the header because
it affects the structure definition.  When it's moved there, the build
on older platforms will succeed.

4 years agommap.2: Remove (now) useless BUGS section.
Sascha Wildner [Wed, 29 Jul 2015 08:11:45 +0000 (10:11 +0200)]
mmap.2: Remove (now) useless BUGS section.

4 years ago<sys/systm.h>: Small indent fix.
Sascha Wildner [Wed, 29 Jul 2015 08:10:58 +0000 (10:10 +0200)]
<sys/systm.h>: Small indent fix.

4 years agoi386 removal, part 24/x: Remove i386 specific parts from NDIS.
Sascha Wildner [Wed, 29 Jul 2015 08:08:55 +0000 (10:08 +0200)]
i386 removal, part 24/x: Remove i386 specific parts from NDIS.

4 years agolocaledef - Fix buildworld bootstrapping issue
Matthew Dillon [Wed, 29 Jul 2015 03:28:05 +0000 (20:28 -0700)]
localedef - Fix buildworld bootstrapping issue

* When running buildworld on an older system the localedef built in
  BTOOLS using /usr/include/limits.h will fail building the locales.

* Fix the problem by adding localedef to CTOOLS.

* Also fix a problem where the old limits.h defines COLL_WEIGHTS_MAX as 0
  and breaks the building of localedef itself.  Check for the case in

4 years agomcast: Use M_INTWAIT for multicast addresses allocation
Sepherosa Ziehau [Tue, 28 Jul 2015 15:29:04 +0000 (23:29 +0800)]
mcast: Use M_INTWAIT for multicast addresses allocation

4 years agoinet6: Use M_INTWAIT for prefix and prefix's router allocation
Sepherosa Ziehau [Tue, 28 Jul 2015 14:48:36 +0000 (22:48 +0800)]
inet6: Use M_INTWAIT for prefix and prefix's router allocation

Suggested-by: dillon@
4 years agoifaddr: Use M_INTWAIT for ifaddr allocation
Sepherosa Ziehau [Tue, 28 Jul 2015 14:46:18 +0000 (22:46 +0800)]
ifaddr: Use M_INTWAIT for ifaddr allocation

Suggested-by: dillon@
4 years agomanpages - Remove obsolete info
Matthew Dillon [Wed, 29 Jul 2015 02:55:32 +0000 (19:55 -0700)]
manpages - Remove obsolete info

* Remove the BUGS section describing a 2GB limit to individual mmap()
  calls.  This was a limitation on 32-bit systems but no such limit exists
  on 64-bit systems.

Reported-by: Alex Merritt
4 years agocollate 4/4: Remove colldef(1) tool from base (swap bootstrap)
John Marino [Tue, 28 Jul 2015 19:51:54 +0000 (21:51 +0200)]
collate 4/4: Remove colldef(1) tool from base (swap bootstrap)

It cannot read the new input files and it generates v1.2 LC_COLLATE which
libc can no longer read.  There is no use left for colldef(1).

Colldef was tool required for bootstrap, so replace it with localedef.
The share/colldef makefile must be what requires this built.

4 years agocollate 3/4: Bring in input files for new LC_COLLATE format
John Marino [Tue, 28 Jul 2015 19:47:10 +0000 (21:47 +0200)]
collate 3/4: Bring in input files for new LC_COLLATE format

These input files use localedef(1) instead of colldef(1) to generate and
install new LC_COLLATE files.

Only UTF-8 collation will be installed.  All other codesets will symlink to
their UTF-8 counterparts. UTF-8 is the default codeset for every territory.

4 years agocollate 2/4: Hook localedef to build, unhook colldef
John Marino [Tue, 28 Jul 2015 19:36:27 +0000 (21:36 +0200)]
collate 2/4: Hook localedef to build, unhook colldef

4 years agocollate 1/4: Add support for LC_COLLATE format "DragonFly 4.4" in libc
John Marino [Tue, 28 Jul 2015 19:25:23 +0000 (21:25 +0200)]
collate 1/4: Add support for LC_COLLATE format "DragonFly 4.4" in libc

The collate functions within libc have been using version 1 and 1.2 of the
packed LC_COLLATE binary formats.  These were generated with the colldef
tool, but the new LC_COLLATE files are going to be generated by the new
localedef tool using CLDR POSIX files as input.  The DragonFly-flavored
version of localedef identifies the format as "DragonFly 4.4".  Any
LC_COLLATE file with a different version will simply not be loaded, and
all LC* categories will get set to "C" (aka "POSIX") locale.

This work is based off of Nexenta's contribution to Illumos (successor
to OpenSolaris).  The integration with xlocale is my work though.

The following commits will enable localedef tool, disable the colldef
tool, add generated colldef directory, and finally remove colldef from

4 years agocldr2def: Fix colldef makefile for full buildworld
John Marino [Tue, 28 Jul 2015 22:17:30 +0000 (00:17 +0200)]
cldr2def: Fix colldef makefile for full buildworld

The LC_COLLATE file generation will fail with relative paths, so
use ${.CURDIR} in the makefile to fix buildworld.  Also the output
file has to include the object directory, otherwise the files are
all build in /usr/src.

4 years agobuildworld - Fix stage-1 build breakage
Matthew Dillon [Tue, 28 Jul 2015 21:39:48 +0000 (14:39 -0700)]
buildworld - Fix stage-1 build breakage

* Conditionalize sort to not use the new isnan() function in the
  bootstrap stage where it might not exist.

4 years agolibc.a: Add __isnan and __isnanf
John Marino [Tue, 28 Jul 2015 21:29:05 +0000 (23:29 +0200)]
libc.a: Add __isnan and __isnanf

These symbols are not present in libm (the deleted message isn't
correct). Remove the PIC check to put __isnan and __isnanf in the
static c library.  Incidentally, __isnanl is already in static
library because the PIC check was forgotten.

4 years agosbin/hammer: Use HAMMER_BUFSIZE
Tomohiro Kusumi [Tue, 28 Jul 2015 19:58:50 +0000 (04:58 +0900)]
sbin/hammer: Use HAMMER_BUFSIZE

- Use HAMMER_BUFSIZE insteaf of 16KiB.

4 years agodirfs - Add kqueue(2) support
Antonio Huete Jimenez [Tue, 28 Jul 2015 19:47:12 +0000 (12:47 -0700)]
dirfs - Add kqueue(2) support

- Based on tmpfs work on 80ae59d743
- FIFO ops not added

4 years agosort(1): Replace NetBSD version with Free/Open version
John Marino [Tue, 28 Jul 2015 18:41:56 +0000 (20:41 +0200)]
sort(1): Replace NetBSD version with Free/Open version

With my ongoing collation work, I discovered our sort was not locale
sensitive, but GNU sort was.  I replaced our ancient GNU sort with
NetBSD's version about 4 years ago.  NetBSD hasn't updated that version
since.  However, FreeBSD got rid of their GNU sort fairly recently and
replaced it with another BSD-licensed version.  Four months ago, it was
imported into OpenBSD, they made some corrections which were incorporated
back in FreeBSD in the April timeframe.

This version is locale sensitive and gives the same answers as GNU sort in
my (admittedly) very limited testing.

I fixed some minor issues that GCC5 was squawking about (mainly unused
variables) and I changed the --parallel option PTHREAD_MUTEX_ADAPTIVE_NP
behavior to PTHREAD_MUTEX_ERRORCHECK (the default POSIX behavior).  DF
does not have the former flag implemented.

4 years agocldr2def: Update to generate colldef replacement directory
John Marino [Tue, 28 Jul 2015 15:55:34 +0000 (17:55 +0200)]
cldr2def: Update to generate colldef replacement directory

The new localedef tool needs extracts for CLDR POSIX localization
definition files, and it needs the UTF-8 character map along with
the width definitions (mainly for Asian monitor support).

Since the LC_COLLATE handling is fundamentally different from the
first four groups, new sections to the cldr2def tool had to be
written, thus requiring me to brush up on my perl skills.

The finalize script (which I had previously written) was modified
to copy the widths and charmap files over to the regenerated
colldef directory (a drop-in replacement for share/colldef).

4 years agoAdd localedef(1), a locale definition generator tool
John Marino [Tue, 28 Jul 2015 16:31:53 +0000 (18:31 +0200)]
Add localedef(1), a locale definition generator tool

The localedef tool can read entire (and unmodified) CLDR posix definition
files, and generate all 6 LC categories: LC_COLLATE, LC_CTYPE, LC_TIME,

The last 4 of those aren't needed.  We already have a tool that generates
msgdef, timedef, moneydef and numericdef.  In the immediate future,
localedef will only be used generate LC_COLLATE files in a new format.
This will render colldef files unreadable, thus colldef will be removed
when this happens.

In the future, localedef will be tasked to generate LC_CTYPE files as
well.  When that happens, the mklocale tool will be retired.

While localedef *can* read pristine POSIX files (which causes 6 files
to be generated), it will given files with only the LC_COLLATE part,
which will also have all the white space removed as well.  Remove just
the spaces can save megabytes.

This tool has a long history with Solaris [1].  The Nexenta developers
modified it to read CLDR files and created the much richer collation
formats.  The libc collation functions have to be modified to read the
new format (called "DragonFly-4.4") and to handle the new data structures.

The result will be that locale-sensitive tools and functions will now
properly sort multibyte and unicode strings.  Our "BSD" sort is not locale
sensitive, so it will probably have to be replaced with GNU sort in order
to leverage our new collation capabilities.

This can't be hooked into the build yet.  It needs the new header for
collate.c to define the data structures.  Until that happens, this is
actually unbuildable.

[1] Linux also has a tool called localdef, but I do know know if it shares
    a common history or if it uses CLDR POSIX files.  It seems to have the
    same purpose though.

4 years agoinet6: No need to explicitly avoid calling ioctl(SIOCSADDR)
Sepherosa Ziehau [Mon, 27 Jul 2015 14:47:58 +0000 (22:47 +0800)]
inet6: No need to explicitly avoid calling ioctl(SIOCSADDR)

Rearrange the code a little bit.

4 years agoinet6: Use M_WAITOK on SIOCAIFADDR_IN6 path.
Sepherosa Ziehau [Mon, 27 Jul 2015 14:27:03 +0000 (22:27 +0800)]
inet6: Use M_WAITOK on SIOCAIFADDR_IN6 path.

- Use M_ZERO, instead of calling bzero().
- Avoid M_ZERO, if the allocated memory is to be completely over-
- Remove unapplied comment.

4 years agoroute: Enhance panic message
Sepherosa Ziehau [Mon, 27 Jul 2015 14:03:30 +0000 (22:03 +0800)]
route: Enhance panic message

4 years agosys/vfs/hammer: Add HAMMER_BTREE_TYPE_NONE
Tomohiro Kusumi [Mon, 27 Jul 2015 16:17:31 +0000 (01:17 +0900)]
sys/vfs/hammer: Add HAMMER_BTREE_TYPE_NONE

- No functional changes, but just makes things clearer.

- root_btree_{beg|end} has 0 (not used) for btype.
  Defining a macro for it makes code clearer than
  implicitly taking care of btype by 0 or non-0.

4 years agosys/vfs/hammer: Keep root node signature on root split
Tomohiro Kusumi [Sun, 26 Jul 2015 18:43:10 +0000 (03:43 +0900)]
sys/vfs/hammer: Keep root node signature on root split

- newfs_hammer sets a signature value for the root btree node
  so keep that signature on root node split along with other
  fields being copied to the new root node. This doesn't affect
  the existing fs as it's used for nothing.

- (The former root node signature is not cleared on root split,
  so every node that has once been the root has the signature.
  The one at the lowest zone offset is the original one unless
  moved by reblock)

4 years agosbin/hammer: Fix hammer show output format
Tomohiro Kusumi [Sun, 26 Jul 2015 16:19:45 +0000 (01:19 +0900)]
sbin/hammer: Fix hammer show output format

- Sync with other formats.

4 years agosbin/hammer: Cleanup headers
Tomohiro Kusumi [Sun, 26 Jul 2015 08:16:05 +0000 (17:16 +0900)]
sbin/hammer: Cleanup headers

- Define struct softprune in hammer_util.h just like other
  hammer userspace structures are defined here.

4 years agosbin/hammer: Cleanup zone statistics
Tomohiro Kusumi [Sun, 26 Jul 2015 05:59:55 +0000 (14:59 +0900)]
sbin/hammer: Cleanup zone statistics

- No functional changes, things should have been named this way.

4 years agodirfs - Do not acquire dirfs' mount token
Antonio Huete Jimenez [Mon, 27 Jul 2015 16:46:44 +0000 (09:46 -0700)]
dirfs - Do not acquire dirfs' mount token

- dirfs is still marked as non mp-safe so the VN ops are protected

4 years agodirfs - Remove no longer needed comment
Antonio Huete Jimenez [Sun, 26 Jul 2015 22:57:33 +0000 (15:57 -0700)]
dirfs - Remove no longer needed comment

4 years agotestcases - Remove posixipc test
Antonio Huete Jimenez [Sun, 26 Jul 2015 16:44:18 +0000 (09:44 -0700)]
testcases - Remove posixipc test

- POSIX IPC tests are already migrated individually to dfregress(8)

4 years agotop.1 - Fix manpage
Antonio Huete Jimenez [Sun, 26 Jul 2015 16:03:46 +0000 (09:03 -0700)]
top.1 - Fix manpage

- This commit follows up 30277d08ae where top(1) went back to
  use RES again after PRES was removed.

4 years agodirfs - Change debug levels
Antonio Huete Jimenez [Sun, 26 Jul 2015 14:49:35 +0000 (07:49 -0700)]
dirfs - Change debug levels

- Specific debug levels are specified for easier debugging:

    1       Calls to VFS operations (mount, umount, ...)
    3       Calls to VN operations (open, close, read, ...)
    5       Calls to subroutines
    9       Everything

- Once dirfs is stabilised, debugging facilities will go and
  only KTR will remain.

4 years agoboot - Fix minor memory leak, statistics
Matthew Dillon [Mon, 27 Jul 2015 04:45:51 +0000 (21:45 -0700)]
boot - Fix minor memory leak, statistics

* open() calls devopen() which installs a generic malloc'd device
  wrapper in f->f_devdata.  However, some devices will replace this
  with their own descriptor.

  Add F_DEVDESC to indicate when f->f_devdata contains this generic
  object, free and clear the generic object when replacing f_devdata
  in particular devices.

  This fixes a minor memory leak of 192 bytes on open()s made by the boot
  code when booting from e.g. PXE.

* Fix incorrect MallocCount statistics.  calloc() and realloc() were
  improperly incrementing the global, even though the malloc() call they
  both make also increments it.

* Remove the unused F_NODEV flag.  This flag is never set, collapse the
  related code.

4 years agotcpdrop: Drop a specific tcp connection or all tcp connections
Sepherosa Ziehau [Sun, 26 Jul 2015 09:20:18 +0000 (17:20 +0800)]
tcpdrop: Drop a specific tcp connection or all tcp connections

Obtained-from: OpenBSD via FreeBSD

4 years agowcscoll.3: Fix copy/paste error (due to wcsxfrm)
John Marino [Sun, 26 Jul 2015 12:38:30 +0000 (14:38 +0200)]
wcscoll.3: Fix copy/paste error (due to wcsxfrm)

4 years agoboot - Put loader heap in high memory
Matthew Dillon [Sun, 26 Jul 2015 08:03:46 +0000 (01:03 -0700)]
boot - Put loader heap in high memory

* We ran out of low BIOS memory.  The initrd.img.gz unpacking requires a
  bit more than ~32KB of temporary space and it ran the loader out of
  low-BIOS heap memory.

  This can cause the loader to fail to load the image and prevent proper
  crypto or single-user bootstrapping.

* Steal the heap from high-memory, just ender the kernel+modules load area
  limit.  For now, steal 1MB, which gives the loader plenty of space again.
  The kernel will lose 1MB of physical memory, boo-hoo.

* The loader must remove the heap from the SMAP passed to the kernel.

* Move any objects requiring VTOPSEG/VTOPOFF out of malloc and into a
  static or stack declaration.

Reported-by: cgag, multiple
4 years agosbin/hammer: Fix memory allocation for zone statistics
Tomohiro Kusumi [Sat, 25 Jul 2015 16:01:33 +0000 (01:01 +0900)]
sbin/hammer: Fix memory allocation for zone statistics

- 2550036 allocates unnecessary amount of memory when the
  filesystem consists of >1 volumes and accounting actually
  reaches to the second volume. This commit fixes it by
  splitting bitmap into bitmaps[2^8] where 2^8 is the maximum
  number of volumes. Other than that it's basically the same.

  layer1/layer2 direct map:
      <------> Max 2^8 volumes
  zzzzvvvvvvvvoooo oooooooooooooooo oooooooooooooooo oooooooooooooooo
  ----111111111111 1111112222222222 222222222ooooooo oooooooooooooooo
              Most environment doesn't use address space this
              far as the storage usually isn't as huge as 2^52,
              so hammer_extend_layer2_bits() allocating bitmaps
              for this region mostly ends up waste of memory.
              Having an array bitmaps[2^8] prevents this as the
              volume-bits-masked-laye1-index doesn't jump up by
              2^10 when v part gets ++.

4 years agonetif: Configure mbuf clusters/jclusters limits
Sepherosa Ziehau [Sat, 25 Jul 2015 12:58:08 +0000 (20:58 +0800)]
netif: Configure mbuf clusters/jclusters limits

Default mbuf clusters limit work for most of the network device
drivers.  The drivers modified by this commit:
- Use mbuf jclusters.
- Size of the reception queues could be configured.
- Support multiple reception queues.

et(4) and mxge(4) are special; they use non-cluster mbuf for small
packets reception, so we adjust non-cluster mbuf limit manually in
these two drivers.

4 years agoifnet: Allow drivers to adjust mbuf cluster/jcluster limits
Sepherosa Ziehau [Sat, 25 Jul 2015 08:02:59 +0000 (16:02 +0800)]
ifnet: Allow drivers to adjust mbuf cluster/jcluster limits

This is mainly for raising mbuf clusters/jclusters limits to a high
enough value for device reception queues, e.g. modern network devices
w/ multiple reception queues and each reception queue could consume
>=512 mbuf clusters.

4 years agopatch - Remove RCS and SCCS auto-checkout support
Matthew Dillon [Sat, 25 Jul 2015 02:40:41 +0000 (19:40 -0700)]
patch - Remove RCS and SCCS auto-checkout support

* Remove stale RCS and SCCS support which involves the patch(1) program
  constructing a system() command using filename data supplied from the
  file.  DragonFly deems this to be too dangerous, quoted or not.

Security: CVE-2015-1416
Reported-by: Xin Li, Martin Natano
4 years agokernel/route: Use the netisr threads to initialize the route tables.
Nuno Antunes [Tue, 21 Jul 2015 07:34:24 +0000 (15:34 +0800)]
kernel/route: Use the netisr threads to initialize the route tables.

Reviewed-by: sephe

4 years agosbin/hammer: Enable AssertOnFailure on -d for hammer show/checkmap
Tomohiro Kusumi [Fri, 24 Jul 2015 19:37:04 +0000 (04:37 +0900)]
sbin/hammer: Enable AssertOnFailure on -d for hammer show/checkmap

4 years agosbin/hammer: Cleanup hammer checkmap
Tomohiro Kusumi [Fri, 24 Jul 2015 19:32:00 +0000 (04:32 +0900)]
sbin/hammer: Cleanup hammer checkmap

4 years agosbin/hammer: Make hammer checkmap support zone4
Tomohiro Kusumi [Fri, 24 Jul 2015 17:23:30 +0000 (02:23 +0900)]
sbin/hammer: Make hammer checkmap support zone4

- It's kind of obvious that zone4 never fails on checkmap tests,
  but it was a missing zone as it already supports btree and undos.

- Note that this commit changes condition of error=-5 case in
  blockmap_lookup() by adding "HAMMER_ZONE_FREEMAP_INDEX != zone &&".
  This is necessary as zone4 is really just zone2 and all the
  blockmap offsets have 0x02 in the upper 4 bits which means
  blockmap lookup for zone4 offset always hits this assertion.
  Normal filesystem operations (including other hammer commands
  and newfs_hammer) never need this condition change as they never
  lookup zone4 offset, and in fact blockmap lookup in kernel space
  doesn't have this, however this commit needs it. This should make
  sense though as zone4 really is an exceptional case where all
  data is just a bunch of metadata that is made to effectively
  map storage chunks to zone2.

- Update hammer(8). Now it supports all possible zones but
  it only mentions btree elements.

4 years agosbin/hammer: Use bitmaps for zone statistics
Tomohiro Kusumi [Thu, 23 Jul 2015 20:41:51 +0000 (05:41 +0900)]
sbin/hammer: Use bitmaps for zone statistics

- Didn't squash this with the previous commit in order to be able
  to go back to the previous one (rbtree version) for some reason.

4 years agosbin/hammer: Make hammer show support zone statistics
Tomohiro Kusumi [Thu, 23 Jul 2015 20:35:50 +0000 (05:35 +0900)]
sbin/hammer: Make hammer show support zone statistics

- Update zone statistics while iterating btree and
  print them after btree-walk is done.

- The zone statistics is enabled when -v is specified just
  like hammer checkmap.

- hammer show's statistics use elm->leaf.data_len for used
  bytes, so it could have different number from blockmap/
  checkmap statistics (blockmap/checkmap statistics will
  have the same or higher used bytes as well as percentage).

- Newly added item count is always 0 on blockmap/checkmap
  statistics while it has >0 for zone 8,9,10,11 for show.
  Both hammer blockmap/checkmap are not aware of items in
  each big-block so they can't count items. The idea of
  item is countable only when iterating btree.

4 years agosbin/hammer: Make hammer blockmap support zone statistics
Tomohiro Kusumi [Wed, 22 Jul 2015 19:14:52 +0000 (04:14 +0900)]
sbin/hammer: Make hammer blockmap support zone statistics

- Update zone statistics while iterating layer1/layer2 and
  print them after layer-walk is done.

- The zone statistics is enabled when -v is specified just
  like hammer checkmap.

4 years agosbin/hammer: Add functions for zone statistics
Tomohiro Kusumi [Tue, 21 Jul 2015 19:15:06 +0000 (04:15 +0900)]
sbin/hammer: Add functions for zone statistics

- Add functions to init/cleanup/add/print zone statistics and
  make hammer checkmap's existing zone statistics use these.

- hammer_print_zone_stat() shows something like this. Zones with
  0 blocks doesn't necessary mean it has 0 block in that zone.
  For example checkmap doesn't support zone4 (at this point) so
  the block count is 0, but each volume obviously does have at
  least 1 big-block that belongs to zone4.

  HAMMER zone statistics
zone #  blocks       used[B]             used[%]
zone 0  0            0                   0
zone 1  0            0                   0
zone 2  0            0                   0
zone 3  63           528482304           100
zone 4  0            0                   0
zone 5  0            0                   0
zone 6  0            0                   0
zone 7  0            0                   0
zone 8  5            38313984            91.3477
zone 9  2            15776736            94.0367
zone 10 326          2731311104          99.8766
zone 11 23           166333072           86.2106
zone 12 0            0                   0
zone 13 0            0                   0
zone 14 0            0                   0
zone 15 0            0                   0
total   419          3480217200          99.0153

4 years agosbin/hammer: Add struct zone_stat for generic zone statistics
Tomohiro Kusumi [Tue, 21 Jul 2015 17:57:05 +0000 (02:57 +0900)]
sbin/hammer: Add struct zone_stat for generic zone statistics

- Nothing changes, but just replaces the existing hammer checkmap's
  zone statistics with zone_stat[].

- This is for the next few commits that make hammer show/blockmap
  /checkmap provide zone statistics to clarify storage consumption
  by each zone. It's better to have a common data structure to
  retrieve statistics of the same format from different view.

4 years agolm(4): Remove unneeded kernel configuration entries
Imre Vadasz [Fri, 24 Jul 2015 19:22:33 +0000 (21:22 +0200)]
lm(4): Remove unneeded kernel configuration entries

4 years agoLC_TIME locales: Regenerate to fix 23 locales' alt-months
John Marino [Fri, 24 Jul 2015 15:50:19 +0000 (17:50 +0200)]
LC_TIME locales: Regenerate to fix 23 locales' alt-months

The commit diff revealed a regression in the timedef on some locales.
All of these locales have alternative months defined in a separate
xml file used by the cdlr2def tool.  The bug in the tool has been fixed,
and the locale definitions have been regenerated.

4 years agocldr2def tool: Fix alternative month generation
John Marino [Fri, 24 Jul 2015 15:46:02 +0000 (17:46 +0200)]
cldr2def tool: Fix alternative month generation

For some locales defined in tools/tools/locale/etc/charmaps.xml,
there are alternative month names defined in CDATA.  When they are
not present, the POSIX months are just repeated, otherwise this CDATA
set is returned.

The problem is that the spaces and approximately half of the double
quotes were retained as part of the names.  This modification will
strip off the white space and quotes to fix alternative month

4 years agombuf: Add helper functions to inc/dec mbuf limits
Sepherosa Ziehau [Fri, 24 Jul 2015 14:51:10 +0000 (22:51 +0800)]
mbuf: Add helper functions to inc/dec mbuf limits

While I'm here, refactor code a little bit.

4 years agombuf: Staticize mbupdatelimits
Sepherosa Ziehau [Fri, 24 Jul 2015 14:40:15 +0000 (22:40 +0800)]
mbuf: Staticize mbupdatelimits

4 years agombuf: Don't allow mbuf thresholds be configured too low.
Sepherosa Ziehau [Fri, 24 Jul 2015 13:00:09 +0000 (21:00 +0800)]
mbuf: Don't allow mbuf thresholds be configured too low.

They still could be configured to a low value through tunables though.

4 years agombuf: Hold mbuf update lock, only if the thresholds are to be changed.
Sepherosa Ziehau [Fri, 24 Jul 2015 12:59:25 +0000 (20:59 +0800)]
mbuf: Hold mbuf update lock, only if the thresholds are to be changed.

While I'm here, assert mbuf update lock in mbupdatelimits()

4 years agosystat(1): Remove an unused extern.
Sascha Wildner [Fri, 24 Jul 2015 10:48:12 +0000 (12:48 +0200)]
systat(1): Remove an unused extern.

4 years agokernel/usb4bsd: Remove bogus header file.
Sascha Wildner [Fri, 24 Jul 2015 10:42:34 +0000 (12:42 +0200)]
kernel/usb4bsd: Remove bogus header file.

4 years agoi386 removal, part 23/x: Remove i386 specific DEBUG_INTERRUPTS and remains.
Sascha Wildner [Fri, 24 Jul 2015 10:42:08 +0000 (12:42 +0200)]
i386 removal, part 23/x: Remove i386 specific DEBUG_INTERRUPTS and remains.

4 years agoi386 removal, part 22/x: Remove some i386 specific assembly language files.
Sascha Wildner [Fri, 24 Jul 2015 09:06:37 +0000 (11:06 +0200)]
i386 removal, part 22/x: Remove some i386 specific assembly language files.

4 years agoImport generated locales (time, money, msg, numeric)
John Marino [Thu, 23 Jul 2015 21:46:56 +0000 (23:46 +0200)]
Import generated locales (time, money, msg, numeric)

All the definitions were generated by the "new" tool located at
src/tools/tools/locale.  It uses CLDR version 2.0.1 and Unicode
release 8.0.0.

The tool is smart enough to eliminate duplicates -- every one of
these real files is unique.  The makefiles are also generated and
are much simpler.

4 years agocldr2def tool: Implement c_format generation
John Marino [Fri, 24 Jul 2015 08:30:19 +0000 (10:30 +0200)]
cldr2def tool: Implement c_format generation

The time definitions were missing c_fmt.  The patch I applied to make
the tool run caused it (it was always a bug, but I didn't fix it
correctly).  The c_formats are not defined, so I'm taking the full
date-time format and stripping any %z or %Z timezone symbols that are
contained within.  It's not perfect, but not too bad either considering.

4 years agokernel - Allow nmbufs, nmbclusters, and nmbjclusters to be adjusted live
Matthew Dillon [Fri, 24 Jul 2015 04:23:46 +0000 (21:23 -0700)]
kernel - Allow nmbufs, nmbclusters, and nmbjclusters to be adjusted live

* Refactor the sysctls for kern.ipc.nmbufs, kern.ipc.nmbclusters,
  and kern.ipc.nmbjclusters, changing from read-only to read-write.
  Use SYSCTL_PROC to automatically apply changes to the object caches.

* Add a function, mbupdatelimits(), which recalculates the objcache
  limits based on nmbufs, nmbclusters, and nmbjclusters.

4 years agokernel - Add objcache_set_cluster_limit()
Matthew Dillon [Fri, 24 Jul 2015 04:22:20 +0000 (21:22 -0700)]
kernel - Add objcache_set_cluster_limit()

* Add objcache_set_cluster_limit() which allows the objcache cluster limit
  for a particular objcache to be adjusted dynamically.

4 years agokernel - wbsio: support NCT6776F (0xc3); supported by lm(4) as W83627DHG (0xc1)
Matthew Dillon [Thu, 23 Jul 2015 21:53:49 +0000 (14:53 -0700)]
kernel - wbsio: support NCT6776F (0xc3); supported by lm(4) as W83627DHG (0xc1)

The sc_devid value of struct wbsio_softc is used to pass the device id
of the SUPERIO chipset to lm, so it can decide whether it's actually an
NCT6776F or the W83627DHG.

Taken-From: OpenBSD
Author: Imre Vadasz <imre@vdsz.com>
Submitted-by: vadaszi bug #2833
4 years agonmalloc - Improve incremental reallocs()
Matthew Dillon [Thu, 23 Jul 2015 21:22:32 +0000 (14:22 -0700)]
nmalloc - Improve incremental reallocs()

* Fix realloc() issue that caused unnecessary unmap/remap operations
  due to the page coloring optimization.

* In addition, scale large reallocations by allowing more wiggle room
  as the allocation becomes larger so overhead isn't quite as geometrically
  bad for programs which do incremental realloc()s to huge sizes.

Initial-patch-by: vadaszi Bug #2832
4 years agolocales/nls: Rename last three zh_han* files
John Marino [Thu, 23 Jul 2015 21:43:24 +0000 (23:43 +0200)]
locales/nls: Rename last three zh_han* files

I missed these on prior commit and it broke world.

4 years agoi386 removal, part 21/x: Remove obsolete i386 specific USERCONFIG bits.
Sascha Wildner [Thu, 23 Jul 2015 20:39:06 +0000 (22:39 +0200)]
i386 removal, part 21/x: Remove obsolete i386 specific USERCONFIG bits.

Even though some of this code was copied over to x86_64, this platform
never had the kernel support.

4 years agolocales: Rename zh_han* to zh_Han* (capitalize)
John Marino [Thu, 23 Jul 2015 21:17:21 +0000 (23:17 +0200)]
locales: Rename zh_han* to zh_Han* (capitalize)

4 years agolocales: Import unused FreeBSD tool to generate locales
John Marino [Thu, 23 Jul 2015 20:31:13 +0000 (22:31 +0200)]
locales: Import unused FreeBSD tool to generate locales

Five years ago, Edwin Groothuis put in a *LOT* of work to create a perl-
based tool that would use the latest Unicode release from The Unicode
Consortium <http://unicode.org> and the latest Unicode CLDR release from
the same organization, and generate all the locale defintions for numeric,
monetary, time, and messages, including generating a readable Makefile.

The tool has the ability to define the conversions from Unicode to lower
resolution formats.  While there were some minor bugs in it, the tool now
works, but for reasons unknown to me right now, it was never imported into
FreeBSD, nor used to improve their localization 5 years ago.

I've generated the new locale definitions which will go in soon.  Note
that the Unicode Consortium no longer provides the "posix" definitions
the tool reads, so these definitions are 3 years old.  Supposedly they
provide tools to generate the POSIX definitions, but I haven't found them
yet.  Once I do, I'll regenerate the locales with the latest CLDR.

Refer: https://wiki.freebsd.org/LocaleNewApproach

4 years agoMove some locales before upcoming overhauls
John Marino [Thu, 23 Jul 2015 17:40:19 +0000 (19:40 +0200)]
Move some locales before upcoming overhauls

Several locales are obsolete and have misleading names.  This moves
many of them at once.  An entry to the UPDATING files notifies what
the new locale options are for users of affected locales.

This is necessary because the upcoming locale updates are going to be
generated and we can avoid carrying ancient aliases over.  Also note
that Serbia's change may not be complete until the entire locales are

4 years agoi386 removal, part 20/x: Rename boot_pc32.8 -> boot_pc64.8
Sascha Wildner [Thu, 23 Jul 2015 17:05:39 +0000 (19:05 +0200)]
i386 removal, part 20/x: Rename boot_pc32.8 -> boot_pc64.8

4 years agoi386 removal, part 19/x: Remove bogus message in acpi's APM compat code.
Sascha Wildner [Thu, 23 Jul 2015 16:15:49 +0000 (18:15 +0200)]
i386 removal, part 19/x: Remove bogus message in acpi's APM compat code.

4 years agokernel/kbdmux: Fix a panic upon 'shutdown -h now'.
Sascha Wildner [Thu, 23 Jul 2015 17:35:58 +0000 (19:35 +0200)]
kernel/kbdmux: Fix a panic upon 'shutdown -h now'.

Follow-up to fc9700a1359c0dd3fa2c207933975ed59237ba2b.

Why it was ocurring just recently is not 100% clear. According to Matt
it might be a timing issue.

Reported-by: ChibaPet, charlie5
4 years agoRemove no_NO (only use nb_NO and nn_NO)
John Marino [Wed, 22 Jul 2015 21:14:50 +0000 (23:14 +0200)]
Remove no_NO (only use nb_NO and nn_NO)

There are only two variations of Norwegian: Bokmål or nynorsk, both of
which are equally official.  These are established by law and governmental
policy:  Bokmål (literally "book language") and Nynorsk (literally "new
Norwegian").  The Norwegian Language Council recommends the terms
"Newegian Bokmål" and "Norwegian Nynorsk" in English.

The no_NO variant is a holdover from when nb_NO and nn_NO were created.
In glibc, the old no_NO was kept as an alias to nb_NO.  This option is
considered confusing and probably should have been removed years ago.

4 years agolocales LC_NUMERIC: Overhaul completely wrong definitions
John Marino [Wed, 22 Jul 2015 17:08:43 +0000 (19:08 +0200)]
locales LC_NUMERIC: Overhaul completely wrong definitions

I have no idea how the UTF-8 definitions were created.  They appear
to be grouped by (allegedly) similar countries with the same
definitions as other codesets.  The assumption is wrong.  I went through
every POSIX (UTF-8) definition on http://unicode.org and redefined all
UTF-8 locales. Besides being correct, there are 2 additional benefits:
1) The makefile is loads simpler, at least for UTF-8 part
2) This fixes a lot of locale failures on gcc testsuite

4 years agolocales: Add 66 "@euro" symlinks, and UTF8 alias
John Marino [Wed, 22 Jul 2015 13:39:12 +0000 (15:39 +0200)]
locales: Add 66 "@euro" symlinks, and UTF8 alias

While not documented, it appears that modifiers work.  The only widely
used modifier is "@euro" which is an alias for ISO 8859-15 coded which
contains the Euro currently along with 7 other new symbols as compared
to ISO 8859-1.  For all 33 localization sets that use la_LN.ISO8859-15
for LC_CTYPE, I'm creating an @euro and .ISO-8859-15@euro symlink to
them.  These are still found on Linux and the .ISO-8859* extension is
the chosen linux format (this is unfortanately not standardized thus
BSD and Linux differ).  Thus any use of @euro will probably also refer
to the Linux format and that's why I chose it.

For the same reason, .UTF8 versions (Linux) are being symlinked to
DragonFly's .UTF-8 versions.  Symlinks are cheap.

4 years agomake upgrade: Remove 122 dangling locale symlinks
John Marino [Wed, 22 Jul 2015 11:59:56 +0000 (13:59 +0200)]
make upgrade: Remove 122 dangling locale symlinks

The symlinks mechanism that created these extra symlinks has been fixed,
so now let's clean up the mess.