(no commit message)
[ikiwiki.git] / docs / developer / alexh_todo / index.mdwn
1 ## Note: this is my personal todo and ideas list (alexh@)
2
3 * Add a simple (regression) test framework
4   - Add the hundreds of test cases from our bugtracker
5   - Run nightly/weekly or at least before a release
6
7 * Callout overhaul
8   - add a callout_init_mtx/lock, etc
9   - add callout_drain
10
11 * Improve installer crypto support
12   - add tcplay/TrueCrypt support
13   - let user choose crypto algorithm, IV generation, etc
14
15 * Add support for hyperthreading / other SMT to our scheduler
16   - distinguish between real cores and threads on the same core
17   - Linux' work in the area: http://lwn.net/Articles/8553/
18
19 * add a non-persistent unionfs VFS
20   - while this does not fully replace unionfs, it would deal with a few of the situations where unionfs is useful
21   - additionally the complexity is much lower, since everything can be kept in memory
22
23 * bring the samba3 hammer shadow copy foo to maturity
24
25 * extend dm's message feature to be two-way? what's the benefit?
26
27 * make the whole system deal correctly with non-512-byte blocksize for disks. (DEV_BSIZE)
28
29 * add another optimized bcopy/memcpy/memset/bzero version, using the AVX instructions
30
31 * cryptdisks: multiple keyfile support
32
33 * Add geli (without integrity verification) support using dm_target_crypt?
34   - a bit like the recent TrueCrypt implementation (tcplay)
35
36 * Update cryptsetup
37
38 * Keep opencrypto up-to-date
39   - http://www.openbsd.org/cgi-bin/cvsweb/src/sys/crypto/
40
41 * Port hwpmc & dig into (boot-up) performance
42
43 * linuxulator
44   - port to x86_64
45   - separate out common arch parts (linprocfs, for example)
46
47 * Fix the crash analysis script (or rather the programs it calls [some segfault])
48
49 * Take a look at updating lvm/dm/libdevicemapper
50
51 * Take a look at importing dmctl from NetBSD
52   - would require a bunch of modifications to work with the proper device-mapper API
53   - also some extensions? missing lots of features
54   
55 * rip out the disk partitioning from the disk subsystem and implement it in a more general fashion
56   - crazy idea: as dm targets with an auto-configuration option!
57     - would require to be able to create dm targets with an arbitrary name and not in /dev/mapper
58
59 * ATA (automatic) spindown (see FreeBSD current)
60   
61 * Update callout
62    http://svn.freebsd.org/viewvc/base?view=revision&revision=127969
63
64 * inv ctxsw rusage
65   - see irc logs
66   - some incorrect accounting going on, don't remember details :)
67
68 * unionfs update
69   - make it work without whiteout
70
71
72
73 ###Boring:
74
75 * Fix ipsec, get rid of old ipsec
76
77 * sync up vr
78     - Added VT6105M specific register definitions. VT6105M has the following hardware capabilities.
79     - Tx/Rx IP/TCP/UDP checksum offload.
80     - VLAN hardware tag insertion/extraction. Due to lack of information
81        for getting extracted VLAN tag in Rx path, VLAN hardware support
82        was not implemented yet.
83     - CAM(Content Addressable Memory) based 32 entry perfect multicast/
84       VLAN filtering.
85     - 8 priority queues.
86  o Implemented CAM based 32 entry perfect multicast filtering for
87    VT6105M. If number of multicast entry is greater than 32, vr(4)
88    uses traditional hash based filtering.
89
90 * RedZone, a buffer corruption protection for the kernel malloc(9) facility has been implemented.
91   - This detects both buffer underflows and overflows at runtime on free(9) and realloc(9),
92     and prints backtraces from where memory was allocated and from where it was freed.
93   - see irc log below.
94     
95 * port uart driver (?)
96
97 * port wscons (?) or update syscons
98   - probably way too much effort (wscons)
99
100
101 * port usb4bsd
102   - wrapper is included for userland; should be easy to port
103   - http://svn.freebsd.org/viewvc/base?view=revision&revision=184610
104   - http://turbocat.net/~hselasky/usb4bsd/
105   - http://gitweb.dragonflybsd.org/~polachok/dragonfly.git/shortlog/refs/heads/usb2
106
107 * suspend/resume for SMP x86
108   - http://lists.freebsd.org/pipermail/freebsd-acpi/2008-May/004879.html
109   
110 * AMD64 suspend/resume
111   - http://svn.freebsd.org/viewvc/base?view=revision&revision=189903
112
113
114 * text dumps
115
116     
117     
118 [alexh@leaf:~/home] $ roundup-server -p 8080 bt=bugtracker
119
120 <pre>
121 -05:48- :        dillon@: no, double frees to the object cache are nasty.  It can't detect them.  the object 
122                           winds up in the magazine array twice
123 -05:48- :        dillon@: (and possibly different magazines, too)
124 -05:49- :         alexh@: can't I just write some magic to a free object on the first objcache_put and check 
125                           if it's there on objcache_put?
126 -05:49- :         alexh@: and clear it on objcache_get, anyways
127 -05:50- :        dillon@: no, because the object is still may have live-initialized fields
128 -05:50- :        dillon@: because it hasn't been dtor'ed yet (one of the features of the objcache, to avoid 
129                           having to reinitialize objects every time)
130 -05:50- :        dillon@: the mbuf code uses that feature I think, probably other bits too
131 -05:51- :        dillon@: theoretically we could allocate slightly larger objects and store a magic number at 
132                           offset [-1] or something like that, but it gets a little iffy doing that
133 -05:52- :        dillon@: the objcache with the objcache malloc default could probably do something like that 
134                           I guess.
135 -05:52- :        dillon@: I don't consider memory tracking to be a huge issue w/ dragonfly, though I like the 
136                           idea of being able to do it.  It is a much bigger problem in FreeBSD due to the 
137                           large number of committers 
138
139
140 -05:55- :        dillon@: For the slab allocator you may be able to do something using the Zone header.
141 -05:55- :        dillon@: the slab allocator in fact I think already has optional code to allocate a tracking 
142                           bitmap to detect double-frees
143 -05:56- :        dillon@: sorry, I just remembered the bit about the power-of-2 allocations
144 -05:56- :        dillon@: for example, power-of-2-sized allocations are guaranteed not only to be aligned on 
145                           that particular size boundary, but also to not cross a PAGE_BOUNDARY (unless the 
146                           size is > PAGE_SIZE)
147 -05:57- :        dillon@: various subsystems such as AHCI depend on that behavior to allocate system 
148                           structures for which the chipsets only allow one DMA descriptor.
149 -05:59- :         alexh@: http://svn.freebsd.org/viewvc/base/head/sys/vm/redzone.c?view=markup&pathrev=155086 
150                           < this is redzone. it basically calls redzone_addr_ntor() to increase the size in 
151                           malloc(), and then redzone_setup() just before returning the chunk
152 -06:02- :        dillon@: jeeze. that looks horrible.
153 -06:03- :         alexh@: I don't quite get that nsize + redzone_roundup(nsize)
154 -06:03- :        dillon@: I don't get it either.  It would completely break power-of-2-sized alignments in the 
155                           original request
156 -06:04- :        dillon@: hmmm.  well, no it won't break them, but the results are oging to be weird
157 -06:04- :        dillon@: ick.
158
159 -06:15- :        dillon@: if the original request is a power of 2 the redzone adjusted request must be a power 
160                           of 2
161 -06:15- :        dillon@: basically
162 -06:16- :        dillon@: so original request 64, redzone request must be 128, 256, 512, 1024, etc.
163 -06:16- :         alexh@: yah, k
164 -06:16- :        dillon@: original request 32, current redzone code would be 32+128 which is WRONG.
165 -06:16- :         alexh@: how big is PAGE_SIZE ?
166 -06:16- :        dillon@: 4096 on i386 and amd64
167 -06:17- :         alexh@: and one single malloc can't be bigger than that?
168 -06:17- :        dillon@: I'm fairly sure our kmalloc does not guarantee alignment past PAGE_SIZE (that is, 
169                           the alignment will be only PAGE_SIZE eve if you allocate PAGE_SIZE*2)
170 -06:17- :        dillon@: a single kmalloc can be larger then PAGE_SIZe
171 -06:18- :        dillon@: it will use the zone up to around 1/2 the zone size (~64KB I think), after which it 
172                           allocates pages directly with the kernel kvm allocator
173 -06:18- :        dillon@: if you look at the kmalloc code you will see the check for oversized allocations
174 -06:18- :         alexh@: yah, saw that
175 -06:18- :         alexh@: "handle large allocations directly"
176 -06:19- :         alexh@: not sure how to do this, really, as the size is obviously also changed in 
177                           kmem_slab_alloc
178 -06:20- :         alexh@: but kmem_slab_alloc isn't called always, is it?
179 -06:20- :         alexh@: only if the req doesn't fit into an existant zone
180 -06:20- :        dillon@: right
181 -06:20- :        dillon@: you don't want to redzone the zone allocation itself
182
183 </pre>