add sysv project
[ikiwiki.git] / docs / developer / gsoc2010 / index.mdwn
1 [[!meta title="Google Summer of Code 2010"]]
2
3 [[!toc  levels=0]]
4
5 DragonFly BSD is planning to participate (pending acceptance) in the Google Summer of Code program for 2010.
6
7
8 Have a look at our SoC pages from [[2008|docs/developer/GoogleSoC2008/]] and [[2009|docs/developer/gsoc2009]] to get an overview about prior year's projects.  The [Projects Page](/docs/developer/ProjectsPage/) is also a potential source of ideas.
9
10
11 For more details on Google's Summer of Code: [Google's SoC page](http://socghop.appspot.com/)
12
13
14 #### Project ideas
15
16 ##### VFS Quota System
17 * Create a new kernel subsystem to manage quota's in a filesystem agnostic manner by interfacing with the kernel VFS layer.
18 * Create filesystem-agnostic quota support tools for userland that obtain information in the same manner as eg: du(1) instead of parsing the filesystem internals directly as the existing quota tools do (see quotacheck(8), repquota(8), edquota(8), ...).
19 * The quota file storage can be modeled after the existing UFS code that does the same, but should use the more general bytes, files and/or directories metrics instead of the somewhat UFS-specific blocks and inodes.
20
21 Meta information:
22
23 * Difficulty: Moderate
24 * Contact point: Samuel J. Greear <sjg@thesjg.com>
25
26 ---
27
28 ##### HAMMER Data dedup
29 * Add a data de-duplication mechanism to HAMMER.
30
31 * Potential data matches using CRCs during pruning runs,
32   verify duplicate data, collapse the B-Tree reference,
33   and account for the additional ref in the allocator.
34
35 Meta information:
36
37 * Difficulty: Moderate
38 * Contact point: dillon
39
40 ---
41
42 ##### Implement i386 32-bit ABI for x86_64 64-bit kernel
43 * Add a 32-bit syscall table which translates 32-bit
44   system calls to 64-bit
45
46 * Add support for 32 bit compatibility mode operation
47   and ELF binary detection.
48
49 Meta information:
50
51 * Difficulty: Moderate
52 * Contact point: dillon
53
54 ---
55
56 ##### Implement ARC algorithm for vnode free list
57 * Vnode recycling is LRU and can't efficiently handle data sets which
58   exceed the maxvnode limit.
59
60 Meta information:
61
62 * Difficulty: Modest
63 * Contact point: dillon
64
65 ---
66
67 ##### Implement swapoff
68 * We have swapon to add swap space, we need a swapoff to
69   remove it.
70
71 Meta information:
72
73 * Difficulty: Modest
74 * Contact point: dillon
75
76 ---
77
78 ##### Implement SHA-2 password encryption
79 * Implement new default encryption for master.passwd
80
81 Meta information:
82
83 * Difficulty: Fairly easy
84 * Contact point: dillon
85
86 ---
87
88 ##### Graphics Kernel Memory Manager Support ( GEM )
89 * Support dealing with graphics NUMA in kernel space for modern graphics hardware
90 * http://en.wikipedia.org/wiki/Graphics_Execution_Manager
91
92 Meta information:
93
94 * Difficulty: ?
95 * Contact point: ?
96
97 ---
98
99 ##### Make DragonFly NUMA-aware 
100
101 * Parse related ACPI tables 
102 * NUMA-aware memory allocation
103 * References:
104 [ACPI SLIT parser](http://mail-index.netbsd.org/tech-kern/2009/11/23/msg006518.html)
105 [ACPI SRAT parser](http://mail-index.netbsd.org/tech-kern/2009/11/23/msg006517.html)
106 [NetBSD NUMA diff](http://www.netbsd.org/~cegger/numa2.diff)
107 [NetBSD NUMA x86 diff](http://www.netbsd.org/~cegger/numa_x86.diff)
108
109 Meta information:
110
111 * Difficulty: ?
112 * Contact point: ?
113
114 ---
115
116 ##### Volume Management based on NetBSD's port of LVM2
117
118 NetBSD reimplemented Linux's device mapper (currently only implementing
119 the linear, zero and error targets; Linux has support for a variety of
120 targets, including crypt, stripe, snap, multipath) as dm(4). Device mapper
121 provides the functionality on which to implement volume management; NetBSD
122 has imported LVM2 (which is GPL), but it is possible to create different
123 tools for volume management (e.g. IBM's EVMS was also built on top of device
124 mapper).
125
126 The goal of this project is to port both the kernel code, dm(4), and the
127 LVM2 userspace libraries and tools from NetBSD. If time remains, the
128 student should also implement a proof of concept "stripe" target or, for the
129 more ambitious, a "crypt" target.
130
131 A possible roadmap for this project would be
132
133 1. Port the dm(4) code
134
135     This code uses proplib instead of binary ioctls for communicating with
136 userspace. Either port proplib, or convert the code to use ioctls.
137
138 1. Port the userspace tools
139
140     Integrate the tools in our source tree using a separate vendor branch, as
141 is normally done for contrib software (see development(7)). Make any
142 DragonFlyBSD-specific changes necessary.
143
144 1. (Optional) Implement either a "stripe" target or a crypt target.
145
146     The stripe target must be designed with robustness and extensibility in
147 mind, though it is not required to go all the way. It should be flexible
148 enough to allow for different RAID level implementations (at least 0, 1
149 and 5). Additionally, it should be possible to keep an internal (i.e. part
150 of the volume) log to speed up resyncing and parity checking. Implementing
151 those features would be ideal, but is not required.
152
153     The crypt target must allow for different ciphers and cipher parameters and
154 should make use of our in-kernel crypto infrastructure. It is probably
155 necessary to do the encryption asynchronously which will require extending
156 the current infrastructure.
157
158 Meta information:
159
160 * Difficulty: Medium
161 * Contact point: Aggelos Economopoulos <aoiko@cc.ece.ntua.gr>
162
163 ---
164
165 ##### Make DragonflyBSD Tickless
166 * By default, the clock cyclic fires at 100 Hz, regardless of whether or not any timeouts/callouts are scheduled to fire/expire. This is suboptimal from a power efficiency standpoint, as at least one of the system's CPUs never become quiescent/idle enough to be brought into a low power state.
167 This work involves re-implementing the services presently provided by clock() in a tickless (or event based) fashion, eliminating the need for the system to "wake up", only to realize that there's nothing to do on an otherwise idle system.
168 * http://hub.opensolaris.org/bin/view/Project+tickless/lbolt
169
170 Meta information:
171
172 * Difficulty: ?
173 * Contact point: ?
174
175 ---
176
177 ##### Make the DragonflyBSD Dispatcher Power-aware
178 * CPU power management as it it implemented today is relatively isolated from the rest of the system. As such, it is forced to periodically poll to measure the utilization of the system's CPU resources.
179 * This project extends the kernel's existing topology aware scheduling facility to bring "power domain" awareness to the dispatcher. With this awareness in place, the dispatcher can implement coalescence dispatching policy to consolidate utilization onto a smaller subset of CPU domains, freeing up other domains to be power managed. In addition to being domain aware, the dispatcher will also tend to prefer to utilize domains already running at higher power/performance states...this will increase the duration and extent to which domains can remain quiescent, improving the kernel's ability to take advantage of features like deep C-states. Because the dispatcher will track power domain utilization along the way, it can drive active domain state changes in an event driven fashion, eliminating the need for the CPUPM subsystem to poll.
180 * http://hub.opensolaris.org/bin/view/Project+tesla/CPUPM
181
182 Meta information:
183
184 * Difficulty: ?
185 * Contact point: ?
186
187 ---
188
189 ##### Port DragonFly to ARM platform
190
191 Meta information:
192
193 * Difficulty: Extreme hard
194 * Contact point: ?
195
196 ---
197
198 ##### Port valgrind to DragonFlyBSD
199
200 Valgrind is a very useful tool on a system like DragonFly that's under heavy development. Since valgrind is very target specific, a student doing the port will have to get acquainted with many low level details of the system libraries and the user<->kernel interface (system calls, signal delivery, threading...). This is a project that should appeal to aspiring systems programmers. Ideally, we would want the port to be usable with vkernel processes, thus enabling complex checking of the core kernel code.
201
202 The goal of this project is to port valgrind to the DragonFlyBSD platform so that at least the memcheck tool runs sufficiently well to be useful. This is in itself a challenging task. If time remains, the student should try to get at least a trivial valgrind tool to work on a vkernel process.
203
204 Meta information:
205
206 * Difficulty: Hard
207 * Contact point: Aggelos Economopoulos <aoiko@cc.ece.ntua.gr>
208
209 ---
210
211 ##### Adapt pkgsrc to create a package system with dependency independence.
212 * Create a set of tools that modifies how the pkgsrc packages are installed, allowing for the ability to upgrade individual packages, without stopping applications that depend on said packages from working. One method of achieving this is detailed at http://www.dragonflybsd.org/goals/#packages but other methods may be possible. PC-BSD have written a tool called PBI Builder which modifies FreeBSD ports for their dependency independence PBI system, this could be used as a starting point for the DragonFly BSD tools.
213
214 Meta information:
215
216 * Difficulty: ?
217 * Contact point: ?
218
219 ---
220
221 ##### Implement virtio drivers on DragonFly to speed up DragonFly as a KVM guest
222 * As virtualization is coming more and more and KVM will be a strong player in that field, it might be a good idea to be the first BSD to have a virtio implementation that enables us to run at a better speed in comparison to the other BSDs and maybe close to Linux on this virtualization platform.
223
224 Meta information:
225
226 * Difficulty: ?
227 * Contact point: ?
228
229 ---
230
231 ##### Port FUSE or PUFFS from FreeBSD/NetBSD
232
233 * http://www.netbsd.org/docs/puffs/
234 * This would make many userspace filesystems available to DragonFly, e.g. sshfs to mention only one.
235
236 Meta information:
237
238 * Difficulty: Medium
239 * Contact point: Michael Neumann <mneumann@ntecs.de>
240
241 ---
242
243 ##### Make vkernels checkpointable
244
245 * See checkpt(1).
246 * Teach the checkpt syscall how to checkpoint multiple vmspaces.
247 * Add code to the vkernel which gets triggered on SIGCKPT to dump/load e.g. the current state of network drivers.
248 * This would allow us to save and restore or even migrate a complete DragonFly operating system running on the vkernel platform.
249 This could be especially handy on laptops (if we'd get X11 operating in vkernels).
250 * See also: http://www.dragonflybsd.org/docs/developer/CheckpointFeatures/
251
252 Meta information:
253
254 * Difficulty: Medium
255 * Contact point: Michael Neumann <mneumann@ntecs.de>
256
257 ---
258
259 ##### HAMMER compression
260
261 * Compress blocks as they get written to disk.
262 * Only file data (rec_type == DATA) should be compressed, not meta-data.
263 * the CRC should be that of the uncompressed data.
264 * ideally you'd need to associate the uncompressed data with the buffer cache buffer somehow, so that decompression is only performed once.
265 * compression could be turned on a per-file or per-pfs basis.
266 * gzip compression would be just fine at first.
267
268 Meta information:
269
270 * Difficulty: Medium
271 * Contact point: Michael Neumann <mneumann@ntecs.de>
272
273 ---
274
275
276 ##### Port usb4bsd
277 * Port the whole usb4bsd stuff to DragonFly, as our own usb stack is too outdated.
278
279 * The usb4bsd branch of hselasky (?) has several userland wrappers and quite good abstraction to simplify the porting.
280
281 * (is polachok doing this or not?)
282
283 Meta information:
284
285 * Difficulty: Moderate
286 * Contact point: -
287
288 ---
289
290 ##### Userland System V Shared Memory / Semaphore / Message Queue implementation
291 * Implement some or all of these subsystems in their entirety, or as completely as possible in userland using a daemon, mmap and the DragonFly umtx_sleep(2)/umtx_wakeup(2) or other userland facilities.
292 * Any security or other major hurdles to this approach that would likely have to be implemented in-kernel should be noted in the students application.
293 * Test and benchmark the new facilities with heavy SysV consumers such as PostgreSQL
294 * Identify performance tradeoffs made in the userland implementation versus the existing kernel implementation. If time permits identify and apply solutions to these tradeoffs so that the userland implementation performs on par with or better than the kernel implementation.
295
296 Meta information:
297
298 * Difficulty: Moderate
299 * Contact point: Samuel J. Greear <sjg@thesjg.com>
300
301 ---
302
303  (please add)