mod_dav_svnを入れるためにsubversionを再インストール。
Apache Subversion Source Code
に従ってautoconfとかlibtoolとかを適当にapt-getしてからsubversionの解凍先ディレクトリで。

$ ./autogen.sh
$ ./configure --with-apr=/usr/local/apache2 ?
--with-apr-util=/usr/local/apache2 ?
--with-apxs=/usr/local/apache2/bin/apxs
$ make
$ sudo make install

./configureでオプションを指定しないとうまく動きませんでした。