Había instalado SQLite3:

sudo apt-get install sqlite3

Luego me dispuse a incluir la gema correspondiente para Ruby:

sudo gem install sqlite3-ruby

Pero no:

Building native extensions.  This could take a while...
ERROR:  While executing gem ... (Gem::Installer::ExtensionBuildError)
ERROR: Failed to build gem native extension.

ruby extconf.rb install sqlite3-ruby
checking for fdatasync() in -lrt... yes
checking for sqlite3.h... no

make
make: *** No hay ninguna regla para construir el objetivo `ruby.h', necesario para `sqlite3_api_wrap.o'.  Alto.

Faltaban librerías:

sudo apt-get install libsqlite3-dev

Ahora si, lo siguiente funcionó:

sudo gem install sqlite3-ruby