Действовал по инструкции:
https://docs.nvidia.com/video-technologies/video-codec-sdk/ffmpeg-with-nvidia-gpu/
Кстати, инструкция неполная (у меня не был установлен nvcc, например), но это мелочь.
Собрал ffmpeg, поставил, опробовал.
h264_nvenc выдаёт дичайшие глитчи (впрочем, это может даже пригодиться), а h265_nvenc работает чисто, гладко и быстро: жмёт 1920*1080 с хорошим качеством со скоростью от 30 кадров в секунду и выше, что существенно быстрее, чем если сжимать на ЦПУ.
С одной стороны, меня это устраивает... ведь 265 это более лучше. С другой стороны, всё равно как-то неаккуратненько.
И загадочно.
А меня такие загадки бесят.