Георг Гаал

Во-первых, не надо рыть половину интернета. И качать пакеты с каких-то сомнительных сайтов.
Во-вторых, установленные на хосте пакеты имеют следующие версии (это рабочая комбинация с CUDA 10.2):

ii  libnvidia-container-tools                         1.0.1-1                                         amd64        NVIDIA container runtime library (command-line tools)
ii  libnvidia-container1:amd64                        1.0.1-1                                         amd64        NVIDIA container runtime library
ii  nvidia-container-runtime                          2.0.0+docker18.09.3-1                           amd64        NVIDIA container runtime
ii  nvidia-container-runtime-hook                     1.4.0-1                                         amd64        NVIDIA container runtime hook
ii  nvidia-docker2                                    2.0.3+docker18.09.3-1                           all          nvidia-docker CLI wrapper

В третьих, эти пакеты доступны через оф. репо https://nvidia.github.io/nvidia-docker/
К сожалению, прямые ссылки на бинарные файлы по какой-то причине скрыты, но при наличии компьютера с доступом в интернет это не является проблемой...

До кучи - всегда можно собрать руками нужные деб-файлы из репозиторием с исходниками, например, - https://github.com/NVIDIA/libnvidia-container

Проблема не в докере, а в том, что в убунте сломаны пакеты docker-compose и docker-credential-secretservice
Решается через установку docker-compose при помощи pip install (плохой вариант) или - лучше - скачиванием с оф.сайта и копированием бинарного файла в /usr/local/bin

Еще можно использовать docker-compose в виде докер контейнера