DockerHubのnvidia/cuda:11.5.2-devel-ubuntu20.04をベースイメージとしてコンテナを作り、その上でcudfを動かすと掲題のエラーが出た。
原因はLD_LIBRARY_PATHで指定しているcudaのパスが間違っていること。多分ベースイメージでは以下の環境変数が設定されているが、/usr/local/nvidiaフォルダが存在しない。。
LD_LIBRARY_PATH=/usr/local/nvidia/lib:/usr/local/nvidia/lib64
以下のように直すとエラーがなくなった。
LD_LIBRARY_PATH=/usr/local/cuda/lib64
参考: