日々精進

新しく学んだことを書き留めていきます

AI

conda installで「CondaValueError: Malformed version string '~': invalid character(s).」エラー

AI

condaのバージョンを上げると直った。以下を実行するとバージョンアップできる。 conda upgrade -n base conda 参考: stackoverflow.com

Pythonのテストコードでglobalな状態を変更しても他のテストの実行結果に影響を与えないようにしたい

AI

Config.PARAM = "1" のようにstaticな変数にパラメータを保持しているような場合、これを変更するテストコードがあると、そのテストコード以降に実行される別のテストコードがコケることがある。 他のテストに影響を与えないようにしたいので、fixtureを使っ…

C#(.NET)のBitmapDataクラスを使うと画像データのチャネルがBGRになる

AI

C#からPythonに画像ファイルを渡すとチャネルの並びがBGRになるという現象がおきた。 BitmapDataのデータをByte配列に変換し、先頭の要素の値を確認すると、RGB画像の先頭のピクセルの色の並びと違っていた。つまり、BGRになっていた。 以下のような記事もあ…

str([elem])はelemの__repr__を呼び出す

AI

str()でlistをシリアライズしようと思ったときのこと。 各クラスの文字列表現を変更したかったので strを各クラスで実装し、listに詰めてstr(lst)のようにstr()に渡したがstrが呼ばれない。。 調べてみると、str(lst)はlstの各要素のreprを呼ぶらしい。lstは…

yaml.load時に「UnicodeDecodeError: 'ascii' codec can't decode byte」エラー

AI

文字コードを適切に指定していなかったため。 例えば以下のように指定すると直る。 with open(config, 'rt', encoding='utf8') as yml: config_obj = yaml.load(yml) 参考: github.com

OpenCVでwmvファイルを読み込むと総フレーム数やFPSの値がバグる

AI

get(cv2.CAP_PROP_FPS) や get(cv2.CAP_PROP_FRAME_COUNT) を実行すると1000とかデタラメな数字になる。 総フレーム数/FPSで動画の秒数になるかと思ったが、ならない。 これじゃあwmvをInputにして推論できないじゃん。。 3g2ファイルは大丈夫だった。 参考:…

Pythonのログファイル出力先を動的に変更する

AI

調べた限り、出力先だけを修正することはできず、 logging.config.dictConfig(config)でログ周りの設定を一括で行い、 出力先も修正することになりそう。 例えば以下のような感じ config: dict = self._load_config() if "myFileHandler" in config["handler…

cv2.VideoCapture.get(cv2.CAP_PROP_FRAME_COUNT)が返す総フレーム数は正確では無い

AI

以下によると、get(cv2.CAP_PROP_FRAME_COUNT)は動画の大体の総フレーム数を返すらしい。 stackoverflow.com 正確な総フレーム数を計算するのって時間かかるのかな・・かなり謎な仕様だ。

aws s3 syncやaws s3 cpを速くする

AI

aws s3 syncはバケットに入っているファイルが多いほど重くなる。 aws s3 cp --recursiveを使った方が良い。 aws configureでmax_concurrent_requestsの値を大きくすると速くなる。 参考: stackoverflow.com aws.amazon.com docs.aws.amazon.com

COCO minivalとは

AI

Browse the State-of-the-Art in Machine Learning | Papers With Codeでよく見るCOCO minivalとはなんぞやと思っていたが、 COCOのvalのうち5000件を取り出してvalidation setにしたものらしい。 物体検出ではこのデータセットを使うのが標準的らしい。なる…

ndarrayのマイナスの値を0にする

AI

arr[arr < 0] = 0 でいける。簡単にかけていいなぁ。 参考: www.relief.jp

「error: (-2:Unspecified error) in function '__cdecl cv::impl::`anonymous-namespace'::CvtHelper<struct cv::impl::`anonymous namespace'::Set<3,4,-1>,struct cv::impl::A0xe227985e::Set<3,4,-1>,struct cv::impl::A0xe227985e::Set<0,2,5>,2>::CvtHelper(const class

AI

cv2.cvtColorに渡すndarrayの型をunit8にしたら直った。 参考: qiita.com

cv2.imwriteで書き出すファイルのパスに日本語が入っていると文字化けする

AI

OpenCVがマルチバイト文字に対応していないのが原因。 以下の記事にcv2.imwriteを使わずにファイルを書き出す方法があるのでこれで解決出来た。 qiita.com

ArcFaceを動かすと「Shape of unspecifie arg: conv0_weight changed. This can cause the new executor to not share parameters with the old one. Please check for error in network.If this is intended, set partial_shaping=True to suppress this warning」エラー

AI

ArcFaceはinputの形としてchannel firstを想定しているが、channel lastで渡すとこのエラーが出る。 エラーメッセージから原因が想像できない。。 channel firstに変換すると直る。 参考: github.com

ArcFaceを動かすと「Object arrays cannot be loaded when allow_pickle=False」エラー

AI

原因はnumpyのバージョン1.16.3からload関数の仕様が変わったため。 np.load('/path/to/file.npy', allow_pickle=True)のようにallow_pickle=Trueを追加するか、 numpyのバージョンを下げる。ただし、np.loadで悪意のあるファイルを読み込むと任意のコードが…

MS COCO形式のAnnotationのフォーマット

AI

以下にフォーマットとコードサンプルがあり参考になりました。COCO形式のAnnotationを生成するのは結構めんどい。。 qiita.com qiita.com

conda env create -f environment.yamlを実行してもpipのパッケージがインストールされない

AI

condaのパッケージはインストールされるのに、なぜ。。 ログは以下のような感じ。 Ran pip subprocess with arguments: ['C:\\Users\\name\\AppData\\Local\\Continuum\\miniconda3\\envs\\myenv\\python.exe', '-m', 'pip', 'install', '-U', '-r', 'C:\\my…

pip installでPermission Errorが出た場合は--userを付ける

AI

Permission Errorが出る原因は権限の無いところにパッケージを保存しようとしているからなので、 --userを付けてログインしているユーザの領域に保存するようにすればいい。 参考: pyteyon.hatenablog.com

良いモデルの探し方

AI

物体検出など特定のタスクを実行するモデルの探し方。 普通は「精度」「速度・メモリ使用量」がトレードオフになっているのでそのバランスが要件に近いものを探す。 基本方針は「自分で網羅的にモデルを探すのは難しいので、網羅的に調べている人の調査結果…

TensorFlowが使うCPUコアの数を制限する

AI

ユーザのPC上で推論する場合、CPUを使いすぎるとPC全体が重くなって ユーザビリティが下がるので、CPU使用率を制限したい。 CPU使用率の上限を指定することはできないが、TensorFlowが使う CPUコア数は指定出来るのでこれでPC全体が重くなることは避けられる…

CPU版のTensorRTはOpenVINO

AI

TensorRTを使って推論を高速化しようとしたところ、CPUでは使えないという情報が。。 forums.developer.nvidia.com www.reddit.com NVIDIAが作ってるからそりゃそうか。。 類似ソリューションを探したところ、OpenVINOというものをINTELが作っているらしい。…

軽い顔検出・顔認証モデルならMobileFaceNetとUltraLightFastGenericFaceDetectorがよさそう

AI

顔検出をUltraLightFastGenericFaceDetectorでやり、顔認証をMobileFaceNetでやるという流れ。 公式実装は以下にある。 github.com github.com これらを使って顔検出・顔認証をした実装が以下にあるのでこれをパクればお手軽に顔検出・顔認証ができる。便利…

pip install onnxを実行すると「ERROR: Command errored out with exit status 1 」エラー

AI

原因はonnxがPython3.8に対応していないことだった。Pythonを3.7にダウングレードしたら直った。 参考: github.com

物体検出モデルを取ってきて動かす時のサンプルコード

AI

model zooから取ってきたモデルを動かすコードを探していたところ、以下が見付かった。 これを参考にSSD MobileNetを動かしたらサクッと動いたので良かった。 github.com

pip install dlibを実行すると「cmake must be installed to build the following extensions _dlib_pybind11 windows」エラー

AI

原因はcmakeがインストールされていないこと。 pip install cmake を実行してから再度pip install dlibを実行すると直った。 参考: stackoverflow.com

import insightfaceを実行すると「ModuleNotFoundError: No module named 'numpy.core._multiarray_umath'」エラー

AI

原因は pip install insightface を実行するとpip版のnumpyがインストールされるが、それではだめでconda版のnumpyを使わないといけないため。 以下を実行すると直った。 pip uninstall numpy conda install numpy 参考: github.com

SSD MobileNetV3のpretrained modelはmodel zooにある

AI

SSD MobileNetV3のpretrained modelを探していたが、意外と見付からなくて困った。 最終的には以下にあったものを使った。 github.com MobileNetV3という名前のモデルにはImageNetで学習したもの(=物体検出モデルではなく、画像分類モデル)もあり、混乱し…

windows環境でimport mxnetを実行すると「OSError: [WinError 126] 指定されたモジュールが見つかりません。」エラー

AI

原因はMXNETのバグ。mxnet-mklの1.4.0には以下で報告されているバグがあり、このエラーが出ていた。 github.com pip install mxnet-mkl==1.5.0 を実行し、1.5.0をインストールすると直った。

TF-TRTとTRTではTRTの方が速い(恐らく)

AI

TensorRT周りは色々ややこしい。。 TensorFlowに組み込まれたTensorRTがあり、これをTF-TRTという。 TensorRT(TRT)はNVIDIAが開発している深層学習を高速に推論するためのライブラリ。 TF-TRTはTensorRTが対応している部分のみTensorRT化して推論する。 ここ…

VBAで編集距離を計算するマクロ

AI

以下で紹介されているコードを使って編集距離計算できました。ありがたい・・ stackoverflow.com