tensorflow liteで動かせば速くなると思っていたのになぜ・・ 調べてみたら、tfliteはARMプロセッサに最適化されているのでx86 cpuでは遅いという情報がありました。 自分が動かしたい環境はx86 cpu。。
x86 cpuサポートは計画されているようだけどいつリリースかは見付からなかった。
以下によるとx86 supportはTF2.3でリリースされると言っている人がいる。もう対応済??
x86 cpuで動かす場合、高速化の選択肢は二つあるっぽい。
一つはOpenVINOを使って高速化する方法。これはIntel製なのでx86 cpuに最適化されている。
もう一つはtensorflow liteにXNNPACKという拡張機能を加えてビルドし、使う方法。
上記の記事でOpenVINOとXNNPACKのパフォーマンスが比較されているがそんなに変わらなさそう。