jjzjj

android - 在Android Studio Project中使用Tensorflow Lite C++ API的问题

coder 2023-12-19 原文

我目前正在从事有关神经网络的项目。
为此,我想构建一个Android应用程序,该应用程序应使用tensorflow [lite]解决一些对象检测/识别问题。

因为我希望代码尽可能地可移植,所以我想用C++编写大多数代码,从而在Java API/包装器上使用tensorflow lite的C++ API。
因此,我修改了tensorflow/contrib/lite/BUILD并添加了以下内容以能够创建共享的tensorflow库。

cc_binary(
name = "libtensorflowLite.so",

linkopts=["-shared", "-Wl"],
linkshared=1,

copts = tflite_copts(),
deps = [
    ":framework",
    "//tensorflow/contrib/lite/kernels:builtin_ops",
],

)

(基于此问题的答案:https://github.com/tensorflow/tensorflow/issues/17826)

然后我用
bazel build //tensorflow/contrib/lite:libtensorflowLite.so --crosstool_top=//external:android/crosstool --cpu=arm64-v8a --host_crosstool_top=@bazel_tools//tools/cpp:toolchain --cxxopt="-std=c++11"

最终建立它。

之后,我前往Android Studio并建立了一个基本项目。
要将共享库添加到项目中,请引用以下示例:

https://github.com/googlesamples/android-ndk/tree/840858984e1bb8a7fab37c1b7c571efbe7d6eb75/hello-libs

我还添加了 FlatBuffers 所需的依赖项。

构建/编译过程成功完成,没有任何链接器错误(嗯,至少在尝试了几个小时之后。)。

然后,该APK已成功安装在Android设备上,但启动后立即崩溃。 Logcat提供以下输出:
04-14 20:09:59.084 9623-9623/com.example.hellolibs E/AndroidRuntime: FATAL EXCEPTION: main
    Process: com.example.hellolibs, PID: 9623
    java.lang.UnsatisfiedLinkError: dlopen failed: library "/home/User/tensorflowtest/app/src/main/cpp/../../../../distribution/tensorflow/lib/x86/libtensorflowLite.so" not found
        at java.lang.Runtime.loadLibrary0(Runtime.java:1016)
        at java.lang.System.loadLibrary(System.java:1657)
        at com.example.hellolibs.MainActivity.<clinit>(MainActivity.java:36)
        at java.lang.Class.newInstance(Native Method)
        at android.app.Instrumentation.newActivity(Instrumentation.java:1174)
        at android.app.ActivityThread.performLaunchActivity(ActivityThread.java:2669)
        at android.app.ActivityThread.handleLaunchActivity(ActivityThread.java:2856)
        at android.app.ActivityThread.-wrap11(Unknown Source:0)
        at android.app.ActivityThread$H.handleMessage(ActivityThread.java:1589)
        at android.os.Handler.dispatchMessage(Handler.java:106)
        at android.os.Looper.loop(Looper.java:164)
        at android.app.ActivityThread.main(ActivityThread.java:6494)
        at java.lang.reflect.Method.invoke(Native Method)
        at com.android.internal.os.RuntimeInit$MethodAndArgsCaller.run(RuntimeInit.java:438)
        at com.android.internal.os.ZygoteInit.main(ZygoteInit.java:807)

我在android x86模拟器和真实的arm64-v8a android智能手机上尝试了此操作。

因此对我来说,这看起来像启动时应用程序尝试加载tensorflowLite共享库,但找不到它。
使用zip存档管理器打开apk,我可以验证平台( ARM ,x86)相关的.so文件是否已按预期方式打包到APK中(通过在build.gradle中添加以下内容):
sourceSets {
        main {
            // let gradle pack the shared library into apk
            jniLibs.srcDirs = ['../distribution/tensorflow/lib']
        }
})

我不明白的是为什么它会在我将其放置在Ubuntu 17.10 PC上的路径中查找该库。
因此,我认为尝试修改将外部库添加到前面提到的Android Studio项目中的示例时,我做错了。
这就是为什么我下载整个项目并在Android Studio中打开它,并验证该示例是否按预期工作的原因。之后,我将示例libgperf.so替换为libtensorflowLite.so,并保留了所有其他内容,尤其是CMakeLists.txt。
但是我又得到了完全相同的错误,因此我怀疑这是libtensorflowLite库本身而不是android项目的问题(尽管这只是我的猜测)。

我正在使用android studio 3.1.1,NDK版本14和API级别24(Android 7.0)。
如果有人知道什么地方可能出了问题,我们将不胜感激。
我也对任何其他允许我将tensorflow lite与C++一起用于android应用程序的方法持开放态度。

非常感谢,

马丁

最佳答案

我只是记得几周前我问过这个问题。
同时,我找到了解决问题的方法,并且TensorflowLite现在可以很好地嵌入到我的Android项目中,在那里我可以使用C++ API进行所有编程!

问题是我构建的Tensorflow共享库不包含soname。因此,在构建过程中,该库被剥离,并且由于未找到名称,因此将该路径用作“名称”。我注意到,在我进一步研究使用Linux“字符串”工具的native-lib.so(NDK C++库,然后由App加载)时。在这里,我发现确实是从以下位置加载库的路径:“/home/User/tensorflowtest/app/src/main/cpp/../../../../distribution/tensorflow/lib/x86/libtensorflowLite .so”已设置。
在构建文件的构建选项中添加“-Wl,-soname = libtensorflowLite.so”可解决此问题!您可以在下面找到我使用的整个规则。

由于缺乏解释(所有内容都很难设置(似乎TensorflowLite主要通过Android上的Java API使用?),因此很难进行所有设置),因此,我想就如何在Android Studio中使用TensorflowLite的C++ API给出简短的指导(从Android NDK项目中)。

1. 为您的体系结构构建库

要使用C++ API,您首先需要构建TensorflowLite库。为此,将以下规则添加到tensorflow/contrib/lite中的BUILD文件中:

cc_binary(

name = "libtensorflowLite.so",
linkopts=[
    "-shared", 
    "-Wl,-soname=libtensorflowLite.so",
],
linkshared = 1,
copts = tflite_copts(),
deps = [
    ":framework",
    "//tensorflow/contrib/lite/kernels:builtin_ops",
],

)

注意:这样,可以构建一个共享库!静态的也可以。

现在您可以使用
bazel build //tensorflow/contrib/lite:libtensorflowLite.so --crosstool_top=//external:android/crosstool --cpu=arm64-v8a --host_crosstool_top=@bazel_tools//tools/cpp:toolchain --cxxopt="-std=c++11"

如果要支持多种体系结构,则必须多次构建该库并相应地更改--cpu标志。

注意:至少对于arm64-v8a和armeabi-v7a正常(尚未通过MIPS测试过,因此它也可以工作)。但是,在x86设备上,我收到此主题已经解决的“atomic_store_8”错误:https://github.com/tensorflow/tensorflow/issues/16589

2. 添加要包含在Android Studio项目中的库和所需的 header

构建该库之后,现在需要确保它也已链接到您的应用程序(更具体地说:进入您的Android NDK库,在我的情况下称为“native-lib”)。我将简要介绍如何执行此操作,但是,如果您需要更详细的说明,则可以引用我在最初的问题中提供的github链接:https://github.com/googlesamples/android-ndk/tree/840858984e1bb8a7fab37c1b7c571efbe7d6eb75/hello-libs

2.1。在您的Android Studio项目中,打开CMakeLists.txt

2.2。添加以下内容:
    # This will create a new "variable" holding the path to a directory
    # where we will put our library and header files.
    # Change this to your needs
    set(distribution_DIR ${CMAKE_SOURCE_DIR}/distribution)

    # This states that there exists a shared library called libtensorflowLite
    # which will be imported (means it is not built with the rest of the project!)
    add_library(libtensorflowLite SHARED IMPORTED)

    # This indicates where the libtensorflowLite.so for each architecture is found relative to our distribution directory
    set_target_properties(libtensorflowLite PROPERTIES IMPORTED_LOCATION
        ${distribution_DIR}/lib/${ANDROID_ABI}/libtensorflowLite.so)

    # This indicates where the header files are found relative to our distribution dir
    target_include_directories(native-lib PRIVATE
                       ${distribution_DIR}/include)

    # Finally, we make sure our libtensorflowLite.so is linked to our native-lib and loaded during runtime 
    target_link_libraries( # Specifies the target library.
                   native-lib
                   libtensorflowLite
                   # Links the target library to the log library
                   # included in the NDK.
                   ${log-lib} )

2.3。打开您的Module:App(不是项目之一)的build.gradle。

2.4。确保我们的资料库将打包到您的APK中

在Android部分中添加以下内容:
    sourceSets {
        main {
            // let gradle pack the shared library into apk
            jni.srcDirs = []
            jniLibs.srcDirs = ['distribution/lib']
        }
    }

您可能需要根据需要编辑路径:此处的文件将打包到lib目录中的.apk中。

3.包括 FlatBuffers

TensorflowLite使用Flatbuffers序列化库。我想如果您使用bazel构建项目,这将自动添加。但这不是使用Android Studio时的情况。
当然,您也可以添加静态或共享库。
但是,对我来说,最简单的方法是让Flatbuffer每次与我的应用程序的其余部分一起编译(这并不大)。
我将所有 FlatBuffers * .cpp 源文件复制到了我的项目中,并将它们添加到了CMakeLists中。

4.复制TensorflowLite和flatbuffers所需的 header

在3.中,我只是将cpp文件复制到了我的项目中。
但是,头文件需要位于我们在步骤2.2中在target_include_directories中设置的目录中。

因此,继续并将所有flatbuffers(从flatbuffers存储库中)*。h文件复制到此目录。
接下来,从TensorflowLite存储库中,您需要tensorflow/contrib/lite目录中的所有头文件。但是,您应该保留文件夹结构

对我来说,它看起来像这样:
  • 分布
  • lib
  • arm64-v8a
  • libtensorflowLite
  • armeabi-v7a
  • libtensorflowLite
  • 包括
  • flatbuffers
  • tensorflow
  • 贡献
  • lite
  • 内核
  • nnapi
  • 模式
  • 工具

  • 因此,如果我没有忘记任何内容,那么现在应该正确设置所有内容!
    希望它能对您有所帮助,并且对我有用;)

    最好的祝福,

    马丁

    关于android - 在Android Studio Project中使用Tensorflow Lite C++ API的问题,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/49834875/

    有关android - 在Android Studio Project中使用Tensorflow Lite C++ API的问题的更多相关文章

    1. ruby - 如何使用 Nokogiri 的 xpath 和 at_xpath 方法 - 2

      我正在学习如何使用Nokogiri,根据这段代码我遇到了一些问题:require'rubygems'require'mechanize'post_agent=WWW::Mechanize.newpost_page=post_agent.get('http://www.vbulletin.org/forum/showthread.php?t=230708')puts"\nabsolutepathwithtbodygivesnil"putspost_page.parser.xpath('/html/body/div/div/div/div/div/table/tbody/tr/td/div

    2. ruby - 使用 RubyZip 生成 ZIP 文件时设置压缩级别 - 2

      我有一个Ruby程序,它使用rubyzip压缩XML文件的目录树。gem。我的问题是文件开始变得很重,我想提高压缩级别,因为压缩时间不是问题。我在rubyzipdocumentation中找不到一种为创建的ZIP文件指定压缩级别的方法。有人知道如何更改此设置吗?是否有另一个允许指定压缩级别的Ruby库? 最佳答案 这是我通过查看ruby​​zip内部创建的代码。level=Zlib::BEST_COMPRESSIONZip::ZipOutputStream.open(zip_file)do|zip|Dir.glob("**/*")d

    3. ruby - 为什么我可以在 Ruby 中使用 Object#send 访问私有(private)/ protected 方法? - 2

      类classAprivatedeffooputs:fooendpublicdefbarputs:barendprivatedefzimputs:zimendprotecteddefdibputs:dibendendA的实例a=A.new测试a.foorescueputs:faila.barrescueputs:faila.zimrescueputs:faila.dibrescueputs:faila.gazrescueputs:fail测试输出failbarfailfailfail.发送测试[:foo,:bar,:zim,:dib,:gaz].each{|m|a.send(m)resc

    4. ruby-on-rails - 使用 Ruby on Rails 进行自动化测试 - 最佳实践 - 2

      很好奇,就使用ruby​​onrails自动化单元测试而言,你们正在做什么?您是否创建了一个脚本来在cron中运行rake作业并将结果邮寄给您?git中的预提交Hook?只是手动调用?我完全理解测试,但想知道在错误发生之前捕获错误的最佳实践是什么。让我们理所当然地认为测试本身是完美无缺的,并且可以正常工作。下一步是什么以确保他们在正确的时间将可能有害的结果传达给您? 最佳答案 不确定您到底想听什么,但是有几个级别的自动代码库控制:在处理某项功能时,您可以使用类似autotest的内容获得关于哪些有效,哪些无效的即时反馈。要确保您的提

    5. ruby - 在 Ruby 中使用匿名模块 - 2

      假设我做了一个模块如下:m=Module.newdoclassCendend三个问题:除了对m的引用之外,还有什么方法可以访问C和m中的其他内容?我可以在创建匿名模块后为其命名吗(就像我输入“module...”一样)?如何在使用完匿名模块后将其删除,使其定义的常量不再存在? 最佳答案 三个答案:是的,使用ObjectSpace.此代码使c引用你的类(class)C不引用m:c=nilObjectSpace.each_object{|obj|c=objif(Class===objandobj.name=~/::C$/)}当然这取决于

    6. ruby - 使用 ruby​​ 和 savon 的 SOAP 服务 - 2

      我正在尝试使用ruby​​和Savon来使用网络服务。测试服务为http://www.webservicex.net/WS/WSDetails.aspx?WSID=9&CATID=2require'rubygems'require'savon'client=Savon::Client.new"http://www.webservicex.net/stockquote.asmx?WSDL"client.get_quotedo|soap|soap.body={:symbol=>"AAPL"}end返回SOAP异常。检查soap信封,在我看来soap请求没有正确的命名空间。任何人都可以建议我

    7. python - 如何使用 Ruby 或 Python 创建一系列高音调和低音调的蜂鸣声? - 2

      关闭。这个问题是opinion-based.它目前不接受答案。想要改进这个问题?更新问题,以便editingthispost可以用事实和引用来回答它.关闭4年前。Improvethisquestion我想在固定时间创建一系列低音和高音调的哔哔声。例如:在150毫秒时发出高音调的蜂鸣声在151毫秒时发出低音调的蜂鸣声200毫秒时发出低音调的蜂鸣声250毫秒的高音调蜂鸣声有没有办法在Ruby或Python中做到这一点?我真的不在乎输出编码是什么(.wav、.mp3、.ogg等等),但我确实想创建一个输出文件。

    8. ruby-on-rails - 'compass watch' 是如何工作的/它是如何与 rails 一起使用的 - 2

      我在我的项目目录中完成了compasscreate.和compassinitrails。几个问题:我已将我的.sass文件放在public/stylesheets中。这是放置它们的正确位置吗?当我运行compasswatch时,它不会自动编译这些.sass文件。我必须手动指定文件:compasswatchpublic/stylesheets/myfile.sass等。如何让它自动运行?文件ie.css、print.css和screen.css已放在stylesheets/compiled。如何在编译后不让它们重新出现的情况下删除它们?我自己编译的.sass文件编译成compiled/t

    9. ruby - 使用 ruby​​ 将 HTML 转换为纯文本并维护结构/格式 - 2

      我想将html转换为纯文本。不过,我不想只删除标签,我想智能地保留尽可能多的格式。为插入换行符标签,检测段落并格式化它们等。输入非常简单,通常是格式良好的html(不是整个文档,只是一堆内容,通常没有anchor或图像)。我可以将几个正则表达式放在一起,让我达到80%,但我认为可能有一些现有的解决方案更智能。 最佳答案 首先,不要尝试为此使用正则表达式。很有可能你会想出一个脆弱/脆弱的解决方案,它会随着HTML的变化而崩溃,或者很难管理和维护。您可以使用Nokogiri快速解析HTML并提取文本:require'nokogiri'h

    10. ruby - 在 64 位 Snow Leopard 上使用 rvm、postgres 9.0、ruby 1.9.2-p136 安装 pg gem 时出现问题 - 2

      我想为Heroku构建一个Rails3应用程序。他们使用Postgres作为他们的数据库,所以我通过MacPorts安装了postgres9.0。现在我需要一个postgresgem并且共识是出于性能原因你想要pggem。但是我对我得到的错误感到非常困惑当我尝试在rvm下通过geminstall安装pg时。我已经非常明确地指定了所有postgres目录的位置可以找到但仍然无法完成安装:$envARCHFLAGS='-archx86_64'geminstallpg--\--with-pg-config=/opt/local/var/db/postgresql90/defaultdb/po

    随机推荐