”工欲善其事,必先利其器。“—孔子《论语.录灵公》
首页 > 编程 > 第一个完全多 GPU 支持和非常先进的带有 Gradio 接口的批量图像字幕生成器 APP 发布

第一个完全多 GPU 支持和非常先进的带有 Gradio 接口的批量图像字幕生成器 APP 发布

发布于2024-08-28
浏览:194

带有 JoyCaption 的多 GPU 批量字幕。 JoyCaption 使用 Meta-Llama-3.1–8B 和 google/siglip-so400m-patch14–384 以及微调的图像字幕神经网络。

链接:https://www.patreon.com/posts/110613301

批量字幕编辑器的链接:https://www.patreon.com/posts/108992085

在 Python、Torch 和 Bitsandbytes 中编码多 GPU 确实是一个挑战。

我们的APP使用JoyCaption图像字幕微调模型。

我们的应用程序甚至在多 GPU 模式(9.5 GB VRAM)下也支持 bitsandbytes 4 位模型加载

在 8x RTX A6000(云)和 RTX 3090 TI RTX 3060(我的电脑)上测试

在 Windows、RunPod 和 Massed Compute 上一键安装

出色的字幕质量,自动将图像分配到每个 GPU,功能很多。您可以使用跳过带字幕的图像选项来恢复字幕。

有关完整详细信息,请查看屏幕截图

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

版本声明 本文转载于:https://dev.to/furkangozukara/first-fully-multi-gpu-supporting-and-very-advanced-batch-image-captioner-app-with-gradio-interface-published-4l83?1如有侵犯,请联系[email protected]删除
最新教程 更多>
  • 如何在简单的返回类型扣除范围之外使用C ++ 14的`electType(auto)`?
    如何在简单的返回类型扣除范围之外使用C ++ 14的`electType(auto)`?
    dectype(auto)的Versatile应用程序超出返回类型扣除在通用代码中返回类型转发对于非传统函数,可以明确指定所需的返回类型(参考或值)。但是,在通用代码中,转发返回类型的机制至关重要。 DeclType(Auto)通过提供一种能够完美地转发返回类型的方法,无论其类型如何。在递归模板...
    编程 发布于2025-03-22
  • JavaScript可以访问无效的CSS属性吗?
    JavaScript可以访问无效的CSS属性吗?
    可以检索无效的css属性值? custom cass properties,用名称以dash为dash,提供用于定义和访问应用程序中的唯一样式的机构。但是,如果JavaScript访问这些自定义属性的值,如果浏览器无效或未识别它们?当遇到无效的属性名称(例如“ -my-foo”)时,此对象通常会...
    编程 发布于2025-03-22
  • 如何在全高布局中有效地将Flexbox和垂直滚动结合在一起?
    如何在全高布局中有效地将Flexbox和垂直滚动结合在一起?
    在全高布局中集成flexbox和垂直滚动传统flexbox方法(旧属性)使用新的FlexBox properties 试图将全新的FlexBox属性应用于全高和可滚动的设计引入限制。使用高度的解决方法:0px; on a wrapper element is unreliable and crea...
    编程 发布于2025-03-22
  • 如何将Python 3.4.0连接到MySQL数据库?
    如何将Python 3.4.0连接到MySQL数据库?
    Connecting Python 3.4.0 to MySQL DatabasePython 3.4.0 lacks support for the popular MySQLdb driver for connecting to MySQL databases.这可能对需要MySQL集成的项目构...
    编程 发布于2025-03-22
  • 如何在扩展的PHP类中从静态方法中检索类名?
    如何在扩展的PHP类中从静态方法中检索类名?
    在PHP世界中从静态php class class Action { 函数n(){/ *某些实现 */} } 类MyAction在这种情况下将操作扩展了{/ *进一步实现 */} 晚期静态绑定(php 5.3):替代方法(pre-php 5.3):请记住,此方法仅适用于非静态方法,因为g...
    编程 发布于2025-03-22
  • 在Python中输出输出时,如何保留编码?
    在Python中输出输出时,如何保留编码?
    在Python 通过管道的标准输出进行python程序的标准输出时,解释时,解释器可能会错误地假设none of none of to unicode surrors yrorors yrors。要解决此问题,必须明确指定编码。与脚本中的执行不同,在脚本中,python会自动调整终端编码,管道需要...
    编程 发布于2025-03-22
  • 如何从PHP中的数组中提取随机元素?
    如何从PHP中的数组中提取随机元素?
    从阵列中的随机选择,可以轻松从数组中获取随机项目。考虑以下数组:; 从此数组中检索一个随机项目,利用array_rand( array_rand()函数从数组返回一个随机键。通过将$项目数组索引使用此键,我们可以从数组中访问一个随机元素。这种方法为选择随机项目提供了一种直接且可靠的方法。
    编程 发布于2025-03-22
  • 为什么使用固定定位时,为什么具有100%网格板柱的网格超越身体?
    为什么使用固定定位时,为什么具有100%网格板柱的网格超越身体?
    网格超过身体,用100%grid-template-columns 为什么在grid-template-colms中具有100%的显示器,当位置设置为设置的位置时,grid-template-colly修复了?问题: 考虑以下CSS和html: class =“ snippet-code”> g...
    编程 发布于2025-03-22
  • 如何使用Depimal.parse()中的指数表示法中的数字?
    如何使用Depimal.parse()中的指数表示法中的数字?
    在尝试使用Decimal.parse(“ 1.2345e-02”中的指数符号表示法表示的字符串时,您可能会遇到错误。这是因为默认解析方法无法识别指数符号。 成功解析这样的字符串,您需要明确指定它代表浮点数。您可以使用numbersTyles.Float样式进行此操作,如下所示:[&& && && ...
    编程 发布于2025-03-22
  • 如何使用替换指令在GO MOD中解析模块路径差异?
    如何使用替换指令在GO MOD中解析模块路径差异?
    在使用GO MOD时,在GO MOD 中克服模块路径差异时,可能会遇到冲突,其中3个Party Package将另一个PAXPANCE带有导入式套件之间的另一个软件包,并在导入式套件之间导入另一个软件包。如回声消息所证明的那样: go.etcd.io/bbolt [&&&&&&&&&&&&&&&&...
    编程 发布于2025-03-22
  • 哪种方法更有效地用于点 - 填点检测:射线跟踪或matplotlib \的路径contains_points?
    哪种方法更有效地用于点 - 填点检测:射线跟踪或matplotlib \的路径contains_points?
    在Python Matplotlib's path.contains_points FunctionMatplotlib's path.contains_points function employs a path object to represent the polygon.它...
    编程 发布于2025-03-22
  • 您什么时候应该使用python命名的元组?
    您什么时候应该使用python命名的元组?
    在python 命名命名命名型单元类型是可轻松的方法)是提供相关数据相关的轻度对象。与常规元素不同,命名元素命名为属性,允许直观对象样引用。何时使用命名型元组何时使用命名的元素,何时何时使用: readisoind your py py py news new nature tation。 to ...
    编程 发布于2025-03-22
  • 如何在GO中初始化嵌入式结构:两次诉讼指南
    如何在GO中初始化嵌入式结构:两次诉讼指南
    在GO String } 来访问并设置嵌入式http.request struct。另外,我们还可以使用以下种句使用以下种句来初始化嵌入式struct: 在这里,我们创建了一个带有必需字段的匿名结构。重要的是要以“&”的形式将嵌入式结构名称前缀以适当的初始化很重要。这会导致具有所需值的myRe...
    编程 发布于2025-03-22
  • 如何在Java字符串中有效替换多个子字符串?
    如何在Java字符串中有效替换多个子字符串?
    在java 中有效地替换多个substring,需要在需要替换一个字符串中的多个substring的情况下,很容易求助于重复应用字符串的刺激力量。 However, this can be inefficient for large strings or when working with nu...
    编程 发布于2025-03-22

免责声明: 提供的所有资源部分来自互联网,如果有侵犯您的版权或其他权益,请说明详细缘由并提供版权或权益证明然后发到邮箱:[email protected] 我们会第一时间内为您处理。

Copyright© 2022 湘ICP备2022001581号-3