第一个完全多 GPU 支持和非常先进的带有 Gradio 接口的批量图像字幕生成器 APP 发布
发布于2024-08-28
浏览：359
带有 JoyCaption 的多 GPU 批量字幕。 JoyCaption 使用 Meta-Llama-3.1–8B 和 google/siglip-so400m-patch14–384 以及微调的图像字幕神经网络。
链接：https://www.patreon.com/posts/110613301
批量字幕编辑器的链接：https://www.patreon.com/posts/108992085
在 Python、Torch 和 Bitsandbytes 中编码多 GPU 确实是一个挑战。
我们的APP使用JoyCaption图像字幕微调模型。
我们的应用程序甚至在多 GPU 模式（9.5 GB VRAM）下也支持 bitsandbytes 4 位模型加载
在 8x RTX A6000（云）和 RTX 3090 TI RTX 3060（我的电脑）上测试
在 Windows、RunPod 和 Massed Compute 上一键安装
出色的字幕质量，自动将图像分配到每个 GPU，功能很多。您可以使用跳过带字幕的图像选项来恢复字幕。
有关完整详细信息，请查看屏幕截图
版本声明
本文转载于：https://dev.to/furkangozukara/first-fully-multi-gpu-supporting-and-very-advanced-batch-image-captioner-app-with-gradio-interface-published-4l83?1如有侵犯，请联系[email protected]删除
最新教程
更多>
-
如何修复 Matplotlib 中的“无显示名称且无 $DISPLAY 环境变量”错误？"_tkinter.TclError: no display name and no $DISPLAY 环境变量"使用 Matplotlib 运行 Python 脚本时通常会发生此错误在没有图形显示的服务器上。 Matplotlib 依赖后端来渲染绘图，默认情况下，它选择 Xwi...编程 发布于2024-11-05 -
您的第一个使用 Node.js 的后端应用程序您是否正在学习 Web 开发并对如何启动 Node.js 项目感到困惑？别担心，我有你！我将指导您只需 5 个步骤即可使用 Node.js 和 Express.js 创建您的第一个后端。 ️5个关键步骤： 第 1 步：设置项目 第 2 步：整理文件夹 第3步：创建server.js文...编程 发布于2024-11-05
-
跨域场景下CORS何时使用预检请求？CORS：了解跨域请求的“预检”请求跨域资源共享 (CORS) 在制作 HTTP 时提出了挑战跨域请求。为了解决这些限制，引入了预检请求作为解决方法。预检请求说明预检请求是先于实际请求（例如 GET 或 POST）的 OPTIONS 请求）并用于与服务器协商请求的权限。这些请求包括两个附加标头：Ac...编程 发布于2024-11-05
-
如何使用 PHP 的 glob() 函数按扩展名过滤文件？在 PHP 中按扩展名过滤文件使用目录时，通常需要根据扩展名检索特定文件。 PHP 提供了一种使用 glob() 函数来完成此任务的有效方法。要按扩展名过滤文件，请使用语法：$files = glob('/path/to/directory/*.extension');例如，要检索目录 /path/...编程 发布于2024-11-05
-
理解 JavaScript 中的 Promise 和 Promise Chaining什么是承诺？ JavaScript 中的 Promise 就像你对未来做某事的“承诺”。它是一个对象，表示异步任务的最终完成（或失败）及其结果值。简而言之，Promise 充当尚不可用但将来可用的值的占位符。 承诺国家 Promise 可以存在于以下三种状态之一： ...编程 发布于2024-11-05
-
Pip 的可编辑模式何时对本地 Python 包开发有用？使用 Pip 在 Python 中利用可编辑模式进行本地包开发在 Python 的包管理生态系统中，Pip 拥有“-e”（或'--editable') 特定场景的选项。什么时候使用这个选项比较有利？答案在于可编辑模式的实现，官方文档中有详细说明：“从本地以可编辑模式安装项目（即 se...编程 发布于2024-11-05
-
当您在浏览器中输入 URL 时会发生什么？您是否想知道当您在浏览器中输入 URL 并按 Enter 键时幕后会发生什么？该过程比您想象的更加复杂，涉及多个步骤，这些步骤无缝地协同工作以提供您请求的网页。在本文中，我们将探讨从输入 URL 到查看完全加载的网页的整个过程，阐明使这一切成为可能的技术和协议。 第 1 步：输入 U...编程 发布于2024-11-05
-
如何有效管理大量小HashMap对象的“OutOfMemoryError：超出GC开销限制”？OutOfMemoryError: Handling Garbage Collection Overhead在Java中，当过多时会出现“java.lang.OutOfMemoryError: GC Overhead limit allowed”错误根据 Sun 的文档，时间花费在垃圾收集上。要解决...编程 发布于2024-11-05
-
为什么在 Python 列表初始化中使用 [[]] * n 时列表会链接在一起？使用 [[]] * n 进行列表初始化时的列表链接问题使用 [[]] 初始化列表列表时 n，程序员经常会遇到一个意想不到的问题，即列表似乎链接在一起。出现这种情况是因为 [x]n 语法创建对同一基础列表对象的多个引用，而不是创建不同的列表实例。为了说明该问题，请考虑以下代码：x = [[]] * ...编程 发布于2024-11-05
-
Python 变得简单：从初学者到高级 |博客Python Course Code Examples This is a Documentation of the python code i used and created , for learning python. Its easy to understand and L...编程 发布于2024-11-05
-
简化 TypeScript 中的类型缩小和防护Introduction to Narrowing Concept Typescript documentation explains this topic really well. I am not going to copy and paste the same descrip...编程 发布于2024-11-05
-
何时应该使用 session_unset() 而不是 session_destroy() ，反之亦然？理解 PHP 中 session_unset() 和 session_destroy() 的区别PHP 函数 session_unset() 和 session_destroy() 有不同的用途管理会话数据。尽管它们在清除会话变量方面有明显相似之处，但它们具有不同的效果。session_unset(...编程 发布于2024-11-05
-
如何选择在 C++ 中解析 INI 文件的最佳方法？在 C 中解析 INI 文件：各种方法指南在 C 中处理初始化 (INI) 文件时，开发人员经常遇到有效解析这些文件以提取所需信息的挑战。本文探讨了用 C 解析 INI 文件的不同方法，讨论了它们的优点和注意事项。本机 Windows API 函数一种方法是利用 Windows API 函数INI ...编程 发布于2024-11-05
![为什么在 Python 列表初始化中使用 [[]] * n 时列表会链接在一起？](http://www.luping.net/uploads/20241021/17294774536715bb4d76111.jpg)
学习中文
- 1 走路用中文怎么说？走路中文发音，走路中文学习
- 2 坐飞机用中文怎么说？坐飞机中文发音，坐飞机中文学习
- 3 坐火车用中文怎么说？坐火车中文发音，坐火车中文学习
- 4 坐车用中文怎么说？坐车中文发音，坐车中文学习
- 5 开车用中文怎么说？开车中文发音，开车中文学习
- 6 游泳用中文怎么说？游泳中文发音，游泳中文学习
- 7 骑自行车用中文怎么说？骑自行车中文发音，骑自行车中文学习
- 8 你好用中文怎么说？你好中文发音，你好中文学习
- 9 谢谢用中文怎么说？谢谢中文发音，谢谢中文学习
- 10 How to say goodbye in Chinese? 再见Chinese pronunciation, 再见Chinese learning
