"일꾼이 일을 잘하려면 먼저 도구를 갈고 닦아야 한다." - 공자, 『논어』.
첫 장 > 프로그램 작성 > Gradio 인터페이스가 출시된 최초의 완전 다중 GPU 지원 및 고급 배치 이미지 캡션 작성자 앱

Gradio 인터페이스가 출시된 최초의 완전 다중 GPU 지원 및 고급 배치 이미지 캡션 작성자 앱

2024-08-28에 게시됨
검색:151

JoyCaption을 사용한 다중 GPU 일괄 캡션. JoyCaption은 Meta-Llama-3.1–8B 및 google/siglip-so400m-patch14–384와 미세 조정된 이미지 캡션 신경망을 사용합니다.

링크: https://www.patreon.com/posts/110613301

일괄 캡션 편집기 링크: https://www.patreon.com/posts/108992085

Python과 Torch, 그리고 비트샌드바이트에서 다중 GPU를 코딩하는 것은 정말 어려운 일이었습니다.

저희 앱은 JoyCaption 이미지 캡션을 미세 조정된 모델을 사용합니다.

저희 앱은 멀티 GPU 모드(9.5GB VRAM)에서도 bitandbytes 4비트 모델 로딩을 지원합니다.

8x RTX A6000(클라우드) 및 RTX 3090 TI RTX 3060(내 PC)에서 테스트됨

Windows, RunPod 및 Massed Compute에 설치하려면 한 번 클릭하세요.

뛰어난 캡션 품질, 이미지를 각 GPU에 자동으로 배포, 다양한 기능. 캡션 이미지 건너뛰기 옵션을 사용하여 캡션을 재개할 수 있습니다.

자세한 내용은 결제 스크린샷을 참조하세요.

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

릴리스 선언문 이 기사는 https://dev.to/furkangozukara/first-ly-multi-gpu-supporting-and-vest-advanced-batch-multi-gpu-supporting-ngradio-interface-pacepported-spacepported-4l83에서 재현됩니다.
최신 튜토리얼 더>

부인 성명: 제공된 모든 리소스는 부분적으로 인터넷에서 가져온 것입니다. 귀하의 저작권이나 기타 권리 및 이익이 침해된 경우 자세한 이유를 설명하고 저작권 또는 권리 및 이익에 대한 증거를 제공한 후 이메일([email protected])로 보내주십시오. 최대한 빨리 처리해 드리겠습니다.

Copyright© 2022 湘ICP备2022001581号-3