? Guia do PC, referência de difusão estável: Qual GPU executa a IA mais rápida (atualizada) | Hardware de Tom
Difusão estável comparada: Qual GPU executa a IA mais rápida (atualizada)
Chegaremos a outros números teóricos de desempenho computacional em um momento, mas novamente consideramos o RTX 2080 Ti e o RTX 3070 Ti como exemplo. Os núcleos tensores de 2080 Ti não suportam a escassez e têm até 108 tflops de computação fp16. O RTX 3070 Ti suporta a escassez com 174 tflops de FP16, ou 87 TFLOPS FP16 sem esparsidade. O fato de o 2080 Ti vencer o 3070 Ti indica claramente a esparsidade não é um fator. A mesma lógica se aplica a outras comparações como 2060 e 3050, ou 2070 Super e 3060 Ti.
Eu preciso de uma GPU para difusão estável?
Você está se perguntando se precisa de uma GPU para difusão estável? Você veio ao lugar certo.
. . No entanto, se você deseja usá -lo no seu PC, verifique se os requisitos são atendidos, especialmente quando se trata de placas gráficas. Falando nisso, falaremos sobre se a difusão estável pode funcionar sem uma GPU ou se você ainda precisará de uma placa de gráfico para funcionar corretamente.
GPUs, ou placas gráficas, são pequenos pedaços de tecnologia que atualizarão seriamente qualquer jogo ou experiência profissional criativa. .
Ferramentas essenciais da IA
Deal exclusivo 10.000 créditos de bônus gratuitos
Conteúdo de IA na marca onde você criar. Mais de 100.000 clientes criando conteúdo real com Jasper. Uma ferramenta AI, todos os melhores modelos.
Experimente todo o poder de um gerador de conteúdo de IA que oferece resulta em segundos em segundos. 8 milhões de usuários gostam de escrever blogs 10x mais rápido, criando sem esforço postagens de mídia social de conversão mais alta ou escrevendo mais e -mails envolventes. Inscreva-se para uma avaliação gratuita.
Apenas $ 0.00015 por palavra!
Winston AI: o detector de IA mais confiável. Winston AI é a ferramenta de detecção de conteúdo de IA líderes do setor para ajudar a verificar o conteúdo da IA gerado com ChatGPT, GPT-4, Bard, Bing Chat, Claude e muitos outros LLMs.
.01 por 100 palavras
Detector de originalidade da IA
Originalidade.Ai é a detecção de IA mais precisa.. Extensão útil do Chrome. Detecta em e -mails, Google Docs e sites. Consulte Mais informação
. Guia do PC é apoiado pelo leitor. Quando você compra links em nosso site, podemos ganhar uma comissão de afiliados.
Então você precisa de uma placa de gráfico de difusão estável para que funcione? Ou um pode substituir o outro? Vamos descobrir.
?
Sim, para que a difusão estável funcione sem problemas, você deve ter uma GPU no seu PC. . Além disso, verifique se você tem 16 GB de PC RAM no sistema PC para evitar qualquer instabilidade.
. . . .
?
Sim, você também pode executar difusão estável nas GPUs da AMD, além dos modelos da série NVIDIA. No entanto, para usar a AMD, verifique se você tem um modelo acima do RX470. Além disso, para obter os melhores resultados, certifique -se de ter mais 8 GB ou mais para evitar inconvenientes.
Perguntas frequentes
A difusão estável pode funcionar nos processadores Apple Mac?
. No entanto, ele suporta apenas os mais recentes modelos M1 e M1 baseados em silício. Qualquer modelo antes disso não é para os melhores resultados. Mesmo um modelo M1 e M2 mais antigo ficará bem se atender aos requisitos.
Conclusão
. . Portanto, para difusão estável, é melhor ter uma GPU. Embora existam algumas maneiras de executá -lo sem uma GPU, elas não são tão confiáveis quanto parecem. Portanto, certifique -se de ter uma boa placa de gráfico antes de executar difusão estável para os melhores resultados.
Uma placa gráfica também é uma boa ideia em geral para tirar o máximo proveito do seu PC. Eles melhoram os jogos e experiências criativas dez vezes. Se você precisar de idéias sobre qual deles ir, consulte nosso resumo das melhores placas gráficas aqui.
Difusão estável comparada: Qual GPU executa a IA mais rápida (atualizada)
A inteligência artificial e o aprendizado profundo estão constantemente nas manchetes hoje em dia, seja Chatgpt gerando conselhos ruins, carros autônomos, artistas sendo acusados de usar a IA, conselhos médicos da IA e muito mais. . Mas quão rápido são as GPUs do consumidor para fazer a inferência de Ai?
Realizamos a difusão estável, um popular criador de imagens de IA, na mais recente NVIDIA, AMD e até Intel GPUs para ver como eles se empilham. Se você, por acaso, tentou obter difusão estável em funcionamento no seu próprio PC, você pode ter alguma idéia de quão complexo – ou simples! – Isso pode ser. O breve resumo é que as GPUs da NVIDIA governam o poleiro, com a maioria dos softwares projetados usando CUDA e outras ferramentas de NVIDIA. .
Acabamos usando três projetos diferentes de difusão estável para nossos testes, principalmente porque nenhum pacote único funcionou em todas as GPU. Para a NVIDIA, optamos pela versão Webui do 1111 automática; Ele teve melhor desempenho, tinha mais opções e foi fácil de correr. .. em falta. Conseguir as GPUs de arco da Intel em execução foi um pouco mais difícil, devido à falta de apoio, mas a difusão estável openvino nos deu alguns muito funcionalidade básica.
Isenções de responsabilidade estão em ordem. . . Enquanto isso, os resultados da série RTX 40 foram mais baixos inicialmente, mas George Sv8arj forneceu essa correção, onde a substituição das DLLs Pytorch CUDA deu um impulso saudável ao desempenho.
Os resultados da AMD também são um pouco de saco misto: RDNA 3 GPUS tem um desempenho muito bom, enquanto o RDNA 2 GPUS parece bastante medíocre. Acenar.Ai nos informa que eles ainda estão trabalhando nos modelos ‘Tuned’ para o RDNA 2, o que deve aumentar um pouco o desempenho (potencialmente o dobro) quando estão disponíveis. Finalmente, nas GPUs da Intel, embora o desempenho final pareça se alinhar decentemente com as opções da AMD, na prática o tempo para renderizar é substancialmente mais longo – leva de 5 a 10 segundos para que a tarefa de geração real inicie, e provavelmente muito de coisas de fundo extra estão acontecendo que diminuem.
Também estamos usando diferentes modelos de difusão estável, devido à escolha de projetos de software. Acenar.A versão de tubarão da IA usa SD2.1, enquanto o 1111 automático e o Openvino usam SD1.4 (embora seja possível ativar o SD2.1 no 1111 automático). .
. , muito mais tempo para concluir). . Observe que as configurações que escolhemos foram selecionadas para trabalhar nos três projetos SD; Algumas opções que podem melhorar a taxa de transferência estão disponíveis apenas na construção automática dos 1111, mas mais sobre isso mais tarde. Aqui estão as configurações pertinentes:
Cidade póspocalíptica steampunk, exploração, detalhes cinematográficos, realistas, hiper detalhados e fotorrealistas máximos, luz volumétrica, (((foco))), grande angular, (((iluminado)), ((((vegetação)), raios), raios, um raio , videiras, destruição, devastação, wartorn, ruínas
Prompt negativo:
Passos:
100
15.
Algoritmo de amostragem:
O algoritmo de amostragem não parece afetar principalmente o desempenho, embora possa afetar a saída. O automático 1111 oferece o máximo de opções, enquanto a construção da Intel Openvino não oferece nenhuma escolha.
Aqui estão os resultados de nossos testes da série AMD RX 7000/6000, NVIDIA RTX 40/30-Série e Intel Arc A-Series GPUs. Observe que cada GPU da NVIDIA tem dois resultados, um usando o modelo computacional padrão (mais lento e em preto) e um segundo usando a biblioteca “Xformers” mais rápida do Facebook (mais rápido e em verde).
. Com a correção DLL para a tocha, o RTX 4090 oferece 50% a mais de desempenho que o RTX 3090 Ti com Xformers e 43% melhor desempenho sem Xformers. Leva pouco mais de três segundos para gerar cada imagem, e até o RTX 4070 Ti é capaz de atrapalhar o 3090 Ti (mas não se você desativar os Xformers).
As coisas caem de uma maneira bastante consistente das principais cartas para as GPUs da NVIDIA, do 3090 até o 3050. . . Finalmente, as GPUs Intel Arc chegam quase em último, com apenas o A770 conseguindo superar o RX 6600. .
. Acenar.A IA diz que deveria ter modelos sintonizados para o RDNA 2 nos próximos dias, momento em que a posição geral deve começar a se correlacionar melhor com o desempenho teórico. Falando em acenar.Ai, também fizemos alguns testes de algumas GPUs da NVIDIA usando esse projeto e, com os modelos Vulkan, os cartões da NVIDIA eram substancialmente mais lentos do que com a compilação automática do 1111 (15.52 It/s no 4090, 13…76 no 3090 – não conseguimos testar os outros cartões, pois eles precisam ser ativados primeiro).
Com base no desempenho dos 7900 cartões usando modelos sintonizados, também estamos curiosos sobre os cartões da NVIDIA e quanto são capazes de se beneficiar de seus núcleos tensores. No papel, o 4090 tem mais de cinco vezes o desempenho do RX 7900 XTX – e 2.7 vezes o desempenho, mesmo se descontarmos a escassez. Na prática, o 4090 no momento é apenas cerca de 50% mais rápido que o XTX com as versões que usamos (e isso cai para apenas 13% se omitirmos o resultado da menor precisão Xformers). Essa mesma lógica também se aplica aos cartões de arco da Intel.
Atualmente, o ARC GPUs da Intel oferece resultados muito decepcionantes, especialmente porque eles suportam operações FP16 XMX (Matrix) que devem fornecer até 4x a taxa de transferência como cálculos regulares FP32. . Aliás, se você quiser tentar executar o SD em uma GPU do ARC, observe que você precisa editar o ‘stable_diffusion_engine..
. Os RX 6000-Series estão com desempenho inferior, e as GPUs do ARC parecem geralmente ruins. As coisas podem mudar radicalmente com o software atualizado e, dada a popularidade da IA, esperamos que seja apenas uma questão de tempo até vermos melhor ajuste (ou encontre o projeto certo que já está sintonizado para oferecer melhor desempenho).
. O RX 5600 XT falhou, então paramos com os testes no RX 5700, e o Super GTX 1660 foi lento o suficiente para que não sentimos necessidade de fazer mais testes de peças de nível inferior. Mas os resultados aqui são bastante interessantes.
Primeiro, o RTX 2080 Ti acaba superando o RTX 3070 Ti. Isso normalmente não acontece e, nos jogos, até o Vanilla 3070 tende a vencer o ex -campeão. Mais importante, esses números sugerem que as otimizações de “esparsidade” da NVIDIA na arquitetura de Ampere não estão sendo usadas – ou talvez elas simplesmente não sejam aplicáveis.
Chegaremos a outros números teóricos de desempenho computacional em um momento, mas novamente consideramos o RTX 2080 Ti e o RTX 3070 Ti como exemplo. Os núcleos tensores de 2080 Ti não suportam a escassez e têm até 108 tflops de computação fp16. O RTX 3070 Ti suporta a escassez com 174 tflops de FP16, ou 87 TFLOPS FP16 sem esparsidade. O fato de o 2080 Ti vencer o 3070 Ti indica claramente a esparsidade não é um fator. A mesma lógica se aplica a outras comparações como 2060 e 3050, ou 2070 Super e 3060 Ti.
Quanto aos cartões RDNA da AMD, o RX 5700 XT e 5700, há uma grande lacuna no desempenho. O 5700 XT ataca logo à frente do 6650 XT, mas as 5700 terras abaixo do 6600. No papel, o cartão XT deve ser de até 22% mais rápido. Em nossos testes, no entanto, é 37% mais rápido. De qualquer maneira, nenhum dos GPUs NAVI 10 mais antigos são particularmente executivos em nossos benchmarks iniciais de difusão estável.
Finalmente, o Super GTX 1660 no papel deve ser de cerca de 1/5 do desempenho teórico do RTX 2060, usando núcleos tensores neste último. Se usarmos o desempenho do Shader com FP16 (Turing tem o dobro da taxa de transferência no código do shader FP16), a lacuna se restringe para apenas um déficit de 22%. Mas em nossos testes, o GTX 1660 Super é apenas cerca de 1/10 da velocidade do RTX 2060.
Novamente, não está claro exatamente como algum desses projetos é otimizado. Também não está claro se esses projetos estão alavancando totalmente coisas como os núcleos tensores da Nvidia ou os núcleos XMX da Intel. . O gráfico a seguir mostra o desempenho teórico do FP16 para cada GPU (apenas olhando para as placas gráficas mais recentes), usando núcleos de tensor/matriz, quando aplicável. Os resultados da Nvidia também incluem escassez – basicamente a capacidade de pular multiplicações por 0 para até metade das células em uma matriz, o que é supostamente uma ocorrência bastante frequente com cargas de trabalho de aprendizado profundo.
Esses núcleos tensores na NVIDIA levam claramente um soco (as barras cinza/preto são sem escassez) e, obviamente. Por exemplo, no papel, o RTX 4090 (usando FP16) é de até 106% mais rápido que o RTX 3090 Ti, enquanto em nossos testes foi 43% mais rápido sem Xformers e 50% mais rápido com Xformers. Observe também que estamos assumindo que o projeto de difusão estável que usamos (1111 automático) não aproveita as novas instruções do FP8 no ADA Lovelace GPUs, o que poderia potencialmente dobrar o desempenho no RTX 40-Série novamente.
Enquanto isso, olhe para as GPUs do ARC. . . A terra GPUS A770 mais rápida entre o RX 6600 e o RX 6600 XT, o A750 cai logo atrás do RX 6600, e o A380 é cerca de um quarto da velocidade do A750. .
As proporções internas no arco parecem certas, embora. O desempenho teórico de computação no A380 é de cerca de um quarto do A750, e é aí que ele pousa em termos de desempenho estável de difusão agora. Provavelmente, as GPUs do ARC estão usando shaders para os cálculos, no modo FP32 de precisão total, e perdendo algumas otimizações adicionais.
. .. .
. . AMD e Intel GPUs em contraste têm um duplo desempenho nos cálculos do shader FP16 em comparação com FP32.
. algo extra. O que nos leva a um último gráfico.
. . Mas confira os resultados da série RTX 40, com as DLLs da tocha substituídas.
. O 4080 também supera o 3090 Ti em 55%/18% com/sem Xformers. Curiosamente, o 4070 TI foi 22% mais lento que o 3090 Ti sem Xformers, mas 20% mais rápido com Xformers.
Parece que a resolução alvo mais complexa de 2048×1152 começa a aproveitar melhor os possíveis recursos de computação, e talvez os tempos de execução mais longos significam que os núcleos do tensor podem flexionar completamente seus músculos.
Por fim, este é, na melhor das hipóteses. Estamos vendo atualizações frequentes do projeto, suporte para diferentes bibliotecas de treinamento e muito mais. Veremos sobre a revisão deste tópico mais no próximo ano, espero com um código melhor otimizado para todas as várias GPUs.
Junte -se aos especialistas que leem o hardware de Tom para a faixa interna no entusiasta PC Tech News – e tem mais de 25 anos. .
Ao enviar suas informações, você concorda com os termos e condições e política de privacidade e tem 16 anos ou mais.
. . Desde o primeiro S3 Virge ‘3D Decelerators’ às GPUs de hoje, Jarred continua com todas as últimas tendências gráficas e é o único a perguntar sobre o desempenho do jogo.

