LocalAI

Um substituto local e gratuito da API da OpenAI: texto, imagem, áudio e embeddings.

O que é

O LocalAI é um servidor open source (MIT) que imita a API da OpenAI e roda modelos localmente, com ou sem GPU. Suporta LLMs, geração de imagens, transcrição, voz (TTS) e embeddings, com uma galeria de modelos para instalar em um clique.

Pra que serve

• Apontar apps que usam a API da OpenAI para o seu próprio servidor
• Ter texto, imagem e áudio numa API só
• Rodar IA em servidores sem GPU

Qual problema resolve

Apps feitos para a OpenAI ficam presos à nuvem; com o LocalAI basta trocar a URL base e tudo roda em casa.

Como instalar — Antes de começar

Recomendado: Docker.

Acesse http://localhost:8080, escolha modelos na galeria e use a API em http://localhost:8080/v1.

Como instalar — Windows

Com o Docker Desktop aberto, rode o comando no PowerShell.

Como instalar — macOS

Com o Docker Desktop aberto, rode o comando no Terminal.

Como instalar — Linux

Com o Docker instalado, rode o comando (use sudo se seu usuário não estiver no grupo docker).

docker run -ti --name local-ai -p 8080:8080 localai/localai:latest

curl https://localai.io/install.sh | sh

Acessar LocalAI