fal.ai - 디퓨전 모델을 사용한만큼 지불하는 서비스

tilnote2024-07-20 11:53

fal.ai

개요

fal.ai는 인공지능 기술을 제공하는 생성 미디어 플랫폼으로, 개발자가 이미지 생성, 해상도 향상, 오디오 처리 등 다양한 창의적인 작업을 지원하는 애플리케이션을 구축할 수 있도록 돕습니다. 이 플랫폼은 빠른 추론 시간, 사용한 만큼만 지불하는 가격 모델 및 실시간 상호작용을 위한 WebSocket 기반 인프라를 제공하여 효율성과 확장성을 최대화합니다[1].

fal.ai - 디퓨전 모델을 사용한만큼 지불하는 서비스 image 1

AuraFlow, SD3, AuraSR 등 다양한 모델 사용 가능

주요 기능

1. fal Inference Engine

fal.ai의 fal Inference Engine™은 확산 모델을 50% 더 빠르고 비용 효율적으로 실행할 수 있는 가장 빠른 방법을 제공합니다. 이 인프라는 개발자 경험을 극대화하며 실시간 사용자 경험을 가능하게 합니다. 이 엔진은 GPU 및 CPU 리소스를 최적화하여 높은 성능과 경제성을 제공합니다[1].

2. 모델 API 엔드포인트

fal.ai는 Stable Diffusion, SDXL, ControlNets, Whisper 등 다양한 인기 모델을 API로 제공하여 개발자가 손쉽게 애플리케이션에 통합할 수 있게 합니다. 이러한 모델은 fal 클라이언트를 사용하여 호출할 수 있으며, 필요한 경우 추가적인 개인 맞춤형 모델을 쉽게 구현할 수 있습니다[3].

3. 오픈 소스 프로젝트

fal는 오픈 소스 Python 런타임으로, 서버 관리 없이 클라우드에서 코드를 실행하고 확장할 수 있게 합니다. 또한 여러 사용자를 위해 ML 모델을 제공하고, 사용하지 않을 때는 자동으로 자원을 절감합니다[5].

GitHub - fal-ai/fal: ⚡ Fastest way to serve open source ML models to millions

4. AuraFlow v0.1 및 AuraSR

AuraFlow v0.1은 텍스트-이미지 생성을 위한 대규모 정류 흐름 모델로, 완전히 오픈 소스 형태로 제공됩니다. AuraSR은 GigaGAN Upscaler 논문에서 파생된 600M 파라미터 업샘플러 모델로, 저해상도 이미지를 4배 해상도로 업스케일링할 수 있습니다. 이 두 모델 모두 이용자에게 훌륭한 성능을 제공합니다[6].

오라플로우는 새로나온 오픈소스 이미지 모델입니다. 바로 사용이 가능하네요.

통합 및 확장성

1. Vercel 통합

fal.ai는 Vercel과의 공식 통합을 통해 웹 개발 경험을 크게 향상시켰습니다. 이 파트너십은 개발자가 생성 AI를 웹 애플리케이션에 통합할 수 있는 모든 도구를 제공하는 것을 목표로 합니다[2].

2. ComfyUI 워크플로우

fal.ai는 ComfyUI 워크플로우를 위한 서버리스 런타임을 제공하여, 워크플로우를 쉽게 설정하고 관리할 수 있게 합니다. 사용자는 이러한 기능을 통해 복잡한 환경 구성 없이 워크플로우를 원활하게 운영할 수 있습니다[8].

실제 적용 예시

1. 이미지 생성

사용자는 간단한 코드로 다양한 이미지 생성 모델을 호출할 수 있습니다. 예를 들어, 다음 코드는 고양이가 기모노를 입은 사진을 생성합니다:

import * as fal from "@fal-ai/serverless-client";

const result = await fal.subscribe("fal-ai/fast-sdxl", {
  input: {
    prompt: "photo of a cat wearing a kimono"
  },
  logs: true,
  onQueueUpdate: (update) => {
    if (update.status === "IN_PROGRESS") {
      update.logs.map((log) => log.message).forEach(console.log);
    }
  },
});