본문으로 건너뛰기

WebGPU 입문: 브라우저에서 GPU 추론까지

WebGPU는 브라우저에서 Direct3D 12·Metal·Vulkan 세대의 GPU에 접근하는 새로운 웹 표준 API입니다. 어댑터·디바이스·파이프라인·버퍼 같은 핵심 개념과 WGSL 셰이더 작성법을 살펴보고, transformers.js v3와 WebLLM로 브라우저에서 LLM 추론을 실행하는 흐름을 정리했습니다. 2025년 7월 기준 브라우저 지원 현황과 메모리·성능 제약까지 다루는 입문 가이드입니다.

· 9분 읽기

WebGPU 입문: 브라우저에서 GPU 추론까지

개요

최근 브라우저에서 머신러닝 모델을 직접 돌리는 데모를 여럿 보면서 WebGPU를 본격적으로 공부하게 됐습니다. WebGPU는 WebGL의 뒤를 잇는 웹 그래픽·연산 API로, 그래픽뿐 아니라 GPU를 활용한 범용 연산(compute)을 1급 기능으로 제공한다는 점이 핵심입니다. Chrome 팀의 발표에서도 WebGPU는 “같은 그래픽을 그릴 때 JavaScript 워크로드를 크게 줄이고, 머신러닝 모델 추론에서 3배 이상의 개선”을 가져온다고 소개됐습니다.

이 글은 WebGPU의 핵심 개념(어댑터, 디바이스, 파이프라인, 버퍼), 셰이딩 언어인 WGSL, 그리고 transformers.js v3와 WebLLM을 이용해 브라우저에서 신경망 추론을 실행하는 흐름을 정리한 입문 노트입니다. 사이드 프로젝트에 브라우저 내 추론을 붙여 보려는 분들에게 출발점이 되기를 바랍니다.

왜 WebGPU인가 — WebGL의 한계

WebGL은 2011년 전후에 설계된 API로, 사실상 OpenGL ES의 브라우저 포팅입니다. 문제는 OpenGL 계열 API가 현대 GPU의 설계와 맞지 않는다는 점입니다. Chrome 팀 발표에 따르면 WebGPU는 Direct3D 12, Metal, Vulkan처럼 “모던 하드웨어 역량을 노출하는 API”와 유사한 모델을 웹에 가져오며, WebGL이 제공하지 않던 고급 GPU 기능과 GPU 범용 연산에 대한 1급 지원을 제공합니다.

실무 관점에서 체감되는 차이는 세 가지입니다.

  • 연산 셰이더(compute shader): WebGL에서는 GPU 연산을 우회적으로 텍스처에 인코딩해 처리해야 했다면, WebGPU는 컴퓨트 패스를 기본 제공합니다. 머신러닝 행렬 연산에 결정적입니다.
  • JavaScript 오버헤드 감소: 명령 기록(command encoding) 방식이 도입되어, 같은 장면을 그릴 때 JS 작업량이 크게 줄어듭니다.
  • Promise 통합과 에러 메시지: 웹 플랫폼다운 API 설계로, 이벤트 루프 위에서 비동기 초기화를 자연스럽게 처리할 수 있습니다.

핵심 개념: 어댑터, 디바이스, 파이프라인, 버퍼

WebGPU 프로그램의 뼈대는 몇 개 안 됩니다. MDN WebGPU 문서와 W3C 명세를 기준으로 용어만 먼저 정리해 두면 이후 문서 읽기가 훨씬 쉬워집니다.

어댑터(Adapter)와 디바이스(Device)

navigator.gpu.requestAdapter()는 시스템의 GPU(또는 소프트웨어 폴백)를 나타내는 어댑터를 비동기로 반환합니다. 어댑터는 “물리적 GPU + 드라이버”에 대응하고, adapter.requestDevice()로 얻는 디바이스는 “이 앱이 사용할 논리적 GPU 컨텍스트”에 대응합니다. 디바이스가 모든 리소스(버퍼, 텍셋처, 파이프라인)의 팩토리이자 오류의 경계입니다. Vulkan의 physical device / logical device 구분과 같은 설계입니다.

파이프라인(Pipeline)

파이프라인은 GPU가 실행할 작업의 완성된 레시피입니다. 렌더 파이프라인과 컴퓨트 파이프라인이 있으며, 셰이더 모듈·진입점·레이아웃을 미리 묶어 두어 실행 시 검증 비용을 줄입니다. 한 번 만들면 불변(immutable)이라는 점이 WebGL 시절의 프로그램 객체와 비슷하면서도, 상태 검증이 생성 시점으로 옮겨졌다는 점이 다릅니다.

버퍼(Buffer)와 바인드 그룹

GPU 메모리에 올라가는 데이터는 GPUBuffer에 담깁니다. 용도(STORAGE, COPY_SRC, MAP_READ 등)를 생성 시점에 명시하고, JS 쪽 데이터는 device.queue.writeBuffer()로 업로드합니다. 파이프라인에 버퍼를 연결할 때는 바인드 그룹(bind group)을 만들어 “몇 번 슬롯에 어떤 리소스”인지 정의합니다. 읽기 결과를 다시 JS로 가져올 때는 MAP_READ 용도 버퍼로 복사한 뒤 mapAsync()로 기다립니다.

WGSL

셰이더는 WGSL(WebGPU Shading Language), 위그실로 읽습니다. GLSL과 비슷해 보이지만 포인터 연산이나 검증되지 않은 접근을 허용하지 않는 등 웹의 샌드박스 요구를 만족하도록 처음부터 설계된 언어입니다. WebKit은 WGSL을 “웹에서 검증 가능하게 안전한 새 언어”로 소개합니다.

실전: 첫 컴퓨트 셰이더

간단한 예제로 흐름을 익혀 보겠습니다. Float32Array의 모든 값을 2배로 만드는 컴퓨트 셰이더입니다. WGSL 코드는 TS 파일 안의 문자열로 넣습니다.

async function doubleValues(input: Float32Array): Promise<Float32Array> {
  const adapter = await navigator.gpu.requestAdapter();
  if (!adapter) {
    throw new Error("이 브라우저에서는 GPU 어댑터를 사용할 수 없습니다.");
  }
  const device = await adapter.requestDevice();

  const shader = device.createShaderModule({
    code: `
      @group(0) @binding(0) var<storage, read_write> values: array<f32>;

      @compute @workgroup_size(64)
      fn main(@builtin(global_invocation_id) id: vec3u) {
        let index = id.x;
        if (index >= arrayLength(&values)) {
          return;
        }
        values[index] = values[index] * 2.0;
      }
    `,
  });

  // 데이터가 저장될 GPU 버퍼: 저장용 + 업로드(COPY_DST) + 읽기복사(COPY_SRC)
  const storage = device.createBuffer({
    size: input.byteLength,
    usage: GPUBufferUsage.STORAGE |
      GPUBufferUsage.COPY_DST |
      GPUBufferUsage.COPY_SRC,
  });
  device.queue.writeBuffer(storage, 0, input);

  const pipeline = device.createComputePipeline({
    layout: "auto",
    compute: { module: shader, entryPoint: "main" },
  });
  const bindGroup = device.createBindGroup({
    layout: pipeline.getBindGroupLayout(0),
    entries: [{ binding: 0, resource: { buffer: storage } }],
  });

  const encoder = device.createCommandEncoder();
  const pass = encoder.beginComputePass();
  pass.setPipeline(pipeline);
  pass.setBindGroup(0, bindGroup);
  pass.dispatchWorkgroups(Math.ceil(input.length / 64));
  pass.end();

  // 결과를 읽기 전용 버퍼로 복사한 뒤 매핑
  const readback = device.createBuffer({
    size: input.byteLength,
    usage: GPUBufferUsage.COPY_DST | GPUBufferUsage.MAP_READ,
  });
  encoder.copyBufferToBuffer(storage, 0, readback, 0, input.byteLength);
  device.queue.submit([encoder.finish()]);

  await readback.mapAsync(GPUMapMode.READ);
  const result = new Float32Array(readback.getMappedRange().slice(0));
  readback.unmap();
  storage.destroy();
  readback.destroy();
  return result;
}

코드가 길어 보이지만 패턴은 하나입니다. 초기화(어댑터→디바이스) → 리소스 생성 → 명령 인코딩 → 제출 → 읽기. 이 패턴을 그래픽이든 연산이든 재사용합니다. @workgroup_size(64)는 한 그룹당 64개의 스레드를 돌리고, dispatchWorkgroups()로 그룹 수를 지정하는 WGSL 컴퓨트 모델의 기본형입니다.

브라우저 지원 현황(2025년 7월 기준)

“실험 기술”이라는 인상과 달리, Chromium 계열에서는 이미 2년 넘게 실서비스급 지원이 이어지고 있습니다.

  • Chrome/Edge: 2023년 5월 안정 채널에 도달한 Chrome 113에서 기본 활성화됐습니다. 첫 지원 범위는 Windows(Direct3D 12), macOS, Vulkan을 지원하는 ChromeOS였고 Linux와 Android은 이후 확대됐습니다.
  • Safari: 2023년 12월 Safari Technology Preview에서 시험 사용이 시작됐고, 지난달 WWDC25에서 공개된 Safari 26 베타에서 macOS·iOS·iPadOS·visionOS로 확대됐습니다. WebKit은 WebGPU가 Apple 플랫폼에서 “WebGL을 대체한다(supersedes)“고 명시했습니다. 다만 이 글을 쓰는 시점엔 정식 버전이 아니라 베타라는 점은 유의해야 합니다.
  • Firefox: 아직 안정 채널 기본 활성화는 이뤄지지 않았고 dom.webgpu.enabled 플래그 뒤에서 개발이 진행 중입니다. transformers.js v3 발표는 2024년 10월 기준 전 세계 WebGPU 지원률을 약 70%로 소개했습니다.

요약하면, 데스크톱 Chromium + Safari 베타를 고려하면 “기능 탐지로 점진 적용”이 2025년의 표준 전략입니다. navigator.gpu 존재 여부와 requestAdapter() 실패를 함께 처리하는 폴백(WASM 실행 등)을 준비하는 것이 안전합니다.

브라우저에서 신경망 추론하기

transformers.js v3: device: 'webgpu'

Hugging Face의 transformers.js v3 발표(2024년 10월)는 WebGPU 백엔드를 대표 기능으로 내세웠습니다. ONNX Runtime Web과의 협업으로 백엔드가 구현됐고, 공식 발표는 WASM 대비 “최대 100배”까지 빨라질 수 있다고 강조합니다. 지원 아키텍처가 120종으로 늘었고, q4·q8·fp16 같은 양자화 포맷(dtype) 선택도 추가됐습니다.

사용법은 pipeline 생성 시 옵션 하나로 끝납니다.

import { pipeline } from "@huggingface/transformers";

const extractor = await pipeline(
  "feature-extraction",
  "mixedbread-ai/mxbai-embed-xsmall-v1",
  { device: "webgpu" },
);

const embeddings = await extractor(
  ["안녕하세요", "WebGPU 입문 노트입니다."],
  { pooling: "mean", normalize: true },
);
console.log(embeddings.tolist());

임베딩·품사 태깅 같은 소형 모델은 이 정도로도 체감 가능한 속도가 나옵니다. 공식 WebGPU 가이드에는 Whisper 음성인식, MobileNetV4 이미지 분류 예제도 준비되어 있습니다.

WebLLM: 브라우저 안의 LLM

WebLLM은 MLC AI가 만든 브라우저 내 LLM 추론 엔진으로, WebGPU 위에서 모델을 실행하고 스트리밍 응답까지 제공합니다. 소개 글에 따르면 API 서버 없이 브라우저가 완전한 추론 주체가 되는 구조입니다.

import * as webllm from "@mlc-ai/web-llm";

const engine = await webllm.CreateMLCEngine(
  "Llama-3.2-1B-Instruct-q4f32_1-MLC",
  {
    initProgressCallback: (report) => {
      console.log(report.text); // 모델 다운로드·컴파일 진행 표시
    },
  },
);

const stream = await engine.chat.completions.create({
  messages: [
    { role: "user", content: "브라우저에서 LLM을 실행한다는 건 어떤 의미야?" },
  ],
  stream: true,
});

for await (const chunk of stream) {
  const delta = chunk.choices[0]?.delta?.content ?? "";
  document.querySelector("#output")!.append(delta);
}

프라이버시(대화가 브라우저를 떠나지 않음), 지연(네트워크 왕복 없음), 비용(서버 GPU 불필요)이 매력적인 대신, 아래 제약을 반드시 함께 봐야 합니다.

메모리·성능 제약

브라우저 GPU 추론은 공짜가 아닙니다. 직접 튜토리얼을 돌려 보며 정리한 체크포인트는 다음과 같습니다.

  • 첫 로딩 비용: 모델 가중치를 매번 내려받지 않도록 브라우저 캐시(Cache API 등) 설계가 필수입니다. q4 양자화를 쓰더라도 수백 MB 단위가 될 수 있습니다.
  • GPU 메모리 경쟁: 가중치·중간 텐서가 GPU 버퍼에 상주합니다. 내장 GPU(iGPU)는 시스템 메모리를 공유하므로 탭 몇 개를 더 띄우면 추론이 느려지거나 실패할 수 있습니다.
  • 타임아웃과 컨텍스트 손실: 긴 연산은 여러 프레임으로 나누어 제출해야 UI가 멈추지 않습니다. 컴퓨트 패스를 잘게 쪼개고 진행률을 표시하는 UX가 필요합니다.
  • 디바이스 제각각: 같은 모델이라도 GPU세대·드라이버에 따라 성능 편차가 큽니다. fp16 지원 여부처럼 기능 차이도 있으므로 요구 사항을 문서화해 두는 것이 좋습니다.
  • WASM 폴백: WebGPU 미지원 환경용 실행 경로를 준비하면 지원률 문제를 크게 줄일 수 있습니다. transformers.js는 같은 코드로 device: 'wasm' 전환이 가능합니다.

마무리

WebGPU는 “그래픽 API”라기보다 브라우저에 열린 GPU 컴퓨팅 플랫폼에 가깝습니다. 개념 정리(어댑터·디바이스·파이프라인·버퍼)와 WGSL 기초만 잡아도 transformers.js·WebLLM 같은 상위 레이어를 이해하는 데 큰 도움이 됩니다. 다음 단계로는 작은 임베딩 데모를 만들어 캐시 전략과 진행률 UI를 붙여 보려 합니다. 브라우저에서 GPU 추론을 시작하려는 분들에게 이 글이 지도가 되기를 바랍니다.

레퍼런스

Related

· 3 min read

WebGPU 첫인상: WebGL의 다음

7년 만에 WebGL의 뒤를 잇는 WebGPU가 주요 브라우저에 안착했습니다. 달라진 점과 프론트엔드에서 가능해지는 일을 정리합니다.

WebGPU프론트엔드
→