Selama bertahun-tahun, browser adalah wajah terbaik dari aplikasi dan cloud adalah tempat di mana hal-hal sulit terjadi. Pengguna menulis, mengklik, mengunggah file; frontend mengirimkan semuanya ke server; server memanggil model; jawabannya kembali.

Skema ini tetap sangat berguna, namun tidak gratis. Setiap panggilan menimbulkan pertanyaan tentang latensi, biaya, ketergantungan jaringan, dan privasi. Jika pengguna sedang menulis kalimat dan menginginkan saran, setengah detik berbobot. Jika Anda mengklasifikasikan ribuan masukan kecil, uang receh menjadi uang nyata. Jika teksnya sensitif, mengirimkannya dari perangkat bukanlah pilihan netral.

Itu sebabnya WebGPU dan AI pada perangkat sedang populer. Bukan karena kami akan menjalankan setiap model di browser besok. Pasalnya, beberapa fitur cerdas bisa mendekatkan diri kepada pengguna.

Tidak semuanya harus bersifat lokal

Versi argumen yang kekanak-kanakan adalah: "cloud versus perangkat". Versi yang berguna adalah hybrid.

Beberapa tugas tampak bagus di perangkat: ringkasan singkat, deteksi bahasa, penulisan ulang ringan, klasifikasi sederhana, filter gambar, model penglihatan kecil, pengalaman kreatif dengan umpan balik langsung.

Tugas lain tetap lebih baik di cloud: penalaran kompleks, model frontier, data sisi server, audit terpusat, kualitas seragam, alur kerja yang mengharuskan Anda mengontrol setiap langkah dengan cermat.

Arsitektur yang sehat memutuskan pada saat runtime:

Browser tidak harus menang melawan cloud. Ini harus menyelamatkan cloud dari melakukan pekerjaan yang tidak perlu dilakukan di sana.

Mengapa WebGPU penting

WebGPU adalah API modern untuk menggunakan GPU dari browser. Ini bukan hanya untuk grafis 3D yang lebih bagus. Hal ini juga penting karena menampilkan hal-hal primitif yang sesuai untuk komputasi: beban kerja paralel, shader, pipeline yang mendekati kemampuan GPU.

Untuk AI, visualisasi ilmiah, editor 3D, filter video, dan alat kreatif, perbedaan ini sangat terasa. WebGL telah melakukan banyak hal untuk web, namun WebGPU lahir dengan model yang lebih sesuai dengan masa kini.

Namun, hal pertama yang harus ditulis bukanlah shader. Ini adalah deteksi fitur yang bijaksana:

export async function requestWebGpuDevice() {
  if (!('gpu' in navigator)) {
    return null;
  }

  const adapter = await navigator.gpu.requestAdapter({
    powerPreference: 'high-performance',
  });

  if (!adapter) {
    return null;
  }

  return adapter.requestDevice();
}

Fitur ini menyatakan satu hal penting: WebGPU tidak merupakan hak yang diberikan pada setiap perangkat. Ini adalah kemampuan yang harus diverifikasi. Beberapa browser tidak sepenuhnya mendukungnya, beberapa GPU memiliki keterbatasan, beberapa lingkungan perusahaan menonaktifkan fitur, beberapa pengguna menggunakan perangkat keras sederhana.

AI bawaan: saat browser menghadirkan model

Chrome mendorong API bawaan untuk tugas-tugas seperti perintah lokal, ringkasan, penulisan, penulisan ulang, terjemahan, deteksi bahasa, dan pengoreksian. Idenya sangat menarik: browser mengelola model, ketersediaan, dan pembaruan; aplikasi menggunakan API yang lebih dekat dengan platform.

Jika berfungsi dengan baik, banyak perubahannya:

• lebih sedikit panggilan server untuk tugas-tugas sederhana;
• data yang mungkin tersisa di perangkat;
• latensi lebih rendah;
• pengalaman offline atau semi-offline;
• UX yang lebih alami untuk penulisan dan terjemahan.

Namun hal ini harus diperlakukan sebagai peningkatan progresif. Beberapa API stabil, yang lain dalam uji coba atau pratinjau asal, yang lain masih bergantung pada versi, bahasa, dan perangkat.

type LocalCapability = 'available' | 'downloadable' | 'unsupported';

export async function getLocalSummarizerCapability(): Promise<LocalCapability> {
  const SummarizerApi = (globalThis as any).Summarizer;

  if (!SummarizerApi?.availability) {
    return 'unsupported';
  }

  const availability = await SummarizerApi.availability();

  if (availability === 'available') return 'available';
  if (availability === 'downloadable') return 'downloadable';

  return 'unsupported';
}

Kode spesifiknya akan berubah, namun polanya tetap ada: Anda memeriksa ketersediaan, menjelaskan unduhan apa pun, menawarkan penggantian, dan mengukur kualitas.

Fallback bukanlah rencana B yang menyedihkan

Penggantian cloud bukanlah sebuah kekalahan. Itu adalah bagian dari produk.

interface AiRequest {
  task: 'summarize' | 'rewrite' | 'classify';
  input: string;
}

interface AiResult {
  output: string;
  runtime: 'local' | 'cloud';
}

export async function runAiTask(request: AiRequest): Promise<AiResult> {
  const local = await tryLocalAi(request);

  if (local) {
    return { output: local, runtime: 'local' };
  }

  const cloud = await fetch('/api/ai', {
    method: 'POST',
    headers: { 'Content-Type': 'application/json' },
    body: JSON.stringify(request),
  }).then((res) => res.json());

  return { output: cloud.output, runtime: 'cloud' };
}

Arsitektur ini memungkinkan Anda untuk semakin meningkat. Mereka yang memiliki dukungan lokal mendapatkan latensi dan privasi yang lebih baik. Bagi yang belum memilikinya tetap menggunakan fitur tersebut. Anda dapat mengukur persentase permintaan lokal, waktu, kesalahan, memori, kualitas dan biaya yang dirasakan.

Tanpa metrik, AI pada perangkat menjadi pilihan estetika. Dengan metrik, ini menjadi pengungkit produk.

UX model itu penting

Jika browser perlu mengunduh suatu model, pengguna akan melihatnya. Jangan menyembunyikannya di balik pemintal yang tidak jelas. Lebih baik diperjelas: "Kami mempersiapkan model untuk menggunakan fungsi ini lebih cepat dan bahkan offline."

Pengalaman yang bagus:

• menunjukkan status persiapan;
• tidak memblokir seluruh halaman;
• memungkinkan Anda melanjutkan dengan cloud fallback;
• hindari kejutan baterai dan memori;
• ingat modelnya bila memungkinkan;
• jelaskan manfaatnya dalam satu kalimat konkrit.

Yang terburuk adalah fitur "pintar" yang tampak rusak karena mengunduh sesuatu secara diam-diam.

Privasi: lebih baik, tidak otomatis aman

Memproses data pada perangkat bisa menjadi keuntungan besar. Draf email, dokumen internal, atau catatan pribadi tidak harus keluar dari browser Anda untuk menerima saran.

Namun, lokal tidak serta merta berarti aman. Namun, Anda perlu memikirkan tentang:

• XSS;
• log yang tidak disengaja;
• data disimpan dalam penyimpanan;
• injeksi cepat dari konten yang tidak tepercaya;
• izin yang diberikan kepada model;
• keluaran yang digunakan dalam tindakan otomatis.

Jika model lokal dapat membaca halaman web dan kemudian mengisi formulir, halaman tersebut dapat mencoba memanipulasinya. Jika dapat memanggil alat, diperlukan konfirmasi. Jika menghasilkan keluaran terstruktur, maka harus divalidasi. Fakta bahwa ini berjalan di perangkat mengurangi beberapa risiko privasi, namun tidak menghilangkan model keamanan.

Dimana hal itu menjadi sangat menarik

Teks ini hanyalah permulaan. WebGPU menjadikan pengalaman web lebih kredibel, yang hingga saat ini tampak seperti aplikasi asli:

• editor 3D yang kompleks;
• Percikan Gaussian di browser;
• filter video waktu nyata;
• CAD ringan;
• visualisasi ilmiah;
• alat kreatif dengan pratinjau instan;
• inferensi penglihatan di dekat UI;
• game browser yang lebih ambisius.

Di sini frontend, grafik, dan pembelajaran mesin mulai bercampur. Ini adalah area yang agak janggal, namun juga subur: browser kembali menjadi platform aplikasi yang serius, bukan hanya tempat kita meletakkan formulir dan dasbor.

Daftar periksa sebelum produksi

Sebelum menampilkan fitur pada perangkat kepada pengguna, saya akan memeriksa:

1. Targetkan browser dan perangkat.
2. Penggantian cloud atau degradasi elegan.
3. Waktu pengunduhan dan model cache.
4. Memori dan baterai pada perangkat keras rata-rata.
5. Kualitas dibandingkan dengan versi cloud.
6. Kebijakan privasi dan pesan pengguna.
7. Menguji dengan masukan yang tidak bersahabat.
8. Pisahkan metrik untuk runtime lokal dan cloud.
9. Berencana untuk memperbarui atau menonaktifkan templat.

Daftarnya konkrit karena masalahnya konkrit. Fitur AI yang lambat, rapuh, atau buram tidak menjadi lebih baik hanya karena dijalankan di browser.

Kompromi yang tepat

Saya tidak percaya bahwa masa depan adalah "semua yang ada di perangkat". Dan menurut saya cloud juga tidak akan menjadi satu-satunya tempat yang masuk akal untuk mengambil kesimpulan. Kemungkinan besar masa depan adalah gabungan: lokal ketika meningkatkan latensi, privasi, atau biaya; cloud ketika diperlukan kualitas, data terkini, dan kontrol terpusat.

WebGPU, WebNN, dan API AI bawaan tidak menjadikan browser mahakuasa. Mereka membuatnya lebih dewasa. Dan bagi mereka yang membuat produk web, ini adalah berita besar.

Sumber yang bermanfaat

• API WebGPU - MDN
• Spesifikasi WebGPU - W3C
• AI bawaan - Chrome untuk Pengembang
• API AI bawaan - Chrome untuk Pengembang
• API WebNN