WebGPU و هوش مصنوعی روی دستگاه: مرورگر در حال تبدیل شدن به یک زمان اجرا جدی است

برای سال‌ها مرورگر چهره خوب برنامه بود و ابر مکانی بود که اتفاقات سخت در آن رخ می‌داد. کاربر یک فایل را می نویسد، کلیک می کند، آپلود می کند. فرانت اند همه چیز را به سرور ارسال می کند. سرور یک مدل را فراخوانی می کند. جواب برمی گردد

این طرح بسیار مفید است، اما رایگان نیست. هر تماسی سوالات تاخیر، هزینه، وابستگی شبکه و حریم خصوصی را به همراه دارد. اگر کاربر در حال نوشتن جمله ای باشد و پیشنهادی بخواهد، نیم ثانیه وزن می کند. اگر هزاران ورودی کوچک را طبقه بندی کنید، سکه ها به پول واقعی تبدیل می شوند. اگر متن حساس است، ارسال آن از دستگاه یک انتخاب خنثی نیست.

به همین دلیل است که WebGPU و هوش مصنوعی روی دستگاه در هیاهو هستند. نه به این دلیل که فردا هر مدلی را در مرورگر اجرا خواهیم کرد. زیرا برخی از ویژگی های هوشمند می توانند به کاربر نزدیک شوند.

لازم نیست همه چیز محلی شود

نسخه کودکانه استدلال این است: "ابر در مقابل دستگاه". نسخه مفید آن ترکیبی است.

برخی از کارها در دستگاه عالی به نظر می رسند: خلاصه های کوتاه، تشخیص زبان، بازنویسی نور، طبقه بندی ساده، فیلترهای تصویر، مدل های دید کوچک، تجربیات خلاقانه با بازخورد فوری.

سایر وظایف در فضای ابری بهتر باقی می مانند: استدلال پیچیده، مدل های مرزی، داده های سمت سرور، حسابرسی متمرکز، کیفیت یکنواخت، گردش کار که در آن باید هر مرحله را به دقت کنترل کنید.

معماری سالم در زمان اجرا تصمیم می گیرد:

مرورگر مجبور نیست در برابر ابر پیروز شود. باید ابر را از انجام کارهایی که نیازی به انجام آن وجود ندارد نجات دهد.

چرا WebGPU مهم است

WebGPU یک API مدرن برای استفاده از GPU از مرورگر است. این فقط برای گرافیک های سه بعدی زیباتر نیست. همچنین مهم است زیرا موارد اولیه مناسب برای محاسبات را نشان می دهد: بارهای کاری موازی، سایه زن ها، خطوط لوله نزدیک به آنچه که GPU ها به خوبی انجام می دهند.

برای هوش مصنوعی، تجسم علمی، ویرایشگرهای سه بعدی، فیلترهای ویدئویی و ابزارهای خلاقانه، این تفاوت احساس می شود. WebGL کارهای زیادی برای وب انجام داده است، اما WebGPU با مدلی متولد شد که برای زمان حال مناسب تر است.

اما اولین چیزی که باید بنویسید سایه زن نیست. این یک تشخیص ویژگی هوشیار است:

export async function requestWebGpuDevice() {
  if (!('gpu' in navigator)) {
    return null;
  }

  const adapter = await navigator.gpu.requestAdapter({
    powerPreference: 'high-performance',
  });

  if (!adapter) {
    return null;
  }

  return adapter.requestDevice();
}

این ویژگی یک چیز مهم را می گوید: WebGPU حقی نیست که برای هر دستگاهی اعطا شود. این یک توانایی برای تأیید است. برخی از مرورگرها به طور کامل از آن پشتیبانی نمی کنند، برخی از GPU ها محدودیت هایی دارند، برخی از محیط های سازمانی ویژگی ها را غیرفعال می کنند، برخی از کاربران از سخت افزار متوسطی استفاده می کنند.

هوش مصنوعی داخلی: زمانی که مرورگر مدل را می آورد

Chrome APIهای داخلی را برای کارهایی مانند درخواست‌های محلی، خلاصه‌سازی، نوشتن، بازنویسی، ترجمه، تشخیص زبان و تصحیح انجام می‌دهد. ایده بسیار جالب است: مرورگر مدل، در دسترس بودن و به روز رسانی را مدیریت می کند. این برنامه از یک API نزدیکتر به پلتفرم استفاده می کند.

اگر خوب کار کند، تغییرات زیادی می کند:

• تماس های سرور کمتر برای کارهای ساده؛
• داده هایی که ممکن است در دستگاه باقی بماند؛
• تأخیر کمتر؛
• تجربیات آفلاین یا نیمه آفلاین؛
• UX طبیعی تر برای نوشتن و ترجمه.

اما باید به عنوان افزایش پیشرونده در نظر گرفته شود. برخی از APIها پایدار هستند، برخی دیگر در آزمایش اولیه یا پیش نمایش هستند، برخی دیگر هنوز به نسخه، زبان و دستگاه بستگی دارند.

type LocalCapability = 'available' | 'downloadable' | 'unsupported';

export async function getLocalSummarizerCapability(): Promise<LocalCapability> {
  const SummarizerApi = (globalThis as any).Summarizer;

  if (!SummarizerApi?.availability) {
    return 'unsupported';
  }

  const availability = await SummarizerApi.availability();

  if (availability === 'available') return 'available';
  if (availability === 'downloadable') return 'downloadable';

  return 'unsupported';
}

کد خاص تغییر می‌کند، اما الگو باقی می‌ماند: شما در دسترس بودن را بررسی می‌کنید، هر بارگیری را توضیح می‌دهید، موارد جایگزین ارائه می‌دهید و کیفیت را می‌سنجید.

بازگشت یک برنامه غم انگیز B نیست

بازگشت ابری یک شکست نیست. بخشی از محصول است.

interface AiRequest {
  task: 'summarize' | 'rewrite' | 'classify';
  input: string;
}

interface AiResult {
  output: string;
  runtime: 'local' | 'cloud';
}

export async function runAiTask(request: AiRequest): Promise<AiResult> {
  const local = await tryLocalAi(request);

  if (local) {
    return { output: local, runtime: 'local' };
  }

  const cloud = await fetch('/api/ai', {
    method: 'POST',
    headers: { 'Content-Type': 'application/json' },
    body: JSON.stringify(request),
  }).then((res) => res.json());

  return { output: cloud.output, runtime: 'cloud' };
}

این معماری به شما اجازه می دهد تا به تدریج پیشرفت کنید. کسانی که پشتیبانی محلی دارند، تاخیر و حریم خصوصی بهتری دارند. کسانی که آن را ندارند هنوز از این ویژگی استفاده می کنند. شما می توانید درصد درخواست های محلی، زمان ها، خطاها، حافظه، کیفیت درک شده و هزینه را اندازه گیری کنید.

بدون معیارها، هوش مصنوعی روی دستگاه به یک انتخاب زیبایی شناختی تبدیل می شود. با معیارها، به یک اهرم محصول تبدیل می شود.

UX مدل مهم است

اگر مرورگر نیاز به دانلود یک مدل داشته باشد، کاربر آن را درک می کند. آن را پشت یک اسپینر مبهم پنهان نکنید. بهتر است واضح باشد: "ما مدل را برای استفاده سریعتر و حتی آفلاین از این تابع آماده می کنیم."

یک تجربه خوب:

• وضعیت آماده سازی را نشان می دهد.
• کل صفحه را مسدود نمی کند.
• به شما اجازه می دهد تا با بازگشت ابری ادامه دهید.
• اجتناب از شگفتی باتری و حافظه؛
• هر زمان که ممکن است مدل را به خاطر بسپارید.
• فایده را در یک جمله مشخص توضیح دهید.

بدترین چیز یک ویژگی "هوشمند" است که شکسته به نظر می رسد زیرا در حال دانلود کردن چیزی بی صدا است.

حریم خصوصی: بهتر است، به طور خودکار امن نیست

پردازش داده ها بر روی دستگاه می تواند یک مزیت بزرگ باشد. یک ایمیل پیش نویس، سند داخلی یا یادداشت شخصی لازم نیست مرورگر شما را برای دریافت پیشنهاد ترک کند.

با این حال، محلی به طور خودکار به معنای امن نیست. با این حال، باید به این موارد فکر کنید:

• XSS;
• سیاهههای مربوط تصادفی؛
• داده های ذخیره شده در ذخیره سازی؛
• تزریق سریع از محتوای غیرقابل اعتماد؛
• مجوزهای داده شده به مدل؛
• خروجی های مورد استفاده در اقدامات خودکار

اگر یک مدل محلی بتواند یک صفحه وب را بخواند و سپس فرمی را پر کند، آن صفحه می تواند سعی کند آن را دستکاری کند. اگر بتواند با ابزار تماس بگیرد، تأیید لازم است. اگر خروجی ساختار یافته تولید کند، باید اعتبار سنجی شود. این واقعیت که روی دستگاه اجرا می شود برخی از خطرات حفظ حریم خصوصی را کاهش می دهد، اما مدل امنیتی را حذف نمی کند.

جایی که واقعا جالب می شود

متن تازه شروع کار است. WebGPU تجربیات وب را که تا همین اواخر شبیه یک برنامه بومی به نظر می رسید، معتبر می کند:

• ویرایشگرهای سه بعدی پیچیده؛
• پاشیدن گاوسی در مرورگر؛
• فیلترهای ویدیویی بلادرنگ؛
• CAD سبک وزن؛
• تجسم های علمی؛
• ابزارهای خلاقانه با پیش نمایش فوری؛
• استنتاج بینایی در نزدیکی رابط کاربری
• بازی های مرورگر جاه طلبانه تر

در اینجا فرانت اند، گرافیک و یادگیری ماشین شروع به ترکیب می کنند. این یک منطقه تا حدودی ناخوشایند است، اما همچنین یک منطقه حاصلخیز: مرورگر به یک پلت فرم برنامه جدی بازگشته است، نه فقط مکانی که در آن فرم ها و داشبوردها را قرار می دهیم.

چک لیست قبل از تولید

قبل از قرار دادن یک ویژگی روی دستگاه در مقابل کاربران، بررسی می کنم:

1. مرورگرها و دستگاه ها را هدف قرار دهید.
2. بازگشت ابری یا تخریب زیبا.
3. زمان دانلود و کش مدل.
4. حافظه و باتری در سخت افزار متوسط.
5. کیفیت در مقایسه با نسخه ابری.
6. سیاست حفظ حریم خصوصی و پیام های کاربر.
7. تست با ورودی های متخاصم.
8. معیارهای جداگانه برای زمان اجرا محلی و ابری.
9. برای به روز رسانی یا غیرفعال کردن قالب برنامه ریزی کنید.

این یک لیست مشخص است زیرا مشکل عینی است. یک ویژگی هوش مصنوعی کند، شکننده یا مات فقط به این دلیل که در مرورگر اجرا می شود بهتر نمی شود.

سازش درست

من باور ندارم که آینده "همه چیز روی دستگاه" است. و من فکر نمی کنم که ابر تنها مکان معقول برای استنتاج باقی بماند. محتمل ترین آینده ترکیبی است: محلی زمانی که تاخیر، حریم خصوصی یا هزینه را بهبود می بخشد. زمانی که به کیفیت، داده های به روز و کنترل متمرکز نیاز باشد، ابر.

WebGPU، WebNN و APIهای هوش مصنوعی داخلی، مرورگر را قادر مطلق نمی‌سازند. آنها او را بالغ تر می کنند. و برای کسانی که محصولات وب را می سازند، این خبر بزرگی است.

منابع مفید

• WebGPU API - MDN
• مشخصات WebGPU - W3C
• هوش مصنوعی داخلی - Chrome for Developers
• APIهای AI داخلی - Chrome for Developers
• WebNN API