محک‌گذاری شده: رایانه‌های شخصی Copilot+ چگونه بارهای کاری هوش مصنوعی محلی را مدیریت می‌کنند
اخبار
هنوز حجم کار محلی زیادی وجود ندارد، اما کوالکام در مواردی که ما امتحان کردیم عملکرد خوبی دارد.
بارهای کاری هوش مصنوعی در Copilot+ PC
(اعتبار تصویر: آینده)
هفته‌ها از ورود رایانه‌های شخصی Copilot+، نسل جدید لپ‌تاپ‌های ویندوزی با پردازنده‌های Qualcomm Snapdragon X می‌گذرد. ما چندین مورد را در دفتر خود داشته‌ایم و آنها را از طریق آزمایش‌های مشابهی که روی لپ‌تاپ‌های معمولی مجهز به اینتل یا AMD استفاده می‌کنیم، انجام داده‌ایم، اما چیزی که واقعاً می‌خواهیم بدانیم این است که بارهای کاری هوش مصنوعی محلی در این رایانه‌ها چگونه اجرا می‌شوند؟
متأسفانه، در حال حاضر تعداد زیادی برنامه هوش مصنوعی محلی که بتوانیم روی لپ‌تاپ‌های مجهز به اسنپدراگون X اجرا کنیم، پیدا نکرده‌ایم. سه ویژگی انحصاری ویندوز برای رایانه های شخصی Copilot+ وجود دارد: Codesigner، Windows Studio Effects و Live Captions with Transcriptions. چه فکر می‌کنید این ویژگی‌ها ارزشمند هستند یا نه، نمی‌توان از آنها برای مقاصد معیار استفاده کرد، زیرا معیار تکرارپذیری را پشت سر نمی‌گذارند. ما می‌توانیم یک کرونومتر بگیریم و اندازه‌گیری کنیم که Codesigner چقدر طول می‌کشد تا یک تصویر را بعد از وارد کردن یک اعلان بسازد، اما حتی در این صورت، نمی‌توانیم آن را با همان برنامه در رایانه‌های شخصی مجهز به اینتل یا AMD مقایسه کنیم، زیرا Codesigner منحصر به فرد است. رایانه های شخصی Copilot+ مجهز به اسنپدراگون X.
بنابراین، در حال حاضر، ما توانسته‌ایم فقط با چند آزمایش هوش مصنوعی در دنیای واقعی کار کنیم که هم روی لپ‌تاپ‌های مجهز به اسنپدراگون X و هم بر روی لپ‌تاپ‌های Intel Core Ultra 7 Meteor Lake اجرا می‌شوند. ما در حال حاضر لپ تاپ Ryzen 7840U “Phoenix” برای آزمایش نداریم، اما با توجه به اینکه لپ تاپ های Ryzen “Strix Point” تا چند هفته دیگر عرضه می شوند، به هر حال این مقایسه ها به زودی قدیمی به نظر می رسند.
لینک های حمایت شده
ربات هوش مصنوعی وال استریت را برمی‌گرداند: یک هزار دلار را در ۳۰ روز رکورد به ۵۰ هزار دلار تبدیل می‌کند
بینش بازار FX
ادامه مطلب
لپ تاپ هایی که تست کردیم
سی پی یو لپ تاپ
Lenovo ThinkPad X1 Carbon (Gen 12) Intel Core Ultra 7 155H
Acer Swift Go 14 Intel Core Ultra 7 155H
Surface Pro Snapdragon Elite X (X1E-80-100)
Surface Laptop 15 Snapdragon Elite X (X1E-80-100)
رونویسی Whisper
اولین آزمایش ما از مدل انگلیسی پایه هوش مصنوعی Whisper برای رونویسی یک فایل صوتی MP3 12 دقیقه ای به متن استفاده کرد. Whisper یکی از کاربردی ترین موارد استفاده برای هوش مصنوعی محلی است، زیرا افرادی که مکالمات را برای کار یا تحصیل ضبط می کنند – دانشجویانی که یک سخنرانی را ضبط می کنند یا خبرنگارانی که مصاحبه را ضبط می کنند – واقعاً نیاز دارند که آنها را به کپی تبدیل کنند. OpenAI Whisper را می سازد، اما دانلود و استفاده از آن در برنامه های خود برای هر کسی رایگان است.
جدیدترین ویدیوها از TOMSHARDWARE
متأسفیم، پخش کننده ویدیو بارگیری نشد. (کد خطا: ۱۰۱۱۰۲)
راه‌های زیادی برای استقرار Whisper وجود دارد، اما ما از آن در یک اسکریپت پایتون سفارشی استفاده کردیم، که زمان قبل از شروع رونویسی را چاپ می‌کند، رونویسی را که در یک فایل متنی می‌نویسد انجام می‌دهد، و سپس زمان پایان آن را ثبت می‌کند. با بدست آوردن تفاوت بین زمان ها، می توانیم بگوییم که هر سیستم با چه سرعتی تست را اجرا می کند. ما صحت رونوشت را قضاوت نمی کنیم، زیرا همه آنها از یک مدل استفاده می کنند. اگر این کار را برای استفاده خودمان انجام می‌دادیم، ترجیح می‌دادیم از مدل Whisper Large استفاده کنیم که بسیار دقیق‌تر از مدل پایه است، اما کوالکام هنوز نسخه‌ای از Whisper Large را برای اسنپدراگون در دسترس قرار نداده است.
کد در نسخه‌های Intel و Arm این اسکریپت کمی متفاوت است، فقط به این دلیل که Intel Meteor Lake از پسوند باز Ipex برای Pytorch برای دسترسی به GPU خود استفاده می‌کند، در حالی که Snapdragon X به ارائه‌دهنده اجرای QNN برای ONNX Runtime نیاز دارد تا به NPU اجازه دسترسی داشته باشد. اطمینان از استفاده از زمان‌های اجرا مناسب ضروری است زیرا در غیر این صورت، اسکریپت‌های ما کار رونویسی (یا هر کار دیگری) را زمانی به CPU ارسال می‌کنند که NPU یا GPU همان کار را بسیار سریع‌تر (و با مصرف انرژی کمتر) انجام دهند. اجرای حجم کاری هوش مصنوعی روی CPU همیشه کندترین گزینه است. با این حال، در سری قبلی آزمایش‌های Meteor Lake، متوجه شدیم که پردازنده گرافیکی داخلی Intel Arc در واقع سریع‌تر از NPU است در حالی که NPU بهترین انتخاب در پردازنده‌های Snapdragon است.
در Whisper، نتایج یک کیسه مخلوط بود. اگر فقط به مدت زمانی که اسکریپت پایتون برای رونویسی فایل صوتی نیاز داشت نگاه کنیم، لپ‌تاپ‌های اسنپدراگون تقریباً به همان سرعت رقبای اینتل خود بودند، در هر مدل چند ثانیه زمان می‌دادند یا زمان می‌بردند و زمان تکمیل آن از ۱:۰۴ متغیر بود. در سرفیس پرو مجهز به اسنپدراگون X به ۱:۱۳ در Core Ultra 7 X1 Carbon. به طور کلی، لپ‌تاپ‌های اسنپدراگون چند ثانیه سریع‌تر بودند، اما سرفیس لپ‌تاپ ۱۵ زمان ۱:۰۹ داشت در حالی که Acer Swift Go 14 (Core Ultra 7) در ساعت ۱:۰۸ به پایان رسید.
