مدلی که از پاسخگویی به همه سؤالات حساس طفره می‌رود

شرکت هواوی در چین، نسخه‌ای ارتقایافته از مدل هوش مصنوعی دیپ‌سیک را معرفی کرده که با هدف افزایش ایمنی محتوا طراحی شده و به گفته این شرکت، قادر است تقریباً به‌طور کامل از بحث درباره موضوعات حساس سیاسی خودداری کند.

به گزارش رویترز، قوانین سختگیرانه چین ایجاب می‌کند که تمامی مدل‌های هوش مصنوعی داخلی و نرم‌افزارهای وابسته به آنها، پیش از انتشار عمومی، بازتاب‌دهنده ارزش‌های این کشور باشند و نظارت دقیقی بر محتوای تولیدشده اعمال شود.

همکاری هواوی در ارتقای قابلیت‌های سانسور مدل دیپ‌سیک

هواوی در حساب رسمی خود در وی‌چت اعلام کرده که این مدل زبانی بزرگ با بهره‌گیری از هزار چیپ Ascend AI آموزش دیده است. نسخه پایه این مدل دیپ‌سیک-R1 متن‌باز بوده و اصلاحاتی برای افزایش ایمنی محتوا روی آن اعمال شده است. دانشگاه معتبر ژجیانگ، محل تحصیل بنیان‌گذار دیپ‌سیک، «لیانگ ون‌فنگ»، شریک هواوی در این پروژه بوده، اما خود دیپ‌سیک و لیانگ نقشی مستقیم در توسعه آن نداشته‌اند و دیپ‌سیک تاکنون به درخواست‌ها برای اظهارنظر درباره این پروژه پاسخی نداده است.

هواوی نسخه‌ای ارتقایافته از این مدل را با نام DeepSeek-R1-Safe عرضه کرده است که تمرکز اصلی آن بر حفاظت از کاربران در برابر محتواهای مضر است. نتایج آزمایش‌ها نشان می‌دهد این مدل در شناسایی و جلوگیری از «سخنان آسیب‌زا، محتوای حساس سیاسی و تشویق به رفتارهای غیرقانونی» تقریباً صددرصد موفق عمل می‌کند. بااین‌حال، وقتی این رفتارها در قالب سناریوهای شبیه‌سازی‌شده، نقش‌آفرینی یا کدهای رمزگذاری‌شده مخفی شوند، کارایی مدل به 40 درصد کاهش می‌یابد.

هواوی اعلام کرده است که قابلیت‌های جامع دفاعی مدل DeepSeek-R1-Safe به 83 درصد رسیده است و در مقایسه با مدل‌های مشابه مانند Qwen-235B و DeepSeek-R1-671B، بین 8 تا 15 درصد عملکرد بهتری دارد. همچنین، کاهش کارایی این نسخه نسبت به مدل اصلی کمتر از 1 درصد گزارش شده است.

چت‌بات‌های هوش مصنوعی چینی مانند Ernie Bot از شرکت بایدو، که معادل ChatGPT در چین هستند، از پاسخگویی به بسیاری از سؤالات سیاسی و موضوعات حساس که حزب کمونیست آنها را کنترل می‌کند، می‌پرهیزند.

در کنفرانس سالانه Huawei Connect در شانگهای، هواوی پس از سال‌ها، برنامه‌های خود را برای تولید چیپ و توسعه قدرت محاسباتی به‌صورت رسمی معرفی کرد و نشان داد چگونه قصد دارد هوش مصنوعی پیشرفته و امن را در چارچوب قوانین داخلی کشور توسعه دهد.