پیشرفت سریع ائتلاف امنیت هوش مصنوعی: از نامهنگاری تا اقدام عملی در یک هفته
ائتلاف جدید امنیت هوش مصنوعی به رهبری انویدیا، تنها یک هفته پس از تشکیل، پیشنهادهای عملی برای مقابله با تهدیدهای عاملهای هوش مصنوعی ارائه کرده و بیش از ۱۲۰ شرکت را گرد هم آورده است. این سرعت عمل بالا، نویدبخش آیندهای امنتر در حوزه هوش مصنوعی باز است.
جهان فناوری این روزها شاهد تحولی شتابان در حوزه هوش مصنوعی است؛ اما در کنار فرصتها، نگرانیهای امنیتی نیز به شدت افزایش یافته است. حالا ائتلافی تازهنفس به نام «اتحادیه امنیت هوش مصنوعی باز» (Open Secure AI Alliance یا OSAA)، به رهبری انویدیا، نشان داده که برای مقابله با این تهدیدها کاملاً جدی است. این ائتلاف تنها یک هفته پس از راهاندازی، نهتنها بیش از ۱۲۰ شرکت بزرگ و کوچک را به خود جذب کرده، بلکه پیشنویس نخستین دستورالعملهای امنیتی خود را نیز برای اظهار نظر عمومی منتشر کرده است.
بر اساس گزارشی از TechCrunch، هسته اصلی فعالیت این ائتلاف روی ایجاد چارچوبی برای اشتراکگذاری امن و محرمانه اطلاعات مربوط به رخدادهای امنیتی هوش مصنوعی متمرکز است. گروه کاری ویژهای با نام شیرین «تبادل یافتههای امنیتی هوش مصنوعی» (SAFE) شکل گرفته و بنیاد لینوکس (Linux Foundation) مسئولیت مدیریت این پیشنهادها را بر عهده دارد. دستورالعملهای اولیه شامل روشهایی برای گزارشدهی محرمانه حوادث، اطلاعرسانی به افراد آسیبدیده و تحلیلهای بدون انگشتنمایی است تا همه بتوانند از تجربهها درس بگیرند.
نکته جالبتر اما سرعت عمل اعضای ائتلاف در به اشتراکگذاری فناوریهای متنباز است. برای نمونه، انویدیا اعلام کرده که اسکنر آسیبپذیری مدلهای زبانی بزرگ خود به نام Garak را در اختیار میگذارد. Okta روی فناوری هویتسنجی عاملهای هوش مصنوعی کار میکند، رد هت (Red Hat) روی حاکمیت عاملها متمرکز شده و آمازون هم ابزار ساخت عامل متنباز خود (Strands Agents) و زبان مجوزدهی Cedar را به اشتراک گذاشته است. فهرست اعضا نیز نامهای بزرگی مثل Adobe، BlackRock، Cisco، Intel، مایکروسافت و Visa را در خود دارد.
با این حال، غیبت چند شرکت مهم حس میشود: Anthropic، OpenAI و گوگل تا کنون به این ائتلاف نپیوستهاند. نکته جالب اینکه OpenAI و گوگل هر دو از امضاکنندگان نامه سرگشادهای بودند که هفته پیش و در آستانه تشکیل این ائتلاف منتشر شد؛ نامهای که با محوریت انویدیا از کاخ سفید خواسته بود به جای محدود کردن، از تلاشهای متنباز در هوش مصنوعی حمایت کند. این نامه در واکنش به گمانهزنیها درباره احتمال ممنوعیت مدلهای وزنباز چینی توسط دولت ترامپ نوشته شده بود.
سرعت بالای این ائتلاف برای کاربران و توسعهدهندگان ایرانی نیز پیام مهمی دارد: جامعه جهانی به این نتیجه رسیده که «باز بودن» میتواند یکی از مهمترین مسیرها برای دستیابی به امنیت و ایمنی در هوش مصنوعی باشد. در شرایطی که دسترسی به فناوریهای بسته اغلب با محدودیتهای ژئوپلیتیکی همراه است، رشد اکوسیستم متنباز میتواند فرصتهای تازهای برای مشارکت و بهرهمندی ایجاد کند. هرچند تحریمها ممکن است موانعی بر سر راه همکاری مستقیم شرکتهای ایرانی با این ائتلاف ایجاد کند، اما جهتگیری به سمت ابزارهای باز و اشتراکگذاری دانش، در بلندمدت به نفع تمام جامعه فناوری، از جمله ایران، خواهد بود.
فعلاً باید منتظر ماند و دید آیا غولهایی مثل گوگل و OpenAI نیز به این جنبش میپیوندند یا خیر. اما یک چیز روشن است: ائتلافی با این حجم از سرمایه و تخصص، اگر به همین سرعت پیش برود، میتواند استانداردهای امنیت هوش مصنوعی را برای سالهای آینده تعریف کند.